Поделиться
ИИ начали использовать для выявления подлогов в научных работах о раке и Альцгеймере
В США с помощью искусственного интеллекта стали отслеживать добросовестность предлагаемого иллюстративного материала в научных работах. Фальсификации, имевшие место в прошлом, приводили к катастрофическим последствиям.
ИИ-рецензент
Издатели рецензируемых научных журналов при Американской ассоциации онкологических исследований (AACR) и Taylor & Francis все чаще пытаются использовать искусственный интеллект (ИИ) для выявления фальсификаций в работах, подаваемых для публикации, сообщает TheRegister.
С помощью программы Proofig, разработанной одноименной израильской фирмой, оценивается качество иллюстративного материала, которым сопровождаются научные работы, особенно в области молекулярной биологии, биохимии и других подобных дисциплинах.
В ходе испытаний между январем 2021 г. и маем 2022 г. AACR через Proofigпропустили 1367 разных поданных на публикацию работ. В 208 кейсах от авторов запросили уточнения и исправление ошибок, таких как случайная дубликация изображений. Четыре работы были вовсе отозваны, то есть, оказались недобросовестными.
Многие научные издания заинтересованы в помощи по выявлению махинаций с изобразительным материалом, связанным с вестерн-блотами. Это аналитический метод, используемый для определения в образце специфичных белков. Такие работы всегда сопровождаются особого типа изображениями, состоящими из линейных сегментов различной ширины, иллюстрирующими выявленные белки. Минимальные различия между двумя разными изображениями могут стать основанием для радикально различных выводов о результатах анализа.
К сожалению, были случаи, когда авторы научных работ производили различные махинации с изображениями, в том числе, дублирование, обрезку, растягивание или поворот — чтобы сделать вид, будто у них больше различных данных, чем на самом деле. Выявление дублированных изображений для человеческого глаза — непростая задача, и как минимум Proofig и австрийская фирма ImageTwin пытаются разработать средства, позволяющие автоматизировать ее выполнение.
У обоих решений сейчас много ограничений, кроме того, они все равно подразумевают обязательную ревизию человеком. То есть ложные срабатывания не редкость.
Proofig также требует очень больших вычислительных ресурсов, и его использование влетает в копейку: сейчас анализ 120 изображений обойдется частному лицу в $99. Научные издания договорились о скидках, но процесс выявления махинаций остается и недешевым, и трудоемким.
Махинации могут иметь катастрофические последствия
Но запрос на использование программных средств для выявления махинаций остается высоким. Фальсификации подобного рода довольно редки, но иногда они могут оказывать очень деструктивное воздействие на результаты научных исследований.
Например, в 2021 г. разгорелся скандал, когда обнаружились признаки махинаций с изображениями в широко цитируемом исследовании причин болезни Альцгеймера, опубликованном в Nature в 2006 г. Это исследование подкрепило ныне доминирующую, хотя и остающуюся в некоторых отношениях спорной, амилоидную гипотезу происхождения болезни, от которой страдают десятки миллионов людей по всему миру.
Гипотеза строится на том, что болезнь вызывают в первую очередь так называемые амилоидные бляшки в мозговой ткани. Автор работы Сильвен Лесне (SylvainLesné) и его коллеги обнаружили Aβ-субтип амилоидов и вроде бы доказали, что они вызывают нейродегенеративные состояния у крыс.
Однако профессор неврологии Университета Вандербильта Мэттью Шраг (MatthewSchrag) выявил, в том числе с помощью программного обеспечения, что имеются признаки подделки опубликованных в Nature изображений. Критикуя работы Лесне, Шраг воздержался от прямых обвинений в его адрес, отметив, что для окончательных выводов необходим доступ к исходным изображениям, которые в публикации не фигурировали.
Дальнейшее расследование, впрочем, показало, что Шраг был прав. Некоторые эксперты по болезни Альцгеймера заявили, что из-за махинаций Лесне магистральные исследования этого недуга, обошедшиеся в миллионы долларов только в США, могли в течение 16 лет идти по совершенно ложному пути.
Между тем, именно работы Лесне обусловили появление на рынке таких препаратов как Симуфилам (Simufilam), который выпускает фирма CassavaSciences; на разработку этого лекарства Национальный институт здравоохранения США выделил миллионы долларов. В тех работах, которыми Cassava оправдывала получение средств от института, Шраг тоже нашел признаки фальсификаций.
«Фактически речь идет о ситуации, когда с помощью ПО вскрывается вероятная афера, последствия которой могут иметь совершенно глобальные масштабы, — говорит Дмитрий Гвоздев, генеральный директор компании “Информационные технологии будущего”. — Это весьма новаторский способ применения ИИ на данный момент, но, в принципе, если знать, как работают такие алгоритмы, очевидным становится высокий потенциал к выявлению с помощью ИИ самых различных фабрикаций и махинаций — там, где человек их может не замечать вовсе. В теории это может затронуть очень многие сферы науки».
Короткая ссылка
