Нас ждет кризис рецензирования: как ИИ усугубляет проблему пир-ревью в науке

Habr ·

Нас ждет кризис рецензирования: как ИИ усугубляет проблему пир-ревью в науке

ИИ активно используется не только в коммерческом, но и в научном программировании, для анализа и визуализации данных. Как и в других сферах, генеративный ИИ множит как все хорошее, так и все плохое, что характерно для сложившейся системы. Он ускоряет создание кода и расчеты, то есть появление первых результатов исследований. Но дальше запускается сложная цепочка проверки и распространения результата. А ее так легко масштабировать с помощью ИИ уже не получается. Перспектива неприятная: мы пытаемся производить результаты исследований гораздо быстрее, чем проверять, какие из них вообще имеют смысл. Один некорректный фрагмент кода может породить график, статистику, вывод, статью, а потом и десятки новых работ, которые будут ссылаться на первую публикацию. На каждом следующем этапе результат будет выглядеть все более «научным» (вспоминаем индекс цитируемости). В итоге, если мы не поменяем схему распространения научного знания, то рискуем все чаще пропускать некорректные выводы, а может и свалиться в лженауку. Что в конечном счете не ускорит, а только замедлит прогресс. Читать далее

ИИ активно используется не только в коммерческом, но и в научном программировании, для анализа и визуализации данных. Как и в других сферах, генеративный ИИ множит как все хорошее, так и все плохое, что характерно для сложившейся системы. Он ускоряет создание кода и расчеты, то есть появление первых результатов исследований. Но дальше запускается сложная цепочка проверки и распространения результата. А ее так легко масштабировать с помощью ИИ уже не получается. Перспектива неприятная: мы пытаемся производить результаты исследований гораздо быстрее, чем проверять, какие из них вообще имеют смысл. Один некорректный фрагмент кода может породить график, статистику, вывод, статью, а потом и десятки новых работ, которые будут ссылаться на первую публикацию. На каждом следующем этапе результат будет выглядеть все более «научным» (вспоминаем индекс цитируемости). В итоге, если мы не поменяем схему распространения научного знания, то рискуем все чаще пропускать некорректные выводы, а может и свалиться в лженауку. Что в конечном счете не ускорит, а только замедлит прогресс. Читать далее

Источник: Habr