ИИ-детектор жизни обманули на 100% за 150 мутаций: эксперимент с цифровыми организмами поставил под вопрос поиск инопланетной жизни нейросетями
iXBT.com ·
Создание «детектора жизни» — системы, способной опознать живое без информации о его биохимии, — остаётся одной из главных целей астробиологии. Недавние работы из Университета штата Мичиган проверили это на цифровых организмах с использованием методов глубокого обучения на платформе цифровой жизни Avida.
Создание «детектора жизни» — системы, способной опознать живое без информации о его биохимии, — остаётся одной из главных целей астробиологии. Недавние работы из Университета штата Мичиган проверили это на цифровых организмах с использованием методов глубокого обучения на платформе цифровой жизни Avida.
Учёные обучили классификатор отличать такие «живые» программы от случайных последовательностей, и на тестовой выборке он достиг точности 99,97% — лишь две ошибки на 7 236 примеров.
А затем классификатору устроили проверку. Простой алгоритм брал произвольную случайную цепочку из 9 символов и начинал заменять буквы, оставляя только те изменения, которые повышали уверенность модели в том, что перед ней — живой организм. Никакого доступа к настоящим критериям жизни у алгоритма не было, только оценки самой нейросети. К 150-му запросу все 1 560 запусков вышли на 100% уверенность, хотя на деле генерировались комбинации, абсолютно не способные к саморепликации.
Цепочки-обманки не были случайным шумом — они группировались вокруг нескольких типовых шаблонов, похожих на настоящие живые последовательности, но с нарушениями в ключевых позициях. Модель выучила грубую «схему живого кода» и не заметила, что её можно имитировать, не воспроизводя главного — способности к размножению.
Проблема не ограничивается конкретной архитектурой. В дополнительных экспериментах протестировали CNN (свёрточная нейронная сеть), трансформеры, метод опорных векторов, случайный лес, XGBoost и логистическую регрессию — ни один метод не устоял, хотя случайный лес демонстрировал несколько большую устойчивость. Жадный поиск, стохастический поиск и эволюционные алгоритмы также воспроизводили эффект, подтверждая, что уязвимость порождена не деталями реализации, а фундаментальным свойством методов, обучающихся на эмпирическом распределении данных.
Для астробиологии это тревожный сигнал. Пространство признаков в экспериментах с Avida относительно невелико — 5,43 триллиона возможных последовательностей, — но доля истинных репликаторов составляет всего 6,66 миллиардных от него. Любой образец, взятый за пределами распределения обучающих данных — а внеземные образцы почти наверняка будут «за пределами распределения» всего, на чём тренировались земные детекторы, — и риск получить высокоуверенный ложный сигнал о жизни становится неприемлемо высоким.
Авторы подчёркивают ограничение: в работе использовались молекулярные последовательности, а не реальные масс-спектры, так что прямой перенос результатов на py-GC-MS требует отдельной проверки. Тем не менее, использование ИИ-детекторов жизни в космических миссиях способно подорвать доверие к астробиологическим программам в целом — задолго до того, как сообщество сможет отличить сенсацию от артефакта.