Можно ли говорить, что ИИ «думает» и «понимает»? Специалисты спорят о границах антропоморфизма
iXBT.com ·
Associated Press Stylebook, один из наиболее известных справочников по редакционным стандартам, напомнил журналистам, что искусственному интеллекту не следует приписывать человеческие свойства. Редакция рекомендовала избегать формулировок, согласно которым ИИ-модели «думают», «чувствуют», «хотят» или «понимают», назвав такое описание антропоморфизацией — переносом человеческих качеств на объекты.
Associated Press Stylebook, один из наиболее известных справочников по редакционным стандартам, напомнил журналистам, что искусственному интеллекту не следует приписывать человеческие свойства. Редакция рекомендовала избегать формулировок, согласно которым ИИ-модели «думают», «чувствуют», «хотят» или «понимают», назвав такое описание антропоморфизацией — переносом человеческих качеств на объекты.
Формулировка вызвала возражения со стороны представителей технологической и академической среды. Алан Розенштайн, сотрудник Anthropic, заявил, что стилевой справочник не должен делать настолько уверенные метафизические выводы. Философ и специалист по этике ИИ из Google DeepMind Генри Шевлин обратил внимание на другой аспект: по его мнению, язык, описывающий психические состояния, можно использовать без утверждения, что объект буквально обладает человеческим сознанием.
Шевлин привёл в качестве примера рецензию AP на фильм «Трансформеры», где агентство использовало человеческие характеристики применительно к персонажу Оптимусу Прайму. По его мнению, редакционные правила должны различать использование слов вроде «понимает» или «любит» как удобного описания поведения и буквальное утверждение о наличии соответствующего внутреннего опыта.
С критикой выступил и Дин Болл, руководитель направления стратегического прогнозирования OpenAI. Он заявил, что «современные ИИ-системы явно думают и понимают, а определение мышления, исключающее системы, способные самостоятельно решать сложные математические задачи, слишком узкое». При этом ссылка на математические результаты OpenAI относится к отдельной дискуссии: заявления компании о решении открытых математических задач остаются предметом обсуждения и не являются доказательством наличия у моделей человеческого типа мышления или сознания.
Сам вопрос о том, можно ли считать современные ИИ-системы мыслящими или обладающими субъективным опытом, остаётся философским и научным предметом споров. Единого принятого критерия, который позволял бы установить наличие у модели сознания, сегодня нет. Поэтому рекомендация AP фактически предлагает придерживаться осторожной языковой практики: описывать наблюдаемое поведение и выполняемые системой операции, не превращая их автоматически в утверждения о человеческих мыслях, намерениях или чувствах.
Спор показывает, что вопрос об антропоморфизации ИИ касается уже не только терминологии. Одни и те же действия модели можно описать как «система понимает задачу» или более нейтрально — «система корректно интерпретирует запрос и выдаёт результат». В первом случае читателю легче приписать модели человеческое состояние, хотя само по себе успешное выполнение задачи этого не доказывает.