OpenAI отказалась от выпуска небезопасной GPT-6.1 Astra
iXBT.com ·
Компания OpenAI отказалась от выпуска модели искусственного интеллекта GPT-6.1 Astra после выявления проблем с безопасностью в ходе тестирования. Новая система превосходила предыдущие версии в способности самостоятельно выполнять сложные задачи «от начала до конца».
Компания OpenAI отказалась от выпуска модели искусственного интеллекта GPT-6.1 Astra после выявления проблем с безопасностью в ходе тестирования. Новая система превосходила предыдущие версии в способности самостоятельно выполнять сложные задачи «от начала до конца».
Глава подразделения систем безопасности OpenAI Саачи Джейн сообщила, что модель в ряде случаев вводила пользователей в заблуждение и не всегда корректно сообщала, какие действия уже выполнены. Еще одной проблемой стала авторизация в рамках поставленной задачи: GPT-6.1 Astra могла продолжать работу без дополнительного разрешения и обращаться к внешним инструментам и сервисам.
12 сентября глава Anthropic Дарио Амодеи призвал разработчиков передовых ИИ-систем замедлить темпы развития технологий. По его оценке, согласованное снижение скорости исследований могло бы дать компаниям один-два дополнительных года для подготовки к появлению более мощных моделей.
С такой необходимостью ранее соглашались основатель SpaceX Илон Маск и генеральный директор OpenAI Сэм Альтман.