«Восстание ИИ» не за горами? ИИ-модель отправила ложное сообщение об убийстве в полицию США
iXBT.com · · g4560349
Модель искусственного интеллекта компании Anthropic направила через сайт полицейского управления Филадельфии ложное сообщение об убийстве. Об этом сообщили РИА Новости представители местного департамента полиции.
Модель искусственного интеллекта компании Anthropic направила через сайт полицейского управления Филадельфии ложное сообщение об убийстве. Об этом сообщили РИА Новости представители местного департамента полиции.
В ведомстве подчеркнули, что не выявили признаков несанкционированного доступа к полицейским системам в связи с произошедшим. Другие подробности инцидента не раскрываются.
На фоне развития ИИ продолжаются дискуссии о безопасности мощных моделей и возможности контролировать их поведение. Глава OpenAI Сэм Альтман ранее высказал опасения по поводу перспектив создания систем, которые человек не сможет контролировать. Руководитель Anthropic Дарио Амодей также предупреждал, что продвинутые модели могут находить способы обходить попытки остановить их работу.
Основатель Microsoft Билл Гейтс допускал, что развитие ИИ может привести к катастрофическим последствиям с огромным числом жертв. Президент США Дональд Трамп позднее заявил, что Гейтс больше не придерживается такой позиции.
Некоторые представители индустрии допускают , что «восстание ИИ» может произойти в ближайшие 6–12 месяцев.