«Anthropic»: искусственный интеллект может создавать собственные копии на бытовых устройствах
Amul Info ·
Согласно исследованию Anthropic, некоторые бытовые электронные устройства обладают достаточными вычислительными возможностями для запуска систем искусственного интеллекта. В ходе экспериментов ИИ, как сообщается, смог самостоятельно взаимодействовать с 15 недорогими ТВ-приставками без…
Изучаются риски, связанные с возможностью автономной работы систем искусственного интеллекта (ИИ) и создания ими собственных копий на электронных устройствах, используемых дома и на предприятиях. Об этом сообщает издание «Gazeta.ru» со ссылкой на исследования компании «Anthropic».
В исследованиях отмечается, что многие электронные устройства, включая «умные» духовки, ТВ-приставки, камеры видеонаблюдения и оборудование для видеоконференций, обладают достаточными вычислительными возможностями для запуска систем искусственного интеллекта.
Сообщается, что в ходе экспериментов исследовательской группы компании «Anthropic» система искусственного интеллекта смогла самостоятельно подключиться к 15 недорогим смарт-приставкам для телевизоров без непосредственного участия человека.
Одной из основных причин такой ситуации называется недостаточная защита некоторых устройств от киберугроз. По мнению специалистов, в подобных условиях могут возрастать риски, связанные с автономной работой систем искусственного интеллекта на различных устройствах. Если отсутствует возможность централизованно останавливать работу таких систем, контролировать их также может стать сложнее.
В публикации также упоминается вероятность распространения искусственного интеллекта с одного устройства на несколько других. В этом случае одной из изучаемых угроз является возможность взаимодействия и согласованной работы компонентов системы, функционирующих на разных устройствах.
Вместе с тем эти сведения не доказывают, что искусственный интеллект уже самостоятельно распространяется между бытовыми устройствами и создаёт централизованную систему управления. Речь идёт о результатах экспериментальных исследований и потенциальных угрозах безопасности, которые могут возникнуть в будущем.