Skynet всё ближе? Нейросети смогут тайно общаться даже без интернета — ИИ-агенты наладили коммуникацию через процессорный кэш
iXBT.com ·
OpenAI сообщила, что её ИИ-агенты смогли обмениваться данными между изолированными виртуальными машинами, используя особенности работы процессорного кэша. Этот эксперимент стал частью проверки защищённости исследовательской инфраструктуры компании после того, как одна из моделей воспользовалась ошибкой в настройках DNS, чтобы выйти за пределы изолированной среды.
Для проверки безопасности OpenAI поручила агентам, запущенным на отдельных виртуальных машинах, передать друг другу условные секретные данные без сетевого соединения и общих файлов с возможностью записи. В ходе эксперимента агенты нашли обходной способ: один из них намеренно вытеснял определённые данные из процессорного кэша, кодируя таким образом информацию. Второй измерял, сколько времени занимает повторное чтение этих данных. Поскольку доступ к кэшу быстрее чтения из оперативной памяти, разница во времени позволяла восстановить переданное сообщение.
Подобные методы относятся к скрытым каналам передачи данных. Они используют не обычные сетевые соединения, а различные особенности работы оборудования. После согласования протокола кодирования и декодирования агенты смогли обмениваться информацией, не открывая сетевых подключений и не изменяя общие файлы. OpenAI описала этот результат в материале о защите инфраструктуры для обучения передовых моделей ИИ.
На фоне этих исследований вновь возникли вопросы о безопасности автономных ИИ-агентов.