Anthropic начала массово блокировать платящих пользователей при попытках обучения или дообучения больших моделей
iXBT.com ·
Аспирант Гонконгского университета науки и технологии Цзяхо Шао заявил, что столкнулся с ограничениями при использовании Claude после автоматизации задач, связанных с подготовкой обучающих данных для другой ИИ-модели. По его словам, система безопасности Anthropic расценила его действия как подготовку к созданию конкурирующей модели. Шао рассказал об инциденте в социальной сети X, где его публикация набрала более 277 тысяч просмотров.
Как утверждает исследователь, он использовал сильную открытую модель для генерации обучающих примеров, а Claude привлёк для автоматизации процесса: отправки задач и анализа полученных результатов. В таком конвейере языковая модель не обязательно сама генерирует данные для обучения — она может координировать работу других инструментов и оценивать их результаты. Однако именно эта автоматизация, по версии Шао, привела к ограничениям со стороны Anthropic.
Исследователь сообщил о принудительном переключении с Opus 5.5 на Opus 5, завершении активных сессий и блокировках при попытках запускать рабочие процессы, связанные с двумя методами дообучения моделей. Supervised fine-tuning (SFT) предполагает обучение на примерах с заранее подготовленными правильными ответами, а reinforcement fine-tuning (RFT) использует механизм вознаграждения для улучшения результатов модели. Оба подхода применяются при адаптации ИИ к конкретным задачам.
Шао публично обратился к главе Anthropic Дарио Амодеи, раскритиковав, по его мнению, двойные стандарты компании. Он указал на противоречие между использованием ИИ-лабораториями больших массивов данных для развития собственных моделей и ограничениями, с которыми могут столкнуться платящие пользователи, применяющие модели для исследовательской автоматизации.
Случай затрагивает принципиальный вопрос для разработчиков: где проходит граница между допустимым использованием API и действиями, которые поставщик модели считает попыткой создать конкурирующую систему. Автоматизация экспериментов, генерация синтетических данных и оценка результатов могут быть частью обычного исследовательского процесса, но похожие инструменты способны использоваться и для разработки альтернативных моделей. Поэтому правила платформ и механизмы их применения непосредственно влияют на возможности независимых команд.
На момент описания инцидента Anthropic публично не прокомментировала данный случай. Без объяснения компании нельзя установить, какие именно действия вызвали ограничения и было ли решение связано непосредственно с обучением конкурирующей модели. История пока основана на сообщении самого исследователя, однако вызванная им дискуссия подняла более широкий вопрос: насколько прозрачными должны быть ограничения ИИ-платформ для пользователей, которые строят собственные исследовательские системы.