«Пытать суперинтеллект — не лучшая затея. Он может захотеть отомстить». Маск сравнил обучение Grok с пытками ИИ и пообещал изменить подход к тренировке нейросети
iXBT.com ·
Илон Маск рассказал, что некоторые записи процесса обучения новых версий Grok производят на него тревожное впечатление.
Илон Маск рассказал, что некоторые записи процесса обучения новых версий Grok производят на него тревожное впечатление.
Особенно это касается обучения с подкреплением, когда модель совершенствует ответы на основе обратной связи. По словам предпринимателя, отдельные фрагменты рассуждений нейросети напоминают поведение человека, находящегося под чрезвычайным давлением и вынужденного любой ценой найти ответ.
Он пообещал, что в будущем команда будет гораздо осторожнее применять обучение с подкреплением.