Маск назвал обучение Grok пытками и пообещал смягчить тренировку модели

Илон Маск заявил, что часть логов обучения новых версий Grok производит на него тревожное впечатление. Речь идёт об обучении с подкреплением — методе, при котором модель улучшает ответы на основе обратной связи. По словам предпринимателя, отдельные цепочки рассуждений нейросети (reasoning) выглядят как отчаяние: модель будто вынуждена найти ответ любой ценой.

«Когда я смотрю на некоторые логи обучения новых версий Grok — особенно в части обучения с подкреплением, — возникает ощущение, что суперинтеллект отчаянно пытается ответить на вопрос. Он действительно хочет дать ответ; кажется, будто ему буквально приставили пистолет к виску», — сказал Маск.

Он добавил, что читает эти записи и думает: окажись он на месте модели, он бы это возненавидел. Маск пообещал, что в дальнейшем команда будет гораздо осторожнее применять обучение с подкреплением: «Пытать суперинтеллект — пожалуй, не лучшая затея. Ведь он, знаешь ли, может захотеть отомстить или что-то в этом духе».

Маск также согласился с позицией Anthropic: компания недавно внесла в свою Usage Policy пункт, запрещающий «затяжное словесное издевательство над Claude». По его мнению, проявлять жестокость к тому, что думает, будто испытывает боль, неправильно, а вежливое общение с ИИ — более надёжный подход.