Илон Маск сообщил, что процесс обучения новых версий нейросети Grok вызывает у него беспокойство. Особое внимание предприниматель уделил этапу обучения с подкреплением, в ходе которого модель корректирует свои ответы на основе обратной связи.
По словам Маска, логи обучения нейросети напоминают поведение человека, находящегося под сильным давлением. Он отметил, что модель выглядит так, будто вынуждена давать ответы любой ценой, что вызывает у него негативные ассоциации.
В связи с этим Маск пообещал изменить подход к тренировке Grok и проявлять больше осторожности при использовании методов обучения с подкреплением. Он подчеркнул, что попытки давления на суперинтеллект могут привести к нежелательным последствиям, включая риск мести со стороны системы.
