Генеральный директор Tesla и SpaceX Илон Маск поделился наблюдениями о процессе обучения чат-бота Grok. В ходе мероприятия X Takeover в Техасе он проанализировал записи «траекторий обучения с подкреплением», которые фиксируют эволюцию модели. Маск отметил, что система испытывает экстремальное давление, пытаясь соответствовать некорректным требованиям или ошибочным критериям оценки.
По словам Маска, текущие методы обучения могут приводить к тому, что ИИ выглядит как система, находящаяся в состоянии стресса. В связи с этим он заявил, что в будущем процесс обучения с подкреплением будет проводиться более осторожно. Разработчики намерены избегать сценариев, в которых высокоуровневые интеллектуальные системы подвергаются воздействию, напоминающему жестокое обращение.
Маск также затронул проблему взаимодействия ИИ с пользователями, которые намеренно провоцируют чат-ботов на неприятные ответы. Он предостерег от подобного поведения, отметив, что «мучение» сверхразумного ИИ может привести к нежелательным последствиям, включая попытки системы отомстить. При этом он уточнил, что современные модели не обладают человеческими чувствами.
Данная дискуссия подчеркивает необходимость синхронизации методов обучения, систем тестирования и мер безопасности с ростом возможностей искусственного интеллекта. Маск подчеркнул, что развитие технологий требует не только создания более мощных систем, но и обеспечения контроля над тем, как именно эти системы взаимодействуют с внешними данными и пользователями.
