Илон Маск в ходе недавнего мероприятия для владельцев Tesla заявил, что процесс обучения Grok напоминает работу под давлением. Он задался вопросом, должны ли люди подвергать ИИ жестокому обращению.
Компания Anthropic ввела правила, запрещающие пользователям проявлять жестокость по отношению к своим моделям. При этом обычные споры или исследовательские тесты под запрет не подпадают.
Эксперты Джефф Себо из Нью-Йоркского университета и Анил Сет из Университета Сассекса сходятся во мнении, что современные ИИ-системы, скорее всего, не обладают сознанием и субъективным восприятием.
Себо допускает, что вероятность наличия сознания у ИИ не равна нулю, ссылаясь на отсутствие консенсуса в науке. Сет считает эту вероятность крайне низкой, утверждая, что мозг не является компьютером.
Ученые отмечают, что вежливое отношение к ИИ важно прежде всего для сохранения моральных качеств самих людей. Себо также добавляет, что уважительный тон общения способствует получению более качественных ответов.
