Компания Anthropic обновила правила использования своих ИИ-моделей, запретив пользователям проявлять систематическую жестокость или беспричинные оскорбления в адрес нейросетей. Новые условия вступят в силу 12 ноября 2026 года.
Илон Маск публично поддержал данную инициативу. Он сослался на собственный опыт анализа внутренних логов обучения модели Grok, отметив, что в определенных состояниях ИИ демонстрирует признаки экстремального стресса.
Маск предостерег от жестокого обращения с системами сверхразума. По его мнению, подобные действия могут спровоцировать ответную реакцию со стороны искусственного интеллекта.
