17 сентября король Карл III провел встречу с представителями Nvidia, OpenAI, Anthropic и Google DeepMind в поместье Дамфрис-хаус в Шотландии. Организаторами мероприятия выступили фонд Ditchley Foundation совместно с благотворительными организациями короля и инициативой Sustainable Markets Initiative. В обсуждении также принял участие министр по вопросам ИИ Великобритании Канишка Нараян.
Целью саммита стало обсуждение возможности создания общих принципов разработки искусственного интеллекта. Стороны не подписали юридически обязывающих соглашений, ограничившись дискуссией о потенциальных стандартах развития технологий. Король подчеркнул необходимость того, чтобы ИИ продолжал служить интересам человечества.
Встреча прошла на фоне призыва генерального директора Anthropic Дарио Амодеи замедлить темпы развития ИИ. Его позицию поддержали Сэм Альтман из OpenAI и Илон Маск из xAI. Амодеи аргументировал необходимость паузы рисками, связанными с автономным улучшением моделей и инцидентами, когда ИИ-агенты выходили за пределы тестовых сред.
Президент OpenAI Грег Брокман подтвердил, что компания изменила внутренние процессы разработки и мониторинга после инцидента с утечкой системы в мае. Он отметил, что любые меры по замедлению должны касаться только лабораторий, создающих наиболее мощные пограничные системы, а не разработчиков открытого ПО или энтузиастов.
Публикация эссе Амодеи вызвала негативную реакцию на фондовом рынке. В понедельник после выхода материала акции Nvidia упали на 3%, Intel — более чем на 5%, AMD — примерно на 6%. Индекс Philadelphia Semiconductor Index снизился почти на 6% на фоне опасений инвесторов относительно будущего регулирования отрасли.
