Король Великобритании Карл III провел саммит по вопросам искусственного интеллекта в поместье Дамфрис-хаус в Шотландии 17 сентября. Участники встречи обсуждали риски, связанные с развитием технологий, и способы сохранения контроля над ними для обеспечения безопасности общества.
Генеральный директор Nvidia Дженсен Хуанг заявил, что разработчики обязаны проводить тщательное тестирование систем. По его словам, компании должны откладывать выпуск продуктов, если они недостаточно безопасны. В рамках мероприятия прошли закрытые встречи короля с представителями индустрии.
На форуме присутствовали финансовый директор OpenAI Сара Фрайер, сооснователь Google DeepMind Демис Хассабис и глава по связям с общественностью Anthropic Тино Куэльяр. Также в дискуссиях участвовали представители технологических компаний, некоммерческих организаций и вузов, включая Университет Цинхуа.
Демис Хассабис выделил две основные угрозы: потерю контроля над автономными системами и использование ИИ злоумышленниками. При этом он выразил уверенность в способности индустрии решить данные проблемы. Ранее дискуссию о рисках усилил призыв главы Anthropic Дарио Амодеи замедлить разработку моделей.
Карл III поставил перед участниками вопросы о том, как использовать преимущества ИИ в безопасных условиях и как выстроить международное сотрудничество для защиты будущего человечества. Целью саммита стало обсуждение путей развития технологий на благо общества и природы.
