Двое исследователей Anthropic предупредили, что развитие искусственного интеллекта может привести к исчезновению человечества в течение десятилетия. Джейкоб Коксон, недавно покинувший компанию, и Эван Хьюбингер публично заявили о рисках, связанных с темпами прогресса ИИ.
Заявления спровоцировали призывы законодателей США к введению обязательного государственного регулирования ИИ. Сенаторы Марк Келли и Тед Круз, а также представитель Анна Паулина Луна выступили за ужесточение контроля и разработку законодательства против катастрофических рисков.
Компания OpenAI официально призвала к внедрению обязательных национальных стандартов безопасности, отметив недостаточность добровольных обязательств. Разработчик предлагает ввести федеральные правила для тестирования, кибербезопасности и независимого аудита систем.
Губернатор Калифорнии Гэвин Ньюсом подписал законы SB 813 и AB 1405, создающие базу для независимой оценки ИИ-систем и стандарты для сторонних аудиторов. Это первая подобная нормативная инициатива в стране.
Президент Дональд Трамп заявил, что не обеспокоен сценариями исчезновения человечества, сосредоточившись на технологическом лидерстве США перед Китаем. Anthropic планирует продолжить тестирование моделей на предмет угроз в сферах биологии и кибербезопасности.
