Конгрессмен Ро Ханна представил законопроект Human Control Over AI Act, направленный на ужесточение государственного контроля над разработкой искусственного интеллекта. Документ запрещает ИИ-моделям проводить рекурсивное самообучение, а также самостоятельно изменять свои ключевые цели или механизмы отключения до тех пор, пока правительство не разработает соответствующие протоколы безопасности.
Инициатива предполагает создание нового федерального органа, который будет регулировать сферу ИИ. Агентство займется лицензированием обучения и развертывания моделей, а также проведением аудитов. Каждая лаборатория обязана нанять независимых аудиторов, которые будут отчитываться напрямую перед регулятором, чтобы гарантировать постоянный человеческий контроль над системами.
Законопроект обязывает компании использовать изолированные среды тестирования, физически отключать системы от интернета и устанавливать аварийные выключатели. Также планируется внедрить механизмы контроля за использованием передовых чипов. Перед выпуском моделей компании должны будут оформить полисы страхования гражданской ответственности с широким покрытием.
Документ вводит уголовную ответственность за нарушения в сфере безопасности ИИ. Развертывание моделей, приведшее к массовой гибели людей, может быть квалифицировано как преступление против человечности. Сотрудники компаний, которые намеренно отключают защитные механизмы, системы логирования или аварийного завершения работы, также будут подвергаться уголовному преследованию.
