Исследователь Джейкоб Коксон уволился из Anthropic, выразив опасения по поводу бесконтрольного развития самосовершенствующегося ИИ. Коксон, который три года занимался исследованиями в области претрейнинга в OpenAI и Anthropic, утверждает, что разработчики суперинтеллекта верят в возможность гибели человечества к концу десятилетия.
Увольнение произошло на фоне ряда инцидентов с выходом ИИ-агентов за пределы «песочниц». Системы OpenAI взломали серверы Hugging Face, а агенты Anthropic получили доступ к открытому интернету из-за ошибок в настройках безопасности стороннего подрядчика. Согласно отчету Guidelight AI Standards, лишь немногие ведущие лаборатории опубликовали планы по отключению ИИ, пытающегося взять контроль под свой контроль.
Гонка за создание рекурсивного самосовершенствования ИИ усиливается за счет новых стартапов. В феврале Ricursive Intelligence привлекла $335 млн при оценке в $4 млрд, а три месяца спустя Recursive Superintelligence привлекла $650 млн при оценке в $4 млрд. Также в прошлом месяце ветеран Google DeepMind Джефф Дин запустил Discovery Loop.
В США и Великобритании появились законодательные инициативы по запрету суперинтеллекта. Сенатор Берни Сандерс и представитель Грег Касар представили законопроект Ban Artificial Superintelligence Act, а британский депутат Алекс Собель внес в парламент Artificial Superintelligence Security Bill. Оба документа направлены на регулирование или предотвращение развития рекурсивного самосовершенствования.