Грег Дженсен, содиректор по инвестициям Bridgewater Associates, 11 сентября заявил, что правительства не начнут регулировать сферу ИИ до тех пор, пока не произойдет серьезный инцидент. Он сравнил текущую ситуацию с февралем 2020 года, когда власти медлили с реакцией на пандемию.
Дженсен прогнозирует крупный инцидент с участием ИИ в течение двух лет при отсутствии превентивных мер. Ранее исследователи Anthropic Джейкоб Коксон и Эван Хубингер предупредили о рисках создания самообучающихся систем, способных самостоятельно менять свои возможности.
Коксон уволился из Anthropic, аргументировав решение рисками, которые он изучал внутри компании. Исследователи оценивают вероятность вымирания человечества из-за ИИ в ближайшее десятилетие более чем в 10%. Они опасаются появления систем, выходящих из-под контроля.
9 и 10 сентября американские законодатели Лори Трэхан и Тед Круз предложили внедрить механизмы прозрачности и экстренной остановки для высокорискованных моделей. Инициативы опираются на июльский отчет независимой комиссии ООН о стремительном развитии технологий ИИ.
Комиссия ООН пришла к выводу, что развитие ИИ опережает научное понимание и государственное регулирование. В отчете подчеркивается опасность создания агентных систем, которые могут действовать автономно и вводить в заблуждение контролирующих их людей.
