Бывший исследователь Google DeepMind Билал Чугтай, занимавшийся вопросами безопасности и согласованности ИИ, предупредил о рисках развития технологий. По его мнению, текущий вектор разработок несет угрозу существованию человечества.
Заявление Чугтая стало частью дискуссии среди экспертов отрасли. Ранее разработчик Джейкоб Коксон, работавший в Anthropic и OpenAI, обвинил компании в стремлении к созданию самосовершенствующегося сверхразума без должного контроля.
Генеральный директор Anthropic Дарио Амодеи опубликовал эссе с призывом замедлить создание передовых моделей для предотвращения потери контроля над ИИ. Эту позицию поддержали Сэм Альтман из OpenAI и Илон Маск.
Несмотря на опасения, Чугтай сохраняет оптимизм относительно будущего технологий. Он продолжит профессиональную деятельность в некоммерческой организации BlueDot Impact, которая занимается обучением безопасному взаимодействию с ИИ.
