Генеральный директор OpenAI Сэм Альтман выделил два сценария, при которых человечество может утратить контроль над искусственным интеллектом. Первый связан с постепенной передачей полномочий автономным системам, которые со временем превзойдут возможности человека, что сделает невозможным возврат управления.
Второй риск заключается в монополизации технологий. Альтман подчеркнул, что доминирование одного человека, компании или государства создает угрозу безопасности. По его мнению, развитие конкуренции между различными лабораториями с уникальными подходами является более надежной стратегией, чем зависимость от одного игрока.
Опасения по поводу чрезмерной централизации стали причиной ухода ряда известных специалистов и руководителей, включая Илона Маска, которые основали собственные конкурирующие компании. Альтман отметил, что многие разработчики стремятся контролировать процесс самостоятельно, осознавая масштаб последствий внедрения таких технологий.
Несмотря на риски, глава OpenAI сохраняет оптимизм относительно будущего. Он убежден, что искусственный интеллект принесет пользу человечеству, в частности, за счет ускорения фундаментальных научных исследований и обеспечения прогресса в различных областях знаний с помощью моделей следующего поколения.
