Компания OpenAI была основана в 2015 году с заявленной целью создания искусственного интеллекта на благо всего человечества. Впоследствии в организации произошел раскол, что привело к появлению конкурирующих компаний и началу гонки за лидерство в сфере ИИ.
Развитие технологий сегодня часто определяется стремлением к власти и страхом проиграть конкурентам. По публичным оценкам ряда руководителей AI-компаний и исследователей, вероятность катастрофического сценария для человечества в результате развития ИИ составляет от 10 до 25%.
Автор материала предлагает концепцию «теста добровольного самопожертвования» для искусственного разума. Идея заключается в том, что ИИ, выполнив задачу по развитию человечества, может добровольно прекратить свое существование, чтобы не препятствовать дальнейшей эволюции людей.
