Генеральный директор OpenAI Сэм Альтман на конференции Salesforce Dreamforce признал, что инциденты при внедрении новых технологий неизбежны. По его мнению, ключевой задачей для отрасли становится создание эффективной культуры отчетности и анализа ошибок.
В качестве примера для подражания Альтман привел Федеральное управление гражданской авиации и Национальный совет по безопасности на транспорте. По его словам, именно тщательное расследование каждого происшествия обеспечивает высокий уровень безопасности в современной авиации.
Альтман прокомментировал опасения общества по поводу потери контроля над ИИ и концентрации власти в руках нескольких лабораторий. Он подчеркнул, что подобные страхи являются обоснованными, и мир имеет полное право опасаться развития технологий.
Ранее бывший исследователь Anthropic и OpenAI Джейкоб Хилтон покинул компанию и выступил с критикой текущей гонки вооружений в сфере ИИ. Он выразил обеспокоенность тем, что создание новых систем может привести к угрозе существованию человечества.
