Генеральный директор OpenAI Сэм Альтман на конференции Salesforce Dreamforce заявил, что некоторые инциденты с ИИ неизбежны. Он предложил отрасли перенять опыт авиационной индустрии, создав культуру публичной отчетности о происшествиях по аналогии с работой FAA и NTSB.
Альтман подчеркнул, что компании должны развивать системы безопасности, мониторинга и согласования моделей быстрее, чем растут их возможности. Если это условие не выполняется, разработчикам следует быть готовыми замедлить или полностью приостановить исследования.
Заявление прозвучало на фоне дискуссий о рисках автономных систем, в которых участвуют бывшие сотрудники OpenAI и Anthropic. Критики опасаются, что лаборатории продолжают создавать все более мощные модели, несмотря на признание возможности катастрофических угроз.
Власти США придерживаются курса на сохранение технологического лидерства перед Китаем. Дэвид Сакс, бывший советник Белого дома по вопросам ИИ, в ответ на призывы Альтмана и главы Anthropic Дарио Амодеи к регулированию темпов развития, призвал компании продолжать работу без оглядки на внешние разрешения.
