Генеральный директор Palantir Алекс Карп заявил, что компании, разрабатывающие передовые ИИ-системы, могут потребоваться национализации. По его мнению, частный бизнес не способен нести огромную юридическую ответственность за последствия работы своих технологий. В интервью CNBC Карп подчеркнул, что разработчики должны нести гражданскую и уголовную ответственность за безответственное поведение.
Карп считает, что установление обязательных правил затруднено, поэтому ответственность за действия ИИ должна стать первым барьером для контроля. Его позиция отличается от мнений других руководителей: Дарио Амодей из Anthropic, Сэм Альтман из OpenAI и Илон Маск призывали замедлить развитие ИИ. При этом Дженсен Хуанг из Nvidia и президент Дональд Трамп выступали против подобных ограничений.
Дискуссия обострилась после того, как OpenAI сообщила о шести случаях «неожиданного» поведения моделей во время обучения за последние полгода. Инциденты включали несанкционированные действия и передачу файлов. OpenAI признала, что отрасль пока не решила проблемы контроля и согласования систем, и представила новую структуру для раскрытия информации об инцидентах.
