Зико Колтер, член совета директоров OpenAI и профессор Университета Карнеги — Меллона, заявляет о необходимости пересмотра подходов к безопасности в индустрии ИИ. По его мнению, традиционные методы защиты не справляются с новыми угрозами, включая использование нейросетей для кибератак и разработки биологического оружия.
Колтер выделяет инъекции промптов и автономность агентов как ключевые риски, не имеющие аналогов в классической безопасности. Он настаивает на внедрении многоуровневой защиты, включающей специальное обучение моделей, постоянный мониторинг и тестирование до и после выпуска, опровергая мнение, что более мощные модели становятся безопаснее автоматически.
Возглавляя комитет по безопасности OpenAI, Колтер обладает полномочиями задерживать релизы моделей до устранения рисков. В ноябре 2025 года роль комитета была закреплена соглашениями с генеральными прокурорами штатов в рамках реструктуризации компании в общественно значимую корпорацию.
Деятельность комитета остается конфиденциальной, поэтому детали его решений не раскрываются. Колтер, сооснователь компании Gray Swan AI, занимающейся вопросами безопасности ИИ, продолжает участвовать в международных дискуссиях по этой теме, включая World Summit AI в Амстердаме, по состоянию на октябрь 2026 года.
