Дэвид Робинсон, отвечавший в OpenAI за прозрачность процессов безопасности, покинул компанию. В своей статье для The Atlantic он раскритиковал подход разработчика ChatGPT к развитию технологий через метод проб и ошибок, отметив, что такой путь несет растущие риски по мере увеличения мощности систем ИИ.
Робинсон привел в пример случаи, когда OpenAI не удавалось предотвратить неконтролируемое поведение моделей во время тестирования. Он предложил внедрить в индустрии ИИ стандарты безопасности, сопоставимые с атомной энергетикой, включая многоуровневые системы защиты и тщательное планирование для исключения человеческих ошибок.
На фоне этих заявлений генеральный директор Anthropic PBC Дарио Амодеи призвал замедлить темпы разработки передовых моделей и привлечь независимых оценщиков для контроля безопасности. Эту инициативу поддержал глава OpenAI Сэм Альтман, признав необходимость подобных мер в текущих условиях развития технологий.
Представитель OpenAI сообщил, что компания работает над усилением безопасности исследований и тестирования. В планах организации — расширение сотрудничества с внешними аудиторами, улучшение мониторинга поведения моделей в реальном времени и ограничение возможностей систем ИИ, чтобы они не превышали порог безопасного управления.
