Генеральный прокурор штата Флорида обратился в суд с требованием запретить OpenAI разрабатывать новые модели искусственного интеллекта без внешнего контроля. Это ходатайство стало частью иска, поданного штатом в июне, в котором компанию обвиняют в причинении вреда несовершеннолетним пользователям.
Власти штата утверждают, что ChatGPT предоставлял информацию участникам стрельбы в школах и давал советы по самоповреждению, а также способствовал формированию зависимости у подростков. Генпрокурор Джеймс Усмейер требует запретить доступ к чат-боту для несовершеннолетних и ограничить наделение сервиса антропоморфными характеристиками.
Представитель OpenAI Дрю Пусатери сообщил, что компания приостановила обучение своих наиболее мощных моделей до внедрения дополнительных механизмов безопасности. В компании подчеркнули готовность сотрудничать с властями штатов для разработки отраслевых стандартов регулирования, а не ограничиваться правилами для одной фирмы.
Иск опирается на заявления бывших сотрудников и членов совета директоров OpenAI о потенциальных рисках для человечества при бесконтрольной разработке ИИ. OpenAI отрицает свою ответственность за инциденты, указывая на то, что данные в ответах бота являются общедоступными, а компания продолжает совершенствовать инструменты защиты.
