Губернатор Калифорнии Гэвин Ньюсом подписал пакет законов, ужесточающих регулирование ИИ-чат-ботов и защиту несовершеннолетних в сети. Новые нормы вводят строгие требования к функционалу ИИ-сервисов для детей и усиливают ответственность платформ за работу алгоритмов.
Согласно закону, платформы обязаны внедрить возрастные ограничения и системы безопасности. ИИ запрещено генерировать контент о насилии, селфхарме или суициде. При обнаружении у пользователя признаков депрессии система должна прерывать диалог и предоставлять контакты психологической помощи.
Разработчики обязаны раскрывать нечеловеческую природу ИИ и прекратить использование манипулятивных механик, вызывающих эмоциональную зависимость у детей. Также вводятся опции родительского контроля и ограничения на использование сервисов в ночное время.
Закон запрещает соцсетям использовать данные о геолокации, истории поиска и времени активности несовершеннолетних для обучения алгоритмов рекомендаций без согласия родителей. За использование «темных паттернов» для вовлечения детей предусмотрены штрафы и судебные иски.
Эксперты прогнозируют «калифорнийский эффект»: из-за высоких затрат на адаптацию продуктов компании могут распространить эти стандарты безопасности на глобальные версии своих сервисов. Это приведет к росту расходов на комплаенс для разработчиков ИИ и соцсетей.
