Том Сигел, основатель команды по доверию и безопасности в Google, призвал замедлить темпы развития ИИ. Он предупредил, что технологическая отрасль повторяет ошибки эпохи социальных сетей, что создает риски для детей.
Сигел возглавил Институт безопасности ИИ для молодежи, созданный в мае некоммерческой организацией Common Sense Media. Работу института поддерживают компании Anthropic и OpenAI Foundation.
Бывший топ-менеджер Google, работавший в компании с 2004 по 2019 год и сооснователь TrustLab, намерен разработать стандарты ответственности для ИИ-разработчиков. Он предлагает внедрить строгую проверку возраста и функции отключения ИИ-генераций в поиске.
Сигел выделил риски «когнитивной разгрузки», при которой зависимость от ИИ снижает критическое мышление, а также угрозы психическому здоровью. Он отметил, что компании, игнорирующие безопасность, столкнутся с судебными исками и регуляторным давлением.
Представители Google заявили, что родители могут ограничить доступ детей к поисковым функциям, а ИИ-инструменты полезны для обучения. В OpenAI сообщили, что используют поведенческие сигналы для выявления несовершеннолетних и продолжают совершенствовать системы защиты.
