Том Сигел, основатель команды Google по доверию и безопасности, призвал замедлить развитие ИИ. Он предупредил, что отрасль повторяет ошибки эпохи социальных сетей, что может нанести детям серьезный вред. Среди рисков Сигел выделяет проблемы с психическим здоровьем и «когнитивную разгрузку», при которой зависимость от ИИ снижает критическое мышление.
Сигел возглавил Институт безопасности ИИ для подростков, созданный некоммерческой организацией Common Sense Media в мае. Проект поддерживают Anthropic и OpenAI Foundation. Эксперт планирует разработать стандарты ответственности для ИИ-компаний, так как считает текущие меры защиты несовершеннолетних недостаточными для предотвращения угроз.
Сигел предложил Anthropic и OpenAI внедрить строгую верификацию возраста. Он также считает, что Google может добавить функцию отключения ИИ-результатов в поиске, по аналогии с фильтрами контента. По его мнению, игнорирование безопасности приведет к судебным искам и жесткому регулированию, что негативно скажется на бизнесе компаний в долгосрочной перспективе.
В Google заявили, что родители могут ограничить доступ детей к поисковым функциям через настройки, отметив пользу ИИ для обучения. Представитель OpenAI сообщил, что компания использует поведенческие сигналы и данные аккаунтов для выявления несовершеннолетних, постоянно совершенствуя системы защиты от попыток обхода ограничений пользователями.
