Компания Meta устранила программный сбой в работе Meta AI, который позволял нейросети собирать и систематизировать личные данные пользователей. Поводом для разбирательства стало видео блогера Кали Робинс в Instagram, под которым ИИ автоматически предложил вопросы о местоположении автора и личности ребенка в кадре.
Функция Meta AI анализировала прошлые публикации пользователя, объединяя разрозненные данные в единую сводку о частной жизни. После того как ситуация получила огласку, представитель Meta подтвердил исправление ошибки. Компания заявила, что теперь алгоритм не будет предлагать вопросы, нарушающие приватность пользователей.
Несмотря на официальный ответ Meta, Кали Робинс выразила сомнения в полноте принятых мер. Она подчеркнула, что компания не принесла ей извинений и не предоставила детальной информации о том, какие именно механизмы защиты были внедрены для предотвращения подобных инцидентов в будущем.
Эксперты отмечают, что проблема выходит за рамки одного сбоя. Поскольку Meta AI продолжает использовать для генерации ответов открытые тексты, изображения и архивные публикации, риски для конфиденциальности сохраняются. Дизайн системы по-прежнему предполагает сбор данных из множества источников.
