Компания Meta внесла изменения в алгоритмы своего чат-бота после жалоб пользователей на излишнее внимание ИИ к частной жизни. Разработчик признал ошибку, отметив, что функция не должна была предлагать пользователям подобные вопросы.
Поводом для разбирательства стало видео пользователя Instagram Кейли Робинс. ИИ-помощник попытался выяснить личность ребенка на видео, задавал вопросы о возрасте детей и месте жительства семьи, а также показал фотографии, которые Робинс удалила несколько лет назад.
Представитель Meta Дина Эль-Кассаби заявила, что проблема уже устранена. По словам компании, ИИ-помощник использует информацию, к которой у пользователя уже есть доступ, чтобы помогать в поиске данных о публикациях или интересующих темах.
ИИ-помощник Meta интегрирован в Facebook, Instagram, WhatsApp и Messenger. Система умеет отвечать на вопросы, писать посты и генерировать изображения. В июле компания также отключила функцию создания дипфейков других пользователей после критики.
