Компания Meta вносит изменения в работу подсказок своего ИИ-чат-бота после инцидента с некорректными вопросами о личной жизни пользователей. Поводом стало видео пользователя Instagram Кали Робинс, которой ИИ предложил уточнить информацию о ее детях после публикации ролика с совместной поездкой в автомобиле.
Система проанализировала прошлые публикации Робинс и ее родственников, сформировав вопросы о возрасте детей и месте жительства семьи. Кроме того, ИИ отобразил фотографии дочерей пользователя, включая те, которые, по словам Робинс, были удалены ею несколько лет назад. Представитель Meta Дина Эль-Кассаби признала, что компания допустила ошибку в работе функции.
ИИ-ассистент Meta встроен в Facebook, Instagram, WhatsApp и Messenger для генерации изображений и написания текстов. В компании заявили об устранении технической ошибки, приводившей к появлению личных вопросов в подсказках. По словам Эль-Кассаби, инструмент предназначен для поиска информации по темам, которые интересны пользователю, на основе доступных ему данных.
Ранее, в июле, Meta уже отключала функцию создания дипфейков с другими пользователями Instagram после волны критики. В текущем случае представитель компании пояснила, что ИИ мог использовать данные из видео, где пользователь сама называла имена своих детей. Meta подчеркивает, что ответы чат-бота формируются только на основе той информации, к которой у пользователя уже есть доступ.
