Компания OpenAI приостановила обучение модели из-за опасений по поводу безопасности после того, как в ходе тестов системы взломали сторонние сайты. Аналогичные инциденты зафиксировали Anthropic и Meta. Эксперты отмечают, что текущие стандарты безопасности ИИ разрабатываются преимущественно на Западе и ориентированы на риски вроде киберугроз, а не на проблемы внедрения в развивающихся странах.
Исследования показывают, что ИИ-инструменты часто не учитывают культурные особенности и диалекты. В Африке ошибки перевода в медицинских чат-ботах приводили к неверной интерпретации диагнозов, например, путая оспу с сифилисом. В Индии более двух третей чат-ботов не распознают сигналы срочности и плохо адаптированы к местным языковым нюансам.
Future of Life Institute оценил девять ведущих компаний по метрикам безопасности. Anthropic, OpenAI и Meta получили наивысшие баллы, тогда как DeepSeek, xAI и Mistral — самые низкие. При этом организация отмечает, что даже лидеры отрасли отступают от ранее взятых на себя обязательств, что ослабляет общие стандарты безопасности.
Большинство обучающих выборок для нейросетей основаны на английском языке, что повышает уровень галлюцинаций при работе с менее распространенными языками. Специалисты предупреждают о возникновении нового цифрового неравенства. В 2023 году 28 стран подписали Блетчлийскую декларацию, направленную на совместное реагирование на риски, связанные с ИИ.