Компания Apple обновила правила модерации App Store, ужесточив контроль за приложениями с генеративным ИИ. Согласно новой редакции пункта 1.2, под запрет попало создание и распространение интимных изображений, сгенерированных нейросетями без согласия запечатленных лиц.
Приложения с пользовательским контентом или социальными функциями теперь обязаны внедрять системы фильтрации нежелательных материалов. Разработчики должны обеспечить механизм подачи жалоб на оскорбительный контент и гарантировать оперативную реакцию на подобные обращения.
Изменения последовали за серией инцидентов, связанных с ИИ-сервисами для создания «обнаженных» изображений. Ранее власти Сан-Франциско требовали удалить восемь подобных приложений, а компания xAI получила предупреждение о возможном удалении чат-бота Grok из-за генерации сексуализированных дипфейков.
Новое правило 2.5.19 запрещает практику «приманочного маркетинга», когда разработчики скрывают вредоносный функционал на этапе проверки, а после одобрения добавляют функции для создания интимного контента. Нарушителям грозит удаление из магазина и аннулирование аккаунта в Apple Developer Program.
Apple также расширила запрет на приложения, способствующие эксплуатации детей или торговле людьми, распространив его на альтернативные каналы дистрибуции. Компания заявила, что будет незамедлительно удалять нарушающие правила программы и прекращать сотрудничество с их создателями.
