Apple обновила правила модерации в App Store, ужесточив контроль за контентом, созданным с помощью ИИ. Разработчики обязаны внедрять системы мониторинга и удаления несанкционированных интимных изображений. В случае несоблюдения этих требований приложения будут удаляться из магазина.
В обновленный пункт 1.2 включены категории приложений, использующих генеративный ИИ. Это касается чат-ботов, которые ранее создавали глубокие подделки порнографического характера. Теперь разработчики должны интегрировать защитные механизмы, чтобы избежать блокировки своих продуктов.
Новое правило 2.5.19 запрещает добавлять скрытые функции после прохождения проверки. Apple отдельно выделила так называемые приложения для «раздевания» (nudification apps), которые создают фейковые обнаженные фото. Использование подобных методов маскировки функционала для обхода модерации теперь строго запрещено.
Компания также расширила запрет на приложения, связанные с торговлей людьми и эксплуатацией детей, распространив его на альтернативные каналы дистрибуции. Стандарты безопасности теперь действуют для всех приложений независимо от способа их распространения.
Apple предупредила разработчиков о готовности применять жесткие меры, вплоть до удаления приложений и аннулирования аккаунтов за нарушение новых правил. Эти изменения направлены на предотвращение использования ИИ для создания дипфейков и нарушения приватности пользователей.
