Исследование Google DeepMind и Национального университета Сингапура под названием «Иллюзия стохастичности в LLM» (arXiv ID 2604.06543) показало, что большие языковые модели не способны генерировать по-настоящему случайные данные. Работа была представлена на конференции COLM 2026.
Авторы использовали статистические тесты Хи-квадрат и Колмогорова-Смирнова для проверки моделей. Выяснилось, что нейросети склонны к выбору определенных чисел, например 7 и 42. Значения p-value оказались близки к нулю, что подтверждает отклонение результатов от целевых распределений.
В игровых сценариях использование встроенной генерации случайных чисел приводило к росту успешности атак с оптимальных 75% до 96,6–99,9%. Это делает ИИ-агентов уязвимыми в конкурентных средах из-за предсказуемых паттернов в их поведении.
Исследователи установили, что модели способны корректно преобразовывать внешние случайные данные. Модели Gemini-3.0-Pro и Qwen3-32B успешно справлялись с задачей, когда им передавали случайные числа, сгенерированные программным кодом.
Авторы рекомендуют разработчикам ИИ-агентов не полагаться на внутреннюю генерацию случайности моделей. Для обеспечения статистической точности и безопасности системы следует использовать внешние источники случайных чисел, передавая их модели в качестве входных данных.
