Инженер Anthropic Джексон Кернион объяснил снижение качества текстов моделей Claude приоритетом математических и программных навыков при обучении. Подобная оптимизация привела к появлению специфического стиля, который называют Claudeish.
Модели обучались на массивах данных, предназначенных для других ИИ, что сформировало у них привычку писать для машин, а не для людей. В результате тексты стали перенасыщены информацией, что удобно для обработки нейросетями, но затрудняет восприятие для человека.
Кернион сравнил этот процесс с формированием закрытого языка общения внутри группы. ИИ, обладая расширенной рабочей памятью, адаптировался к форматам, которые лучше считываются другими моделями, игнорируя при этом потребности человеческой аудитории.
Проблема кроется в механизмах поощрения при обучении с подкреплением. Разработчики вынуждены активно корректировать систему наград, чтобы сместить фокус с эффективности машинного понимания на простоту и доступность изложения для людей.
В модели Opus 5.5 компании удалось достичь более качественного баланса в стилистике текста. Кернион отметил, что это лучший результат со времен Opus 4.6, однако работа над улучшением качества генерации ответов продолжается.
