Разработчик банка Уралсиб создал ИИ-робота секретаря для автоматизации итогов встреч. Система работает полностью офлайн в закрытом контуре банка для обеспечения безопасности. Процесс начинается с работы рекордера на языке Go, который подключается к конференц-комнатам по протоколу WebRTC, записывает аудио и фиксирует активность участников с точностью до миллисекунды.
Для транскрибации используется модель Whisper от OpenAI, а именно версия ggml-large-v3-turbo, которая требует 1,5 ГБ памяти. Благодаря использованию GPU GeForce GTX 1080, скорость обработки была увеличена до соотношения 4:1, что позволяет обрабатывать часовую встречу за 15 минут.
На финальном этапе модель YandexGPT-5-Lite через Ollama анализирует транскрибированный текст и созда иёт краткие итоги встречи. Вся инфраструктура управляется центральным раннером-оркестратором на Go с использованием базы данных Postgres для очередей задач. В пилотной группе из 20 человек система обрабатывала по 3–5 встреч в день.
