Компания Musubi представила PolicyLM-1.7B — легковесную модель принятия решений, предназначенную для модерации контента в режиме реального времени. Модель выпущена с открытыми весами и способна применять правила, написанные на обычном английском языке, к сообщениям менее чем за 50 миллисекунд.
Система разработана так, чтобы по скорости и стоимости соответствовать классификаторам, используемым на большинстве социальных платформ. При этом она обладает гибкостью современных больших языковых моделей, что позволяет менять правила модерации без необходимости переобучения нейросети.
В отличие от генеративных моделей, PolicyLM-1.7B выдает бинарное решение, определяя, относится ли контент к заданной категории или нет. Такой подход позволяет модели работать быстрее и дешевле, сохраняя преимущества архитектуры трансформеров.
Сооснователь Musubi Филип Янкович отметил, что разработка опирается на методы, использованные в проекте 2024 года под названием GLiNER. Компания позиционирует свою новинку как инструмент для масштабируемой и настраиваемой маркировки контента на платформах.
