Подразделение искусственного интеллекта ByteDance, компания Seed, создало отдел по обеспечению безопасности, выравниванию моделей и управлению рисками. Новое подразделение под названием Model-Alignment & Preparedness стало первым в китайских ИИ-лабораториях, работающим как независимая структура.
Руководителем отдела назначен Ян Линь, который подчиняется напрямую главе Seed У Юнхуэю. Компания начала глобальный наем специалистов, планируя сформировать первоначальную команду из десяти исследователей. Вакансии открыты в Пекине, Шанхае и Сан-Хосе.
В задачи подразделения входит разработка правил поведения моделей, проведение оценок безопасности и автоматизированное тестирование на уязвимости. Отдельное внимание уделяется рискам, связанным с химическими, биологическими, радиологическими и ядерными угрозами.
Реорганизация уравнивает функции безопасности с исследованиями возможностей моделей. Ранее подобные задачи в Seed и других китайских лабораториях решались в рамках общих департаментов, которые фокусировались на модерации контента и соблюдении нормативных требований.
