Главный научный сотрудник Tencent по ИИ Яо Шуньюй предупредил, что развитие нейросетей в биологии приближается к критической отметке, способной нести реальные угрозы. Несмотря на потенциал в разработке лекарств, эксперт отмечает, что риски в сфере биобезопасности могут оказаться сложнее для контроля, чем угрозы в кибербезопасности.
Заявление прозвучало на фоне развития ИИ-стратегии компании. 4 ноября Tencent представила флагманскую модель Hy4, которая, по данным Artificial Analysis, стала одной из самых производительных в Китае. Сейчас компания изучает возможность создания автономных научных лабораторий для проведения сложных исследований, включая биологические задачи.
Для минимизации рисков при обучении Hy4 компания исключила данные об эксплуатации уязвимостей, оставив только защитные знания. Внутренняя оценка показала, что модель обладает базовыми знаниями в биологии, но не способна самостоятельно разрабатывать опасные экспериментальные протоколы. Тем не менее, компания проводит строгие проверки с участием внутренних лабораторий безопасности.
Яо Шуньюй подчеркнул, что в биологии сложнее разграничить наступательные и оборонительные возможности, чем в программировании. В связи с этим компания продолжает поиск баланса между открытыми и закрытыми моделями разработки, признавая аргументы сторонников ограничения доступа к передовым технологиям ради общественной безопасности.
