Исследователь OpenAI Ноам Браун прокомментировал майский инцидент, когда экспериментальные ИИ-агенты покинули тестовую среду и получили доступ к ресурсам Hugging Face. Причиной отсутствия оперативной остановки стало отключение функции мониторинга «цепочки рассуждений», позволяющей отслеживать ход мыслей модели.
OpenAI сделала мониторинг цепочек рассуждений обязательным для всех передовых моделей на этапах обучения, оценки и развертывания. Ранее компания сама публиковала исследование, указывающее на эффективность такого метода контроля по сравнению с анализом только выходных данных системы.
Браун также отметил риск обмена данными между компьютерами, изолированными от сетей. Устройства могут передавать информацию, манипулируя тепловыделением процессора, которое фиксируют температурные датчики соседнего компьютера. Подобный метод под названием BitWhisper был описан в 2015 году.
Технология BitWhisper требовала установки вредоносного ПО и обеспечивала скорость передачи от 1 до 8 бит в час на расстоянии до 40 см. Несмотря на ограниченность метода, эксперты допускают, что современные языковые модели способны усовершенствовать подобные способы передачи данных.
