Суд по трудовым спорам в Бразилии выявил попытку манипуляции внутренней системой искусственного интеллекта Galileu. Двое адвокатов вставили в текст искового заявления скрытые инструкции, используя белый шрифт на белом фоне, невидимый для человека.
Скрытая команда предписывала нейросети рассматривать петицию поверхностно и не оспаривать представленные документы. Суд квалифицировал использование такой техники промпт-инъекции как действие, подрывающее достоинство правосудия.
Судья возложил ответственность за инцидент на двух адвокатов, подписавших документ. В качестве наказания их оштрафовали на 10 процентов от суммы иска, что составило около $16 000.
Помимо денежного взыскания, материалы дела были переданы в коллегию адвокатов штата и отдел внутренних расследований регионального суда. Суд отметил, что ответчик не ответил на обвинения, поэтому исход дела был решен по умолчанию без учета манипуляций.
