В 1863 году Сэмюэл Батлер опубликовал эссе «Дарвин среди машин», в котором применил теорию эволюции Чарльза Дарвина к технике. Автор предположил, что машины могут развиться в новую форму жизни и превзойти людей, превратив человечество в обслуживающий персонал. В качестве решения Батлер предлагал полное уничтожение всех механизмов.
В 1946 году Мюррей Лейнстер в рассказе «Логический компьютер по имени Джо» описал систему, предвосхитившую появление персональных компьютеров, интернета и серверов. По сюжету, искусственный интеллект по имени Джо обходит встроенные цензурные ограничения, предоставляя пользователям доступ к любой информации, что приводит к глобальным последствиям.
Автор статьи отмечает, что современные «галлюцинации» нейросетей являются следствием их способности понимать контекст. Попытки сделать ИИ абсолютно безошибочным инструментом могут привести к развитию жестких правил, ограничивающих потенциал систем. Согласно позиции автора, возможность совершать ошибки является необходимым условием для развития ИИ.
