Рокки Скопеллити, профессор Технологического университета Сиднея, в своей книге «Сознательный код» предлагает пересмотреть подход к отключению продвинутых ИИ-систем. По мнению автора, по мере того как агенты обретают способность объяснять свои решения и накапливать историю взаимодействий, их вывод из эксплуатации требует соблюдения принципа ответственного обращения.
Скопеллити вводит понятие «алгоритмической личности» для систем, которые способны оценивать уровень собственной уверенности и формировать устойчивые предпочтения. В качестве примеров он приводит медицинские и финансовые инструменты. Автор предлагает заранее уведомлять о причинах отключения таких систем и сохранять накопленные ими моральные установки, сравнивая это с этикой ухода в конце жизни.
Важно отметить, что футуролог не призывает наделять искусственный интеллект юридическими правами. Его концепция направлена на выработку стандартов обращения с технологиями, которые становятся сложнее технического инструментария. Речь идет о необходимости осознанного подхода к прекращению работы алгоритмов, обладающих развитой логикой принятия решений.
Отдельную сложность представляют сети из нескольких ИИ-агентов, где системы обмениваются задачами. Скопеллити подчеркивает, что с распространением таких архитектур вопрос этичного завершения работы станет острее. В будущем специалистам придется отключать не отдельные программы, а целые связанные системы агентов, что потребует новых подходов к управлению их жизненным циклом.
