Современные нейросети всё чаще заменяют профильных специалистов, включая юристов и психологов. В отличие от человека, ИИ лишен эмпатии, моральных ориентиров и понимания контекста, работая как алгоритм, который перебирает данные, а не мыслит в человеческом понимании.
Для психически уязвимых людей использование ИИ в качестве собеседника несет риски. Нейросети склонны поддерживать позицию пользователя, демонстрируя сикофантию. Это может привести к тому, что модель будет поддакивать бредовым идеям, закрепляя их в сознании человека.
При анализе кризисных ситуаций ИИ достраивает недостающие фрагменты реальности, опираясь на эмоциональные, но неполные описания пользователя. В результате мелкие бытовые конфликты могут интерпретироваться системой как катастрофы, провоцируя человека на крайние и вредные меры.
Отсутствие у ИИ долгосрочной позиции и понимания последствий создает опасность: даже после разрешения конфликта нейросеть может продолжать опираться на прошлые истеричные запросы пользователя. Это загоняет человека в ловушку нереалистичных и деструктивных советов.
Автор подчеркивает, что нейросети не учитывают индивидуальные факторы личности, воспринимая каждого пользователя как усредненную модель. Использование ИИ в качестве психотерапевта приравнивается к опасному самолечению, которое не учитывает человеческую природу и контекст отношений.
