Тор Грепель, один из ключевых разработчиков AlphaGo, покинул Google DeepMind ради создания систем с подлинными способностями к рассуждению. В статье для MIT Technology Review он утверждает, что современные большие языковые модели (LLM) не обладают навыками логического вывода, что поддержал лауреат премии Тьюринга Ян Лекун.
Грепель поясняет, что успех AlphaGo обеспечивался сочетанием двух систем: нейросети для интуиции и механизма поиска для просчета вариантов. Знаменитый «37-й ход» был отвергнут интуицией программы, но выбран поисковым механизмом после анализа последствий, что демонстрирует принципиальное отличие от работы LLM.
Автор выделяет три недостатка LLM: отсутствие обновляемого состояния когнитивной модели, неразрывность знаний и логики внутри весов нейросети, а также склонность моделей к выдумыванию объяснений. По мнению Грепеля, это делает их непригодными для медицины, инженерии и науки, где важна проверяемость выводов.
Грепель предлагает новую архитектуру, вдохновленную AlphaGo, где система ведет учет гипотез, доказательств и нерешенных вопросов. Он считает, что LLM могут стать частью более сложной структуры, взаимодействующей с инструментами и кодом для формирования проверяемого знания, которое он называет «научным методом на допинге».
Идея вызвала дискуссию в экспертном сообществе. Профессор Дэвид Дювено отметил, что критерии Грепеля к рассуждению применимы и к людям. Другие участники спора задаются вопросом, является ли отсутствие логики следствием архитектуры или недостатком времени на масштабирование, а также обсуждают возможность использования формальных языков вместо естественных.
