Бывший исследователь Deepmind Тор Грепель основал компанию Metis Reasoning для борьбы с галлюцинациями нейросетей. Его подход основан на методах поиска, которые использовались в AlphaGo. Вместо генерации правдоподобного текста компания предлагает системы, проверяющие выводы по доказательствам.
Архитектура Metis включает реестр знаний, где фиксируются факты, уровень уверенности системы и нерешенные вопросы. Специальный модуль сверяет данные с доказательствами или эмпирическими свидетельствами. При изменении исходных предпосылок система автоматически пересчитывает все зависящие от них выводы.
Такой подход позволяет создавать компактные модели для робототехники и периферийных устройств. Поскольку рассуждения разбиваются на проверяемые шаги, знания можно обновлять или удалять без переобучения всей модели. Это критично для медицины, финансов и проектирования чипов.
Проект находится на стадии исследований: готовых систем и бенчмарков пока нет. По данным Bloomberg, Грепель привлекает инвестиции в размере нескольких десятков миллионов долларов, планируя последующий раунд на несколько сотен миллионов долларов при более высокой оценке.
Грепель, работавший над AlphaGo и AlphaZero, стал очередным выходцем из Deepmind, запустившим собственный стартап. Ранее свои компании основали создатели Ineffable Intelligence и Recursive, стоимость которой достигла $4,65 миллиарда.
