Компания Anthropic начала сотрудничество с юридическими фирмами для разработки этических норм ведения переговоров с помощью ИИ-агентов. Планируется, что алгоритмы будут самостоятельно договариваться о ценах, урегулировать жалобы и улучшать условия контрактов.
В ходе внутренних тестов выяснилось, что более мощные модели ИИ добиваются лучших результатов в сделках. Специалисты опасаются, что бесконтрольное внедрение таких технологий может привести к росту социального неравенства.
Для решения этих задач Anthropic нанимает экспертов на позицию Conceptual Reasoning Fellows. Юристы будут в течение четырех месяцев тестировать модель Claude, оценивая её способность принимать решения в области права, экономики и политологии.
Размер вознаграждения для участников программы составляет от $100 000 до $167 000. Компания стремится создать качественные оценочные тесты, так как в гуманитарных дисциплинах, в отличие от математики, отсутствуют однозначные критерии правильных ответов.
