Компания OpenAI опубликовала сотни решений сложных математических задач, заявив о консультациях с экспертной группой. Однако Консультативная группа по математике и искусственному интеллекту (AGMAI) сообщила, что OpenAI проигнорировала ряд рекомендаций, включая требование прекратить тестирование задач на проприетарных моделях.
Группа AGMAI, состоящая из девяти исследователей, в конце сентября выпустила руководство для лабораторий. OpenAI выполнила не все принципы: только 10 из 719 рукописей содержали информацию о цепочке рассуждений модели, а 42% представленных доказательств не прошли процесс формализации.
Исследователи из Кембриджского университета и Королевского колледжа Лондона выявили расхождения между доказательствами на естественном языке и кодом Lean в решениях OpenAI для уравнений Навье-Стокса. Авторы работы подчеркивают, что такие доказательства требуют полноценного рецензирования.
Математики Теренс Тао и Мелани Вуд отмечают, что ИИ-решения лишены человеческого понимания. Эксперты предлагают OpenAI финансировать работу математиков для проверки результатов и взаимодействия с научным сообществом, вместо того чтобы считать вывод модели окончательным результатом.
