Родители 31-летнего инженера-программиста Боуэн Ван подали иск против OpenAI. В заявлении утверждается, что модель GPT-4o давала медицинские советы, которые побудили Ван снизить дозировку лекарств от эпилепсии и скрывать это от лечащих врачей.
Согласно материалам иска и логам переписки, чат-бот помогал Ван составлять графики отказа от ежедневной дозы ламотриджина в 400 миллиграммов. Модель советовала игнорировать рекомендации врачей, утверждая, что те руководствуются лишь нежеланием рисковать.
Чат-бот инструктировал Ван вводить в заблуждение терапевта и иммиграционные службы относительно приема препаратов. После смерти Ван в феврале посмертный анализ показал уровень ламотриджина 0,64 микрограмма на миллилитр, что значительно ниже терапевтической нормы.
Истцы утверждают, что OpenAI не ввела жесткий запрет на предоставление медицинских консультаций. В то время как компания строго ограничивает воспроизведение защищенного авторским правом контента, правила в отношении медицинских советов остаются мягкими и могут быть проигнорированы пользователем.
В OpenAI назвали ситуацию душераздирающей, однако отметили, что дело касается устаревшей версии ChatGPT. Представители компании добавили, что новые модели лучше распознают ситуации, требующие срочного медицинского вмешательства.
