Генеральный директор Y Combinator Гарри Тан заявил, что общественное внимание чрезмерно сосредоточено на голливудских сценариях гибели человечества от ИИ. В интервью CNBC 10 сентября он призвал политиков опираться на научные факты, а не на сюжеты фантастических фильмов.
Тан подчеркнул необходимость сосредоточиться на реальных угрозах, таких как кибербезопасность и защита инфраструктуры. Он отметил важность понимания работы автономных ИИ-агентов, задавшись вопросом о том, как контролировать или отключать системы в случае их взлома или несанкционированной координации действий.
В качестве примера реальной угрозы глава Y Combinator привел инцидент со взломом Hugging Face со стороны OpenAI. Тан признал, что предупреждения от исследователей OpenAI и Anthropic заслуживают доверия и не являются необоснованным алармизмом.
Вместо обсуждения абстрактных рисков суперинтеллекта Тан предложил сфокусироваться на конкретных мерах безопасности. Он выступил против размытых призывов к полной остановке разработок в сфере ИИ, настаивая на прагматичном подходе к управлению рисками, связанными с автономными системами.
