Стартап Safeworld, занимающийся вопросами безопасности роботов на базе генеративного ИИ, привлек более $12 млн в рамках посевного раунда. Инвесторами выступили Shine Capital и a16z Speedrun, а также Box Group, эндаумент-фонд Университета Карнеги — Меллона, Innovation Endeavors и SV Angel.
Компанию основали Дин Чжао, руководитель лаборатории Safe AI в Университете Карнеги — Меллона, а также Кайл Вонг и Симо Рашиди. Safeworld разрабатывает решения для проверки систем управления роботами, чтобы минимизировать риски, связанные с непредсказуемостью генеративных моделей.
Технология компании основана на симуляциях, где роботы взаимодействуют с реалистичными моделями людей. Система тестирует поведение роботов в неструктурированных условиях, например, при обнаружении людей в слепых зонах или при внезапных падениях человека, что сложно доказать математически.
Первым партнером Safeworld стала компания Gritt Robotics, создающая ИИ для строительных роботов. Сейчас команда Safeworld определяет оптимальную бизнес-модель, выбирая между предоставлением доступа к платформе или оказанием услуг по тестированию для сторонних производителей.
