Стартап-студия МФТИ поддержала разработку защиты для ИИ-систем
Стартап-студия МФТИ выделила конвертируемый заём в размере 10 млн рублей компании «ХайвТрейс» на доработку продукта, предназначенного для снижения рисков, которые возникают при использовании больших языковых моделей (LLM).
Суть разработки заключается в том, что решения «ХайвТрейс» обеспечивают мониторинг и защиту ИИ-систем в режиме реального времени, предотвращая промпт-атаки, утечки данных и неэтичное поведение ИИ-агентов. Благодаря этому внедрению решения на базе ИИ защищены от угроз, что существенно снижает репутационные, юридические и финансовые риски, связанные с эксплуатацией технологий искусственного интеллекта. Сейчас разработка проходит пилотирование на российском рынке в финансовом, промышленном и телеком-секторах, а также среди GenAI-стартапов.