Израильский стартап разработал платформу для тестирования ИИ-агентов
Компания Plurai разработала платформу, которая проверяет ИИ-агента на тысячах виртуальных клиентов, которые пытаются взломать защиту и нарушить его работу.
Компания Plurai разработала платформу, которая проверяет ИИ-агента на тысячах виртуальных клиентов, которые пытаются взломать защиту и нарушить его работу.
ИИ-агенты – это программы, которые не просто отвечают на вопросы, они действуют: оформляют возвраты, меняют бронирования, работают с данными клиентов. Каждый агент должен подчиняться десяткам правил, и ошибка стоит дорого. Проблема в том, что правила сталкиваются в непредсказуемых сочетаниях, и проверить все варианты вручную невозможно. "ИИ-системы ломаются, когда сталкиваются с трудностями, которых никто не предвидел", – говорит сооснователь и CEO Plurai Илан Кадар.
Решение пришло из мира беспилотных автомобилей: Кадар и его партнер, математик Элад Леви, прежде работали в компании Nexar над системами для Waymo. По словам Кадара, Waymo заслужила доверие клиентов, проехав в симуляции примерно в сто раз больше, чем по реальным дорогам. Plurai делает то же самое для агентов: строит цифрового двойника агента с базой знаний, инструментами и правилами компании и выпускает на него тысячи виртуальных клиентов, в том числе и таких, которые пытаются его обмануть и обойти заложенные ограничения.
Основой платформы стали глубокие теоретические исследования. Сценарии тестирования собираются по "карте правил", где отмечено, какие правила обычно встречаются вместе. Так система подбирает сочетания нарастающей сложности, не перебирая все сочетания вариантов подряд. Авторы проверили этот подход: рейтинг моделей на таких синтетических тестах почти не уступил рейтингу на эталонном наборе, составленном людьми.
Другая идея, предложенная Plurai – это так называемый "маленький охранник", который в реальной работе проверяет каждый шаг агента. Чтобы обучить этого охранника, нужны тысячи размеченных примеров. Plurai получает их без людей: одна модель придумывает сложные случаи, а несколько других обсуждают, стоит ли эти случаи использовать для тестирования. По данным авторов, обученный таким методом охранник работает точнее больших коммерческих моделей и обходится намного дешевле.
Компания основана в 2025 году, в ней 12 сотрудников в Израиле и США. Посевной раунд привлек $13 миллионов.
Источник: NEWSru.co.il
Читайте также
Все материалы рубрики
ТехнологииГлава Национального управления по искусственному интеллекту: Израилю нужна собственная ИИ-инфраструктура16:00, 9 ноября
ТехнологииИзраиль и Германия продлили соглашение о сотрудничестве в сфере энергетики11:00, 6 ноября
ТехнологииВ Израиле планируют построить первую геотермальную электростанцию на Голанских высотах15:00, 4 ноября«Рафаэль» представил новую крылатую ракету Super Ice
Оборонный концерн «Рафаэль» представил новую крылатую ракету Super Ice семейства Ice Breaker. Ракета несет многоцелевую боевую часть весом 1000 фунтов (около 454 кг), что в четыре раза больше, чем у предшественницы.
Оборонный концерн «Рафаэль» представил новую крылатую ракету Super Ice семейства Ice Breaker. Ракета несет многоцелевую боевую часть весом 1000 фунтов (около 454 кг), что в четыре раза больше, чем у предшественницы.
Ее можно запускать с боевых самолетов, наземных пусковых установок и кораблей. Дальность и цену ракеты концерн не раскрывает и называет ее лишь системой "большой дальности", предназначенной для поражения стратегических целей. Для сравнения, дальность Ice Breaker, по данным "Рафаэля", составляет до 300 км.
Super Ice способна лететь на предельно малой высоте с огибанием рельефа местности и ориентироваться без GPS. Ракета оснащена электронно-оптической системой самонаведения на основе сопоставления изображений, которая позволяет распознавать район цели и поражать ее с высокой точностью. Ракета может действовать автономно, но допускает и участие оператора в принятии решений. По утверждению концерна, использованные в ракете технологии сводят к минимуму возможности ПВО противника обнаружить ее и отреагировать.
Аналогичные возможности навигации и наведения есть и у Ice Breaker, однако новая модель, по словам представителей "Рафаэля", отличается улучшенными характеристиками, значительно более тяжелой боевой частью и более высокой скоростью. Боевая часть Super Ice весит больше, чем вся ракета Ice Breaker, вес которой не превышает 400 кг. Ракета использует ту же инфраструктуру пуска, планирования задач и логистики, что и Ice Breaker, поэтому нынешние заказчики смогут внедрить ее без существенных изменений. Цену новой ракеты в концерне назвали "суперконкурентной" по сравнению с аналогами, к которым относятся американские JASSM от Lockheed Martin и европейские Storm Shadow.
Семейство крылатых ракет "Рафаэль" начал представлять около пяти лет назад: в 2021 году была показана Sea Breaker для пуска с моря и суши, в 2022 году – Ice Breaker, адаптированная и для запуска с воздуха. По данным концерна, на 2026 год у семейства шесть заказчиков, их имена не раскрываются. В апреле 2025 года представитель американской General Atomics сообщил, что у "Рафаэля" есть заказы примерно на 1200 ракет семейства. В ноябре 2025 года ракета Ice Breaker была показана на военном параде в Баку. В марте 2026 года появились сообщения о применении Ice Breaker ВВС Израиля в ударах по Ирану.
"Рафаэль" расширяет и производство за рубежом. В феврале 2025 года концерн подписал меморандум с индийской Bharat Dynamics о локальном производстве Ice Breaker, а через два месяца объявил о сотрудничестве с General Atomics в выпуске американской версии ракеты под названием Bullseye.
По словам представителей концерна, производство в Израиле продолжается в полном объеме, и, за исключением отдельных видов сырья, например титана, оно полностью локализовано. Это обеспечивает высокую защищенность от эмбарго.
Источник: NEWSru.co.il