Израильский стартап разработал систему безопасности для ИИ-агентов
Компания AIR Security создала специализированную систему защиты для обеспечения безопасности ИИ-агентов. Компания уже привлекла $50 миллионов на коммерческое развитие.
Разработчики AIR Security считают, что главной угрозой для ИИ-агентов является сам контент, с которым работает автономная системы. Когда ИИ-агенты читают почту, посещают сайты, запускают плагины или серверы, они могут столкнуться с вредоносными инструкциями, способными манипулировать их решениями. Это может привести к утечке данных или несанкционированному доступу.
Платформа AIR Security отслеживает и оценивает различные инструменты и расширения как до, так и после их подключения к рабочим процессам компании. Если обнаружена угроза, система позволяет блокировать опасный модуль и отозвать его использование во всех связанных процессах. Стартап создает каталог заранее проверенных и сертифицированных дополнений. Исследования компании уже выявили более 17 тысяч публичных расширений, замеченных в обращении к сомнительным источникам, и обнаружила случаи маскировки опасных приложений под известные бренды, такие как OpenAI и Anthropic. Главный акцент компания делает на превентивной защите и фильтрации входящей информации в реальном времени.
Читайте также
Все материалы рубрики
ТехнологииГлава Национального управления по искусственному интеллекту: Израилю нужна собственная ИИ-инфраструктура16:00, 9 ноября
ТехнологииИзраиль и Германия продлили соглашение о сотрудничестве в сфере энергетики11:00, 6 ноября
ТехнологииВ Израиле планируют построить первую геотермальную электростанцию на Голанских высотах15:00, 4 ноябряГлава израильского R&D-центра Microsoft Михаль Браверман-Блюменстик уходит в отставку
Руководитель израильского центра исследований и разработок Microsoft Михаль Браверман-Блюменстик покинет свой пост после 13 лет работы, в течение которых она способствовала развитию бизнеса американского технологического гиганта в сфере облачных технологий и кибербезопасности в Израиле.
Браверман-Блюменстик, совмещающая должности управляющего директора научно-исследовательского подразделения Microsoft в Израиле и технического директора подразделения безопасности всей корпорации, сложит полномочия к концу года. Имя преемника на посту руководителя научно-исследовательского центра Microsoft в Израиле будет объявлено позже.
В Microsoft отметили, что Браверман-Блюменстик «сыграла ключевую роль в развитии бизнеса компании в сфере кибербезопасности, помогая утвердить его в качестве одного из основных двигателей роста Microsoft».
«За время ее работы число сотрудников удвоилось на шести площадках, и центр неоднократно признавался одним из лучших мест работы в Израиле», — говорится в заявлении Microsoft. «Сегодня израильский научно-исследовательский центр разрабатывает ключевые технологии и продукты, используемые миллионами клиентов и пользователей по всему миру».
Научно-исследовательские подразделения Microsoft в Израиле входят в число крупнейших в мире наряду с подразделениями в Кремниевой долине и Бостоне. Кроме того, они были первыми R&D-центрами Microsoft за пределами США. Корпорация была одним из пионеров в создании научно-исследовательских подразделений IT-вендоров в Израиле в 1991 году.
Несколько месяцев назад генеральный директор Microsoft в Израиле Алон Хаймович подал в отставку после результатов внутреннего расследования предполагаемого неэтичного использования облачной платформы Azure израильскими военными. Недавно Microsoft назначила преемником Хаймовича Нати Амстердама, старшего исполнительного директора Nvidia Israel.