با گسترش سریع بهره‌گیری از عامل‌های هوش مصنوعی (AI Agents) در زیرساخت‌های سازمانی، چالش‌های تازه‌ای در امنیت زنجیره تامین نرم‌افزاری آن‌ها پدیدار شده است. استارت‌آپ امنیتی AIR که به تازگی از حالت خفا خارج شده، از جذب سرمایه ۵۰ میلیون دلاری در قالب دو مرحله بذری خبر داده است تا ابزارها، سرورهای MCP و مهارت‌های مورد استفاده این عامل‌ها را ایمن‌سازی کند.
شناسایی و خنثی‌سازی تهدیدات زنجیره تامین عامل‌های هوش مصنوعی
عامل‌های هوش مصنوعی برای انجام امور خودکار به افزونه‌ها و مهارت‌های گوناگونی متصل می‌شوند تا با اینترنت و دیتابیس‌های داخلی تعامل داشته باشند. نبود نظارت کافی روی این قطعات نرم‌افزاری، مسیر را برای حملات سایبری و مسموم‌سازی داده‌ها هموار می‌کند.
استارت‌آپ AIR توسط یائیر سابان و نیو هوفمان، از متخصصان باسابقه سایبری، تاسیس شده است. پلتفرم این شرکت به سازمان‌ها کمک می‌کند تا عامل‌های فعال در سیستم‌های خود را شناسایی کرده و عملکرد ابزارهای متصل به آن‌ها را به طور پیوسته زیر نظر بگیرند.
- کشف و شفافیت کامل: شناسایی تمام عامل‌های هوش مصنوعی در حال اجرا و کارمندانی که از ابزارهای تاییدنشده استفاده می‌کنند.
- ارزیابی مداوم (Continuous Vetting): بررسی لحظه‌ای کدها و رفتارهای مشکوک در افزونه‌ها و مهارت‌های متصل به عامل‌ها.
- مسدودسازی خودکار: بر اساس آمارهای این شرکت، پلتفرم AIR در حال حاضر نزدیک به ۲۷ درصد از افزونه‌های موجود در وب را به دلیل مخاطرات امنیتی مسدود می‌کند.
رقابت در بازار نوظهور امنیت ابزارهای هوش مصنوعی
این جذب سرمایه ۵۰ میلیون دلاری طی دو مرحله کوتاه به رهبری شرکت‌های بزرگ سرمایه‌گذاری مانند سیکوئیا (Sequoia) و گرین‌اوکس (Greenoaks) محقق شده است. سرمایه‌گذاران فرشته سرشناسی از شرکت‌های مطرح فناوری نظیر Wiz و Cognition نیز در این دوره مشارکت داشته‌اند.
با وجود رقبای فعال دیگری نظیر Noma Security و Zenity در این حوزه، بنیان‌گذاران AIR معتقدند مزیت اصلی پلتفرم آن‌ها در راستی‌آزمایی برخط، پیوسته و زیرساختی تمام افزونه‌ها و مهارت‌ها قبل از اتصال به عامل‌های هوش مصنوعی نهفته است.
سوالات متداول
چرا افزونه‌ها و مهارت‌های عامل‌های هوش مصنوعی خطرساز هستند؟
زیرا عامل‌های هوش مصنوعی دسترسی گسترده‌ای به پایگاه‌های داده و اینترنت دارند؛ مهاجمان سایبری می‌توانند با آلوده‌سازی افزونه‌ها یا کدها، کنترل عملکرد عامل هوش مصنوعی را به دست بگیرند.
پلتفرم AIR چگونه از سازمان‌ها محافظت می‌کند؟
این پلتفرم با رهگیری اقدامات عامل هوش مصنوعی و سنجش پیوسته ابزارهای درخواستی آن با یک لیست سفید تاییدشده، از اجرای رفتارهای مخرب جلوگیری می‌کند.