غول تراشه‌سازی جهان، انویدیا، نشان داده است که در حوزه امنیت هوش مصنوعی وقت را تلف نمی‌کند. تنها یک هفته پس از راه‌اندازی «ائتلاف هوش مصنوعی امن و متن‌باز» (OSAA) با حضور بیش از ۱۲۰ شرکت بزرگ فناوری، این گروه اولین دستاوردهای عملی خود را برای حفاظت از زیرساخت‌ها در برابر ایجنت‌های هوش مصنوعی مهاجم ارائه کرده است.
این ائتلاف کارگروه ویژه‌ای به نام SAFE (تبادل یافته‌های مشترک هوش مصنوعی) ایجاد کرده که تحت مدیریت بنیاد لینوکس، چارچوب‌های جدیدی برای گزارش‌دهی محرمانه حوادث سایبری و تحلیل آسیب‌پذیری‌ها پیشنهاد داده است.
چارچوب SAFE؛ دفاع دسته‌جمعی در برابر تهدیدات جدید AI
اعضای این ائتلاف بزرگ در جریان همایش امنیت سایبری بلک هت (Black Hat) گردهم آمدند تا استانداردهای اولیه خود را به بحث بگذارند. پیشنهادهای اولیه گروه SAFE چارچوبی اساسی برای همکاری همه‌جانبه شرکت‌ها ایجاد می‌کنند:
- گزارش‌دهی محرمانه حوادث: ایجاد کانال‌های امن برای اشتراک‌گذاری سریع تهدیدات رخ‌داده در مدل‌های زبانی.
- اطلاع‌رسانی سریع: آگاه‌سازی فوری کسب‌وکارهای متأثر از آسیب‌پذیری‌های هوش مصنوعی.
- تحلیل سازنده حوادث: بررسی ریشه‌ای خطاهای امنیتی بدون سرزنش شرکت‌ها برای یادگیری جمعی.
سلاح‌های متن‌باز غول‌های فناوری برای مهار ایجنت‌های هوشمند
علاوه بر تدوین استانداردها، اعضای OSAA ابزارها و فناوری‌های متن‌باز خود را برای مقابله با خطرات هوش مصنوعی به اشتراک گذاشته‌اند. این رویکرد به ویژه پس از حوادث نفوذ مدل‌های خودکار به پلتفرم‌های بزرگی مانند هاگینگ فیس (Hugging Face) اهمیت دوچندانی پیدا کرده است.
برخی از مهم‌ترین ابزارهای ارائه شده توسط اعضا عبارتند از:
- انویدیا: ارائه اسکنر آسیب‌پذیری مدل‌های زبانی بزرگ به نام Garak و مجموعه‌ای از مدل‌های متن‌باز.
- آمازون: به اشتراک‌گذاری ابزار ساخت ایجنت Strands Agents و زبان سیاست‌گذاری Cedar.
- اوکتا (Okta): توسعه فناوری‌های مربوط به هویت و دسترسی ایجنت‌های هوشمند.
- رد هت (Red Hat): ارائه راه‌کارهای حاکمیت و مدیریت ایجنت‌ها.
شرکت‌های سرشناسی مانند مایکروسافت، سیسکو، اینتل، ادوبی و ویزا به این ائتلاف پیوسته‌اند؛ اما غیبت بزرگانی چون OpenAI، گوگل و Anthropic توجه رسانه‌ها را به خود جلب کرده است، هرچند که گوگل و OpenAI پیش‌تر نامه سرگشاده حمایت از هوش مصنوعی متن‌باز را امضا کرده بودند.
سوالات متداول
ائتلاف OSAA چیست و چه هدفی دارد؟
این ائتلاف به رهبری انویدیا و با همکاری بیش از ۱۲۰ شرکت فناوری تشکیل شده تا استانداردهای امنیتی و ابزارهای متن‌باز را برای حفاظت از سیستم‌ها در برابر تهدیدات ایجنت‌های هوش مصنوعی توسعه دهد.
گروه SAFE چه وظیفه‌ای بر عهده دارد؟
گروه SAFE کارگروهی زیر نظر بنیاد لینوکس است که روی نحوه گزارش‌دهی محرمانه حوادث سایبری هوش مصنوعی و اشتراک‌گذاری امن راه‌حل‌ها تمرکز دارد.
آیا ابزارهای این ائتلاف به صورت رایگان ارائه می‌شوند؟
بله، اکثر اعضای ائتلاف از جمله انویدیا و آمازون فناوری‌ها و ابزارهای اسکن امنیتی خود را به صورت متن‌باز در اختیار توسعه‌دهندگان قرار داده‌اند.