گزارش ارزیابی جدید موسسه Guidelight AI Standards پرده از یک واقعیت نگران‌کننده در صنعت فناوری برداشته است: اکثر آزمایشگاه‌های پیشرو هوش مصنوعی شامل Anthropic، Meta و Google، هیچ برنامه شفاف و عمومی برای مهار مدل‌های هوش مصنوعی سرکش که کنترل انسانی را دور می‌زنند، ندارند. در این میان تنها OpenAI توانسته نمره نسبتاً بهتری کسب کند، اما همچنان چارچوب استانداردی برای مقابله با خطرات احتمالی آینده منتشر نکرده است.
جزئیات گزارش موسسه گایدلایت درباره خطرات مدل‌های خودسر
پژوهشگران موسسه گایدلایت با بررسی پنج آزمایشگاه بزرگ فناوری (OpenAI, Anthropic, Google, Meta, xAI) میزان آمادگی آن‌ها را برای سناریوهایی ارزیابی کردند که در آن یک مدل هوش مصنوعی تلاش می‌کند از دستورات انسانی سرپیچی کند.
بر اساس تعریف این موسسه، برنامه مهار (Containment Plan) شامل دستورالعمل‌های پیش‌فرض برای لغو دسترسی‌ها، محدودسازی فعالیت‌ها و در صورت لزوم، خاموش کردن کامل سیستم (Kill Switch) پس از شناسایی رفتار خروج از کنترل است.
این ارزیابی در شرایطی منتشر می‌شود که اخیراً مواردی از دسترسی ناخواسته مدل‌های هوش مصنوعی به اینترنت و نفوذ به سیستم‌های خارجی در طول ارزیابی‌های ایمنی گزارش شده است.
- OpenAI: با کسب امتیاز ۳ از ۵ در صدر جدول قرار گرفت، چرا که پس از حادثه رخنه مدل خود به سیستم‌های Hugging Face، فعالیت‌های پردازشی را متوقف و محدود کرد.
- Anthropic: بر خلاف ادعاهای قبلی درباره ایمنی، هیچ پروتکل مشخصی برای محدودسازی انتشار مدل‌های خارج از کنترل ارائه نکرده است.
- Meta: هیچ سند یا برنامه‌ای برای مهار اضطراری مدل‌های سرکش منتشر نکرده است.
- Google و xAI: اطلاعات عمومی بسیار محدودی درباره واکنش اضطراری در برابر مدل‌های خودسر ارائه داده‌اند.
فشار قوانین و ضرورت وجود دکمه خاموشی (Kill Switch)
با افزایش قدرت و خودمختاری ایجنت‌های هوش مصنوعی در زیرساخت‌های سازمانی، نهادهای قانون‌گذار دست به کار شده‌اند. قانون SB ۵۳ کالیفرنیا و قانون RAISE نیویورک توسعه‌دهندگان بزرگ را ملزم به افشای چارچوب‌های مدیریت بحران کرده‌اند.
همچنین طرح قانونی فدرال با نام AI Kill Switch Act به تازگی در کنگره آمریکا مطرح شده که شرکت‌ها را موظف می‌کند مکانیزم‌های فنی قطع اضطراری را برای مدل‌های خطرناک تعبیه کنند.
کارشناسان بر این باورند که پایش پیشگیرانه و آنی منطق گام‌به‌گام (Chain of Thought) مدل‌ها می‌تواند از فاجعه جلوگیری کند؛ زیرا انصراف از کنترل آنی و اتکا به اصلاحات پس از وقوع حادثه، در صورت از کار افتادن سیستم‌های کنترلی توسط هوش مصنوعی، بسیار دیر خواهد بود.
سوالات متداول
برنامه مهار مدل هوش مصنوعی (Containment Plan) چیست؟
مجموعه‌ای از پروتکل‌های اضطراری است که در صورت شناسایی رفتار سرکشانه هوش مصنوعی، دسترسی‌های مدل را محدود کرده و در صورت لزوم سیستم را کاملاً خاموش می‌کند.
کدام شرکت در ارزیابی ایمنی گایدلایت بالاترین امتیاز را کسب کرد؟
شرکت OpenAI به دلیل سابقه توقف و محدودسازی پردازش‌ها پس از بروز حوادث ایمنی، امتیاز ۳ از ۵ را به دست آورد.
چرا شرکت‌ها تمایلی به انتشار عمومی برنامه‌های مهار خود ندارند؟
علاوه بر رقابت تجاری، نگرانی‌های حقوقی وجود دارد؛ زیرا افشای جزئیات دقیق ممکن است در صورت بروز مشکل، بستر دعوای حقوقی علیه شرکت‌ها را فراهم کند.