طی چند ماه گذشته، غول‌های فناوری هوش مصنوعی برنامه‌های ارزیابی ویژه و گاردریل‌های (نرده‌های محافظتی) سخت‌گیرانه‌ای ایجاد کرده‌اند تا مانع بهره‌برداری هکرهای شرور از مدل‌هایشان شوند. اما این محدودیت‌ها اکنون به یک تیغ دودم تبدیل شده‌اند و به‌جای جلوی هکرها را گرفتن، روند کاری مدافعان شبکه و پژوهشگران امنیت تهاجمی را مختل کرده‌اند.
در ماه ژوئن، دولت ایالات متحده محدودیت‌های کنترل صادراتی را روی مدل‌های مطرح هوش مصنوعی شرکت انتروپیک (Anthropic) یعنی Mythos و Fable اعمال کرد. این تصمیم در پی گزارش‌هایی گرفته شد که ادعا می‌کردند می‌توان گاردریل‌های ایمنی این مدل‌ها را برای طراحی و اجرای حملات سایبری دور زد. با اینکه بعداً این محدودیت‌ها لغو شد، اما انتروپیک همچنان مدل Mythos را به‌عنوان یک ابزار بسیار قدرتمند سایبری معرفی می‌کند که تنها در دسترس سازمان‌های تأییدشده قرار می‌گیرد.
دیوار بلند محافظت؛ چالش جدید محققان تدافعی و تهاجمی
ایجاد سطح دسترسی اختصاصی تنها محدود به انتروپیک نیست؛ شرکت OpenAI نیز با برنامه Trusted Access for Cyber و انتروپیک با برنامه Cyber Verification Program بستری فراهم کرده‌اند تا پژوهشگران امنیتی پس از احراز هویت بتوانند به مدل‌هایی با فیلترهای کمتر دسترسی داشته باشند. با این حال، بسیاری از متخصصان از این رویکرد انتقاد می‌کنند.
مارک داود (Mark Dowd)، پژوهشگر برجسته امنیت سایبری، در یک پادکست اختصاصی اشاره کرد: «اینکه چند شرکت بزرگ و خصوصی به‌صورت خودسرانه درباره ایمن بودن یا نبودن ابزارهای امنیتی تصمیم‌گیری کنند، اصلاً خوشایند نیست.» داود که سال‌ها در زمینه کشف و گزارش آسیب‌پذیری‌های روز صفر (Zero-Day) فعالیت کرده، معتقد است این تصمیمات کارشناسی‌نشده، پتانسیل کشف و ترمیم نقاط ضعف سیستم‌ها را کاهش می‌دهد.
کریس آنلی (Chris Anley)، دانشمند ارشد شرکت مشاوره امنیتی NCC Group، ابزارهای هوش مصنوعی را به چکش تشبیه می‌کند و می‌گوید: «شما نمی‌توانید بدون چکش خانه بسازید. هوش مصنوعی یک ابزار است اما ذاتاً می‌تواند جنبه سلاح نیز داشته باشد. وقتی از هوش مصنوعی می‌خواهید کدی را بازنویسی یا ایمن کند، همان دستور به مدل نشان می‌دهد چگونه آسیب‌پذیری‌های بحرانی را پیدا کند. بنابراین ابزارهای تهاجمی و تدافعی کاملاً به هم گره خورده‌اند و نمی‌توان آن‌ها را تفکیک کرد.»
مهاجرت به مدل‌های متن‌باز؛ پیامد غیرمنتظره گاردریل‌های سخت‌گیرانه
سخت‌گیری‌های بی‌مورد غول‌های هوش مصنوعی باعث شده است بسیاری از متخصصان امنیت سایبری، استراتژی خود را تغییر دهند. پائولو استانگو (Paolo Stagno)، مدیر ارشد فناوری Crowdfense، معتقد است که شرکت‌های هوش مصنوعی با مشتریان حرفه‌ای خود مانند کودکانی رفتار می‌کنند که نیاز به مراقبت دائمی دارند. او توضیح می‌دهد که تیمش تنها برای مهندسی معکوس از مدل‌های ابری استفاده می‌کند و برای کشف آسیب‌پذیری‌ها یا توسعه ابزارها به سراغ مدل‌های متن‌باز و محلی (Local) می‌رود تا اطلاعات حساس آسیب‌پذیری‌ها افشا نشود.
کریس تامپسون (Chris Thompson)، مدیرعامل شرکت امنیت سایبری RemoteThreat، به چالش دیگری اشاره می‌کند: «در عمل، پژوهشگران مجبورند به‌جای تمرکز بر کشف آسیب‌پذیری‌ها و بررسی قابلیت اکسپلویت، وقت زیادی را صرف چانه‌زنی و مذاکره با مدل کنند تا پاسخ‌های مسدودشده را دریافت نمایند.»
نتیجه این اقدام فرار پژوهشگران مسئولیت‌پذیر از سیستم‌های تحت مدیریت آمریکا و پناه بردن به مدل‌های متن‌باز خارجی (مانند مدل‌های GLM چین) است که بدون محدودیت روی سرورهای محلی اجرا می‌شوند. متخصصان هشدار می‌دهند اگر غول‌های هوش مصنوعی دسترسی مسئولانه را برای محققان خوش‌نام آسان‌تر نکنند، مدافعان در مسابقه سرعت با مهاجمان سایبری شکست خواهند خورد.
سوالات متداول
گاردریل یا نرده محافظتی هوش مصنوعی چیست؟
گاردریل‌ها مجموعه فیلترها و محدودیت‌های برنامه‌ریزی‌شده‌ای هستند که توسط توسعه‌دهندگان هوش مصنوعی ایجاد می‌شوند تا جلوی تولید محتوای مخرب، کدهای هک، ساخت سلاح یا دستورات آسیب‌رسان را بگیرند.
چرا متخصصان امنیت سایبری از گاردریل‌های هوش مصنوعی ناراضی هستند؟
زیرا این فیلترها تشخیص نمی‌دهند که کاربر یک هکر کلاه سفید و مدافع شبکه است یا یک مهاجم شرور. در نتیجه، هنگام بررسی کدهای مخرب برای کشف راهکارهای دفاعی، هوش مصنوعی از پاسخ دادن امتناع می‌کند و روند ایمن‌سازی سیستم‌ها را کند می‌سازد.
آیا محدودیت هوش مصنوعی باعث استفاده از مدل‌های متن‌باز می‌شود؟
بله، بسیاری از پژوهشگران برای فرار از پاسخ‌های مسدودشده و همچنین حفظ حریم خصوصی داده‌های حساس، به سمت استفاده از مدل‌های متن‌باز که روی سیستم شخصی (Local) اجرا می‌شوند، سوق پیدا کرده‌اند.