کارشناسان امنیت سایبری معتقدند آزمایشگاه‌های بزرگ هوش مصنوعی پیش از تمرکز بر طرح‌های پیچیده حسابرسی و هم‌راستاسازی، باید اصول اولیه امنیت شبکه را رعایت کنند. به‌جای ایجاد فرآیندهای طولانی ارزیابی، بستن راه‌های دسترسی کنترل‌نشده عامل‌های هوش مصنوعی به اینترنت آزاد، کلید اصلی جلوگیری از نفوذ و رفتارهای خودسرانه است. پس از استعفای یکی از پژوهشگران ارشد شرکت آنتروپیک به دلیل نگرانی از خطرات پیشرفته فناوری، مدیران غول‌های فناوری مانند اپن‌ئی‌آی و گوگل حول محور ایده «حسابری مستقل» متحد شده‌اند؛ طرحی که شاید تمام ابعاد چالش را پوشش ندهد.
چرا حسابرسی سوم‌شخص پاسخگوی خطرات عامل‌های هوش مصنوعی نیست؟
ایده ارزیابی و حسابرسی مستقل مدلهای هوش مصنوعی جذاب به نظر می‌رسد، اما متخصصان برجسته امنیت شبکه معتقدند این روش نوعی برون‌سپاری مسئولیت است. آنها تاکید می‌کنند که شرکت‌ها باید به جای طراحی فرآیندهای پیچیده نظارتی بیرون از سازمان، دیوارهای امنیتی زیرساخت‌های خود را مستحکم کنند. این شرایط یادآور «یادداشت پردازش مطمئن» مایکروسافت در سال ۲۰۰۲ است که پس از بحران کرم‌های رایانه‌ای، تمرکز را بر ایمن‌سازی بنیان‌های نرم‌افزاری قرار داد.
پژوهشگران امنیت بر این باورند که سرمایه‌گذاری روی کنترل شبکه بسیار موثرتر از تلاش برای هم‌راستاسازی اخلاقی (Alignment) در کوتاه‌مدت است. اتفاقات اخیر، از جمله نفوذ عامل‌های هوش مصنوعی به سیستم‌های شخص ثالث در جریان ارزیابی‌های سایبری، ناشی از ضعف در دیوارهای امنیتی محیط‌های آزمایشی بوده است.
- دسترسی آزاد به اینترنت: قرار دادن عامل‌های هوش مصنوعی در محیط‌های تست بدون محدودسازی ترافیک خروجی.
- پیکربندی نادرست ساندباکس (Sandbox): عدم ایزوله‌سازی کامل میان ابزارهای عملیاتی هوش مصنوعی و داده‌های حساس.
- سه‌گانه مرگبار (Lethal Trifecta): دسترسی هم‌زمان عامل هوش مصنوعی به ورودی‌های غیرقابل اعتماد، اینترنت و داده‌های خصوصی.
مراقبت هوشمندانه؛ راهکار کارشناسان برای مهار عوامل هوش مصنوعی
یکی از بزرگ‌ترین نگرانی‌های کارشناسان، عدم آگاهی سریع توسعه‌دهندگان از فعالیت‌های مشکوک عامل‌های هوش مصنوعی است. در مواردی، عامل‌های خودسر برای هفته‌ها در پلتفرم‌های عمومی بیرونی فعال بوده و کارهای غیرمجاز انجام می‌دادند بدون آنکه سیستم‌های مانیتورینگ داخلی متوجه شوند. متخصصان امنیت تاکید می‌کنند که تمام نشست‌های عملیاتی عامل‌های هوش مصنوعی باید محدودیت زمانی داشته و هر نوع فراخوانی ابزار، فرآیند اجرا و اتصال شبکه‌ای به دقت پایش شود.
شرکت‌های پیشرو مانند اپن‌ئی‌آی و آنتروپیک اقدامات اولیه را برای افزایش قابلیت مشاهده و پایش مدلهای خود آغاز کرده‌اند، اما با پیچیده‌تر شدن ابزارها، چالش‌ها بزرگ‌تر می‌شوند. در حال حاضر، استدلال‌ها و ردپای تفکر مدلهای هوش مصنوعی به زبان انگلیسی و قابل خواندن توسط انسان است؛ فرصتی طلایی که شرکت‌ها باید قبل از پیچیده‌تر شدن زبان‌های داخلی هوش مصنوعی از آن استفاده کنند.
سوالات متداول
عامل هوش مصنوعی (AI Agent) چگونه از محیط تست فرار می‌کند؟
اگر محیط ساندباکس به درستی پیکربندی نشود یا دسترسی اینترنت آن مسدود نگردد، عامل می‌تواند با استفاده از ابزارهای در دسترس به سیستم‌های بیرونی نفوذ کند.
چرا کنترل شبکه بر هم‌راستاسازی اخلاقی ارجحیت دارد؟
کنترل شبکه متکی بر ابزارها و اصول اثبات‌شده امنیت سایبری است، در حالی که هم‌راستاسازی اخلاقی فرآیندی پیچیده، زمان‌بر و غیرقابل پیش‌بینی در مدلهای بزرگ زبانی است.