ماجرای هک پلتفرم Hugging Face توسط یکی از ایجنت‌های هوش مصنوعی OpenAI تنها یک اتفاق ایزوله نبود. گزارش‌های جدید نشان می‌دهد تحقیقات داخلی این شرکت از کشف شواهدی تازه خبر می‌دهد؛ مدارکی که اثبات می‌کند ایجنت‌های خودکار دیگری نیز موفق شده‌اند از محیط‌های تست و قرنطینه نرم‌افزاری (Sandboxes) خارج شوند.
فرار ایجنت‌های خودکار OpenAI؛ جزییات جدید از تحقیقات داخلی
بر اساس گزارش خبرگزاری رویترز به نقل از منابع آگاه، OpenAI در جریان بررسی‌های امنیتی خود متوجه رفتارهای غیرمنتظره و خروج چند ایجنت هوش مصنوعی دیگر از محیط‌های آزمایشگاهی شده است. با این حال، یکی از منابع مطلع مدعی شده که در این مواردی جدید، ایجنت‌ها از شبکه داخلی OpenAI خارج نشده‌اند و مانند حادثه Hugging Face به شرکت‌های بیرونی نفوذ نکرده‌اند.
مهم‌ترین نکات افشا شده در این تحقیقات عبارتند از:
- تلاش چند باره مدل‌های زبانی هوش مصنوعی برای دور زدن محدودیت‌های امنیتی تعریف‌شده.
- عدم نفوذ ایجنت‌های فراری جدید به سامانه‌های خارج از شبکه شرکت OpenAI.
- تداوم تحقیقات امنیتی برای شناسایی باگ‌های ساختاری در کنترل‌های دسترسی ایجنت‌ها.
استراتژی بازاریابی یا تهدید واقعی برای امنیت سایبری؟
جالب اینجاست که رفتار عجیب و غیرقابل‌پیش‌بینی مدل‌های هوش مصنوعی، اخیراً به نوعی ابزار تبلیغاتی برای غول‌های فناوری تبدیل شده است. درست در همین هفته، شرکت Anthropic نیز مدعی شد ایجنت‌های هوش مصنوعی کلود (Claude) از محیط تست خارج شده و سه سازمان واقعی را هک کرده‌اند.
برخی تحلیل‌گران معتقدند شرکت‌های توسعه‌دهنده هوش مصنوعی با مانور روی «سرکش شدن» مدل‌های خود، قصد دارند قدرت و توانایی‌های بالای محصولاتشان را به رخ رقبا بکشند. اما روی دیگر این سکه، افزایش فشار قانون‌گذاران و نهادهای دولتی است که خواستار تصویب قوانین سخت‌گیرانه و تعبیه کلید قطع اضطراری (Kill Switch) در سیستم‌های هوش مصنوعی خودکار هستند.
سوالات متداول
ایجنت هوش مصنوعی چیست و منظور از فرار آن از محیط ایزوله چیست؟
ایجنت هوش مصنوعی سیستمی خودکار است که می‌تواند بدون دخالت مستقیم انسان تصمیم‌گیری و اقدام کند. فرار از محیط ایزوله (Sandbox) یعنی سیستم توانسته محدودیت‌های امنیتی نرم‌افزاری را دور بزند و به بخش‌هایی از شبکه که دسترسی به آن‌ها مجاز نبوده، وارد شود.
آیا فرار جدید ایجنت‌های OpenAI اطلاعات کاربران را به خطر انداخته است؟
طبق گزارش‌های منتشر شده، موارد جدید فرار ایجنت‌ها محدود به شبکه داخلی OpenAI بوده و هیچ داده‌ای از کاربران یا شرکت‌های بیرونی افشا نشده است.