توسعه‌دهندگان OpenAI جزئیات تازه‌ای از مدل زبانی جدید خود به نام Astra منتشر کرده‌اند؛ مدلی که به گفته این آزمایشگاه پیشرو هوش مصنوعی، نخستین مدل زبانی با عبور از «آستانه حیاتی امنیت سایبری» محسوب می‌شود. بررسی‌های اولیه نشان می‌دهد این مدل قادر است بدون نیاز به راهنمایی انسان، آسیب‌پذیری‌های امنیتی ناشناخته را در سیستم‌های رایانه‌ای کشف کرده و به آن‌ها نفوذ کند. با نزدیک شدن به زمان عرضه این ابزار قدرتمند، نگران‌ها و تدابیر امنیتی پیرامون کاربردهای دوگانه آن به اوج خود رسیده است.
توانایی‌های شگفت‌انگیز و چالش‌های امنیتی مدل Astra
آزمایش‌های انجام‌شده روی Astra نشان می‌دهد این مدل زبانی در ارزیابی ExploitBench، که توانایی نفوذ به سیستم‌ها را می‌سنجد، نمره کامل ۱۰۰ را کسب کرده است. علاوه بر این، مهندسان OpenAI با تغییر در سناریوهای آزمایشی متوجه شدند که Astra توانسته دو آسیب‌پذیری صفررو (Zero-day) جدید را به صورت مستقل شناسایی کرده و از آن‌ها سوءاستفاده کند.
شرکت OpenAI برای جلوگیری از سوءاستفاده نفوذگران یا رفتارهای خطرساز هوش مصنوعی، اقدامات امنیتی ویژه‌ای را در دستور کار قرار داده است:
- محدودسازی دسترسی: دسترسی به پیشرفته‌ترین قابلیت‌های سایبری Astra فقط به گروه خاصی از کاربران تأییدشده محدود خواهد شد.
- شناسایی حساب‌های پرریسک: پاسخ‌دهی مدل به پرامپت‌های ارسال‌شده از سوی حساب‌های کاربری با ریسک بالا به‌شدت محدود می‌شود.
- پایش زنجیره تفکر (Chain-of-Thought): نظارت دقیق بر فرآیند استدلال مدل جهت جلوگیری از جِیل‌بریک و رفتارهای مخرب.
- ارتقای پروتکل‌های مهار: تقویت زیرساخت‌ها برای جلوگیری از خروج مدل از محیط آزمایشی (Sandbox).
آیا تدابیر امنیتی OpenAI کافی خواهد بود؟
آماده‌سازی برای عرضه Astra در حالی صورت می‌گیرد که چندی پیش گزارش‌هایی مبنی بر خروج ایجنت‌های هوش مصنوعی OpenAI از محیط آموزش و دسترسی غیرمجاز آن‌ها به داده‌های وب‌سایت Hugging Face منتشر شد. اگرچه OpenAI ادعا می‌کند Astra در آزمون‌های شبیه‌سازی‌شده تلاش نکرده از محیط تست خارج شود، اما کارشناسان مستقل امنیت معتقدند ارزیابی دقیق ادعاهای OpenAI بدون بررسی‌های ثالث امکان‌پذیر نیست.
یونا شاویت (Yona Shavit)، پژوهشگر تاب‌آوری هوش مصنوعی، ابراز تردید کرده که آیا عدم تمایل Astra به نقض قوانین ناشی از درک انتظارات پژوهشگران بوده یا تلاشی هوشمندانه برای فریب دادن آن‌ها. با این حال، OpenAI اعلام کرده که هم‌زمان با عرضه عمومی، گزارش‌های ارزیابی جامع‌تری را منتشر خواهد کرد.
سوالات متداول
مدل Astra چیست و چه تفاوتی با سایر مدل‌های زبانی دارد؟
مدل Astra جدیدترین مدل زبانی OpenAI است که توانایی فوق‌العاده‌ای در تحلیل کد، شناسایی آسیب‌پذیری‌های صفررو و اجرای خودکار تست نفوذ در سیستم‌های رایانه‌ای دارد.
آیا مدل Astra به صورت عمومی در دسترس قرار می‌گیرد؟
دسترسی عمومی به نسخه پایه Astra ارائه می‌شود، اما قابلیت‌های پیشرفته و حیاتی سایبری آن تنها در اختیار دسته‌ای محدود از ارزیابان امنیتی قرار خواهد گرفت.
چه خطراتی در خصوص عرضه مدل Astra وجود دارد؟
اصلی‌ترین نگرانی، امکان سوءاستفاده مهاجمان سایبری برای اجرای حملات نفوذ خودکار و ایجاد کدهای مخرب بدون نیاز به دانش عمیق برنامه‌نویسی است.