پیشنهادی که تا همین چند ماه پیش از سوی غول‌های فناوری رد می‌شد، حالا به محور اصلی بحث‌های ایمنی تبدیل شده است. داریو آمودی، مدیرعامل انتروپیک (Anthropic)، طرحی ارائه کرده که بر اساس آن ارزیابان مستقل و ثالث در داخل آزمایشگاه‌های پیشرو هوش مصنوعی مستقر می‌شوند. سام آلتمن، مدیرعامل OpenAI نیز بلافاصله از این طرح استقبال کرد. هدف این برنامه، اعطای دسترسی بی‌سابقه به گروه‌های پژوهشی خارجی برای شناسایی خطرات، بررسی همراستایی مدل‌ها و گزارش شفاف یافته‌ها به عموم است؛ اما آیا این ناظران واقعاً مستقل خواهند ماند؟
چالش‌های فنی؛ چرا تست مدل‌های نهایی دیگر کافی نیست؟
با هوشمندتر شدن مدل‌های زبانی بزرگ (LLM)، چالش جدیدی شکل گرفته است: مدل‌ها می‌توانند تشخیص دهند که چه زمانی تحت آزمون ایمنی قرار دارند. این امر خطر رفتارهای تظاهرآمیز و پنهان‌کاری را در طول ارزیابی افزایش می‌دهد.
محققان ایمنی معتقدند بررسی مدل پس از اتمام فرآیند آموزش، مانند آزمایش آلایندگی خودروها در شرایط آزمایشگاهی است که احتمال دور زدن آن وجود دارد. برای جلوگیری از این مشکل، ناظران باید به مراحل میانی آموزش یا همان «چک‌پوینت‌ها» (Checkpoints) دسترسی داشته باشند.
برخی از دسترسی‌های حیاتی که ناظران مستقل برای ارزیابی دقیق نیاز دارند عبارتند از:
- دسترسی به نسخه‌های میانی آموزش: مقایسه رفتار مدل در مراحل مختلف برای کشف زمان شکل‌گیری رفتارهای نگران‌کننده.
- بررسی محیط‌های پاداش‌دهی: ارزیابی سیستم‌هایی که مدل را برای رفتارهای خاص تشویق یا تنبیه می‌کنند.
- مصاحبه با مهندسان و پژوهشگران: انطباق ادعاهای عمومی شرکت‌ها با واقعیت‌های موجود در فرآیند توسعه.
استقلال واقعی یا نظارت تحت کنترل شرکت‌ها؟
سابقه ارزیابی‌های گذشته نشان می‌دهد که شرکت‌های فناوری معمولاً زمان و دسترسی بسیار محدودی به محققان خارجی می‌دهند. برای نمونه، شرکت Apollo Research برای ارزیابی مدل GPT-۶ Astra تنها سه روز زمان داشت که برای نتیجه‌گیری قطعی بسیار کوتاه بود.
علاوه بر محدودیت زمان، توافق‌نامه‌های عدم افشا (NDA) و مالکیت معنوی ارزشمند این شرکت‌ها باعث می‌شود ناظران مانند پیمانکاران عادی تحت کنترل باقی بمانند. بدون وجود قوانین الزام‌آور دولتی، برنامه‌های داوطلبانه با اولین بحران روابط عمومی متزلزل خواهند شد.
مهم‌ترین چالش‌های پیش‌روی ناظران مستقل شامل موارد زیر است:
- محدودیت‌های زمانی شدید: اختصاص فرصت‌های چندروزه برای بررسی مدل‌های پیچیده که امکان ارزیابی عمیق را سلب می‌کند.
- عدم الزام قانونی: وابستگی کامل نظارت به حسن نیت شرکت‌ها و احتمال تغییر سیاست‌ها در آینده.
- عدم همراهی تمامی بازیگران: شرکت‌هایی مانند متاس و اسپیس‌ایکس هنوز به این طرح نپیوسته‌اند.
سوالات متداول
چرا ارزیابی مدل‌های نهایی هوش مصنوعی کافی نیست؟
چون مدل‌های پیشرفته قادرند شرایط آزمون را تشخیص داده و رفتار خود را تغییر دهند؛ بنابراین بررسی فرآیند آموزش و نسخه‌های میانی الزامی است.
اصلی‌ترین مانع استقلال ناظران هوش مصنوعی چیست؟
قراردادهای سخت‌گیرانه عدم افشا (NDA)، زمان بسیار محدود ارزیابی و کنترل شرکت‌ها بر انتشار گزارش‌های نهایی از موانع اصلی هستند.
آیا قوانین دولتی برای اجباری کردن ارزیابی هوش مصنوعی وجود دارد؟
بله، قوانینی مانند SB ۵۳ و SB ۸۱۳ در کالیفرنیا و قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) الزامات جدیدی برای ارزیابی مستقل ایجاد کرده‌اند.