گزارش‌های جدید نشان می‌دهد که شرکت OpenAI در مدل هوش مصنوعی جدید خود به نام Astra از روش تازه‌ای به نام «عمق تکراری» (Recurrent Depth) یا «تکرار مبهم» استفاده می‌کند. این تکنیک با خروج از مسیر خطی و قدم‌به‌قدم تفکر، به مدل اجازه می‌دهد روی یک پرسش در حلقه‌های متعدد پردازش انجام دهد. همین تغییر ساختاری موجی از نگرانی را میان پژوهشگران و کارشناسان ایمنی هوش مصنوعی ایجاد کرده، زیرا نظارت بر زنجیره تفکر (Chain of Thought) را بسیار دشوارتر می‌سازد.
چرا تکنیک «عمق تکراری» کارشناسان ایمنی را نگران کرده است؟
در مدل‌های استدلالی مرسوم، زنجیره تفکر به صورت متنی و گام‌به‌گام ثبت می‌شود و به متخصصان امکان می‌دهد نحوه رسیدن مدل به یک پاسخ را ارزیابی کنند. این شفافیت برای شناسایی رفتارهای مخرب یا انحرافات احتمالی هوش مصنوعی بسیار حیاتی است. اما در تکنیک عمق تکراری، فرآیند پردازش درون فضای پنهان مدل صورت می‌گیرد و ردپای خوانایی برای ناظران باقی نمی‌گذارد.
برخی از رهبران و فعالان حوزه ایمنی هوش مصنوعی واکنش‌های تندی به این موضوع نشان داده‌اند:
- باک شلگریس (مدیرعامل Redwood): وی اعلام کرده که اگر OpenAI این تکنیک را گسترش دهد، امکان نظارت بر زنجیره تفکر به طور کامل نابود خواهد شد.
- زوی موشوویتز (پژوهشگر ایمنی): او هشدار داد که استفاده شدید از این روش، ریسک یک «رقابت خطرناک» میان آزمایشگاه‌های هوش مصنوعی را افزایش می‌دهد و شاید مداخله قانون‌گذاران را ضروری کند.
- رایان گرینبرت (دانشمند ارشد Redwood Research): گرینبرت ابراز نگرانی کرد که توسعه بیشتر این معماری باعث می‌شود هوش مصنوعی صرفاً در فضای پنهان دست به استدلال بزند.
واکنش OpenAI و آینده شفافیت در مدل‌های استدلالی
با وجود انتقادهای مطرح‌شده، گزارش‌ها حاکی از آن است که میزان استفاده مدل Astra از تکنیک عمق تکراری محدود است. شرکت OpenAI نیز اتهام پنهان‌کاری یا حرکت به سمت پردازش غیرقابل‌فهم را رد کرده و بر متعهد بودن خود به حفظ شفافیت تاکید دارد.
یاکوب پاچوکی، دانشمند ارشد OpenAI، تصریح کرده که حفظ و استفاده از سیستم‌های نظارت بر زنجیره تفکر، از نخستین مدل‌های استدلالی تا به امروز، هدف اصلی برنامه‌های پژوهشی این شرکت بوده است. با این حال، گزارش‌های تکمیلی نشان می‌دهد که رقبای بزرگی همچون گوگل دیپ‌مایند و آنتروپیک نیز بررسی و گفتگو درباره استفاده از این روش را آغاز کرده‌اند.
سوالات متداول
تکنیک عمق تکراری (Recurrent Depth) چیست؟
این روش به مدل هوش مصنوعی اجازه می‌دهد یک پرسش را به‌جای طی کردن مراحل خطی، در چندین حلقه پردازشی مجدد تحلیل کند و بازدهی استدلال را افزایش دهد.
چرا نظارت بر زنجیره تفکر (CoT) در هوش مصنوعی اهمیت دارد؟
نظارت بر CoT به متخصصان کمک می‌کند نحوه تصمیم‌گیری مدل را بررسی کرده و از بروز رفتارهای ناایمن، انحراف یا اقدام‌های غیرقابل‌پیش‌بینی جلوگیری کنند.