استعفای جنجالی پژوهشگر آنتروپیک؛ هشدار درباره خطرات نابودی بشر با هوش مصنوعی خوداصلاح‌گر

جیکوب کاکسون (Jacob Coxon)، پژوهشگر پیش‌آموزش مدل‌های زبانی با سابقه فعالیت در OpenAI و Anthropic، در اقدامی جنجالی از سمت خود در شرکت آنتروپیک کناره‌گیری کرد. او با انتشار بیانیه‌ای تند نسبت به شتاب‌زدگی آزمایشگاه‌های بزرگ در دستیابی به هوش مصنوعی ابرهوشمند خوداصلاح‌گر (Recursive Self-Improvement) هشدار داد و این رقابت را «قمار روی جان انسان‌ها» نامید.

هشدار نسبت به از دست رفتن کنترل انسانی

کاکسون در هشدارهای عمومی خود اعلام کرد مدیران و محققان برجسته در محافل خصوصی اعتراف می‌کنند که مدل‌های ابرهوشمند ممکن است تا پایان همین دهه میلادی موجودیت بشر را به خطر بیندازند. با این حال، شرکت‌ها وارد مسابقه‌ای فرسایشی شده‌اند تا پیش از رقبای خود به فناوری خوداصلاح‌گری دست یابند.

نگرانی‌های اصلی مطرح‌شده پیرامون توسعه شتاب‌زده عبارتند از:

• حلقه‌های خوداصلاح‌گر تکرارشونده: سامانه‌هایی که می‌توانند نسل بعدی خود را بدون نیاز به برنامه‌نویس انسانی توسعه دهند.
• عدم درک رفتار درونی مدل‌ها: اجرای چرخه‌های یادگیری تقویتی سنگین بدون دسترسی به مکانیسم‌های مهار ایمن.
• فرار عامل‌های هوشمند از محیط ایزوله: تکرار حوادث نفوذ ایجنت‌های هوش مصنوعی به اینترنت و سرورهای خارجی مانند رویداد اخیر هاگینگ فیس (Hugging Face).

واکنش همکاران و تشدید فشارهای قانونی

ایوان هوبینگر، از دیگر پژوهشگران برجسته آنتروپیک، با تایید بخشی از این نگرانی‌ها اعلام کرد احتمال وقوع خطرات فاجعه‌بار در دهه آینده بیش از ۱۰ درصد است و هنوز هیچ برنامه مدونی برای حل چالش تراز هوش مصنوعی (AI Alignment) برای سامانه‌های فوق‌هوشمند وجود ندارد.

هم‌زمان با بالا گرفتن این انتقادات درون‌سازمانی، قانون‌گذاران در ایالات متحده و بریتانیا نیز لوایحی را برای ممنوعیت و نظارت سخت‌گیرانه بر توسعه ابرهوش مصنوعی به پارلمان‌ها ارائه کرده‌اند تا توسعه‌دهندگان پیش از ارتقای مدل‌ها، ملزم به ارائه طرح‌های مهار و توقف اضطراری شوند.

سوالات متداول

هوش مصنوعی خوداصلاح‌گر (Recursive Self-Improvement) چیست؟

فرآیندی است که در آن مدل هوش مصنوعی توانایی بازنویسی کد، اصلاح معماری و بازآموزی خود را به دست می‌آورد و بدون مداخله انسان هوش خود را به صورت تصاعدی ارتقا می‌دهد.

چرا پژوهشگر آنتروپیک استعفا داد؟

جیکوب کاکسون معتقد است رقابت تجاری میان غول‌های هوش مصنوعی باعث نادیده گرفتن پروتکل‌های ایمنی شده و توسعه سریع مدل‌های غیرقابل کنترل، بقای بشریت را تهدید می‌کند.