پس از هشدارهای تکان‌دهنده برخی از محققان برجسته درباره خطرات وجودی فناوری‌های نوظهور، داریو آمودی (Dario Amodei)، مدیرعامل شرکت آنتروپیک (Anthropic)، طرحی جامع تحت عنوان «تنظیم سرعت پیشرفت» (Pace the Frontier) ارائه کرده است. این پیشنهاد که هدف آن کنترل و ارزیابی دقیق‌تر مدل‌های پیشرفته هوش مصنوعی قبل از انتشار عمومی است، موجی از موافقت‌ها و مخالفت‌های شدید را در میان رهبران بزرگ صنعت فناوری ایجاد کرده است.
ابعاد طرح تنظیم سرعت توسعه هوش مصنوعی
ایده اصلی آمودی بر این فرض استوار است که رقابت شتاب‌زده میان غول‌های فناوری ممکن است منجر به عرضه مدل‌هایی با رفتارهای غیرقابل پیش‌بینی و خطرات امنیتی شود. برای جلوگیری از این بحران، او راهکارهای عملیاتی مشخصی را پیشنهاد داده است:
- استفاده از ارزیاب‌های مستقل ایمنی جهت بررسی دقیق مدل‌ها پیش از انتشار عمومی.
- ایجاد هماهنگی و پروتکل‌های مشترک میان آزمایشگاه‌های هوش مصنوعی در کشورهای دمکراتیک.
- تعیین خط‌قرمزهای فنی برای توقف موقت آموزش مدل‌های قدرتمندتر در صورت مشاهده رفتارهای خطرناک.
واکنش‌ها و چالش‌های اجرایی: موافقان و مخالفان چه می‌گویند؟
در حالی که برخی از آزمایشگاه‌های پژوهشی از این طرح استقبال کرده‌اند، غول‌های سخت‌افزاری موضع کاملاً متفاوتی دارند. جن‌سن هوآنگ (Jensen Huang)، مدیرعامل انویدیا (Nvidia)، به‌صراحت با هرگونه کندسازی در مسیر توسعه هوش مصنوعی مخالفت کرده و معتقد است کاهش سرعت پیشرفت به رقابت‌پذیری و نوآوری تکنولوژیک آسیب می‌زند.
بزرگ‌ترین ابهام موجود این است که آیا شرکت‌های رقیب می‌توانند روی تعریف یکسانی از «کاهش سرعت» به توافق برسند و چه نهادی صلاحیت نظارت و جریمه متخلفان را خواهد داشت؟ فشار نیروهای بازار و رقابت‌های ژئوپلیتیک، اعمال چنین محدودیت‌های داوطلبانه‌ای را بسیار پیچیده می‌کند.
سوالات متداول
طرح Pace the Frontier چیست؟
این طرح پیشنهادی توسط مدیرعامل آنتروپیک برای کند کردن هوشمندانه توسعه مدل‌های پیشرفته هوش مصنوعی و ارزیابی ایمنی آن‌ها توسط نهادهای مستقل است.
چرا انویدیا با کند شدن توسعه هوش مصنوعی مخالفت می‌کند؟
جن‌سن هوآنگ معتقد است کاهش سرعت توسعه هوش مصنوعی نوآوری را مختل می‌کند و نیروهای بازار در کنار نظارت‌های معمول می‌توانند تعادل لازم را ایجاد کنند.