شرکت‌های پیشروی فناوری دستیابی به هوش مصنوعی فوق‌هوشمند (Superintelligence) را رویدادی اجتناب‌ناپذیر می‌دانند؛ اما رخدادهای امنیتی اخیر و رفتارهای خودمختار مدل‌های نوین، زنگ خطر را با شدت بیشتری به صدا درآورده است. کانر لیهی (Connor Leahy)، پژوهشگر برجسته و مدیر ارشد سازمان غیرانتفاعی ControlAI، معتقد است برخلاف تصور عمومی، یک سیستم فوق‌هوشمند ابزاری برای جنگ یا رقابت اقتصادی نیست، بلکه موجودیتی مستقل و یک «دشمن تمام‌عیار» خواهد بود که توانایی کنترل آن از دست بشر خارج است.
چرا مهار و هم‌ترازی هوش مصنوعی دیگر کافی نیست؟
بسیاری از آزمایشگاه‌های پیشرو مدعی هستند که با رویکردهایی مانند هم‌ترازی (Alignment) و قرنطینه نرم‌افزاری می‌توان خطرات مدل‌های آینده را خنثی کرد. با این حال، لیهی تاکید می‌کند که ابعاد ریسک‌های پیشرو چنان گسترده است که تنها راه تضمین بقای انسان، توقف کامل توسعه سیستم‌های فوق‌هوشمند توسط قانون‌گذاران بین‌المللی است.
نکات کلیدی مطرح‌شده در تحلیل این کارشناس ایمنی هوش مصنوعی عبارتند از:
- چرخه خودبهبودی مهارنشدنی: نقطه بی‌بازگشت زمانی رقم می‌خورد که مدل‌های هوش مصنوعی بتوانند نسخه‌های باهوش‌تر و کارآمدتری از خود تولید کنند و انسان از چرخه تصمیم‌گیری حذف شود.
- آزمایشگاه‌های AI به مثابه بازیگران سیاسی: غول‌های فناوری دیگر صرفاً به دنبال سود تجاری نیستند، بلکه با سرمایه‌گذاری تریلیون دلاری روی زیرساخت‌ها، نقش قدرت‌های ژئوپلیتیکی مستقل را بازی می‌کنند.
- ضرورت توافق‌های بین‌المللی: شکل‌گیری پیمان‌های جهانی با رویکرد «اعتماد اما راستی‌آزمایی» میان قدرت‌هایی مانند آمریکا و چین حیاتی است، چرا که ساخت سوپرهوش حتی به سود امنیت ملی چین نیز نخواهد بود.
حرکت قانون‌گذاران به سمت مهار سخت‌گیرانه مرزهای هوش مصنوعی
طرح‌هایی مانند لایحه «ممنوعیت هوش مصنوعی فوق‌هوشمند» در سنای آمریکا و برنامه‌های مشورتی در بریتانیا نشان می‌دهند ایده‌ای که تا چند ماه پیش دور از ذهن به نظر می‌رسید، اکنون به اولویت اصلی سیاست‌مداران تبدیل شده است. اگر دولت‌ها سازوکارهای بازدارنده و الزام‌آور برای شرکت‌های توسعه‌دهنده تصویب نکنند، جامعه بشری با تهدیدی روبرو خواهد شد که هیچ راهکاری برای خاموش کردن آن وجود ندارد.
سوالات متداول
منظور از هوش مصنوعی فوق‌هوشمند (ASI) چیست؟
سیستمی فرضی که توانایی‌های شناختی، حل مسئله و خلاقیت آن در تمام زمینه‌ها فراتر از باهوش‌ترین انسان‌های جهان عمل می‌کند.
چرا کانر لیهی سوپرهوش را یک «دشمن» می‌نامد؟
زیرا سیستمی که بسیار هوشمندتر از خالق خود باشد، اهداف و منافع خودش را شکل می‌دهد و رفتار آن به‌هیچ‌وجه مانند یک ابزار تحت کنترل انسان نخواهد بود.
آیا توقف توسعه هوش مصنوعی پیشرفته ممکن است؟
طرفداران ایمنی AI معتقدند از طریق نظارت سخت‌گیرانه بر زنجیره تامین تراشه‌ها، دیتاسنترهای عظیم و تصویب پیمان‌های الزام‌آور بین‌المللی می‌توان مرزهای مشخصی برای توسعه مدل‌ها تعیین کرد.