نقشه راه مدیرعامل آنتروپیک برای مهار هوش مصنوعی

داریو آمودی، مدیرعامل شرکت آنتروپیک (Anthropic)، در مقاله‌ای تفصیلی خواستار مدیریت آگاهانه و کنترل سرعت توسعه مدل‌های پیشگام هوش مصنوعی شد. در شرایطی که هشدارهای دانشمندان درباره تهدیدهای مدل‌های خودبهبودبخش افزایش یافته، آمودی طرحی سه‌مرحله‌ای برای کاهش خطرات سیستم‌های پیشرفته ارائه داده و اعلام کرده است که شرکت آنتروپیک به‌صورت یک‌جانبه نخستین گام این توافق را اجرایی می‌کند.

سه گام کلیدی آنتروپیک برای مهار شتاب لجام‌گسیخته AI

مدیرعامل آنتروپیک معتقد است پیشرفت هوش مصنوعی طی ماه‌های اخیر با سرعتی غیرمنتظره روبه‌رو شده و توانایی این سامانه‌ها برای طراحی نسل بعدی خود زنگ خطر را به صدا درآورده است. طرح پیشنهادی آمودی برای کنترل این مرزها شامل سه ستون اصلی است:

• استقرار بازرسان و ارزیاب‌های مستقل: حضور کارشناسان سازمان‌های شخص ثالث (مانند METR) در شرکت‌های هوش مصنوعی همراه با دسترسی سیستمی مشابه تیم‌های امنیتی داخلی برای راستی‌آزمایی روندها.
• هم‌راستایی میان شرکت‌های کشورهای دموکراتیک: تعیین استانداردهای مشترک ایمنی و سقف برای نرخ پیشرفت فناوری با نظارت و معافیت‌های قانونی دولت آمریکا.
• دیپلماسی و همکاری جهانی: هماهنگی با کشورهای رقیب از جمله چین به‌منظور ممنوعیت استفاده از هوش مصنوعی در ساخت سلاح‌های بیولوژیک و خطرات فاجعه‌بار.

تعهد یک‌جانبه آنتروپیک و پاسخ به رقابت با چین

آنتروپیک متعهد شده است بدون انتظار برای دیگران، درهای سازمان خود را به روی ارزیاب‌های مستقل باز کند و به آنها نشان سازمانی، سیستم‌های اختصاصی و دسترسی مستقیم به سامانه‌های ارزیابی ریسک اعطا نماید. آمودی از قانون‌گذاران خواسته است این رویه را برای سایر توسعه‌دهندگان مدل‌های فرامرزی نیز الزامی کنند.

او در مواجهه با این فرضیه که کند شدن غرب موجب سبقت گرفتن رقبا می‌شود، تشدید کنترل‌های صادرات سخت‌افزار، تحریم تجهیزات ساخت تراشه و جلوگیری از استخراج یا تقطیر مدل‌ها (Model Distillation) را ابزاری کارآمد برای حفظ پیشتازی فناوری معرفی کرد.

طرح مهار مرزهای هوش مصنوعی (Pace the Frontier) چیست؟

این برنامه خواستار تنظیم آگاهانه سرعت آموزش مدل‌های بسیار قدرتمند است تا زمان کافی برای رفع چالش‌های ایمنی و ارزیابی ریسک فراهم شود.

تعهد عملی آنتروپیک در این زمینه شامل چه مواردی است؟

این شرکت به‌صورت یک‌جانبه به نهادهای ناظر بیرونی دسترسی کامل مشابه تیم‌های امنیتی داخلی خود اعطا می‌کند تا آزمون‌های ایمنی مستقل پیش از عرضه مدل‌ها انجام شود.