هشدارها پیرامون خطرات پیشرفت افسارگسیخته مدل‌های زبانی وارد فاز کاملاً متفاوتی شده است. داریو آمودی، مدیرعامل شرکت آنتروپیک (Anthropic)، با انتشار مانیفستی تازه خواستار مهار سرعت توسعه هوش مصنوعی در مرزهای دانش (Pacing the Frontier) شد؛ پیشنهادی که بلافاصله با تایید و همراهی چهره‌های سرشناسی چون سم آلتمن و ایلان ماسک همراه شد تا رقابت غول‌های فناوری وارد مرحله‌ای تازه از خودکنترلی و نظارت شود.
سه راهبرد کلیدی آنتروپیک برای کنترل شتاب هوش مصنوعی
آمودی دلیل اصلی این تصمیم را افزایش نمایی توانایی هوش مصنوعی در «توسعه نسل‌های بعدی خود» و همچنین رخدادهای امنیتی اخیر عنوان کرده است. طرح پیشنهادی او شامل سه محور اصلی برای مدیریت خطرات احتمالی سیستم‌های خودمختار است:
- استقرار ارزیاب‌های مستقل خارجی: حضور ناظران مستقل از سازمان‌هایی مانند METR درون شرکت‌های توسعه‌دهنده هوش مصنوعی. این افراد دسترسی‌هایی هم‌سطح تیم‌های ارزیابی ریسک داخلی خواهند داشت تا بر روند آموزش مدل‌ها و گزارش حوادث امنیتی نظارت کنند.
- همکاری و هماهنگی میان کشورهای دموکراتیک: تدوین استانداردهای ایمنی یکپارچه میان آزمایشگاه‌های پیشرو با همکاری دولت‌ها و اعطای معافیت‌های ضدانحصار (Antitrust) جهت تبادل داده‌های ایمنی.
- دیپلماسی و پیمان‌های جهانی: تعامل محدود و هدفمند میان قدرت‌های جهانی برای ممنوعیت کاربردهای مرگبار، از جمله توسعه سلاح‌های بیولوژیک توسط مدل‌های هوش مصنوعی.
واکنش غول‌های فناوری: از همراهی OpenAI تا تایید ایلان ماسک
آنتروپیک اعلام کرده است که به‌صورت داوطلبانه و یک‌جانبه اجازه ورود ناظران مستقل را به زیرساخت‌های خود صادر می‌کند. بلافاصله پس از این بیانیه، سم آلتمن مدیرعامل OpenAI اعلام کرد که با رویکرد آمودی کاملاً موافق است و شرکت متبوعش نیز به زودی سازوکار مشابهی را اجرایی خواهد کرد. از سوی دیگر، ایلان ماسک نیز در واکنشی کوتاه در شبکه اجتماعی ایکس بر درستی دیدگاه آمودی تاکید کرد.
با این حال، منتقدان سنتی حوزه فناوری نظرات متفاوتی دارند. برخی کارشناسان معتقدند تمرکز بر سناریوهای آخرالزمانی ممکن است باعث انحصارگری در قانون‌گذاری (Regulatory Capture) شود و تنها موقعیت شرکت‌های بزرگی مثل OpenAI و Anthropic را در بازار تثبیت کند، بدون اینکه آسیب‌های روزمره فعلی فناوری را برطرف سازد.
پرسش‌های متداول
چرا مدیرعامل آنتروپیک خواستار کند شدن روند توسعه هوش مصنوعی شد؟
به دلیل شتاب غیرقابل‌پیش‌بینی پیشرفت هوش مصنوعی و توانایی مدل‌ها در ارتقای خودکار نسل‌های بعدی که نیازمند کنترل و ارزیابی دقیق‌تر ریسک‌های ایمنی است.
نقش ناظران مستقل در شرکت‌های هوش مصنوعی چیست؟
این ارزیاب‌ها مانند بازرسان مالی در بانک‌ها، به داده‌ها و فرآیندهای داخلی آزمایشگاه‌های هوش مصنوعی دسترسی خواهند داشت تا رعایت استانداردهای ایمنی و افشای نقایص امنیتی را تضمین کنند.