مدیرعامل و هم‌بنیان‌گذار آنتروپیک، داریو آمودی (Dario Amodei)، به شایعات اخیر درباره تلاش این شرکت برای ممنوعیت مدل‌های هوش مصنوعی متن‌باز (Open-Weight) پاسخ داد. او به‌صراحت اعلام کرد که آنتروپیک هرگز خواستار ممنوعیت مدل‌های متن‌باز نبوده است، اما همچنان از پیشرفت‌های نظامی و بیولوژیکی هوش مصنوعی در کشورهای استبدادی به‌ویژه چین بیم دارد.
شفاف‌سازی آنتروپیک درباره مدل‌های هوش مصنوعی متن‌باز
پس از انتشار نامه‌ای سرگشاده توسط رهبران دنیای فناوری مانند جن سن هوانگ (مدیرعامل انویدیا)، متا، مایکروسافت و هاگینگ فیس علیه محدودیت‌های شتاب‌زده بر مدل‌های متن‌باز، گمانه‌زنی‌هایی مطرح شد که آنتروپیک از تحریم این مدل‌ها حمایت می‌کند.
آمودی در یادداشتی رسمی این ادعاها را رد کرد و موضع دقیق خود را این‌گونه تشریح کرد:
- مدل‌های متن‌باز بی‌خطر، یک سرمایه عمومی هستند: مدل‌هایی که قابلیت‌های خطرناک ندارند، برای توسعه‌دهندگان، پژوهشگران و کسب‌وکارها ارزش زیادی ایجاد می‌کنند و هزینه‌ای جز توان محاسباتی ندارند.
- تکذیب حمایت از ممنوعیت: او تاکید کرد که هیچ‌گاه خواستار قانون‌گذاری برای مسدودسازی کلی مدل‌های وزن‌باز نبوده است.
نگرانی‌های اصلی داریو آمودی: چین و برهم خوردن توازن نظامی
با وجود دفاع از مدل‌های متن‌باز عمومی، مدیرعامل آنتروپیک هشدار داد که تهدید اصلی از سوی حکومت‌های استبدادی و در رأس آن‌ها حزب کمونیست چین شکل می‌گیرد. او معتقد است توسعه مدل‌های پرقدرت در چین می‌تواند خطرات جبران‌ناپذیری به همراه داشته باشد.
محورهای اصلی نگرانی‌های آمودی شامل موارد زیر است:
- برتری نظامی و سرکوب داخلی: دستیابی کشورهای مستبد به هوش مصنوعی قدرتمندتر از آمریکا می‌تواند به برتری نظامی دائمی و سرکوب شدیدتر شهروندان منجر شود.
- تهدیدات بیولوژیکی و سایبری: برداشتن نرده‌های حفاظتی (Guardrails) از روی مدل‌های متن‌باز بسیار ساده است و امکان بازگرداندن یا حذف آن‌ها پس از انتشار وجود ندارد.
- تقطیر مدل‌ها (Distillation) و سرقت فکری: آزمایشگاه‌های چینی با ارسال پرسش‌های مداوم به مدل‌های پیشرفته آمریکایی، نحوه کارکرد آن‌ها را کپی می‌کنند.
آمودی راهکارهایی نظیر محدودیت صادرات تراشه‌های پیشرفته، مقابله جدی با تقطیر مدل‌ها و ایجاد یک چارچوب بین‌المللی برای ارزیابی ایمنی مدل‌های هوش مصنوعی پیشرفته را پیشنهاد می‌کند.
سوالات متداول
آیا آنتروپیک موافق ممنوعیت مدل‌های هوش مصنوعی متن‌باز است؟
خیر، داریو آمودی به‌صراحت اعلام کرده که آنتروپیک هرگز خواستار ممنوعیت مدل‌های متن‌باز نبوده و آن‌ها را برای توسعه فناوری مفید می‌داند.
علت اصلی نگرانی مدیرعامل آنتروپیک چیست؟
نگرانی اصلی او دستیابی حکومت‌های استبدادی به‌ویژه چین به هوش مصنوعی قدرتمند برای اهداف نظامی، سرکوب اجتماعی و حملات بیولوژیکی بی‌ضابطه است.
تقطیر مدل (Distillation) در هوش مصنوعی چیست؟
تقطیر فرآیندی است که در آن یک سیستم هوش مصنوعی با ارسال پرامپت‌های فراوان به یک مدل هوشمندتر، دانش و طرز کار آن را استخراج و کپی می‌کند.