چالش‌های مربوط به امنیت هوش مصنوعی و نحوه کنترل توسعه این فناوری، جامعه علمی و صنعتی را به دو دسته متفاوت تقسیم کرده است. در حالی که برخی آزمایشگاه‌های بزرگ نگران انتشار آزادانه مدل‌های پیشرفته هستند، سه چهره برجسته جهان هوش مصنوعی شامل جفری هینتون (برنده جایزه نوبل)، فی‌فی لی (هم‌بنیان‌گذار World Labs) و اندرو ان‌جی (هم‌بنیان‌گذار کورسرا) در رویداد Ai4 لاس‌وگاس، موضع‌گیری شدیدی در برابر انحصار این فناوری اتخاذ کردند.
این سه پژوهشگر ارشد معتقدند محدود کردن دسترسی عموم به مدل‌های هوش مصنوعی و سپردن کلید کنترل آن به دست چند شرکت معدود، خطرناک‌تر از چالش‌های امنیتی موجود است.
خطر انحصار قدرتمندان و رقابت ژئوپلیتیک
انحصار پلتفرم‌های تکنولوژی نمونه‌های بارزی در تاریخ فناوری دارد. همان‌طور که اپل و گوگل بر سیستم‌عامل‌های موبایل تسلط یافته‌اند، تمرکز قدرت هوش مصنوعی در دست چند آزمایشگاه محدود می‌تواند سرعت نوآوری را کند کرده و نحوه استفاده کاربران از فناوری را تحت تدابیر شرکتی قرار دهد.
اندرو ان‌جی با ابراز نگرانی از ایجاد «دروازه‌بانان فناوری» تأکید کرد که چنین رویکردی دسترسی عمومی به قابلیت‌های بی‌نظیر هوش مصنوعی را محدود می‌کند. به باور او، ترویج مدل‌های متن‌باز تنها راه حل برای جلوگیری از تسلط یکپارچه آزمایشگاه‌های تجاری است.
- قدرت نرم بین‌المللی: نفوذ مدل‌های وزن‌باز (Open-weight) چین در آسیا و آفریقا رو به افزایش است.
- مزیت اقتصادی: مدل‌های ارزان‌تر و سریع‌تر همیشه شانس بالاتری برای پذیرش توسط کسب‌وکارها دارند.
- خطر عقب‌ماندگی آمریکا: سخت‌گیری‌های رگولاتوری ناشی از ترس‌آفرینی در غرب می‌تواند میدان رقابت را به رقبا واگذار کند.
مرز باریک میان شفافیت، امنیت و مقررات‌گذاری
اختلاف نظر ظریفی نیز میان این سه استاد برجسته وجود دارد. جفری هینتون تفاوت ساختاری مهمی میان نرم‌افزارهای متن‌باز سنتی و مدل‌های وزن‌باز قائل است. در مدل‌های وزن‌باز، پارامترهای آموزش‌دیده هوش مصنوعی منتشر می‌شود که به افراد سودجو اجازه می‌دهد با هزینه بسیار کم، مدل را برای اهداف تخریبی مانند حملات سایبری بازآموزی کنند. با این حال، هینتون اذعان دارد که نبرد منع انتشار وزن‌ها دیگر به پایان رسیده و این مدل‌ها اکنون به بخشی جدایی‌ناپذیر از زیست‌بوم هوش مصنوعی تبدیل شده‌اند.
از سوی دیگر، فی‌فی لی نگاه صفر و صدی به موضوع شفافیت را نادرست می‌داند. او با شبیه‌سازی هوش مصنوعی با «فیزیک هسته‌ای» و «پروژه ژنوم انسانی»، پیشنهاد می‌کند سطوح مختلفی از دسترسی آزاد و بسته طراحی شود تا هم اکتشافات علمی و آموزشی پیش برود و هم مدل‌های تجاری و مقررات امنیتی حفظ شوند.
هر سه پیشگام بر یک اصل مشترک توافق داشتند: تنظیم‌گری و مقررات‌گذاری هوشمندانه برای هدایت هوش مصنوعی الزامی است و نباید سرنوشت این فناوری حیاتی را صرفاً به تصمیمات شخصی مدیران ارشد ثروتمند واگذار کرد.
سوالات متداول
تفاوت نرم‌افزار متن‌باز با مدل وزن‌باز (Open-weight) چیست؟
در نرم‌افزار متن‌باز، کدهای برنامه‌نویسی برای بازبینی و رفع باگ در دسترس همگان است. اما در مدل وزن‌باز، پارامترها و وزن‌های داخلی مدلِ آموزش‌دیده منتشر می‌شود که امکان تغییر کاربری آن با هزینه بسیار پایین را فراهم می‌کند.
چرا اندرو ان‌جی از توسعه مدل‌های متن‌باز حمایت می‌کند؟
اندرو ان‌جی معتقد است مدل‌های متن‌باز مانع انحصار چند شرکت بزرگ فناوری بر هوش مصنوعی شده و موجب توزیع عادلانه این ابزار در تمام جوامع و کسب‌وکارهای کوچک می‌شود.
آیا پیشگامان هوش مصنوعی با وضع مقررات موافق هستند؟
بله، آن‌ها تأکید دارند که وجود مقررات حکومتی و چارچوب‌های قانونی برای کنترل خطرات هوش مصنوعی ضروری است و این مسئولیت نباید صرفاً بر عهده صاحبان شرکت‌های بزرگ باقی بماند.