افشاگری‌های جدید نشان می‌دهد غول‌های هوش مصنوعی شامل OpenAI، Anthropic و Google DeepMind در چند هفته گذشته مذاکرات فشرده‌ای را پیرامون ایمنی هوش مصنوعی آغاز کرده‌اند. این همکاری نادر میان رقبای سرسخت تکنولوژی، با هدف جلوگیری از خطرات فاجعه‌بار پیشرفته‌ترین مدل‌ها و تضمین سودمندی حداکثری این فناوری برای کل جامعه بشری شکل گرفته است. کریس لهان، مدیر سیاست‌گذاری عمومی OpenAI، تایید کرد که این گفتگوها برای ایجاد استانداردهای نظارتی واحد و صیانت از سلامت عمومی جامعه ضروری است.
ائتلاف غول‌ها برای مهار خطرات فاجعه‌بار و افزایش رفاه عمومی
در راستای بیشینه‌سازی منفعت عمومی و کاهش پیامدهای زیان‌بار توسعه بی‌رویه، مدیران ارشد فناوری به این نتیجه رسیده‌اند که رقابت افسارگسیخته نباید بر سلامت و امنیت جامعه سایه بیندازد. داریو آمودی، مدیرعامل Anthropic، اخیراً در مقاله‌ای خواهان کندتر کردن سرعت توسعه مدل‌های مرزی (Frontier AI) شد؛ درخواستی که بلافاصله با حمایت سام آلتمن و دمیس حسابیس مواجه شد.
هدف اصلی این هم‌پیمانی، دستیابی به بالاترین میزان امنیت و کارایی برای بیشترین تعداد افراد است. با ارزیابی دقیق مدل‌ها توسط نهادهای ثالث، می‌توان مطمئن شد که فناوری‌های جدید به‌جای تهدید زیرساخت‌های حیاتی، زیست روزمره انسان‌ها را ارتقا می‌دهند.
نکات کلیدی این همکاری شامل موارد زیر است:
- ارزیابی‌های مستقل ثالث: ورود سازمان‌های نظارتی مستقل به فرآیند آموزش مدل‌ها جهت سنجش ریسک‌های امنیتی.
- ایجاد نهاد استانداردهای مشترک: تدوین خط‌مشی‌های جامع برای مهار هوش مصنوعی پیشرفته بدون اتکای کامل به قوانین کند دولتی.
- حمایت از قانون FRONTIER Act: پشتیبانی از طرح‌های قانونی که شفافیت و امنیت فناوری را تضمین می‌کنند.
تنش میان ایمنی عمومی و رقابت‌های ژئوپلیتیک
در حالی که کارشناسان اخلاق و ایمنی بر لزوم کاهش خطرات برای حفظ ثبات جوامع تاکید دارند، برخی مقامات سیاسی نگرش متفاوتی ابراز کرده‌اند. دونالد ترامپ و مشاورانش نگرانی‌های مربوط به خطرات وجودی هوش مصنوعی را بی‌مورد دانسته و بر ضرورت پیشتازی آمریکا در برابر چین تاکید دارند.
اما پیامد هرگونه غفلت امنیتی می‌تواند خسارات جبران‌ناپذیری برای جوامع به همراه داشته باشد. از این رو، ایجاد یک چارچوب نظارتی هوشمندانه که همزمان نوآوری را تسریع کند و رفاه اجتماعی را در سطح جهانی به حداکثر برساند، حیاتی‌ترین گام برای آینده هوش مصنوعی محسوب می‌شود.
سوالات متداول
چرا رقبا تصمیم به همکاری در زمینه ایمنی هوش مصنوعی گرفته‌اند؟
زیرا بروز هرگونه حادثه یا خطای فاجعه‌بار در هوش مصنوعی پیشرفته می‌تواند به کل جامعه بشری آسیب بزند؛ بنابراین صیانت از امنیت عمومی و جلوگیری از پیامدهای منفی بر رقابت تجاری ارجحیت یافته است.
آیا این همکاری قوانین ضدانحصار را نقض می‌کند؟
رهبران این شرکت‌ها معتقدند هماهنگی درباره استانداردهای ایمنی و صیانت از جان و امنیت مردم، رقابت بازار را سرکوب نمی‌کند بلکه بستر رشد پایدار را فراهم می‌سازد.
نقش دولت‌ها در این فرآیند چیست؟
شرکت‌ها به‌دنبال ایجاد نهادهای ارزیابی مستقل هستند، در حالی که برخی طرح‌های قانونی مانند FRONTIER Act قصد دارند شرکت‌ها را ملزم به پذیرش ارزیابی‌های ایمنی بیرونی کنند.