شرکت آنتروپیک، از پیشگامان توسعه فناوری‌های نوین، لایحه جدیدی را برای تنظیم قوانین ایمنی هوش مصنوعی به کنگره آمریکا پیشنهاد داده است. این طرح سازوکاری را تعریف می‌کند که در صورت وجود خطرات فاجعه‌بار جانی یا مالی، انتشار مدل‌های هوش مصنوعی پیشرفته متوقف شود. انتشار این لایحه واکنش‌های متعددی را در میان فعالان حوزه فناوری و قانون‌گذاران برانگیخته است.
شرایط توقیف مدل‌های هوش مصنوعی و خطرات فاجعه‌بار
بر اساس گزارش‌های منتشرشده، لایحه پیشنهادی شرکت آنتروپیک (Anthropic) معیارهای مشخصی را برای ارزیابی «خطر فاجعه‌بار» در نظر گرفته است. در این طرح، ارزیابی‌ها روی ریسک‌های قریب‌الوقوع تمرکز دارند و در صورت احراز خطرات زیر، انتشار مدل مسدود خواهد شد:
- احتمال بروز خطر جانی برای بیش از ۵۰ نفر.
- احتمال ایجاد خسارت مالی به دارایی‌ها به میزان بیش از ۱ میلیارد دلار.
- تهدیدات ناشی از ساخت سلاح‌های بیولوژیکی، خروج مدل از کنترل توسعه‌دهنده یا حملات سایبری گسترده.
این پارامترها شباهت زیادی به قانون ایمنی هوش مصنوعی ایالت کالیفرنیا (SB ۵۳) دارند که پیش‌تر ریسک‌های مشابهی را به عنوان خطرات سطح بالا دسته‌بندی کرده بود.
نقش ارزیابان مستقل و مداخلات قضایی
طرح پیشنهادی آنتروپیک فرآیند سنجش ایمنی را به «ارزیابان مستقل» واگذار می‌کند؛ کارشناسانی که باید در وزارت بازرگانی ایالات متحده به ثبت برسند. با این حال، نحوه اجرای این نظارت شامل ویژگی‌های خاصی است:
در صورتی که ارزیابان خطر فاجعه‌باری را در یک مدل هوش مصنوعی شناسایی کنند، ظرف ۷۲ ساعت موظف به اطلاع‌رسانی به وزارت بازرگانی خواهند بود. نکته مهم اینجاست که نهادهای دولتی اجازه ندارند به صورت یک‌جانبه جلوی انتشار مدل را بگیرند، بلکه وزارت بازرگانی باید مستقیماً از یک قاضی فدرال حکم توقیف رسمی را دریافت کند.
این رویکرد نشان‌دهنده تلاش غول‌های فناوری برای ایجاد تعادل میان حفظ ایمنی و جلوگیری از مداخله مستقیم یا تصمیمات سلیقه‌ای سازمان‌های دولتی است. با این حال، برخی تحلیل‌گران در خصوص استقلال واقعی ارزیابانی که بودجه خود را از آزمایشگاه‌های هوش مصنوعی دریافت می‌کنند، ابراز تردید کرده‌اند.
چرا آنتروپیک لایحه ایمنی هوش مصنوعی را پیشنهاد داده است؟
آنتروپیک قصد دارد چارچوبی قانونی و استاندارد برای مدیریت خطرات فاجعه‌بار هوش مصنوعی ایجاد کند تا بدون محدود کردن رشد فناوری، از بروز خطرات جانی و سایبری جلوگیری شود.
چه زمانی انتشار یک مدل هوش مصنوعی طبق این لایحه ممنوع می‌شود؟
اگر مدل هوش مصنوعی پتانسیل کشته شدن بیش از ۵۰ نفر یا ایجاد ۱ میلیارد دلار خسارت را داشته باشد و این خطر ناشی از سلاح بیولوژیکی، حملات سایبری یا عدم کنترل مدل باشد، انتشار آن توقیف خواهد شد.