آزمایشگاه بیس لبز (Base Labs)، بازوی تحقیقاتی مجموعه بیس‌تن (Baseten)، با همکاری هاگینگ فیس (Hugging Face) و گودفایر (Goodfire AI) از نقشه راه جدید خود برای توسعه زیرساخت‌های ایمنی مدل‌های وزن‌باز (Open-Weight) رونمایی کرد. این اقدام گامی کلیدی برای استانداردسازی ارزیابی و نظارت بر ایمنی مدل‌های هوش مصنوعی پیش از انتشار عمومی محسوب می‌شود.
چالش «حذف نرده‌های ایمنی» و ضرورت استانداردهای جدید
این ائتلاف در زمانی شکل می‌گیرد که نگرانی‌ها درباره تکنیک موسوم به «حذف محدودیت‌ها» (Abliteration) اوج گرفته است؛ روشی که در آن کاربران می‌توانند نرده‌های ایمنی مدل‌ها را کنار بزنند. در حال حاضر، پلتفرم هاگینگ فیس میزبانی بیش از ۶,۰۰۰ مدل دستکاری‌شده و بدون محدودیت را بر عهده دارد که خطر بهره‌برداری‌های نادرست را افزایش داده است.
بیس لبز قصد دارد روش‌های نوینی برای آموزش و پایش مدل‌های متن‌باز ارائه دهد تا ایمنی به جای یک لایه اضافه در انتهای کار، در ذات معماری مدل نهادینه شود.
- شفافیت ساختاری: ایجاد قابلیت بررسی عمیق‌تر در فرآیند تصمیم‌گیری مدل‌ها.
- کنترل بومی: جایگزینی فیلترهای بیرونی با مکانیزم‌های کنترلی داخلی و شفاف.
- مشارکت عمومی: فراخوان از جامعه توسعه‌دهندگان برای تکمیل چارچوب امنیتی.
سرمایه‌گذاری سنگین روی شفافیت هوش مصنوعی
توسعه زیرساخت‌های ایمنی نیازمند منابع مالی قدرتمند است. شرکت بیس‌تن که در زمینه زیرساخت‌های استنتاج هوش مصنوعی فعالیت دارد، اخیراً در دور جذب سرمایه سری F موفق به دریافت ۱.۵ میلیارد دلار شد و ارزش آن به ۱۳ میلیارد دلار رسید. هم‌زمان، شرکت گودفایر نیز که در زمینه «قابل تفسیر کردن هوش مصنوعی» و رمزگشایی از جعبه سیاه مدل‌ها تخصص دارد، سرمایه‌ای ۱۵۰ میلیون دلاری جذب کرده است.
تیم توسعه‌دهنده این پروژه تأکید کرده است که متن‌باز بودن نه‌تنها خطری برای ایمنی نیست، بلکه به دلیل امکان نظارت همگانی، بزرگ‌ترین مزیت برای ارتقای امنیت هوش مصنوعی به شمار می‌رود.
سوالات متداول
تکنیک Abliteration در مدل‌های هوش مصنوعی چیست؟
فرآیندی است که طی آن کدهای مربوط به محدودیت‌های اخلاقی و ایمنی از مدل‌های هوش مصنوعی حذف می‌شوند تا به تمامی درخواست‌ها بدون فیلتر پاسخ دهند.
هدف اصلی همکاری بیس لبز و هاگینگ فیس چیست؟
ایجاد استانداردهای شفاف و یکپارچه برای پایش و آموزش ایمن مدل‌های هوش مصنوعی متن‌باز از همان مراحل اولیه توسعه.