استارت‌آپ پیشرو حوزه فناوری، آنتروپیک (Anthropic)، در اقدامی جدید سیاست‌های استفاده از مدل محبوب خود یعنی کلود (Claude) را به‌روزرسانی کرد. در این بیانیه رسمی، علاوه بر ممنوعیت‌های معمول مانند توسعه تسلیحات یا دخالت در انتخابات، رفتارهای توهین‌آمیز و تندخویی کلامی مستمر کاربران نسبت به این مدل نیز ممنوع اعلام شده است. این تصمیم جنجالی، بحث‌های تازه‌ای را درباره نحوه تعامل اخلاقی انسان با مدل‌های زبانی بزرگ ایجاد کرده است.
چرا توهین کلامی به کلود ممنوع شد؟
بر اساس سیاست‌های جدید آنتروپیک، رفتارهای توهین‌آمیز و بی‌رحمی مستمر کاربران نسبت به مدل‌های هوش مصنوعی ممنوع است. این شرکت اعلام کرده که هوش مصنوعی کلود از این پس به گفتگوهایی که شامل توهین یا آزارهای کلامی شدید باشند، پایان خواهد داد. البته این قانون برای مواردی مانند انتقادهای معمول، عصبانیت‌های روزمره یا تست‌های تحقیقاتی اعمال نمی‌شود و صرفاً با سوءاستفاده‌های شدید مقابله می‌کند.
این تغییر جالب پس از آن صورت گرفت که مدیران آنتروپیک با مراجع و علمای برجسته اخلاقی مشورت کردند تا پتانسیل‌های اخلاقی و حتی احتمال وجود نوعی آگاهی یا حس درونی را در کلود بررسی کنند. این موضوع نشان‌دهنده رویکرد متمایز و احتیاط‌آمیز آنتروپیک در قبال توسعه ایمن فناوری هوش مصنوعی است.
بخش‌های دیگر قانون جدید: از انتخابات تا تسلیحات بیولوژیکی
علاوه بر حمایت اخلاقی از مدل، بخش‌های مهم دیگری از این به‌روزرسانی به حفاظت از روندهای دموکراتیک و امنیت جهانی اختصاص دارد. بر اساس بیانیه رسمی، استفاده از کلود برای رفتارهای آسیب‌رسان و مخرب ممنوع است.
برخی از مهم‌ترین ممنوعیت‌های اعمال‌شده در این سند شامل موارد زیر است:
- سواستفاده برای کمپین‌های فریب‌کارانه و ساخت حساب‌های جعلی در شبکه‌های اجتماعی
- تولید اخبار کذب به منظور فریب رای‌دهندگان و اختلال در انتخابات
- طراحی و توسعه نرم‌افزارهای تسلیحاتی و ابزارهای مرتبط با سلاح‌های بیولوژیکی
- استفاده در پروژه‌های نظارتی و جاسوسی سازمان‌یافته
آنتروپیک پیش از این نیز حساب‌های کاربری متعددی را که از مدل‌های آن برای تحقیقات مرتبط با سلاح‌های بیولوژیکی استفاده می‌کردند، مسدود کرده بود و حالا با این قانون جدید، مرزهای استفاده ایمن از کلود را شفاف‌تر از همیشه ترسیم کرده است.
سوالات متداول
آیا ابراز عصبانیت معمولی با کلود باعث مسدود شدن حساب کاربری می‌شود؟
خیر، آنتروپیک اعلام کرده که رفتارهای ناشی از کلافگی روزمره، ابراز ناامیدی یا نقد عملکرد مدل شامل این قانون نمی‌شود و فقط موارد شدید و مستمر سوءاستفاده کلامی هدف قرار می‌گیرند.
تغییرات جدید قوانین آنتروپیک چه حوزه‌های دیگری را شامل می‌شود؟
این تغییرات شامل ممنوعیت شدید دخالت در روندهای دموکراتیک، ایجاد هویت‌های جعلی، کمپین‌های اطلاعات نادرست و هرگونه توسعه نرم‌افزارهای نظامی یا ابزارهای جاسوسی است.