تصمیم اخیر شرکت آنتروپیک (Anthropic) مبنی بر درج واترمارک‌های نامرئی در متن‌های تولیدشده توسط چت‌بات کلود (Claude)، موجی از بحث‌های داغ و اعتراضات را میان کاربران ردیت و شبکه‌های اجتماعی برانگیخته است. این اقدام که جهت پایبندی به قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) انجام شده، ردپای دیجیتالی مشخصی روی متون تولیدی باقی می‌گذارد تا سیستم‌های رایانه‌ای بتوانند تولید یا ویرایش متن توسط AI را به راحتی تشخیص دهند؛ مسئله‌ای که اصلاً به مذاق گروهی از کاربران خوش نیامده است.
علت خشم کاربران از ردپای دیجیتالی کلود چیست؟
با انتشار این خبر، فروم‌های اینترنتی نظیر ردیت شاهد واکنش‌های تندی بودند. برخی کاربران این اقدام را تصمیم متکبرانه و علیه کاربران عادی تلقی می‌کنند. نگران اصلی این افراد، لو رفتن استفاده آن‌ها از هوش مصنوعی در محیط‌های کاری، تحصیلی و نگارش مقاله است.
یکی از کاربران معترض در ردیت مدعی شد که این واترمارک بیشتر به ضرر افراد عادی تمام می‌شود تا کاربران حرفه‌ای. به باور او، افراد تکنیکال با بازنویسی یا بازتولید متن توسط سایر ابزارها اثر واترمارک را از بین می‌برند، اما افراد زیر آسیب خواهند دید:
- دانشجویان و دانش‌آموزان: افرادی که برای بازنویسی یا ساختاردهی مجدد پاراگراف‌های مقاله خود از کلود کمک می‌گیرند.
- نویسندگان و تولیدکنندگان محتوا: کسانی که هنگام مواجهه با انسداد ذهنی، تنها برای یافتن کلمات مترادف یا بهبود لحن از هوش مصنوعی استفاده می‌کنند.
- کارمندان و پژوهشگران: افرادی که تلخیص گزارش‌ها یا فایل‌های طولانی را به کلود می‌سپارند و متن را مستقیماً کپی می‌کنند.
پاسخ جامعه و حامیان شفافیت به معترضان
در مقابلِ جنجال‌آفرینی معترضان، بخش زیادی از جامعه فناوری و سایر کاربران ردیت این اعتراض‌ها را غیرمنطقی می‌دانند. حامیان سیاست جدید آنتروپیک معتقدند درج واترمارک گامی ضروری برای افزایش شفافیت و مقابله با فریبکاری دیجیتال است.
بسیاری از کاربران تاکید دارند که کپی و پیست مستقیم متون کلود در مقالات تحصیلی یا گزارش‌های حرفه‌ای، رفتاری غیراخلاقی است. به گفته آن‌ها، تنها دلیلی که یک فرد ممکن است با ردیابی متن تولیدشده توسط هوش مصنوعی مخالفت کند، تلاش برای پنهان‌کاری و فریب دیگران است.
سوالات متداول
واترمارک مخفی کلود چگونه کار می‌کند؟
این واترمارک شامل کدهای مخفی در ساختار متنی تولیدشده توسط هوش مصنوعی است که توسط انسان دیده نمی‌شود اما نرم‌افزارهای تشخیص متن می‌توانند ردپای مدل کلود را شناسایی کنند.
آیا درج واترمارک در خروجی‌های Claude الزامی است؟
بله، شرکت آنتروپیک این اقدام را برای رعایت الزامات قانونی “کد شفافیت” در قانون هوش مصنوعی اتحادیه اروپا پیاده‌سازی کرده است.