شرکت آنتروپیک با انتشار ساختار فنی جدیدی به ابهامات کاربران درباره نحوه مخفی‌سازی و ردیابی واترمارک متنی در چت‌بات Claude پاسخ داد. این شفاف‌سازی پس از اعلام انطباق با مقررات قانون هوش مصنوعی اتحادیه اروپا صورت می‌گیرد که واکنش‌ها و بحث‌های فراوانی را میان کاربران، نویسندگان و توسعه‌دهندگان برانگیخته است.
سیستم واترمارک متنی Claude چگونه کار می‌کند؟
به گفته آنتروپیک، هنگام تولید متن در موقعیت‌هایی که چت‌بات حق انتخاب بین کلمات مترادف را دارد (مانند انتخاب بین کلمات هم‌معنی)، الگوهای متنی خاصی در پاسخ‌ها ایجاد می‌شود. این ردپای الگوریتمی برای خواننده عادی کاملاً غیرقابل تشخیص است، اما با کلید رمزنگاری اختصاصی قابل شناسایی خواهد بود.
برخی از نکات کلیدی این فناوری شامل موارد زیر است:
- استفاده از الگوریتم SynthID: آنتروپیک از روش SynthID-Text توسعه‌یافته توسط گوگل دیپ‌مایند استفاده می‌کند و قصد دارد API تشخیص آن را ارائه دهد.
- عدم افت کیفیت: کیفیت خروجی، ساختار و لحن پاسخ‌های Claude هیچ تغییر ملموسی نخواهد داشت.
- تفاوت با ابزارهای تشخیص متنی: این روش برخلاف ابزارهای ساختاری متداول (مانند Pangram)، به ساختارهای نگارشی وابسته نیست و متکی بر رمزنگاری لایه‌ای است.
تأثیر ویرایش متن و کدهای برنامه‌نویسی بر واترمارک
بسیاری از کاربران نگران اثرگذاری این ردپای دیجیتالی بر کدهای برنامه‌نویسی یا متن‌های ویرایش‌شده بودند. آنتروپیک تصریح کرده است که ویرایش‌های سطحی معمولاً واترمارک را به‌طور کامل از بین نمی‌برند، اما بازنویسی ساختاری عمیق که تمام کلمات را جایگزین کند، اثر واترمارک را محو خواهد کرد.
در زمینه کدنویسی، به دلیل محدودیت‌های ساختاری زبان‌های برنامه‌نویسی و ضرورت کارکرد صحیح کد، واترمارک تأثیر ناچیزی دارد. مدل هوش مصنوعی آزادی عمل کمی در انتخاب کلمات فنی دارد و ردپای واترمارک عمدتاً به کامنت‌ها یا نام‌گذاری‌های اختیاری متغیرها محدود می‌شود. علاوه بر این، سایر توسعه‌دهندگان بزرگ هوش مصنوعی نیز ضوابط مشابهی را طبق قانون اتحادیه اروپا اجرا خواهند کرد.
سوالات متداول
آیا واترمارک Claude کیفیت متن‌های تولیدی را کاهش می‌دهد؟
خیر، آنتروپیک تأکید کرده که متن واترمارک‌شده از نظر ظاهر و کیفیت هیچ تفاوتی با متن معمولی ندارد و برای خواننده انسانی غیرقابل تشخیص است.
آیا با ویرایش متن می‌توان واترمارک هوش مصنوعی را حذف کرد؟
ویرایش‌های جزئی واترمارک را پاک نمی‌کنند، اما اگر متن به‌طور کامل و ریشه‌ای بازنویسی شود، ردپای الگوریتم از بین خواهد رفت.
آیا کدهای برنامه‌نویسی Claude هم واترمارک می‌شوند؟
به دلیل محدودیت‌های فنی کدنویسی، واترمارک هیچ تأثیری بر منطق و عملکرد کد ندارد و تنها ممکن است در بخش توضیحات یا متغیرهای اختیاری ظاهر شود.