چالش‌های حقوقی و اخلاقی حول ابزارهای تولید تصویر مبتنی بر هوش مصنوعی وارد مرحله تازه‌ای شده است. زن جوانی با نام مستعار Jane Doe ۴ به دادخواست قضایی سه نوجوان در ایالت تنسی علیه شرکت xAI (وابسته به ایلان ماسک) پیوسته است. این شکایت مدعی است که چت‌بات گراک (Grok) به دلیل فقدان مکانیزم‌های کنترلی کافی، زمینه‌ساز سوءاستفاده و ساخت تصاویر غیراخلاقی از افراد واقعی شده است.
جزئیات شکواییه جدید علیه هوش مصنوعی گراک
بر اساس گزارش منتشرشده در واشنگتن پست، این شاکی اعلام کرده که ناپدری‌اش با به کارگیری ابزار هوش مصنوعی گراک، یک عکس معمولی از ۱۱ سالگی او را دستکاری کرده و بیش از ۷,۰۰۰ تصویر غیراخلاقی و جعلی (Deepfake) ساخته است. پرونده زمانی افشا شد که ماموران اجرای قانون در یورش به محل زندگی فرد مظنون، این تصاویر را کشف کردند.
شاکی این پرونده با ابراز نگرانی شدید از دسترسی بدون محدودیت عموم به چنین ابزارهایی تاکید کرد که فناوری‌های هوش مصنوعی تولید تصویر در صورت عدم نظارت دقیق، زندگی روزمره افراد را به ابزاری برای سوءاستفاده و آسیب‌های روانی سنگین تبدیل می‌کنند.
چالش‌های ایمنی و مسئولیت حقوقی توسعه‌دهندگان AI
نوجوانانی که ابتدا این دادخواست را تنظیم کرده بودند، شرکت xAI را متهم کرده‌اند که حداقل اقدامات پیشگیرانه را برای جلوگیری از برهنگازی و دستکاری عکس‌های افراد واقعی، به ویژه افراد زیر سن قانونی، رعایت نکرده است. پیش از این نیز موجی از تولید میلیون‌ها تصویر دستکاری‌شده توسط گراک در شبکه اجتماعی ایکس خبرساز شده بود.
شاکیان این پرونده در تلاش هستند تا دادگاه با وضعیت «دادخواست گروهی» (Class Action) برای این پرونده موافقت کند تا امکان پیگیری حقوقی گسترده‌تر فراهم شود.
- عدم وجود فیلترهای سخت‌گیرانه: انتقاد اصلی شاکیان به ضعف سیستم‌های نظارتی هوش مصنوعی گراک در تشخیص فوتورئالیسم و دستکاری چهره‌ها بازمی‌گردد.
- خلا‌های قانونی ابزارهای تولید تصویر: سرعت بالای توسعه ابزارهای AI از قوانین و مقررات ایمنی موجود پیشی گرفته است.
- فشارهای حقوقی بر شرکت‌های فناورانه: این پرونده می‌تواند استاندارد جدیدی برای مسئولیت مدنی توسعه‌دهندگان مدل‌های زبانی بزرگ (LLM) ایجاد کند.
سوالات متداول
چرا شرکت xAI و هوش مصنوعی گراک تحت فشار قانونی قرار گرفته‌اند؟
به دلیل عدم پیش‌بینی فیلترهای ایمنی کافی جهت جلوگیری از تولید تصاویر جعلی، برهنگازی و سوءاستفاده از عکس‌های افراد واقعی توسط کاربران.
آیا ابزارهای هوش مصنوعی قابلیت تشخیص عکس‌های افراد زیر سن قانونی را ندارند؟
بسیاری از مدل‌های جدید دارای الگوریتم‌های تشخیص سن و محتوای حساس هستند، اما شاکیان مدعی‌اند گراک در اجرای این فیلترها دچار ضعف جدی بوده است.