شرکت آنتروپیک (Anthropic) با انتشار گزارشی تکان‌دهنده، از موج جدید و سازمان‌یافته‌ای از حملات سایبری و فنی موسوم به «حملات تقطیر» (Distillation Attacks) توسط غول‌های هوش مصنوعی چین از جمله علی‌بابا، دیپ‌سیک و مون‌شات خبر داد. این کمپین‌ها با هدف استخراج ساختار فکری و قابلیت‌های پیشرفته مدل‌های پیشتاز آمریکایی مانند Claude طراحی شده‌اند.
سرقت زنجیره تفکر؛ روش جدید برای دور زدن هزینه‌های آموزش
بر اساس گزارش منتشرشده، آزمایشگاه‌های غیرمجاز روش‌های پیچیده‌ای را برای دور زدن لایه‌های امنیتی آنتروپیک توسعه داده‌اند. هدف اصلی این حملات، استخراج مستقیم زنجیره تفکر (Chain of Thought) از پاسخ‌های مدل کلود بوده است.
داده‌های به‌دست‌آمده از این طریق، برای آموزش مدل‌های کوچک‌تر و ارزان‌تر از طریق روش Fine-Tuning نظارت‌شده استفاده می‌شوند تا توانایی استدلال مدل‌های بزرگ بدون صرف هزینه‌های سرسام‌آور آموزش اولیه بازتولید شود.
- حجم بی‌سابقه حملات: رصد نزدیک به ۲۰۰ میلیون تبادل در قالب ۵ کمپین مجزا.
- اهداف کلیدی: تمرکز بر قابلیت‌های عاملی (Agentic)، ابزارسازی، تحلیل کد و استدلال ریاضی.
- تکنیک‌های فریبنده: پنهان‌سازی درخواست‌های استخراج در قالب دستورهای ترجمه به زبان‌های دیگر مانند ژاپنی.
جزئیات عملیات علی‌بابا و مون‌شات
بزرگ‌ترین بخش این عملیات به علی‌بابا نسبت داده شده است؛ جایی که بیش از ۱۵۱ میلیون تبادل تنها از طریق ۳۵۰۰ حساب کاربری مختلف و با استفاده از یک پرامپت ثابت و مهندسی‌شده با هدف ارتقای خانواده مدل‌های Qwen انجام شد.
از سوی دیگر، شرکت Moonshot AI متهم شده است که درخواست‌هایی مستقیم با کاربردهای نظارتی و نظامی ارسال کرده است؛ از جمله تحلیلی روی ویدیوهای مداربسته برای شناسایی «رفتارهای غیرعادی» از طریق قوی‌ترین نسخه یعنی مدل Claude Opus.
پرسش‌های متداول
حمله تقطیر (Distillation Attack) در هوش مصنوعی چیست؟
روشی است که در آن توسعه‌دهندگان تلاش می‌کنند با ارسال پرامپت‌های انبوه، پاسخ‌ها و نحوه استدلال یک مدل پیشرفته را دریافت کرده و از خروجی‌های آن برای آموزش مدل ارزان‌تر خود استفاده کنند.
واکنش آنتروپیک و سایر شرکت‌ها به این اقدامات چه بوده است؟
آنتروپیک و اوپن‌ای‌آی ضمن افشای هویت آزمایشگاه‌های متخلف، تدابیر امنیتی جدیدی برای پنهان‌سازی لایه‌های درونی استدلال مدل‌ها و مسدودسازی دسترسی‌های گروهی اتخاذ کرده‌اند.