ورود انبوه متن‌ها و تصاویر ساخته‌شده با هوش مصنوعی به رزومه‌های کاری، نظرات کاربران درباره محصولات و حتی ادعاهای بیمه‌ای، اعتماد در دنیای وب را با چالش جدی مواجه کرده است. پلتفرم‌ها و کاربران به‌طور هم‌زمان در تلاش‌اند تا محتوای واقعی را از زباله‌های تولیدشده توسط ابزارهای مولد تشخیص دهند. در این میان، مکس اسپرو (Max Spero)، مدیرعامل استارتاپ تشخیص هوش مصنوعی Pangram، هشدار می‌دهد که بحران اسپم‌های هوش مصنوعی ممکن است پدیده «اینترنت مرده» را زودتر از آنچه تصور می‌شد به واقعیت تبدیل کند.
بحران اعتماد در وب و ظهور ابزارهای تشخیص هوش مصنوعی
با تزریق سرمایه ۹ میلیون دلاری به استارتاپ Pangram و انعقاد قرارداد همکاری رسمی آن با پلتفرم ساب‌استک (Substack)، تلاش‌ها برای شناسایی محتوای الگوریتمی وارد فاز تازه‌ای شده است. ساب‌استک اکنون از فناوری این استارتاپ استفاده می‌کند تا به مخاطبان نشان دهد کدام یک از نویسندگان محبوبشان از هوش مصنوعی برای نگارش خبرنامه‌ها بهره گرفته‌اند.
علاوه بر تحلیل متن، این مجموعه به‌تازگی ابزار جدیدی برای شناسایی تصاویر ساخته‌شده با هوش مصنوعی عرضه کرده است تا به عنوان لایه امنیتی و اعتمادساز شبکه اینترنت عمل کند.
چرا تعیین میزان دخالت هوش مصنوعی سخت‌تر از برچسب‌گذاری مطلق است؟
به گفته مدیرعامل Pangram، سنجش مرز دقیق میان «محتوای کمکی با هوش مصنوعی» (AI-assisted) و «محتوای تماماً تولیدشده با هوش مصنوعی» (AI-generated) چالش اصلی فناوری‌های فعلی است. برچسب‌گذاری ساده محتوا به عنوان «انسان» یا «ماشین» دیگر پاسخگوی نیازهای پیچیده امروز نیست.
- خطر تشخیص اشتباه (False Positives): پیامدهای خطا در تشخیص هوش مصنوعی بسیار سنگین است؛ به‌ویژه زمانی که پای تصاویر حساس یا اسناد حقوقی و پروندهای بیمه در میان باشد.
- تغییر در بازار کار نویسندگی: مشاغل نگارش متون ساده و سطح پایین برای همیشه در حال از بین رفتن هستند، اما در مقابل، نوشته‌های اصیل و باکیفیت انسانی ارزشی به‌مراتب بیشتر پیدا خواهند کرد.
- نزدیک شدن به اینترنت مرده: اگر روند انتشار انبوه محتوای بی‌کیفیت کنترل نشود، تا چند سال آینده بخش اعظم وب را تعاملات ربات با ربات تشکل خواهد داد.
سوالات متداول
نظریه اینترنت مرده (Dead Internet Theory) چیست؟
این نظریه ادعا می‌کند که بخش عمده‌ای از ترافیک، محتوا و تعاملات موجود در اینترنت دیگر توسط انسان‌ها ایجاد نمی‌شود، بلکه حاصل فعالیت الگوریتم‌ها، ربات‌ها و ابزارهای هوش مصنوعی است که برای بازاریابی یا تولید اسپم طراحی شده‌اند.
استارتاپ Pangram چطور محتوای هوش مصنوعی را تشخیص می‌دهد؟
این پلتفرم با تحلیل الگوهای متنی، میزان پیچیدگی ساختار جملات و ردپای الگوریتم‌های زبانی (LLM)، درصد احتمال تولید متن یا تصویر توسط هوش مصنوعی را محاسبه می‌کند.