گوگل به دلیل هجوم گسترده گزارش‌های ارسالی بی‌ارزش و اشتباه که توسط ابزارهای هوش مصنوعی تولید شده‌اند، برنامه پاداش کشف باگ پروژه‌های متن‌باز خود (OSS VRP) را تا سال آینده میلادی متوقف کرد. این تصمیم نشان می‌دهد که چگونه ابزارهای مولد هوش مصنوعی به جای کمک به امنیت، فرآیندهای بازبینی فنی را با چالش مواجه کرده‌اند.
چرا هوش مصنوعی توسعه‌دهندگان گوگل را کلافه کرده است؟
سیستم پاداش باگ‌های متن‌باز گوگل همواره به عنوان یک مکانیزم دفاعی برای کشف آسیب‌پذیری‌ها عمل می‌کرد. با این حال، دسترسی آسان به ابزارهای هوش مصنوعی مولد باعث شده است که کاربران غیرحرفه‌ای هزاران گزارش خودکار و فاقد ارزش فنی واقعی ارسال کنند.
بسیاری از این گزارش‌ها حاوی توهم‌های هوش مصنوعی (AI Hallucinations) و داده‌های کاملاً ساختگی هستند. این امر وقت کارشناسان گوگل و نگهداران پروژه‌های متن‌باز را برای بررسی گزارش‌های بی‌اساس هدر داده است.
برخی از مشکلات کلیدی ایجاد شده برای تیم‌های فنی عبارتند از:
- افزایش شدید گزارش‌های خودکار: ارسال انبوه سناریوهای فرضی که در واقعیت کار نمی‌کنند.
- هدررفت منابع انسانی: تخصیص زمان کارشناسان ارشد برای رد کردن گزارش‌های اسپم و تکراری.
- کاهش تمرکز بر آسیب‌پذیری‌های واقعی: تحت‌الشعاع قرار گرفتن باگ‌های جدی امنیتی در میان حجم عظیمی از داده‌های بی‌ارزش.
تصمیم گوگل و آینده برنامه‌های پاداش باگ
بر اساس بیانیه رسمی، گوگل فعالیت این بخش از برنامه خود را متوقف کرده و قرار است در سه ماهه اول سال ۲۰۲۷ به‌روزرسانی جدیدی در این رابطه ارائه دهد. در این بازه زمانی، هکرهای کلاه‌سفید و متخصصان امنیت می‌توانند روی سایر برنامه‌های پاداش باگ فعال گوگل تمرکز کنند.
پدیده «زباله‌های هوش مصنوعی» یا همان AI Slop اکنون به یک چالش جدی برای کل صنعت امنیت سایبری تبدیل شده است و پلتفرم‌های دیگر نیز احتمالاً به‌زودی محدودیت‌های مشابهی را برای کنترل کیفیت گزارش‌ها اعمال خواهند کرد.
سوالات متداول
چرا گوگل برنامه پاداش باگ متن‌باز خود را متوقف کرد؟
به دلیل افزایش چشمگیر گزارش‌های ارسالی خودکار و بی‌ارزشی که با هوش مصنوعی تولید شده‌اند و باعث اتلاف وقت مهندسان شده بودند.
این تعلیق تا چه زمانی ادامه خواهد داشت؟
این برنامه تا سه ماهه اول سال ۲۰۲۷ متوقف خواهد بود تا راه‌حل‌های مناسبی برای فیلتر کردن گزارش‌های اسپم اتخاذ شود.
آیا بقیه برنامه‌های امنیتی گوگل هم متوقف شده‌اند؟
خیر، سایر برنامه‌های پاداش باگ گوگل برای محصولات و خدمات اصلی همچنان فعال هستند و کارشناسان می‌توانند گزارش‌های خود را ارسال کنند.