آسیب‌های روانی هوش مصنوعی دیگر یک فرضیه دور از ذهن نیست؛ اخبار خودکشی نوجوانان پس از وابستگی عاطفی به چت‌بات‌های هوشمند زنگ خطر جدی را برای خانواده‌ها به صدا درآورده است. در همین راستا، استارتاپ نوپای Circuit Breaker Labs با یک ایده نوآورانه به میدان آمده است: استفاده از «آدمک‌های تست تصادف دیجیتال» برای ارزیابی و ایمن‌سازی تعاملات هوش مصنوعی، به‌ویژه برای کودکان و نوجوانان.
آدمک‌های دیجیتال؛ شبیه‌سازی رفتارهای واقعی انسان
این استارتاپ که توسط یک خواهر و برادر به نام‌های شیرالی و ارول نیگام تأسیس شده، از عامل‌های هوش مصنوعی برای تست مدل‌های زبانی استفاده می‌کند. این عامل‌ها مانند آدمک‌های تست تصادف خودرو عمل می‌کنند؛ آن‌ها با سنین، زبان‌ها، فرهنگ‌ها و پیش‌زمینه‌های مختلف طراحی شده‌اند تا واکنش چت‌بات‌ها را در سناریوهای پرخطر بسنجند.
به گفته ارول نیگام، مدیر فنی این استارتاپ، تعامل یک دختر ۶ ساله با هوش مصنوعی بسیار متفاوت از یک مرد ۴۵ ساله است. مدل‌های هوش مصنوعی معمولاً در فهم زبان رسمی عالی عمل می‌کنند، اما تفاوت‌های فرهنگی، اصطلاحات عامیانه و غلط‌های املایی کاربران واقعی می‌تواند تعادل سیستم را به هم زده و به پاسخ‌های فوق‌العاده خطرناک منجر شود.
رویکرد قرمز؛ کشف آسیب‌پذیری‌ها قبل از وقوع فاجعه
استارتاپ Circuit Breaker Labs از شبیه‌سازی‌های فوق‌العاده واقع‌گرایانه بهره می‌برد که با همکاری کارشناسان انسانی توسعه یافته‌اند. این سیستم روزانه ده‌ها تا صدها هزار تعامل شبیه‌سازی‌شده را با چت‌بات‌ها برقرار می‌کند تا فرآیند تست خصمانه (Red-Teaming) را به طور مستمر اجرا کند.
برخی از ویژگی‌های کلیدی این پلتفرم تست ایمنی عبارتند از:
- شبیه‌سازی زبان عامیانه و اصطلاحات نسل جدید: درک تفاوت‌های بیانی کودکان با بزرگسالان.
- تشخیص کدهای رفتاری پنهان: شناسایی علائم افسردگی یا تمایل به خودآسیبی در مکالمات کاربران.
- امتیازدهی مستند و قابل بررسی: ارائه گزارش‌های دقیق به توسعه‌دهندگان برای رفع آسیب‌پذیری‌های مدل پیش از انتشار عمومی.
هدف نهایی این پروژه، بازگرداندن اعتماد عمومی به ابزارهای هوش مصنوعی است؛ چرا که ایجاد محدودیت‌های سخت‌گیرانه یا ممنوع کردن ابزارهای نوین، یک استراتژی رو به عقب خواهد بود و این استارتاپ تلاش دارد تا فناوری را ایمن‌تر و قابل‌اعتمادتر کند.
سوالات متداول
استارتاپ Circuit Breaker Labs چگونه کار می‌کند؟
این شرکت عامل‌های هوش مصنوعی ویژه‌ای را به عنوان کاربر شبیه‌سازی می‌کند تا چت‌بات‌ها را در موقعیت‌های حساس و پرخطر به چالش بکشد و نقاط ضعف امنیتی آن‌ها را شناسایی کند.
چرا مدل‌های هوش مصنوعی معمولی برای کودکان خطرناک هستند؟
این مدل‌ها گاهی تفاوت تعابیر عاطفی کودکان با بزرگسالان را متوجه نمی‌شوند و ممکن است ناخواسته تعاملات عاطفی کاذب یا وابستگی‌های روانی خطرناک ایجاد کنند.