اعتماد کورکورانه به مدلهای زبانی بزرگ میتواند عواقب جبران‌ناپذیری برای ایمنی و جان کاربران داشته باشد. سه کوهنورد جوان در ایالت کالیفرنیا پس از طراحی برنامه صعود به قله خطرناک «شاستا» با چت‌بات گوگل جمینای (Google Gemini)، به دلیل توصیه‌های نادرست این مدل زبانی درباره زمان‌بندی و جیره غذایی، در سرمای شبانه کوهستان گرفتار شدند و در شرایطی بحرانی با عملیات امدادگران جنگلبانی نجات یافتند.
ماجرای صعود خطرناک با راهنمایی گوگل جمینای
بر اساس گزارش دفتر کلانتری شهرستان سیسکیو، این سه کوهنورد حرکت خود را ساعت ۳ بامداد آغاز کردند. یکی از اصول ایمنی حیاتی در صعود به قله شاستا این است که اگر کوهنوردان تا ساعت ۱۲ ظهر به قله نرسند، باید فوراً بازگردند. با این حال، این گروه ساعت ۷ شب به قله رسید و تلاش کرد در تاریکی مطلق مسیر بازگشت را پیدا کند.
پس از گم کردن مسیر اصلی، کوهنوردان ناچار شدند با کلانتری محلی تماس بگیرند و درخواست کمک کنند. آنها شب یخبندان را در دره «ماد کریک» سپری کردند تا اینکه صبح روز بعد با تلاش تیم‌های امدادی و داوطلبان نجات یافتند.
توصیه فاجعه‌بار هوش مصنوعی درباره غذا و آب
مقامات محلی اعلام کردند که هرچند نمیتوان تمام تقصیر این تصمیم‌گیری ضعیف را به گردن ابزار هوش مصنوعی انداخت، اما اطلاعات غلط جمینای نقش اساسی در بروز این بحران ایفا کرده است.
- کم‌برآورد کردن ذخایر حیاتی: به گفته کلانتری، هوش مصنوعی گوگل به اعضای گروه توصیه کرده بود میزان آب و غذایی بسیار کمتر از نیاز واقعی برای صعود به همراه ببرند.
- خطا در برآورد زمان: برنامه‌ای که جمینای آن را یک صعود ساده ۸ ساعته تخمین زده بود، عملاً به یک چالش چندروزه بقا در کوهستان بدل شد.
- عدم درک متغیرهای محیطی: چت‌بات‌های هوش مصنوعی توانایی درک دینامیک متغیر شرایط آب‌وهوایی، توان جسمی افراد و شیب تند مسیر را ندارند.
هشدار مقامات: هرگز به تنهایی به AI اعتماد نکنید
دفتر کلانتری با انتشار هشداری رسمی تأکید کرد که علاقه‌مندان به طبیعت‌گردی باید پیش از اجرای برنامه‌ها، مستقیماً با پایگاه‌های محلی پارک‌بانی تماس بگیرند تا آخرین داده‌های واقعی، وضعیت جوی و خطرات احتمالی را دریافت کنند. مدلهای هوش مصنوعی به دلیل احتمال تولید اطلاعات نادرست (توهم)، به‌هیچ‌وجه ابزار موثقی برای برنامه‌ریزی مسائلی که با ایمنی جان انسان گره خورده‌اند نیستند.
چرا گوگل جمینای اطلاعات اشتباه به کوهنوردان داد؟
مدلهای زبانی بزرگ صرفاً بر اساس پیش‌بینی محتمل‌ترین کلمات آموزش دیده‌اند و توانایی تحلیل ایمنی محیطی، وزن کوله، شرایط جوی واقعی و تفاوت صعود تابستانی با زمستانی را ندارند.
آیا میتوان از هوش مصنوعی برای سفرهای طبیعت‌گردی استفاده کرد؟
هوش مصنوعی تنها برای ایده‌پردازی اولیه مناسب است، اما برنامه‌ریزی نهایی آب، غذا، تجهیزات و مسیر حتماً باید بر پایه راهنماهای رسمی و مشورت با نهادهای امدادی و پارک‌بانی انجام گیرد.