موسسه OpenAI به تازگی از حالت پردازشی جدیدی به نام Ultrafast رونمایی کرده است که سرعت پاسخ‌دهی قدرتمندترین مدل زبانی این شرکت یعنی GPT-5.6 Sol را به طرز چشمگیری ارتقا می‌دهد. این قابلیت جدید امکان تولید متون را با سرعت ۱۴ برابر بیشتر نسبت به حالت استاندارد فراهم می‌سازد و می‌تواند تحولی بزرگ در سیستم‌های هوش مصنوعی آنی ایجاد کند.
قابلیت‌های حالت جدید Ultrafast و سرعت پردازش
طبق اعلام رسمی اوپن‌ای‌آی، حالت Ultrafast قادر است تا ۷۵۰ توکن خروجی در ثانیه تولید کند. توکن‌ها نشان‌دهنده بخش‌های کوچکی از متن هستند که مدل زبانی هنگام تعامل با کاربران آن‌ها را تولید می‌کند.
تا پیش از این، دسترسی به سرعت‌های پاسخ‌دهی آنی به معنای استفاده از مدل‌های کوچک‌تر یا تخصصی‌تر بود. اما حالت Ultrafast گامی بزرگ به سمت افزایش «کارایی مفید در ثانیه» بدون کاهش توان محاسباتی مدل‌های بزرگ محسوب می‌شود.
برخی از کاربردهای کلیدی این حالت جدید در محیط‌های سازمانی عبارتند از:
- پاسخ‌دهی به حوادث و بحران‌های سایبری: تحلیل سریع داده‌ها در شرایط اضطراری.
- پشتیبانی و خدمات مشتریان: ارائه پاسخ‌های کاملاً آنی و بدون تأخیر به کاربران.
- تحلیل بازارهای مالی: پردازش حجم بالای داده‌های اقتصادی در کسری از ثانیه.
- تجارت الکترونیک: بهینه‌سازی تجربه خرید و پیشنهادهای هوشمند زنده.
همکاری با شرکت Cerebras و دسترسی به نسخه پیش‌نمایش
قدرت پردازشی خارق‌العاده حالت Ultrafast حاصل همکاری استراتژیک اوپن‌ای‌آی با شرکت تراشه‌سازی Cerebras است. این تراشه‌های پیشرفته امکان پردازش موازی و فوق‌سریع را برای زیرساخت‌های هوش مصنوعی فراهم کرده‌اند.
در حال حاضر، این ویژگی به صورت پیش‌نمایش در اختیار گروه محدودی از مشتریان سازمانی قرار گرفته است. اوپن‌ای‌آی تأکید کرده که با افزایش ظرفیت سرورها و زیرساخت‌های سخت‌افزاری، دسترسی به Ultrafast برای کاربران بیشتری فعال خواهد شد.
سوالات متداول
حالت Ultrafast چه تاثیری بر سرعت GPT-۵.۶ Sol دارد؟
این حالت سرعت پردازش و پاسخ‌دهی مدل را تا ۱۴ برابر افزایش داده و نرخ تولید متن را به ۷۵۰ توکن در ثانیه می‌رساند.
زیرساخت سخت‌افزاری حالت Ultrafast توسط چه شرکت تأمین می‌شود؟
این پردازش فوق‌سریع با همکاری شرکت ساخت تراشه Cerebras پیاده‌سازی شده است.
چه کسانی هم‌اکنون به حالت Ultrafast دسترسی دارند؟
در حال حاضر این ویژگی در مرحله پیش‌نمایش است و تنها گروه محدودی از کاربران سازمانی به آن دسترسی دارند.