با افزایش چشمگیر هزینه‌های پیاده‌سازی و پردازش داده در پلتفرم‌های هوش مصنوعی، مجموعه‌های بزرگ تجاری به دنبال راهکارهایی کاربردی برای مدیریت هزینه‌های پردازش توکن هستند. شرکت Writer که ارائه‌دهنده ابزارها و عامل‌های هوش مصنوعی (AI Agents) است، مدل جدید خود به نام Palmyra X6 را رونمایی کرد. این سیستم با هدف بهبود کارایی و کاهش محسوس هزینه‌های عملیاتی توسعه یافته تا چالش صورت‌حساب‌های سنگین مدل‌های زبانی را برای کسب‌وکارها برطرف کند.
کاهش ۵۰ درصدی هزینه‌ها با معماری بهینه‌شده و هارنس جدید
مدل جدید Palmyra X6 بر پایه نسخه دستکاری‌شده پس از آموزش (Post-training) روی مدل متن‌باز GLM-۵.۲ توسعه یافته است. شرکت Writer اعلام کرده که ترکیب این مدل با ارتقای چارچوب زیرساختی یا «هارنس» (Harness)، می‌تواند هزینه‌های اجرایی کاربران را برای وظایف پایه تا ۵۰ درصد کاهش دهد.
می حبیب (May Habib)، مدیرعامل Writer، درباره این اقدام اظهار داشت که سازمان‌ها از تعقیب مداوم بنچمارک‌های تبلیغاتی خسته شده‌اند و به دنبال ثبات و کاهش هزینه‌های جاری هستند؛ نیازی که تا کنون آزمایشگاه‌های بزرگ هوش مصنوعی توجه چندانی به آن نداشته‌اند.
ویژگی‌های اصلی این مدل و چارچوب جدید عبارتند از:
- تمرکز ویژه بر سناریوهای چندمرحله‌ای: انجام وظایف پیچیده با سرعت بالاتر و مصرف توکن کمتر.
- افزایش بازدهی زیرساخت (Harness): بهینه‌سازی نحوه فراخوانی و اجرای مدل‌ها بدون نیاز به تغییر مدل پایه.
- انعطاف‌پذیری در یکپارچه‌سازی: قابلیت اجرا در کنار سایر مدل‌های اختصاصی یا واردشده از پلتفرم‌های آژور (Azure) و آمازون بدارک (Bedrock).
چرا بهینه‌سازی هارنس کلید اصلی کاهش هزینه‌هاست؟
تحقیقات جدید پژوهشگران Writer نشان می‌دهد که اصلاحات کوچک در کارایی هارنس می‌تواند هزینه‌ها را به‌طور میانگین تا ۴۰ درصد در مدل‌های مختلف کاهش دهد. این امر ثابت می‌کند که تغییر ساختار فراخوانی و مدیریت عامل‌ها، حتی از انتخاب نوع خودِ مدل نیز در کنترل هزینه‌ها موثرتر است.
تغییرات ساختاری در هارنس به عنوان یک ضریب فزاینده عمل می‌کند؛ زیرا بهبود در این لایه، کارایی تمام مدل‌های فعال در سازمان را – چه در حال حاضر و چه در آینده – تحت تأثیر مثبت قرار می‌دهد و وابستگی به پردازش‌های گران‌قیمت را کم می‌کند.
سوالات متداول
مدل Palmyra X6 بر پایه چه تکنولوژی ساخت یافته است؟
این مدل یک نسخه بهینه‌سازی‌شده پس از آموزش (Post-training) بر روی مدل متن‌باز GLM-۵.۲ متعلق به Z.ai است.
تغییرات جدید شرکت Writer چقدر هزینه‌ها را کاهش می‌دهد؟
بر اساس برآوردهای رسمی، استفاده از Palmyra X6 همراه با هارنس جدید می‌تواند هزینه پردازش توکن برای کارهای پایه را تا ۵۰ درصد کاهش دهد.
آیا کاربران می‌توانند از مدل‌های دیگر نیز در این سیستم استفاده کنند؟
بله، این پلتفرم کاملاً مستقل از مدل (Model-agnostic) است و کاربران می‌توانند مدل‌های دیگر را از طریق آمازون بدارک یا مایکروسافت آژور وارد کنند.