Cafe24 يطرح خدمة LLM Router للتوجيه التلقائي بين نماذج الذكاء الاصطناعي

تطرح شركة Cafe24 خدمة LLM Router التي تربط عدة نماذج ذكاء اصطناعي عبر واجهة برمجية واحدة، وتتولى اختيار النموذج المناسب تلقائياً. وتأتي الخطوة في وقت يتزايد فيه الاهتمام بتوجيه النماذج وإدارة تكاليف الرموز (tokens)، بحسب zdnet.co.kr.

تعتمد ميزة التوجيه التلقائي، المسماة cafe24/auto، على صعوبة المهمة والتكلفة لاختيار النموذج. وفي خطة الدفع حسب الاستخدام، التي لا تتضمن رسماً شهرياً أساسياً ولا عقداً، لا تُحتسب الاستدعاءات الفاشلة على المستخدم.

وتتيح لوحة معلومات في الوقت الفعلي للمستخدمين متابعة حجم الاستخدام والتكاليف. ويبلغ عدد النماذج المدعومة نحو 270 نموذجاً، بعد أن كان نحو 120 عند الإطلاق.

منافسون في السوق نفسه

كشفت KT عن منصتها لتكامل الذكاء الاصطناعي Token Factory في 27 أكتوبر، وبدأت الخدمة الكاملة لعملاء المؤسسات في 30 أكتوبر. وتوفر المنصة في البداية 73 نموذجاً عبر واجهة برمجية واحدة، مع اختيار النموذج ومراقبة الاستخدام والفوترة، وتخطط لتوسيع العدد إلى أكثر من 500 نموذج هذا الشهر عبر الربط بمنصة OpenRouter.

وفي سياق متصل، أعلنت Rebellions أول عقد توريد لحل Continuum Enterprise في 23 من الشهر الماضي.