Vessel AI تدير الاستدلال العالمي لنموذج Solar Pro 4 من Upstage
Vessel AI أعلنت تشغيل خدمة الاستدلال العالمي لنموذج Solar Pro 4 عبر خوادم GPU في كوريا الجنوبية وأوروبا والولايات المتحدة، مع تحسين سرعة المعالجة حتى 3 أضعاف.
أعلنت شركة Vessel AI أنها أدارت خدمة الاستدلال العالمي لنموذج Solar Pro 4 التابع لشركة Upstage، حيث عالجت طلبات المستخدمين حول العالم عبر بنيتها التحتية من خوادم GPU في مراكز بيانات في كوريا الجنوبية وأوروبا والولايات المتحدة.
ووفقًا لما نقلته منصة platum.kr، فقد نسّقت Vessel AI مع Upstage جداول الإطلاق والترويج والطلب المتوقع لتصميم سعة المعالجة اللازمة. واستخدمت الشركة تقنيات لتحسين استخدام الذاكرة المؤقتة (cache) والتكميم (quantization) لرفع سرعة المعالجة بمعدل 2 ضعف في المتوسط، وبما يصل إلى 3 أضعاف، مع خفض تكلفة التوكن الواحد إلى النصف.
وصل نموذج Solar Pro 4 إلى المركز الثالث في الاستخدام على منصة توجيه النماذج اللغوية الكبيرة OpenRouter حول شهر سبتمبر.
وفي سياق سابق، زوّدت Vessel AI شركة SK Biopharm ببنية تحتية من خوادم GPU لأغراض البحث والتطوير في الذكاء الاصطناعي. كما وقّعت اتفاقية مع Neo AI لبناء وتشغيل منصة GPU في مركز بيانات بوهانغ للذكاء الاصطناعي.
أسئلة سريعة
ما هو النموذج الذي أدارت Vessel AI استدلاله العالمي؟
نموذج Solar Pro 4 من شركة Upstage.
أين توجد خوادم GPU التي استُخدمت في المعالجة؟
في مراكز بيانات في كوريا الجنوبية وأوروبا والولايات المتحدة.
ما مدى تحسن سرعة المعالجة وخفض التكلفة؟
ارتفعت سرعة المعالجة بمعدل 2 ضعف في المتوسط وبما يصل إلى 3 أضعاف، وانخفضت تكلفة التوكن الواحد إلى النصف.