Nota تُسلّم نموذج ذكاء اصطناعي وخوادم لشركة Dube
شركة Nota أكملت تسليم نموذج لغوي مُحسَّن وخوادم لوكيل برمجة بالذكاء الاصطناعي يعمل محليًا لدى شركة Dube المتخصصة في قطاع المال.
أعلنت شركة Nota أنها وقّعت عقدًا مع شركة Dube لتوريد نموذج لغوي كبير (LLM) مُحسَّن وخوادم لتشغيل وكيل برمجة بالذكاء الاصطناعي يعمل داخل البنية المحلية (on-premises) ومُصمّم لقطاع الخدمات المالية، وأنها أكملت التسليم بموجب العقد. أورد الخبر موقع datanet.co.kr.
ووفقًا لـ Nota، يشمل نطاق التوريد تخفيف حجم النموذج وتحسين بيئة الاستدلال والتقديم (serving)، إلى جانب إعداد الخوادم الخاصة بوكيل البرمجة التابع لـ Dube.
تحسينات في الأداء على العتاد نفسه
أكدت Nota أن عدد الطلبات في الدقيقة ارتفع بنسبة تتراوح بين نحو 58% و95% على البيئة نفسها من وحدات معالجة الرسوميات (GPU) مقارنة بما قبل التحسين، وأن زمن استجابة الطلب الأول (first-token latency) انخفض إلى أقل من النصف.
وأوضحت الشركة أنها اعتمدت تقنية التكميم (quantization) لتقليل متطلبات الذاكرة التي يحتاجها النموذج اللغوي، مع تحسين عملية الاستدلال وبيئة التقديم معًا.
وتُعدّ Dube شركة تطوير ودمج أنظمة (SI) تعمل في القطاع المالي وتورّد وكلاء برمجة بالذكاء الاصطناعي لمؤسسات مالية. ولم يتضمّن الإعلان قيمة العقد أو جدولًا زمنيًا لتنفيذه.
أسئلة سريعة
ما الذي سلّمته Nota لشركة Dube؟
نموذجًا لغويًا كبيرًا مُحسَّنًا وخوادم لتشغيل وكيل برمجة بالذكاء الاصطناعي يعمل محليًا ومُصمّم لقطاع الخدمات المالية.
ما مقدار التحسن في الأداء بعد التحسين؟
ارتفع عدد الطلبات في الدقيقة بنسبة تتراوح بين نحو 58% و95% على التكوين نفسه من وحدات GPU، وانخفض زمن استجابة الطلب الأول إلى أقل من النصف.