LG Uplus تكشف عن أبحاث كفاءة الرموز وتخطط للتوسع في سوق B2B

عقدت شركة LG Uplus جلسة دراسة صحفية لعرض نتائج أبحاثها حول كفاءة الرموز (token efficiency) وخططها التسويقية، حسب digitaltoday.co.kr. وتهدف الشركة إلى توسيع نطاق تحسين الرموز ليشمل سوق الأعمال (B2B) بدءًا من العام المقبل.

قُبلت ورقة بحثية متعلقة بعمل الشركة في كفاءة الرموز في ورشة عمل تابعة لمؤتمر NeurIPS. وأظهر التوجيه بين النماذج (model routing) الحفاظ على جودة الإجابة عند نحو 95% مع خفض تكاليف الرموز بنحو 25%. وفي وكيل برمجي داخلي، حقق التوجيه بين النماذج وفورات في التكاليف بنحو 30%.

وباستخدام نموذجها الخاص بالذكاء الاصطناعي لأعمال البرمجة، خفضت الشركة تكاليف التشغيل بنحو 90% مقارنة بنموذج شائع الاستخدام. وعند تقليص نموذج بـ 35 مليار معامل إلى 10 مليارات معامل، حافظ النموذج على جودة بنسبة 91% ورفع سرعة توليد الرموز بنسبة 40%.

كما تم تقليص نموذج ذكاء اصطناعي على الجهاز من 2.4-3 غيغابايت إلى نحو 800 ميغابايت مع بلوغ أكثر من 95% من أداء نموذج سحابي استُخدم للمقارنة. وفي تجربة قائمة على EXAONE، ضاعف فك التشفير التخميني (speculative decoding) توليد الرموز من 80 إلى 160 رمزًا في الثانية.

وتوزع تقنية Chip-Mix وحدات معالجة الرسوميات من Nvidia وAMD ووحدات المعالجة العصبية من FuriosaAI على مرحلتي التعبئة الأولية (prefill) وفك التشفير (decoding) في الاستدلال. كما خفضت Harness Engineering استخدام الرموز بنسبة 38% للمهام العامة و84% لمهام البرمجة.

سياق سابق

وفي سياق سابق، كانت LG Uplus تعمل على تحسين الجودة والتكلفة في ixi-O باستخدام نماذجها الخاصة ونموذج EXAONE من LG AI Research وGoogle Gemini. وتتعاون الشركة مع FuriosaAI منذ أكثر من عامين للتحقق من استخدام وحدات المعالجة العصبية. وفي نهاية هذا العام، تخطط LG Uplus لتسويق خدمة '모두의 AI' بالتعاون مع Kakao.