تحديث جديد لمنصة vLLM يتيح تشغيل نماذج الذكاء الاصطناعى محليًا

  • منذ 21 ايام
  • اليوم السابع
  • كتب مايكل فارس
Loading image...
أصدر مشروع vLLM البرمجي النسخة v0.32.0 من منصته المستخدمة لتشغيل نماذج الذكاء الاصطناعي على الخوادم، مع إضافة دعم لنماذج متعددة تتعامل مع النصوص والصور والصوت والفيديو، وتحسينات في معالجة الطلبات وإدارة موارد الحوسبة، في تحديث يستهدف المطورين والشركات التي ترغب في تشغيل النماذج على بنيتها التقنية بدلًا من الاعتماد الكامل على الخدمات التي توفرها الشركات المالكة للنماذج.

ووفقًا لسجل الإصدار المنشور على المستودع الرسمي لمشروع vLLM عبر GitHub، تضمن التحديث 814 تغييرًا برمجيًا شارك فيها 363 مساهمًا، بينهم 121 مساهمًا جديدًا، وأضاف دعمًا لنموذج EmbeddingGemma 2 القادر على معالجة أنواع متعددة من المدخلات، ونموذج MiniCPM-V 4.7، إلى جانب دعم تحويل الكلام إلى نص باستخدام نموذج Nvidia Nemotron 3.5 ASR.