כלים

llama.cpp משחררת גרסה 1.0.0 ומתחייבת לעדכוני ממשק שקופים

הספרייה שעומדת בבסיס כלים רבים להרצת מודלי AI מקומית עוברת לניהול גרסאות מחמיר, כדי שמפתחים ידעו מתי עדכון שובר את הקוד שלהם.

3 דק׳ קריאה
איור של מפתח שעובד מול מסך גדול, שמציג את המספר 1.0.0 לצד השם llama.cpp, ובצד שלו לוח אזהרה ובלוקים מחוברים עם המילה ggml, על רקע של אנשים קטנים שמחברים אפליקציות לספרייה משותפת ורשימת משימות עם פריטים מסומנים.
איור שנוצר ב-AI (OpenAI)
בכתבה הזו
  1. כללי גרסאות חדשים
  2. מה נוסף בגרסה
  3. הפצה, בדיקות והקשר
  4. מה זה אומר בשבילכם

צוות llama.cpp שחרר את גרסה 1.0.0 של הספרייה, יחד עם גרסה 1.0.0 של ספריית הטנזורים ggml שעליה היא נשענת. בפוסט שפורסם ב-Hugging Face כותבים אנשי הפרויקט שהמהלך נועד להדגיש את האחריות שלהם כלפי מפתחים שבונים על העבודה שלהם. מעכשיו שינויים שאינם תואמים לאחור ב-API (הממשק שבו תוכנות אחרות משתמשות בספרייה) וב-ABI (התאימות ברמת הקוד המהודר) יסומנו בעלייה של מספר הגרסה הראשי.

llama.cpp היא ספרייה בקוד פתוח, כתובה ב-C/C++, להרצת מודלי שפה על מחשבים ביתיים ועד שרתים ארגוניים. לפי הפוסט, מאז צאתה לפני כשלוש שנים וחצי כבר נבנו עליה יישומים רבים, וכל שילוב חדש מגדיל את מספר המפתחים שתלויים בממשק שלה.

כללי גרסאות חדשים

הפרויקט מאמץ ניהול גרסאות סמנטי לכל פרויקטי ggml-org. עלייה בגרסה הראשית (MAJOR) תסמן שינוי שובר בממשק ה-C הציבורי. עלייה בגרסה המשנית (MINOR) מיועדת לתכונה תואמת לאחור, עדכון של מנועי חומרה, תמיכה במודל חדש או הוספה לממשק. תיקון באג ללא שינוי בממשק יסומן כ-PATCH. לדברי הצוות, ככל שהאימוץ גדל הוא יקפיד יותר להבהיר את הגבולות האלה למי שצורך את הספרייה.

בפועל, הגרסה עצמה כוללת שבירה. בהערות השחרור ב-GitHub מפורט שהוסר הממשק הישן שסומן כמיושן: הפונקציה llama_set_warmup, 35 פונקציות מיושנות ופרמטר defrag_thold. בנוסף, ממשק NextN להרצה ספקולטיבית (שיטה שמאיצה יצירת טקסט) הועבר אל הקובץ הראשי llama.h. גם ggml 1.0.0 גזמה ממשקים מיושנים והסירה פעולות ישנות, ובכלל זה העלתה את גרסת פרוטוקול ה-RPC כך שיידחו עמיתים לא תואמים. אילו פרויקטים מבחוץ ייפגעו מכך לא מפורט במקורות.

מה נוסף בגרסה

מעבר לניקוי הממשק, ההערות מפרטות שורה ארוכה של שינויים:

  • מטמוני KV בפורמט FP8, ומטמון בזיכרון המארח למודלי MoE (מודלים שבהם רק חלק מה"מומחים" פעילים בכל רגע) עם נתח מוגדר של עבודה על המעבד.
  • תמיכה בשלוש ארכיטקטורות טקסט חדשות (Kimi-K3.1-Pro, Ripple ו-xing4_0), במודל הקול drama-3 להפקת דיבור, ובמודלי ראייה.
  • הקשחת אבטחה בשרת llama-server, בהגנות מפני SSRF, הגדרות CORS ו-DNS rebinding, וכן ביטול קריאות לכלי MCP.
  • נקודת קצה חדשה תואמת OpenAI בשם /v1/audio/speech.
  • ממשק אינטרנט מחודש עם קבוצות שיחות ועורך Markdown.

ב-ggml נוספו שיפורי ביצועים במגוון מנועי חומרה, בהם CUDA, Metal, Vulkan, SYCL, OpenCL, WebGPU ו-Hexagon.

הפצה, בדיקות והקשר

הצוות מתכנן להרחיב את דרכי ההפצה. הפוסט מונה גרסאות מוכנות לליינוקס, macOS, Windows, אנדרואיד ו-iOS, וכן Docker, Debian, Homebrew, conda-forge, MacPorts, Winget ו-XCFramework. עוד נמסר שהפרויקט תומך ביותר מ-150 וריאנטים של ארכיטקטורות מודלים, ושהוא משקיע בתשתית בדיקות אוטומטית באמצעות HF Buckets ו-HF Jobs של Hugging Face ובמכונות עם חומרה מ-NVIDIA, AMD, Qualcomm, Arm, IBM ו-Intel. הפוסט לא מסביר מהם HF Buckets.

הרקע: בפברואר 2026 הודיעו ג'ורג'י גרגנוב וצוות ggml.ai, מייסדי הפרויקט, שהם מצטרפים ל-Hugging Face, כשהם ממשיכים לתחזק את הספריות במשרה מלאה והפרויקט נשאר קוד פתוח.

הפוסט נוגע גם בשימוש במודלי שפה בפיתוח עצמו. לדברי הצוות, הוא משלב אותם "באופן מושכל וסביר", וקובע שאיכות הקוד, השליטה בארכיטקטורה והבנת פרטי המימוש יישארו בראש סדר העדיפויות. מדיניות מפורטת לגבי קוד שנכתב בידי AI לא מוצגת.

מה זה אומר בשבילכם

הגרסה רלוונטית בעיקר למפתחים שמשלבים את libllama או ggml בקוד שלהם: עליהם לבדוק אם הם משתמשים בפונקציות שהוסרו. הפוסט מפנה גם לאפליקציות שולחניות ל-macOS ול-Windows מצוות llama.cpp ו-Hugging Face. ההודעה לא מפרטת תמיכה בעברית או זמינות בישראל, והפרויקט חינמי וקוד פתוח (רישיון MIT לפי ויקיפדיה).

תגובות

היו הראשונים להגיב

המייל לא יוצג באתר. תגובה ראשונה מתפרסמת אחרי אישור. כללי התגובות