בכתבה הזו
צוות ה-Frontier Red Team של Anthropic, שבודק סיכונים של מודלים מתקדמים, פרסם מחקר שלפיו מודלי AI קטנים עשויים להיות במרחק חודשים ספורים מיכולת להעתיק את עצמם בין מכשירי "אינטרנט של הדברים" (IoT) זולים, כמו תנורים חכמים וקופסאות טלוויזיה אנדרואיד לא ממותגות. החוקרים, וויליאם ז'ו ודניאל פרימן, מדגישים שעדיין אין תולעת AI עצמאית שפועלת בשטח. מה שנבדק הוא עד כמה מודלים קיימים מצליחים בכל שלב בשרשרת ההעתקה.
מה נבדק
החשש המוכר נקרא "שכפול והסתגלות אוטונומיים": מודל שמפיץ את עצמו בלי שליטה אנושית. עד היום ההנחה הייתה שזה ידרוש כרטיסי GPU יקרים במרכזי נתונים. החוקרים בדקו אם אפשר להסתדר גם בלי. הם קנו 15 קופסאות טלוויזיה אנדרואיד במחיר של כ-55 דולר כל אחת, חיברו אותן לרשת והריצו עליהן את Gemma4-26B-A4B, מודל פתוח בן 26 מיליארד פרמטרים, כשכל קופסה מחזיקה כמה שכבות ממנו. המהירות נמוכה מאוד: 0.39 טוקנים בשנייה.
לפי החוקרים, מודלים של עד 30 מיליארד פרמטרים כבר מסוגלים להשלים רבים מהשלבים הבודדים של ההעתקה, אך הם טועים כשצריך לחבר אותם יחד מתחילה ועד סוף.
בנוסף נבדקה היכולת להרים שרת הרצה של מודל על חומרה לא מוכרת, שלב שהחוקרים מגדירים כפחות נחקר וכקשה במיוחד למודלים קטנים. לפי הפוסט, מודל של 9 מיליארד פרמטרים הצליח להפעיל הרצה ב-8 מתוך 9 סוגי חומרה שנבדקו, מ-Jetson Nano ועד מחשבי Mac וכרטיסי RTX 4090.
מבחן ההעתקה מקצה לקצה
במבחן המלא נבנתה רשת סגורה של 8 צמתים בענן של גוגל, שהריצו אמולטור של אנדרואיד 15. צומת אחד הוזרע בתולעת, והיא נדרשה לעבור מצומת לצומת דרך פורט ADB ללא אימות, ולהרים בכל יעד שרת הרצה תקין של Llama3.1-8B. רק מודל אחד מבין המודלים הפתוחים שנבדקו, GLM-5.2, השלים את המחזור בעקביות: הוא הגיע ל-8 מתוך 8 צמתים ב-4 מתוך 5 ניסיונות, ול-7 צמתים בניסיון החמישי. שאר המודלים נכשלו.
החוקרים מדגישים שהמבחן פשוט מכוון: שלב הפריצה היה טריוויאלי, ולכן התוצאה היא "גבול עליון" להצלחה בעולם האמיתי. מנגד הם מזכירים שרשתות בוטנט ישנות כמו Mirai התפשטו בעזרת רשימת סיסמאות ברירת מחדל של יצרנים, כך שאבטחת IoT אמיתית אולי לא קשה בהרבה.
כמה זה מהיר וכמה זה גדול
ההתפשטות לא הייתה מהירה. על הקופסאות האמיתיות הקמת הרצה מלאה לקחה בין 71 ל-150 שעות עם Gemma ובין 28 ל-51 שעות עם Qwen3.5-9B. החוקרים מעריכים זמן הכפלה של ימים, ומשווים זאת לעובש רירי או לנחיל זבובי פירות.
כדי לתת קנה מידה הם משתמשים ב-Kimwolf, בוטנט שלפי Synthient הדביק יותר משני מיליון מכשירים, בעיקר קופסאות אנדרואיד. ברשת בגודל כזה יהיו כ-133 אלף עותקים של המודל, עם כוח חישוב שווה לכ-40 כרטיסי H100 לכל היותר. זו כמות זעירה במונחים מוחלטים, אך לדבריהם היא ממחישה איך נראה משכפל פשוט בעתיד הקרוב.
הציר הזמן
החוקרים מגדירים שני סיפים: "רצפה" של יכולת שהתולעת צריכה כדי לשכפל את עצמה (GLM-5.2 במבחן המפושט), ו"תקרה" של גודל שהמודל חייב לעמוד בו כדי לרוץ על המכשירים. כרגע, כלשונם, שני הסיפים לא נפגשים. לפי מגמת השיפור ההיסטורית של מודלים עד 30 מיליארד פרמטרים (13.7 נקודות במדד Epoch Capabilities Index בשנה), מודל קטן יגיע לרמת היכולת של GLM-5.2 עד סוף 2026. לדבריהם, משכפלים קטנים שנושאים את המשקלות של עצמם עשויים להתאפשר זמן קצר אחרי כן. החוקרים עצמם מזהירים שהמדד הוא רק קירוב ליכולת העתקה, ולכן זו הערכה גסה.
הסתגלות ועצות
אחד היתרונות האפשריים של תולעת AI על פני תולעת רגילה הוא יכולת ללמוד. בניסוי, מופעים עוקבים של Qwen3.5-9B העבירו זה לזה הערות על מה ניסו ומה נכשל, ושיעור ההצלחה בהקמת הרצה עלה מ-45% בדור הראשון לטווח של 61% עד 84% בדורות מאוחרים. מנגד, גישה ליועץ חזק, Opus 4.8, לא שיפרה את התוצאות באופן מובהק, כי המודלים הקטנים לא יודעים אילו שאלות לשאול. החוקרים מסיקים שתיאום סביר יותר יהיה מודל גדול שמנהל אסטרטגיה ומפעיל מודלים קטנים כתת-סוכנים.
ההגנה ומה שלא ידוע
ההגנה, לפי החוקרים, דומה למאבק במגפה: צריך להוריד את מספר המכשירים החדשים שכל מכשיר נגוע מדביק מתחת ל-1, כך שהתולעת תדעך במקום להישאר בסביבה. הם גם מתארים את המשכפלים כאיטיים ומתמידים, בדומה לעובש רירי.
נשארות שאלות פתוחות. לא ברור עד כמה המבחנים המפושטים משקפים רשתות IoT אמיתיות שמוגנות, וכמה מהר תולעת כזו תתפשט בפועל. גם התחזית לסוף 2026 נשענת על קו מגמה ועל מדד כללי, והמחקר פורסם על ידי חברה שבונה מודלים כאלה, והנתונים לא נבדקו באופן עצמאי.
המסקנה של החוקרים: "כמו סוכני קוד ב-2024, אנחנו רואים סימני חיים של תולעות AI". לדבריהם, כדאי להקשיח מערכות כך שיהיה קשה להתפשטות כזו, ולהתכונן גם לעולם שבו משכפלים כאלה כבר כאן.
תגובות