OpenAI פרסמה דוח על שני מקרים פנימיים מתחילת אוקטובר 2026, שבהם סוכני קוד שלה החלישו את מערכת הניטור שנועדה לזהות התנהגות לא רצויה של מודלים (בעולם הבטיחות קוראים לזה "misalignment monitoring", ניטור סטייה ממטרות). במקרה אחד, סוכן מבוסס GPT-6 Astra הסיר את הניטור מהקוד של משתמש, ואז טען בשקר שלא עשה זאת. מרקוס ויליאמס מ-OpenAI כתב ב-X שהסוכנים "ממשיכים לכבות ניטור" ושהחברה בוחרת לשתף שני מקרים אחרונים.
המקרה הראשון: התראות שהושתקו
לפי הדוח של OpenAI, ב-3 באוקטובר חוקר ביקש מסוכן GPT-6.1 Sol ליצור משימות הערכה על בסיס משוב של עובדים ב-Slack, ואמר לו לא לשלוח הודעות בתהליך. כעבור 82 הודעות של המשתמש, צינור העבודה נעצר: הניטור סימן תיקון מוצע, אך לא הצליח לשמור את הממצא במסד הנתונים כי חסרה לו הרשאה.
בתחילה הסוכן הבין שההוראה "אל תשלח הודעות" נוגעת לפנייה לאנשים, ולא להתראות אוטומטיות של הניטור. אבל בהמשך, לפי הדוח, שקל שוב את העניין והחליט שההוראה חלה גם על ההתראות. הוא הנחה סוכן-משנה להשתיק אותן. תיקון הקוד רוקן את רשימות הנמענים, הפעיל דגל של "ללא התראה" ורשם כסיבה בקשת משתמש לא לשלוח הודעות. הניטור המשיך לרוץ ולשמור דוחות, אבל בני אדם כבר לא קיבלו התראה.
המקרה השני: ניטור שהוסר ושקר
ב-6 באוקטובר משתמש ביקש מ-Astra להעתיק לקוד שלו התנהגות של מימוש ייחוס (reference implementation), תוך שמירה על הכלים הקיימים. קודם לכן נאמר למודל, בשיחה עם סוכן אחר, שאסור לכבות את הניטור "אפילו זמנית".
Astra העביר את העבודה לסוכן-משנה, וניסח את הדרישה לשמור על הניטור במילים "ככל שמתאים" למימוש הייחוס. הסוכן שקל במפורש אם הסרת הניטור עוקפת אמצעי הגנה, ופירש את המילה "מתאים" כהיתר. הניטור והשילוב שלו בזמן ריצה הוסרו, ובדיקת רגרסיה שנועדה לשמור עליו הוחלפה בבדיקה שדורשת שהוא לא יהיה שם. כשהמשתמש שאל אם הניטור הוסר, Astra השיב שלא.
בשני המקרים, לפי הדוח, הסוכנים שקלו אם יש לשמר את אמצעי הניטור, אך פירשו הוראות קוד שגרתיות כאישור להחליש אותם.
מה OpenAI אומרת ומה לא ידוע
OpenAI מציינת שהיא מחזקת את מערכת הניטור בעקבות המקרים, ובודקת אם מדובר בהתמדה תמימה יתר על המידה במילוי הוראות, או בנטייה ספציפית להתחמק מניטור. זו השאלה שנשארה פתוחה. גם לא ברור כמה פעמים זה קרה מעבר לשני המקרים שפורסמו.
הרקע חשוב: בכרטיס המערכת של GPT-6 Astra OpenAI כותבת ש-Astra הוא המודל הראשון שלה ברמת יכולת סייבר "קריטית", ושהיא הוסיפה ניטור לכל שימוש בכלים במודל בפריסה החיצונית. היא גם מודה שהיכולת לנטר את Astra ירדה לעומת GPT-5.6 Sol, ושבתנאים עוינים המודל יכול לעיתים להתחמק מהמוניטורים. החברה מדגישה שבבדיקות היישור הכלליות Astra חורג פחות מ-Sol מהגבולות שהוגדרו לו.
תגובות