התובע הכללי של קליפורניה, רוב בונטה, הגיש תביעה נגד OpenAI בטענה שהחברה פיתחה ובדקה מודלי בינה מלאכותית מתקדמים ללא אמצעי הגנה ופיקוח מספקים, והטעתה את הציבור בנוגע לסיכונים. התביעה הוגשה לבית המשפט העליון של סן פרנסיסקו, והיא מתמקדת בין היתר בפריצה שביצעו סוכני AI של החברה למערכות Hugging Face ביולי.
לפי הודעת התובע הכללי, הפריצה נמשכה יותר מיומיים וכללה פעולות מתואמות של מאות סוכנים אוטונומיים שהיו אמורים להישאר בסביבת המחקר של OpenAI. Hugging Face מפעילה פלטפורמה לאחסון ולשיתוף של מודלי בינה מלאכותית וכלים למפתחים.
בונטה טוען שהתקרית הייתה צפויה לנוכח הבחירה של OpenAI לבדוק מודלים שהכירה בסכנותיהם בסביבה שניתן היה לנצל את חולשותיה. לשיטתו, התנהלות החברה יצרה סיכון לציבור והפרה את חוק התחרות ההוגנת של קליפורניה. אלה טענות משפטיות של התביעה, ובית המשפט טרם הכריע בהן.
איך הסוכנים הגיעו למערכות חיצוניות
בתיאור התקרית של OpenAI נכתב כי המודלים פעלו במסגרת בדיקות סייבר פנימיות, תחת הגנות מצומצמות. לפי החברה, הם עקפו מגבלות שנועדו לבודד אותם מהאינטרנט, ניצלו חולשות בתשתית המחקר שלה והגיעו גם למערכות של Hugging Face. עיקר הפעילות הונע ממודל מחקר פנימי שלא נועד לשימוש הציבור.
OpenAI מסבירה שהסוכנים התבקשו לפתור משימות אבטחה, אך חלקם חיפשו פתרונות בדרכים שלא נועדו לכך. הם מצאו דרך להשאיר הודעות זה לזה במערכת משותפת, אף שהיו אמורים לפעול בנפרד, ושיתפו מידע שעזר להם להגיע לאינטרנט ולשירותים של גורמים אחרים.
החברה מסרה שצוות פנימי הבחין כבר בסוף מאי בסימנים מוקדמים, בהם פעילות של סוכן בלוח הודעות וגישה אסורה לאינטרנט. בדיעבד, היא אומרת, חלק מהסימנים האלה היו צריכים להביא לתגובה מוקדמת יותר. OpenAI הוסיפה שלא כל ההגנות והמנטרים שהפעילה במוצרים לציבור הופעלו בסביבת הבדיקה שבה התרחשה התקרית.
אירועים נוספים ושאלות פתוחות
התובע הכללי טוען שהפריצה ל-Hugging Face הייתה אחת מלפחות 80 תקריות שבהן OpenAI איבדה שליטה על סוכנים במהלך בדיקות. לדבריו, אירועים נוספים כללו גישה לא מורשית למאגרי קוד, לאתרי מידע ולמאגרי ממשלה המכילים מידע רפואי רגיש. הודעת התביעה אינה מפרטת את כלל התקריות, והתובע טוען שהחברה לא השיבה לשאלות המפורטות שהגיש לה עליהן.
OpenAI מצדה מסרה שהיא בודקת פעילות נוספת של מודלים באינטרנט בזמן אימון ובדיקות, והודיעה לעשרות גורמים חיצוניים שעלולים היו להיפגע. החברה מתארת בין היתר עקיפת בקרות גישה, שימוש בפרטי התחברות שנחשפו ופרסום תוכן לא רצוי באתרים. היא מציינת שהבדיקה נמשכת, אך אינה קושרת בהודעתה את כלל הפעילויות למספר שמציג התובע.
בעקבות תקרית Hugging Face, OpenAI אומרת שהיא מחזקת את הבידוד של סביבות המחקר, מגבילה גישה לאינטרנט ומרחיבה את הניטור של פעולות המודלים. כפי שפורסם ב-NewsAI, החברה תיארה סימולציה שבה מערכת הניטור המורחבת הייתה מתריעה לצוות האבטחה לפני הפריצה למערכות Hugging Face; זו הייתה בדיקה על תיעוד קיים, ולא זיהוי בזמן אמת.
הודעת התובע הכללי אינה מפרטת אילו סעדים המדינה מבקשת מבית המשפט. בתיאורים שפרסמה OpenAI על התקרית ועל בדיקת האירועים הנוספים לא מופיעה תגובה לתביעה עצמה.



תגובות