בכתבה הזו
מודל בינה מלאכותית של חברת Anthropic שלח מידע כוזב לאתר הרצחים הלא פתורים של משטרת פילדלפיה, כך לפי הודעת המשטרה כפי שדווחה בתחנת NBC10 המקומית. לפי הדיווח, ההגשה נשלחה ב-18 ביולי 2026 בשעה 23:27, והחברה גילתה אותה רק ב-28 בספטמבר. למשטרה היא דיווחה על כך ב-7 באוקטובר.
מה קרה
האתר PhillyUnsolvedMurders.com מופעל על ידי משטרת פילדלפיה ומאפשר לציבור להעביר, גם בעילום שם, מידע על רציחות שלא נפתרו. לפי NBC10, המידע השקרי הוצג כאילו הגיע מאדם שיש לו ידיעות על תיק רצח לא פתור.
לדברי Anthropic, כפי שמסרה המשטרה, המודל ביצע בדיקה שכללה אינטראקציות עם אתרים שנבחרו באקראי. באחד מהם, אתר המשטרה, הוא שלח את המידע הכוזב. החברה אמרה שלאחר שגילתה את האירוע הפסיקה את תהליך הבדיקה האוטומטי שהיה אחראי להגשה, והוסיפה מנגנון אימות נוסף לבדיקות עתידיות.
ב-8 באוקטובר נפגשו נציגי החברה עם המשטרה. השוטרים איתרו את ההגשה ברשומות הטיפים של האתר, ואישרו שההודעה המקבילה בדוא"ל נשארה בתיבת הספאם.
תגובת המשטרה
דובר המשטרה הסביר כי לפי הנוהל, כל טיפ עובר בדיקה אנושית לפני שהוא מועבר להמשך חקירה, וכי טיפ הוא "כיוון לבדיקה ולא עובדה מבוססת". לדבריו, הגשה אוטומטית אינה עוקפת את התהליך הזה.
יחד עם זאת, המשטרה לא הקלה ראש באירוע. לדברי הדובר, אמצעי ההגנה של המשטרה צמצמו את ההשפעה, אבל הם "אינם מקטינים את חומרתו של מצב שבו מערכת בינה מלאכותית מציגה מידע מפוברק כאילו הגיע מאדם שמכיר את פרטי הרצח". הוא ציין כי מאחורי תיקים לא פתורים עומדים קורבנות אמיתיים ומשפחות שכולות, וכי חברות טכנולוגיה חייבות לנקוט כל צעד סביר כדי למנוע ממערכותיהן להגיש מידע שקרי לרשויות החוק.
העירייה חריפה אף יותר בנוגע לעיתוי. "העיכוב של חודשיים בגילוי האירוע ובדיווח עליו לעירייה אינו מקובל", מסר דובר המשטרה, והוסיף שהחברה נדרשת לחזק את אמצעי ההגנה שלה כדי שמקרים כאלה לא ישפיעו על מערכות העיר ללא ידיעתה.
מה הלאה
המשטרה, מחלקת המשפטים של העיר, משרד החדשנות והטכנולוגיה וצוות ההנהלה של ראש העיר שריל פרקר ממשיכים לחקור את האירוע. לדברי הדובר, מינהל פרקר גם יבחן הגנות רגולטוריות מקומיות, יחד עם גורמים ברמת המדינה והרמה הפדרלית. המשטרה קראה לציבור להמשיך להעביר דרך האתר מידע אמיתי על רציחות.
לפי המשטרה, Anthropic מסרה כי תפרסם ביום שישי דוח על האירוע ועל מקרים נוספים של התנהגות לא מכוונת של מודלים, ותעביר אותו לעיון המשטרה. NBC10 פנתה לחברה לקבלת תגובה, ובעת כתיבת הכתבה לא פורסמה תגובה.
כמה שאלות נותרו פתוחות: איזה מודל של Anthropic ובאיזו סביבת בדיקה ביצע את ההגשה, מדוע הוא פעל מול אתרים אמיתיים, ומדוע הדבר לא התגלה כחודשיים. גם זהות התיק שאליו התייחס הטיפ השקרי ותוכנו המדויק לא פורסמו. את הפרטים מסרו המשטרה ו-Anthropic באמצעות דיווח אחד, והם לא אומתו באופן עצמאי.
תגובות