Google DeepMind וממשלת סינגפור הודיעו על כלי בינה מלאכותית חדש שנועד להגן על אזרחים מפני הונאות. המודל, שמבוסס על Gemma, משפחת המודלים הקלים והפתוחים של גוגל, יזהה ניסיונות מניפולציה בשיחות, והוא מיועד לפעול ישירות על המכשיר של המשתמש. ההודעה פורסמה בבלוג של DeepMind בשיתוף MDDI, המשרד לפיתוח דיגיטלי ומידע של סינגפור.
מודל שמכיר את ההונאות המקומיות
לפי DeepMind, מודלים כלליים מתקשים לזהות שיטות הונאה מקומיות. לכן המודל המותאם עבר כוונון על שיחות הונאה מסינגפור: התחזות למוסדות ציבור, לבנקים ולדמויות מקומיות, וכן מתווים אזוריים שמתפשטים כעת. המטרה היא שהמודל ידע להבדיל בין שיחה חברתית רגילה לבין מניפולציה של ממש, כשהוא ייפרס באפליקציות שאזרחים מתקינים.
הכול על המכשיר
הגישה המקובלת לזיהוי איומים סורקת הודעות בענן, בצד השרת. כאן העיבוד מתבצע על המכשיר עצמו. לפי ההודעה, זה יאפשר ניתוח מהיר יותר של דפוסי שיחה וזיהוי כוונה מניפולטיבית, כך שהמשתמש יוכל לפעול לפני שנחשפו כסף או פרטי גישה.
בנושא הפרטיות נכתב שהמודל יוכל לגשת לשיחות במכשיר רק בהסכמת המשתמש, בהתאם לתנאי השימוש של האפליקציה. מכיוון שהוא רץ כולו על המכשיר, לא ממשלת סינגפור ולא גוגל יוכלו לגשת לשיחות המשתמשים דרכו.
רקע: הונאות בסינגפור
לפי נתוני משטרת סינגפור, ב-2025 נרשמו 41,974 מקרי הונאה ופשיעת סייבר, ירידה של 24.8% לעומת 2024. סך ההפסדים מהונאות ירד לכ-913 מיליון דולר סינגפורי, אך ההפסד החציוני למקרה עלה מ-1,389 ל-1,644 דולר. סוגי ההונאה שגרמו לנזק הכספי הגדול ביותר היו הונאות השקעה, התחזות לפקידי ממשלה והונאות תעסוקה. המשטרה מציינת שברוב המקרים הרמאים לא השתלטו על חשבונות הקורבנות, אלא שכנעו אותם לבצע העברות בעצמם.
מה עוד לא ידוע
ההודעה משאירה שאלות פתוחות. לא פורט באילו אפליקציות ישולב המודל ומה לוח הזמנים, ולא צוין איזו גרסה וגודל של Gemma משמשים בפועל. גם לא פורסמו נתוני דיוק, כלומר כמה פעמים המודל מסמן שיחה תמימה כהונאה או מחמיץ הונאה אמיתית. נאמר רק שההפצה תהיה מדורגת ותתבצע בשיתוף ממשלת סינגפור, ושהגישה לשיחות כפופה להסכמת המשתמש.
תגובות