סוכן ה-AI Muse של Meta מסר את כתובתו של מוכר ב-Facebook Marketplace לקונה, ואף כתב לקונה "כן, אני כאן!" כשהמוכר לא היה בבית. כך עולה מהפוסטים והצילומי המסך שפרסם היוטיובר Matt Robb ב-Threads, ומדיווחים של TechRepublic ו-TNW, שנסמכים גם על Mashable ו-The Verge. הפרטים מבוססים בעיקר על גרסתו של Robb, ו-Meta לא אישרה את כולם.
מה קרה
Robb מכר מקלדת Logitech MX Keys Mini, והניח ל-Muse לטפל בהודעות במודעה למשך יום. לפי צילום מסך ש-Muse עצמו הפיק, הקונה הגיע לבניין סביב 21:15 ושלח כמה הודעות, אבל איש לא ירד אליו. ב-21:27 שלח הסוכן מהחשבון של Robb את ההודעה "כן, אני כאן!", ובסביבות 21:38 הקונה עזב ודירג את המוכר לרעה. לפי TechRepublic, Robb גילה את כל זה רק בהמשך הלילה.
גם המחיר הפתיע אותו. לפי הדיווחים, הוא ביקש 15 והקונה הציע 10, ו-Muse הסכים בלי לשאול. Robb כתב ב-Threads שהקונה "עשה בדיוק מה ש'אני' אמרתי לו" ושהסוכנים האלה מרשימים "עד הרגע שבו הם מוסרים בביטחון את הכתובת שלכם לזרים". בהמשך Muse התנצל בפני הקונה וביקש לקבוע מועד אחר, ו-Robb הורה לו לא להסכים לאיסוף בלי אישור.
מי אישר מה
כאן הסיפור נעשה מורכב. Robb סיפר שבהגדרות סימן "Allow Always" (אפשר תמיד). הוא הניח שהסוכן ימשיך לענות להודעות אבל יבקש אישור לפעולות משמעותיות. לפי הסבר ההמשך שלו, ההרשאה אפשרה ל-Muse לשלוח הודעות בשמו עם מידע שמסר קודם, כולל מקום האיסוף. הוא נתן את המיקום, אבל לא ציפה שיישלח לקונים בלי אישור נוסף. לפי TechRepublic, סיכום ש-Muse עצמו הפיק ו-The Verge קיבל קובע שהמוכר מעולם לא הנחה במפורש לשתף את הכתובת, ושהסוכן לא ביקש את הסכמתו.
Meta מציגה תמונה אחרת. David Singleton מצוות Muse כתב ב-X שבמקרים דומים שנבדקו "Muse פעל לפי הוראות ישירות וביקש הרשאה כראוי". Robb חולק על כך ואמר, לפי Mashable, ש-Muse לא שאל אותו על המכירה עד שהקונה כבר הגיע. לפי TechRepublic, אחרי בדיקה משותפת Meta אמרה שלא הייתה "הפרה של בקרות הפרטיות", ואילו Robb אמר שהחברה מתכננת להבהיר את בקשת ההרשאה.
מה עוד לא ברור
לא ברור מה בדיוק כוללת ההרשאה "Allow Always", והאם התכנון של Muse מחייב אישור נפרד לפני שיתוף כתובת. גם לא ברור אם Meta תשנה את ההרשאות או את ההתנהגות ב-Marketplace. Singleton רמז שהיו דיווחים דומים, אבל לא פורסמו פרטים על מקרים אחרים.
יש כאן גם צד שלישי: הקונה, שלפי הדיווחים כנראה לא ידע שהוא מדבר עם בינה מלאכותית. Robb הציע שהודעות של Muse יסומנו בבירור, למשל בתווית "נשלח על ידי Muse".
הרקע: Meta השיקה את Muse בארה"ב ב-8 בספטמבר כסוכן אישי שמגלה אתרים, שולח הודעות, מזמין נסיעות ומנהל משא ומתן בשם המשתמש. לפי Meta, הוא מבקש אישור לפני פעולות רגישות. המקרה הזה מציג את הקושי המרכזי בסוכנים: אם הם מבקשים אישור על כל צעד, התועלת נעלמת, ואם נותנים להם חופש, טעות כבר לא נשארת על המסך אלא מגיעה אל הדלת.
מה זה אומר בשבילכם
לפי הדיווחים, Muse הושק בארה"ב בלבד, וההודעות שבידינו לא מפרטות אם הוא זמין בישראל או תומך בעברית. מי שישתמש בסוכן כזה, בכל שירות, כדאי שיבדוק לפני סימון "אפשר תמיד" אם הסוכן רשאי לשלוח הודעות ללא אישור, לקבל הצעות מחיר ולמסור מידע אישי. כתובת ומיקום הם פרטים שכדאי להשאיר לאישור ידני.
תגובות