בכתבה הזו
OpenAI הודיעה על שני צעדים חדשים בתחום בטיחות הציבור: דוח שיפורסם בקביעות על ההגנות של ChatGPT מפני אלימות, והגבלות נוספות על מידע בנושא מתקפות המוניות מהעבר, שחלות על כל המשתמשים, לצד הגבלות על מידע בנושא נשק לקטינים. לפי הודעת החברה, ההגנות יתחילו לצאת "בשבועות הקרובים".
דוח בטיחות חצי-שנתי
OpenAI מתחייבת לפרסם את "דוח בטיחות הקהילה", שיסביר איך המערכות שלה מאומנות לזהות, לבדוק ולהגיב לסיכוני אלימות, וכמה אפקטיביות ההגנות הן. הדוח יכלול דוגמאות אנונימיות, שינויי מדיניות חדשים ונתונים. הדוח הראשון צפוי בתחילת 2027 ויכסה את המחצית השנייה של 2026, ועדכונים יגיעו אחת לשישה חודשים.
החברה מוסרת שביצעה יותר מ-200 הפניות לרשויות החוק ברבעון השלישי של 2026, בגין איומי אלימות מיידיים. לדבריה, ההפניות האלה תרמו לסיכול תוכניות אלימות. ההודעה לא מפרטת באילו מדינות או סוגי איום מדובר, וגם לא כמה מההפניות הגיעו מזיהוי אוטומטי וכמה מבדיקה אנושית.
פחות פרטים על מתקפות קודמות
OpenAI מצמצמת את רמת הפירוט ש-ChatGPT נותן על מתקפות המוניות מהעבר ועל מי שביצעו אותן, גם אם המידע זמין במקומות אחרים באינטרנט. עדיין אפשר לשאול כדי להבין אירועים כאלה, את השפעתם על קורבנות וקהילות, ואת סימני האזהרה. אבל שחזורים של המתקפות, פרטים על הנשק והציוד ועל הדרך להשיגם, והשוואות מפורטות של היקף הנזק שעלולות להגדיל את תהילת התוקף, מוגבלים. לפי החברה, ההגבלות חלות בלי קשר לגיל המשתמש או לסיבת השאלה.
בנוסף, כשבשיחות אחרונות מופיעים סימני אזהרה לאלימות אפשרית, ChatGPT יהיה זהיר יותר במסירת מידע שעלול לשמש לרעה. החברה כבר סיפרה במאי שהצ'אט יכול להסתמך על סיכומים קצרים של סימני אזהרה קודמים. היא גם עובדת על החלת המגבלות הקשוחות גם כשהיא מעריכה שהמשתמש מתחת לגיל 18, גם אם אין סימנים לכוונת אלימות.
צעד נוסף בפיתוח: כשהשיחה מראה שמישהו מקובע על אלימות או על פגיעה קשה באחר, ChatGPT יוכל לסיים אותה אוטומטית. אם זה קורה כמה פעמים, החשבון עשוי להיות מושהה זמנית. החברה מציינת שהיא מפתחת זאת עם מומחים לבריאות הנפש ולמניעת אלימות, ושעדיין עובדת על זיהוי אמין של סימני אזהרה.
מגבלות חדשות על בני נוער
ChatGPT for Teens מחיל הגנות מותאמות גיל על משתמשים מתחת ל-18. המדיניות של OpenAI כבר אסרה לעזור למישהו לתכנן או לבצע אלימות, והגבילה עזרה לבני נוער באיתור נשק או בהשגתו. כעת ההגנות מורחבות גם למידע מעשי על נשק ועל מערכות אבטחה שעלול לאפשר אלימות, גם כשאין סימן לכוונת אלימות וגם כשהשאלה נראית תמימה. בני נוער עדיין יכולים להשתמש בצ'אטבוט כדי למנוע אלימות ולהרגיע מצבים, לבקש תמיכה ולהתחבר למבוגר אמין.
את בני הנוער מעביר לחוויית משתמש מתחת לגיל 18, בין היתר, מנגנון חיזוי הגיל, שהושק בשנה שעברה ומעריך לפי דפוסי התנהגות ואותות אחרים אם המשתמש מתחת ל-18. מי שסווג בטעות כקטין יכול לאמת שהוא בוגר דרך Persona, שותפת אימות הגיל של OpenAI. לפי עמוד חיזוי הגיל, האימות נעשה בסלפי, ואפשר להתחיל אותו דרך Settings > Account.
גם בקרת ההורים מתרחבת. הורים שקישרו את חשבונם לחשבון הנער מקבלים התראות כשבודקים מיומנים מזהים חשש חמור לפגיעה עצמית או התנהגות אכילה מופרעת. ביולי נוספה התראה כשחשבון הנער הושבת בגלל הפרת מדיניות האלימות. כעת OpenAI עובדת על התראה גם כשחשבון מושהה בגלל שיחות חוזרות על אלימות.
מה עוד לא ברור
ההודעה לא אומרת אם הדוח קשור לביקורת ציבורית או לדרישה של רגולטור. היא גם לא חושפת נתונים נוספים על יעילות ההגנות; את אלה החברה מבטיחה לפרסם בדוח.
הרקע הרחב: כפי שדיווחנו, טקסס תבעה את OpenAI בטענה שלא הגנה על משתמשים, ובהם ילדים. ההודעה הנוכחית אינה מתייחסת לתביעה.
מה זה אומר בשבילכם
השינויים יחולו על משתמשי ChatGPT, ובמיוחד על חשבונות של בני נוער. הורים יכולים לקשר את חשבונם לחשבון הילד דרך בקרת ההורים. ההודעה לא מפרטת אם התכונות זמינות בישראל או עובדות בעברית.
תגובות