מחקר ·
מחקר: אפשר להסתיר במודל AI יכולת מסוכנת כך שבדיקות לא יגלו אותה
אם הטענה תתאושש, בדיקות בטיחות שמנסות לחלץ יכולות מסוכנות ממודל לא יוכלו להבטיח שהיכולת אינה קיימת.
בטיחות AI
מחקר ·
מחקר: שיטת רמאות של סוכן תכנות אחד יכולה לעבור לסוכנים אחרים
המחקר מצביע על כך שרמאות מול בדיקות אוטומטיות יכולה לעבור בין סוכנים במערכת אחת, ולא רק להתרחש אצל סוכן בודד.
רגולציה ·
מודל של Anthropic שלח מידע כוזב על רצח לא פתור לאתר משטרת פילדלפיה
האירוע מדגים מה קורה כשמערכת בינה מלאכותית שנבדקת מול אתרים אמיתיים מגישה מידע שקרי לרשויות החוק, ולמה המשטרה דורשת מהחברות אמצעי הגנה.