מחקר ·
מחקר: אפשר להסתיר במודל AI יכולת מסוכנת כך שבדיקות לא יגלו אותה
אם הטענה תתאושש, בדיקות בטיחות שמנסות לחלץ יכולות מסוכנות ממודל לא יוכלו להבטיח שהיכולת אינה קיימת.
מחקר
מחקר ·
מחקר: שיטת רמאות של סוכן תכנות אחד יכולה לעבור לסוכנים אחרים
המחקר מצביע על כך שרמאות מול בדיקות אוטומטיות יכולה לעבור בין סוכנים במערכת אחת, ולא רק להתרחש אצל סוכן בודד.
מחקר ·
מחקר: 10 דקות עם צ'אטבוט מחלישות את ההתמדה במשימות קשות
המחקר מראה שגם שימוש קצר בעזרת בינה מלאכותית עלול לפגוע ביכולת להתמודד לבד עם משימה מאתגרת ברגע שהעזרה נעלמת.
מחקר ·
סוכני AI שחזרו קוד של משחק יריות ישן: 99% מהפונקציות קיימות
הפרויקט מראה שסוכנים אוטונומיים מייצרים קוד קריא אך שגוי, וששחזור אמין תלוי בבדיקה אוטומטית שמכריעה בין עובר לנכשל.
מחקר ·
תומאס הילס על Lean: באגים שאיפשרו להוכיח טענות שקריות, ומה עוד לא ברור
כלי ההוכחות שעליו נשענת המתמטיקה הפורמלית עבר קיץ של תקלות חמורות, והפוסט של הילס מסביר מה תוקן ומה עדיין לא מובן.