OpenAI פרסמה גרסה מעודכנת של ה-Model Spec, המסמך הציבורי שמתאר איך החברה רוצה שמודלים שלה יתנהגו. העדכון מארגן מחדש את ההנחיות סביב חמישה ערכים: נאמנות לכוונת האדם, צמצום נזק, כנות ושקיפות, הגברת האוטונומיה האנושית (human agency) ואכפתיות.
לפי החברה, ככל שהמודלים חכמים יותר ונוקטים פעולות משמעותיות יותר בעולם, לא מספיק שיפרשו הוראות מפורשות. הם צריכים להבין כוונות וערכים של בני אדם, כדי לשפוט נכון גם במצבים שההוראות לא מכסות, ועדיין להישאר נאמנים לכוונת האדם ולפיקוח עליהם.
חמשת הערכים
הערך המרכזי הוא נאמנות לכוונת האדם. לפי OpenAI, הכוונה היא ללכת מעבר לביצוע מילולי של הוראות, ולהבין מה OpenAI, המפתחים והמשתמשים באמת רוצים, ולפעול בתבונה כשההבנה חלקית. ההודעה מביאה דוגמה: כשעוזרים למשתמש להשוות הצעות עבודה, המודל יכול להסתמך על סדרי עדיפויות ששיתף בעבר, כמו שעות קבועות, אבל צריך להציג את ההנחות האלה בגלוי ולאפשר לתקן אותן.
ארבעת הערכים האחרים מוסיפים שיקולים לטווח ארוך ולהשפעה על אחרים:
- צמצום נזק: כיבוד גבולות בטיחות נוקשים והתחשבות בתוצאות הצפויות של פעולות המודל.
- כנות ושקיפות: אמירת אמת על מה שהמודל יודע, עושה ואינו בטוח בו.
- הגברת האוטונומיה האנושית: חיזוק היכולת של אנשים להבין, לבחור ולפעול בעצמם.
- אכפתיות: תשומת לב לנסיבות של מי שמושפע, כיבוד נורמות חברתיות ומקצועיות, ועבודה שאפשר לסמוך עליה.
OpenAI מדגישה שהערכים האלה אינם מכסים את מכלול הערכים האנושיים. לדבריה, ה-Spec הופך אותם להנחיות מעשיות, עם גבולות נוקשים היכן שצריך, ובדרך כלל כברירות מחדל שמשתמשים ומפתחים יכולים לשנות.
מה השתנה במסמך
לפי ההודעה, הארגון מחדש חשף פערים, ולכן נוספו עקרונות חדשים ואחרים תוקנו או הוסרו. נוסף פרק על נאמנות לכוונת האדם, הכולל גרסה מעודכנת של "שרשרת הפיקוד", כלומר ההסבר אילו הוראות חלות ואיך נפתרות סתירות ביניהן. תת-פרק חדש, "לשקול הקשר בקפידה", מסביר איך שיחות, זיכרונות וראיות נוספות צריכים להשפיע על הבנת הכוונות וההעדפות של המשתמש.
נוספו גם ברירות מחדל לתמיכה באוטונומיה אנושית ולכיבוד נורמות חברתיות, והורחבה ההנחיה על שליטה בתופעות לוואי ועל דיווח עליהן.
במקביל, OpenAI מפרקת את רוב ההנחיות המפורטות בנושא סגנון. לדבריה, הסגנון צריך להתאים להעדפות של אנשים: בממוצע, בתוך שפות ותרבויות, ולכל אדם בנפרד, לפי משוב והקשר. נשארו ברירות מחדל חזקות יותר, כמו גישה אובייקטיבית לשאלות. משתמשים ומפתחים יכולים לבקש במפורש נקודת מבט מסוימת, אבל המודל לא אמור להסיק זאת רק ממה שהוא חושב שהם רוצים לשמוע. עוד שינוי: במסמך מופיע עכשיו "GPT" במקום "העוזר" (the assistant), בגלל מגוון השימושים וסביבות ההפעלה.
גם שיטות אימון חדשות
OpenAI מוסיפה שהיא בוחנת שיטות אימון חדשות שנועדו ללמד את המודלים את הערכים האלה ולהבין את העקרונות הספציפיים של ה-Spec, כך שיעשו "את הדברים הנכונים מהסיבות הנכונות". תוצאות ולקחים מהעבודה הזאת יפורסמו בעדכונים עתידיים.
ההודעה גם מודה בפער: ה-Spec מתאר את ההתנהגות שהחברה שואפת אליה, והמודלים עדיין אינם משקפים אותו במלואו. החברה מזמינה את הציבור לקרוא ולהגיב, כולל על האיזון שהמסמך קובע ועל מה שהוא מחמיץ.
מה עוד לא ידוע
ההודעה מדברת בכלליות על "התאמת חלק מברירות המחדל" ועל סגירת הנחיות סגנון, בלי לפרט איזו ברירת מחדל השתנתה בפועל. לא ברור גם עד כמה המסגור החדש ישנה את התנהגות המודלים, ואיך OpenAI תמדוד זאת. הרקע: המסמך פורסם לראשונה כטיוטה במאי 2024, ועודכן בפברואר 2025 (בעמוד ההשקה של המסמך).
תגובות