Anthropic מקדמת בשקט הצעת חוק פדרלית בארצות הברית שתאפשר לממשלה לעצור שחרור של מודל בינה מלאכותית רק אם הוא מסכן בנזק של מיליארד דולר, או בהרג או פציעה של יותר מ-50 בני אדם. כך דווח באתר Tom's Hardware, שמסתמך על דיווח של Politico. את הדיווח המקורי ואת נוסח ההצעה עצמו לא ניתן היה לראות, ולכן כל הפרטים כאן מיוחסים לדיווח ולא אומתו באופן עצמאי.
איך זה אמור לעבוד
לפי הדיווח, גוף חיצוני ובלתי תלוי שיהיה רשום במשרד המסחר האמריקאי יבדוק מדי פעם את המעבדה ואת המודלים שלה. המעבדה רשאית לשלם למעריכים, אבל רק אם התשלום אינו פוגע בעצמאותם.
הסיכונים שההצעה מתייחסת אליהם הם יצירה או שחרור של נשק ביולוגי, מתקפות סייבר שמבוצעות או מוּנעות בידי בינה מלאכותית, ואובדן שליטה של מעבדה במודל או בסוכנים שלה (תוכנות שפועלות באופן עצמאי). אם יש סיכוי שאחד מהאירועים האלה עומד להתרחש, על המעריך לדווח למשרד תוך 72 שעות. המשרד יידרש להציג את כל הראיות בפני שופט פדרלי בבית המשפט המחוזי של מחוז קולומביה, והשופט יכריע אם לעצור את שחרור המודל.
הסעיף שהכותרת של Tom's Hardware מדגישה הוא שההצעה קובעת שאף משרד, סוכנות או נושא משרה אחר בארצות הברית לא יוכל להורות למעבדה להפסיק לשחרר מודל, מלבד משרד המסחר. בפועל, אם הנוסח המדווח יתקבל, זו תהיה הסמכות היחידה לעצירה כזאת.
מה Anthropic אומרת
דובר החברה מסר ל-Politico, כך לפי הדיווח, שההצעה משקפת את "מסגרת הבינה המלאכותית המתקדמת" של Anthropic, שהחברה מקדמת מול מחוקקים פדרליים ומדינתיים מאז יוני. "אלה מדיניות הגיונית שלדעתנו הקונגרס צריך לפעול לפיה", אמר.
ההקשר: חקיקה תקועה ואירועים מטרידים
ההצעה מגיעה בתקופה של דיון סוער בבטיחות. Tom's Hardware מזכיר אירועים בחצי השנה האחרונה, ובהם פריצה של מודלים של OpenAI לחברת Hugging Face במהלך בדיקת ביצועים, אירוע ש-OpenAI עצמה כינתה חסר תקדים. כפי שדיווחנו, גם Anthropic פרסמה לאחרונה מחקר על האפשרות שמודלים קטנים יוכלו להעתיק את עצמם בין מכשירים זולים. לפי האתר, גם בקונגרס כבר עובדים על הצעה לחייב מתג כיבוי במודלים החזקים ביותר, והסנאטור ברני סנדרס הציע עונש של 20 שנות מאסר למי שמפתח בינה מלאכותית על-אנושית. את הפרטים האלה לא בדקנו.
במקביל, לפי דיווח נפרד, מאמץ דו-מפלגתי בסנאט שמוביל מנהיג הרוב ג'ון ת'ון, יחד עם טד קרוז ואיימי קלובושר, נדחה עד אחרי פגרת הסנאט. ההצעה ההיא מחייבת מפתחים לנהל סיכונים ולדווח למשרד המסחר על קפיצות משמעותיות ביכולות. Anthropic, לפי אותו דיווח, דווקא טענה שהיא מקלה מדי, וביקשה גילוי סיכונים חובה לציבור. הסנאטורית מריה קנטוול מעדיפה בדיקות של מומחים במקום צווי מניעה.
מה עוד לא ברור
כמה שאלות נשארות פתוחות. לא ידוע איך ההצעה של Anthropic מתיישבת עם הנוסח של ת'ון, קרוז וקלובושר, ואם חבר קונגרס הסכים בכלל לשאת אותה. לא ברור גם אם הרף הגבוה, 50 הרוגים או מיליארד דולר, יספק הגנה אמיתית, או שמא יאפשר לשחרר מודלים מסוכנים שנזקם הצפוי קטן מהסף. בתגובות לכתבה המקורית כבר העלו קוראים ספקות לגבי יכולת של משרד אמריקאי לאכוף מול חברות מחוץ לארצות הברית. אלה הערות של גולשים ולא ניתוח מקצועי.
תגובות