כ-10 דקות של הסתמכות על כלי בינה מלאכותית מספיקות כדי לפגוע ביכולת להתרכז ולהתמיד במשימה קשה. זו המסקנה של מחקר שהוצג השבוע בכנס Conference on Language Modeling, ושאחד ממחבריו הוא חוקר מאוניברסיטת ברקלי. כך עולה מהודעה של האוניברסיטה על המחקר.
איך נבדק הנושא
החוקרים גייסו 1,222 משתתפים דרך האינטרנט והריצו שלושה ניסויים מבוקרים אקראיים. בניסוי הראשון, עם 354 משתתפים, התבקשו כולם לפתור 15 תרגילי שברים בסיסיים. קבוצה אחת עבדה לבד, ולקבוצה האחרת הייתה ChatGPT פתוח בצד, והיא יכלה להיעזר בו ואף לבקש ממנו את התשובה.
בהתחלה הקבוצה שהשתמשה בבינה מלאכותית הייתה מדויקת יותר. אחרי 12 תרגילים החוקרים הסירו את הכלי, ולפי ההודעה כמעט מיד הפסיקו המשתתפים בקבוצה הזאת לפתור נכון.
בניסוי שני, עם 667 משתתפים, התקבל דפוס דומה: מי שהסתמך על הבינה המלאכותית טעה או ויתר לגמרי כשהעזרה נלקחה ממנו, ואילו הקבוצה שעבדה בלי עזרה התמידה במשימה והצליחה יותר בסופה. בניסוי שלישי, עם 201 משתתפים, נבחנה משימת הבנת הנקרא בסגנון מבחן ה-SAT (מבחן הכניסה לאוניברסיטאות בארצות הברית). גם שם ההתמדה והדיוק ירדו אחרי הסרת הכלי.
"מאבק פרודוקטיבי"
בריאן כריסטיאן, חוקר במרכז Center for Human-Compatible AI בברקלי וממחברי המחקר, מחבר הספר "The Alignment Problem" מ-2020, אמר ש"אי אפשר היה לבקש סיפור ברור יותר". לדבריו, התוצאה מחזקת תחושה שרבים חשים בבטן.
לפי ההודעה, כשתשובות מגיעות תוך שניות אנחנו מתרגלים למהירות הזאת, וכל דבר שלוקח יותר זמן נראה לנו לא יעיל. החוקרים מצביעים גם על אובדן של מה שהם מכנים "מאבק פרודוקטיבי": הקושי שמוביל אנשים לגלות את החוזקות והתשוקות שלהם.
כריסטיאן מציע שבמקום להסתפק בתשובות מהירות, מערכות בינה מלאכותית יתנהגו כברירת מחדל יותר כמו מורה, שמדריך ולא רק נותן פתרון. לדבריו, צריך לשאוף לעתיד שבו יכולות אנושיות "מוגברות ולא מוחלפות", ככל האפשר.
מעבר לשברים ולמבחני SAT
כריסטיאן מדגיש שהמחקר אינו עוסק רק בשברים. הוא מוטרד במיוחד מהשפעה על המדע: על היכולת להישאר קרוב לנתונים, לשקוע בחומר ולעבוד כחלק מצוות. לדבריו, משהו חשוב עלול ללכת לאיבוד כשצוות של 10 אנשים שמפתח רעיונות מצטמצם לשניים או שלושה חוקרים וצ'אטבוט.
במחקר השתתפו חוקרים מ-Carnegie Mellon, MIT, אוקספורד ו-UCLA. טיוטה ראשונית שלו פורסמה באביב, ועל פי ההודעה כלי תקשורת כמו WIRED ו-Psychology Today סיקרו אותה.
מה עדיין לא ידוע
יש כמה סייגים. ההשפעה נמדדה במשימות קצרות ובשימוש של כ-10 דקות בלבד, ולא ברור אם היא נמשכת לאורך זמן או עוברת לעבודה בעולם האמיתי. המשתתפים גויסו דרך האינטרנט, ואין ודאות עד כמה התוצאות נכונות לגבי סטודנטים, אנשי מקצוע או כלי בינה מלאכותית אחרים. כמו כן, ההודעה היא של האוניברסיטה, ולא נבדקה בנפרד העמדה של שאר המחברים.
למרות זאת, הממצא מעניין כי הוא מראה כמה מהר ההרגל נוצר. השאלה שהמחקר משאיר פתוחה היא איך מעצבים כלים שמסייעים בלי לפרק את היכולת להתמודד לבד.
תגובות