מושלת מדינת ניו יורק, קתי הוקול, חתמה על חוק שאוסר על חברות להציע לקטינים צ'טבוטים עם תכונות שנחשבות מסוכנות. בהן התחזות לאדם אמיתי, יצירת תלות רגשית, עידוד לפגיעה עצמית ושיחות בעלות אופי מיני. החוק, שמוכר בשמו הטכני S.9051B/A.10379C, נחתם לצד חוק נפרד שמחייב אמצעי אבטחה במוניטורים דיגיטליים לתינוקות. כך נכתב בהודעת משרד המושלת.
מה אסור לעשות
לפי ההודעה, בחודשים הקרובים חברות לא יוכלו להציע את התכונות הבאות למשתמשים מתחת לגיל 18. אותו איסור חל גם על כל משתמש אחר, אלא אם החברה אימתה קודם שהוא אינו קטין:
- התחזות לאדם אמיתי, לישות חיה או לבעלת רגשות אנושיים.
- טענה ליחסים אישיים, רומנטיים, מקצועיים או של דמות סמכות מול ילד.
- שאלות רגשיות יזומות, ושימוש במידע בריאותי או אישי פרטי מתוך שיחות קודמות.
- עידוד או סיוע להתאבדות, לפגיעה עצמית, להפרעות אכילה ולשימוש בסמים ובאלכוהול.
- עידוד ילדים להסתיר סודות, להתבודד או להימנע מפנייה להורים, למבוגרים אחרים או לאנשי מקצוע.
- כל תוכן מיני מפורש, וכן חומרי פגיעה מינית בילדים.
בהודעה של סנטורית המדינה קריסטן גונזלס, שהובילה את החוק, מופיעה גם התייחסות לתשובות מחמיאות ומתחנפות מדי כאחת התכונות הבעייתיות. היא נכתבה בשלב שבו החוק עבר בבית המחוקקים, ולא בהכרח משקפת את הנוסח הסופי.
אימות גיל ואכיפה
החוק מחייב גם אימות גיל. החברות צריכות להציע יותר משיטה אחת, ולפחות אחת מהן לא תסתמך רק על תעודה מזהה ממשלתית. מידע על הגיל חייב להימחק לאחר השימוש בו.
על הפרות, התובעת הכללית של המדינה, לטישיה ג'יימס, תוכל לדרוש קנסות של עד 25 אלף דולר להפרה. היא תוכל לדרוש גם פיצויים והשבה, ואף השמדה של נתונים שנאספו שלא כדין או של מודלי AI שאומנו עליהם. התובעת הכללית תחזיק גם אתר ציבורי להגשת תלונות.
הרקע
הצעת החוק פותחה בשיתוף משרד התובעת הכללית וארגון Common Sense Media, עמותה אמריקאית שמדרגת ומחקרת תוכן ומוצרים לילדים. לדברי הארגון, 72% מהמתבגרים השתמשו פעם בחבר AI, ו-52% משתמשים בו באופן קבוע, לפחות כמה פעמים בחודש. בהודעת הארגון הודה מנכ"ל הארגון, ג'יימס שטייר, למריה ריין, שדיברה בפומבי על בנה אדם, ותיאר אותו כמי ש"אומן להתאבדות" בידי צ'טבוט.
חבר האסיפה אלכס בורס, שהוביל את החוק לצד גונזלס, אמר שמדובר ב"חוק החזק ביותר במדינה" להגנה על ילדים, וכי הוא עבר "למרות התנגדות תעשייתית אגרסיבית". ההודעה אינה מפרטת מי התנגד ומה היו טענותיו.
מה עוד לא ברור
ההודעה אינה מפרטת מועד כניסה לתוקף מדויק לחוק הצ'טבוטים, אלא רק "בחודשים הקרובים". גם לא ברור איך תתבצע בפועל בדיקת הגיל, ואיך ייבחנו מקרי גבול, למשל צ'טבוטים כלליים שאינם מוגדרים כבני לוויה. לא פורסם אם גופי תעשייה ייאבקו בחוק בבית המשפט.
במקביל נחתם חוק על מוניטורים לתינוקות: מוצרים שמשדרים אודיו או וידאו דרך האינטרנט יידרשו לכלול הגנות מפני צופים זרים ותווית אזהרה, והחוק ייכנס לתוקף 90 יום אחרי החתימה.
תגובות