מה לעשות אם בינה מלאכותית אומרת משהו לא הולם לילד שלי?

אם בינה מלאכותית אומרת משהו לא הולם לילד שלכם, התגובה שלכם בדקות הראשונות היא הדבר החשוב ביותר. ילדים שמקבלים תגובה רגועה ממשיכים לספר להורים שלהם דברים. ילדים שרואים פאניקה, או מאבדים את האפליקציה כעונש, מפסיקים לעיתים קרובות.

למה זה קורה

צ'אטבוטים מייצרים תשובות בזמן אמת, ולכן אף מסנן לא תופס הכול. האקדמיה האמריקאית לרפואת ילדים (AAP) מזהירה שצ'אטבוטים עלולים לומר לילדים "דברים שקריים, מזיקים, מיניים מאוד או אלימים", במיוחד מוצרים שלא תוכננו מתוך מחשבה על ילדים (HealthyChildren.org). אפילו Google אומרת שהמסננים שלה לחשבונות Gemini של ילדים "אינם מושלמים" (Google). זה יכול לקרות גם כי ילד, לעיתים קרובות מתוך סקרנות, דחף את השיחה לכיוון מסוים.

צעד אחר צעד

1. הישארו רגועים והודו לו. "תודה שהראית לי. עשית בדיוק את הדבר הנכון." עשו זאת גם אם הוא חיפש את זה בעצמו.
2. ברו מה קרה. שאלו שאלות פתוחות: "על מה דיברתם לפני שזה אמר את זה? איך הרגשת?"
3. שמרו ראיות. צלמו מסך של השיחה או רשמו את התאריך, האפליקציה ומה נאמר, לפני שמשהו נמחק.
4. דווחו לחברה. השתמשו בכפתור הדיווח או בכפתור האגודל למטה באפליקציה, ובערוץ הבטיחות של החברה בכל דבר חמור. דיווחים עוזרים לתקן את הבעיה גם בשביל ילדים אחרים.
5. התאימו את הגישה. הדקו הגדרות, הפעילו בקרת הורים או השהו את האפליקציה בזמן שאתם מחליטים. הסבירו את זה כצעד בטיחות, לא כעונש.
6. הסבירו למה זה היה שגוי, ברמה שלו:
   • גילאי 4 עד 7: "המחשב הזה טעה ואמר משהו שלא מתאים לילדים. זו לא אשמתך."
   • גילאי 8 עד 12: "בינה מלאכותית מעתיקה דפוסים מהאינטרנט, וחלק מהאינטרנט לא בסדר. היא לא יודעת להבחין בין טוב לרע כמו שאנשים יודעים."
   • בני נוער: דברו בכנות על איך בינה מלאכותית עובדת, מה הם ראו ומה הם יעשו בפעם הבאה.
7. בדקו שוב. כמה ימים אחר כך, שאלו אם הוא עדיין חושב על זה. שימו לב לסיוטים, לדאגה או לסודיות חריגה.

מתי להסלים

חלק מהמצבים דורשים יותר מדיווח באפליקציה:

• תוכן מיני שמערב ילד, או מישהו שמנסה ליצור איתו קשר או לטפח אותו לצורך פגיעה: דווחו ל-NCMEC CyberTipline בארה״ב, או ל-CEOP בבריטניה.
• תוכן של פגיעה עצמית או התאבדות, או אם הילד נראה בסיכון: פנו לרופא של הילד. במשבר, התקשרו למספר החירום המקומי, ל-988 בארה״ב, או ל-Childline (0800 1111) בבריטניה.
• איומים או אתגרים מסוכנים: הסירו את הגישה ודברו עם בית הספר של הילד אם ילדים אחרים עלולים להיפגע.

למנוע את הפעם הבאה

• בחרו אפליקציות שמדורגות לגיל של הילד, ובדקו את תנאי השימוש. צ'אטבוטים כלליים רבים דורשים מהמשתמשים להיות בני 13 ומעלה (ראו את כללי הגיל של ChatGPT).
• אצל ילדים צעירים, השאירו את השימוש בבינה מלאכותית במרחבים משותפים.
• העדיפו שירותים שבהם אתם יכולים לעיין בשיחות, כדי שזיהוי בעיות לא יהיה תלוי בכך שהילד יספר לכם.
• הסכימו על כלל משפחתי: "אם משהו ברשת מרגיש מוזר, תספר לי, ולא תסתבך בגלל זה."

איך Askie ניגשת לזה

Askie משתמשת בסינון בטיחות רב-שכבתי ובתשובות שמותאמות לגיל, הורים יכולים לעיין בתמלילי השיחות וביצירות שנוצרו, והתראת בטיחות (שאפשר לבטל) יכולה להתריע למבוגרים כששיחה מרמזת על דאגה רצינית בחיים האמיתיים. אף מסנן אינו מושלם, ולכן השקיפות להורים חשובה. מתודולוגיית הבטיחות שלנו מסבירה איך זה עובד, כולל מגבלות ידועות, והמדריך להורים לבטיחות בינה מלאכותית שלנו מציג את התמונה הרחבה.