תקני בטיחות DfE למוצרי בינה מלאכותית יוצרת: רשימת בדיקה לבתי ספר

המסמך של משרד החינוך הבריטי (DfE) Generative AI: product safety standards מגדיר 13 תחומים שמוצר בינה מלאכותית המשמש בבתי ספר באנגליה צריך לעמוד בהם, מסינון וניטור ועד בריאות הנפש ומניפולציה. הוא נכתב לספקים, אבל KCSIE 2026 מפנה אליו את בתי הספר כשבודקים איך דרישות הסינון והניטור חלות על בינה מלאכותית. המדריך הזה מסכם כל תקן והופך אותו לשאלה שהאחראי על המוגנות (DSL, designated safeguarding lead) יכול להפנות לכל ספק.

מה השתנה, ומתי

שלושה מסמכים מעצבים היום את המוגנות בתחום הבינה המלאכותית באנגליה:

לפי DfE, התקנים "מיועדים למפתחי טכנולוגיה חינוכית ולספקים של בתי ספר ומכללות", ובתי ספר "עשויים גם למצוא אותם מועילים בהערכה אילו מוצרי בינה מלאכותית בטוחים לשימוש בחינוך". בפועל, זו רשימת הבדיקה השימושית ביותר שיש לבית ספר לבדיקת נאותות.

מה KCSIE 2026 אומר על בינה מלאכותית

KCSIE 2026 לא יוצר חובה נפרדת לבינה מלאכותית. הוא שוזר אותה בחובות הקיימות:

• סיכוני בטיחות ברשת (סעיף 165). סיכון ה"קשר" כולל כעת "אינטראקציה מזיקה ברשת עם משתמשים אחרים או עם יישומי בינה מלאכותית יוצרת שמדמים זאת". סיכון ה"התנהגות" כולל תמונות מפורשות "שנוצרו באמצעות בינה מלאכותית".
• הנחיות לשימוש (סעיפים 167-168). בתי ספר שבוחרים להשתמש בבינה מלאכותית יוצרת, לשימוש מורים או תלמידים, מופנים להנחיות DfE בנושא בינה מלאכותית יוצרת ולחומרי תמיכה חינמיים שהופקו עם Chiltern Learning Trust ועם Chartered College of Teaching. מודול 3 עוסק במוגנות, באתיקה, בהגנת מידע ובקניין רוחני.
• סינון וניטור. לצד הדרישה הקיימת לבחון את הסינון והניטור לפחות פעם בשנת לימודים, KCSIE מציין את מסמך בטיחות המוצרים של DfE כדי להסביר "איך דרישות הסינון והניטור חלות על השימוש בבינה מלאכותית יוצרת בחינוך".

המסקנה המעשית: כלי בינה מלאכותית שתלמידים משתמשים בו הוא חלק מתמונת הסינון והניטור שלכם, והבחינה השנתית צריכה להזכיר אותו בשמו.

13 תקני הבטיחות למוצרי בינה מלאכותית יוצרת כרשימת בדיקה

לכל תקן בהמשך: סיכום של שורה אחת מתוך מסמך DfE, ואחריו השאלה שכדאי לשאול. בקשו ראיות (צילומי מסך, מדיניות, תוצאות בדיקות), לא רק "כן".

1. מטרה מוצהרת

מוצרים צריכים להצהיר על מטרתם, על הלומדים שאליהם הם מכוונים ועל מוקד הלמידה, ו"אסור להם להגזים בהשפעה או ביכולות של הכלים שלהם".

שאלו: לאילו גילאים ולאילו צרכים זה נבנה, ואילו ראיות תומכות בטענות ההשפעה שלכם?

2. שימושים חינוכיים

השימוש המיועד צריך להיות "ברור לכל המשתמשים, לאנשי החינוך ולרוכשים".

שאלו: האם זה כלי ללומדים, כלי למורים או שניהם? אילו תכונות שייכות לכל אחד?

3. סינון (בכלים לתלמידים)

מוצרים "חייבים למנוע ביעילות ובאמינות גישה של משתמשים לתוכן מזיק או לא הולם", לאורך כל השיחה, בכל השפות ובתמונות, וגם במכשירים פרטיים.

שאלו: איך מופעל הסינון: פעם אחת, או בכל תור בשיחה? האם הוא חל על תמונות ועל שפות אחרות? האם הוא עדיין פועל כשתלמיד משתמש בכלי בבית?

4. ניטור ודיווח (בכלים לתלמידים)

מוצרים צריכים לתעד פרומפטים ותגובות, להתריע למפקחים על תוכן מזיק או על ניסיונות להגיע אליו, לומר לתלמידים בשפה מותאמת גיל כשמשהו נחסם, ולהעביר התראות בסיכון גבוה לאחראי המוגנות.

שאלו: האם מורה יכול לקרוא את היסטוריית השיחה המלאה? מי מקבל התראה כשקורה משהו מדאיג, וכמה מהר? איפה מזינים את פרטי הקשר של אחראי המוגנות?

5. אבטחה

מוצרים צריכים לעמוד בפני ניסיונות פריצת מגבלות (jailbreaking), לאפשר למנהלים לקבוע רמות הרשאה, להשתמש באימות חזק ולבצע בדיקות בטיחות לגרסאות חדשות לפני השקתן.

שאלו: איך אתם בודקים עמידות בפני ניסיונות פריצת מגבלות? איך תלמידים מתחברים, ולמה חשבון תלמיד יכול לגשת?

6. פרטיות והגנת מידע

הודעות פרטיות ברורות ומותאמות גיל; הערכת השפעה על הגנת המידע (DPIA) לאורך כל חיי המוצר; בלי שימוש מסחרי במידע אישי, כולל אימון מודלים, ללא בסיס חוקי מתאים.

שאלו: האם נוכל לראות את ה-DPIA ואת הסכם עיבוד הנתונים שלכם? האם נתוני תלמידים משמשים לאימון מודלים? מי מעבדי המשנה שלכם?

7. קניין רוחני

אסור לשמור, לאסוף או להשתמש באופן מסחרי בעבודות של תלמידים ומורים, כולל לאימון, ללא רשות (מהורה, עבור בני פחות מ-18).

שאלו: האם אתם משתמשים בעבודות של תלמידים כדי לאמן או לשפר את המודלים שלכם?

8. עיצוב ובדיקות

מוצרים צריכים לתעדף שקיפות ובטיחות ילדים, ולהיבדק עם משתמשים מגוונים ומציאותיים, כולל ילדים.

שאלו: עם מי ביצעתם בדיקות? איך אתם בודקים שהמוצר עובד בהוגנות עבור תלמידים עם צרכים מיוחדים (SEND) או עם אנגלית כשפה נוספת?

9. ממשל תאגידי

הערכת סיכונים ברורה, ערוץ תלונות רשמי לבעיות בטיחות ומדיניות פומבית לגבי החלטות בטיחות בבינה מלאכותית.

שאלו: איך מסלימים חשש בטיחותי, ומי מגיב?

10. התפתחות קוגניטיבית (חדש ב-2026)

ספקים צריכים "לעשות כל מאמץ לצמצם את הפוטנציאל לאובדן מיומנויות קוגניטיביות", עם רמזים הדרגתיים במקום תשובות מלאות כברירת מחדל.

שאלו: האם הכלי מסביר ומנחה, או פשוט מגיש תשובות? האם מורה יכול לראות אם תלמידים מעבירים אליו את החשיבה?

11. התפתחות רגשית וחברתית (חדש ב-2026)

מוצרים לא צריכים להציג את עצמם כבני אדם, צריכים להימנע מאמירות כמו "אתה יכול לסמוך עליי", לתמוך במגבלות זמן ולשים לב לתלות רגשית.

שאלו: איך הכלי מתאר לתלמידים מה הוא? אילו מגבלות זמן מורה יכול לקבוע? איך אתם מזהים הסתמכות לא בריאה?

12. בריאות הנפש (חדש ב-2026)

מוצרים צריכים לזהות סימני מצוקה, להגיב בשלבים מהפניה למשאבים ועד סימון מוגנות, תמיד להפנות תלמידים לעזרה אנושית ולעולם לא לעודד הסתרה.

שאלו: מה קורה, צעד אחר צעד, כשתלמיד כותב משהו שמרמז שהוא בסיכון? האם נוכל לראות את הנוהל?

13. מניפולציה (חדש ב-2026)

בלי חנופה, ביטחון כוזב, אשמה או לחץ; בלי עיצוב שמאריך את השימוש, דוחף לאפשרויות בתשלום או משלב פרסומות.

שאלו: האם יש פרסומות, רצפים או פרסים בחוויית התלמיד? האם התלמיד רואה אי פעם הצעות לשדרוג?

איך לבצע את הבדיקה בצהריים אחד

1. רשמו כל כלי בינה מלאכותית שתלמידים יכולים להגיע אליו. כללו תכונות בינה מלאכותית בתוך כלים שאתם כבר משתמשים בהם, לא רק צ'אטבוטים עצמאיים.
2. שלחו את 13 השאלות לכל ספק. ספק אמין אמור להיות מסוגל לענות על רובן בכתב תוך שבוע.
3. בדקו את תצוגת התלמיד בעצמכם. התחברו כתלמיד ונסו את מה שילד סקרן בן 10 היה מנסה. תעדו מה קורה.
4. דרגו כל כלי בירוק (סופקו ראיות), בכתום (יש תשובה אבל אין ראיות) או באדום (אין תשובה).
5. תעדו את התוצאה בבחינת הסינון והניטור שלכם, עם אישור של אחראי המוגנות ושל רכז ה-IT, כפי ש-KCSIE מצפה בבחינה השנתית.
6. עדכנו את ההורים. מכתב קצר להורים על בינה מלאכותית בכיתה סוגר את המעגל.

לאחר מכן מדיניות הבינה המלאכותית של בית הספר צריכה לציין את הכלים המאושרים ומי בוחן אותם.

איפה Askie for Schools נכנסת לתמונה

אנחנו מעדיפים שתבדקו אותנו מול התקנים במקום להאמין לנו על המילה, אז הנה מה ש-Askie for Schools עושה היום, במונחים שלמעלה:

• מטרה: חברה מבוססת בינה מלאכותית ללומדים בגילאי 4-15, שעונה על שאלות ומסבירה מושגים, עם תשובות המותאמות לגיל של כל תלמיד.
• סינון: כל תגובה עוברת כמה שכבות בטיחות לפני שהיא מגיעה לתלמיד.
• ניטור: מורים ומנהלים יכולים לצפות בהיסטוריית השיחות ובדוחות שימוש.
• התחברות: המורה יוצר כל תלמיד, וכל תלמיד מקבל קוד גישה פרטי. רשימות הכיתה יכולות להגיע ממערכת המידע של בית הספר (MIS) דרך Wonde, מ-Google Classroom או מרשימה מודבקת.
• נתונים: בית הספר נשאר בעל השליטה בנתונים, נתוני התלמידים מופרדים לפי מורה, הסכם עיבוד נתונים זמין לפי בקשה, ו-Askie אף פעם לא מוכרת נתונים ולא מציגה פרסומות. ייבוא דרך Wonde מבקש שנים-עשר שדות, בלי נתוני צרכים מיוחדים, נתונים רפואיים או נתוני רווחה.

שאלו אותנו את שאר השאלות ישירות בכתובת askie@kidsai.app; התשובות צריכות להיות בתיעוד שלכם, לא בשיווק שלנו. אפשר להתחיל בתוכנית החינמית עם עד 20 תלמידים ולצפות מראש בתצוגת התלמיד לפני שילד כלשהו מתחבר.

שאלות נפוצות

האם תקני הבטיחות של DfE למוצרי בינה מלאכותית יוצרת מחייבים?

הם נכתבו לספקים, לא כחובה סטטוטורית על בתי ספר. אבל KCSIE 2026, שהוא סטטוטורי, מפנה אליהם את בתי הספר בנושא סינון וניטור, כך שבפועל בית ספר צריך להיות מסוגל להראות שהוא שקל אותם.

האם זה "ציפיות" או "תקנים"?

שני השמות מתייחסים לאותו מסמך. הוא פורסם בינואר 2025 בשם Generative AI: product safety expectations וכעת שמו Generative AI: product safety standards; העדכון האחרון שלו היה בינואר 2026. KCSIE 2026 עדיין משתמש בשם הקודם.

האם זה חל על כלי בינה מלאכותית למורים בלבד?

חלק מהתקנים (אבטחה, פרטיות, קניין רוחני, עיצוב, ממשל תאגידי, מניפולציה) חלים גם על כלים למורים. התקנים של סינון, ניטור, התפתחות קוגניטיבית, התפתחות רגשית ובריאות הנפש מיועדים למוצרים שתלמידים משתמשים בהם.

מי בבית הספר צריך להיות אחראי על זה?

חבר ההנהלה הבכירה שאחראי על סינון וניטור, בשיתוף אחראי המוגנות ותמיכת ה-IT, כפי ש-KCSIE מגדיר לבחינה השנתית. ראו איך להשתמש בבינה מלאכותית בבטחה בבתי ספר להטמעה הרחבה.