معايير DfE لسلامة الذكاء الاصطناعي التوليدي: قائمة تحقق للمدارس

تحدد وثيقة وزارة التعليم البريطانية (DfE) Generative AI: product safety standards (الذكاء الاصطناعي التوليدي: معايير سلامة المنتجات) 13 مجالًا ينبغي أن يستوفيها أي منتج ذكاء اصطناعي يُستخدم في مدارس إنجلترا، من التصفية والمراقبة إلى الصحة النفسية والتلاعب. وهي مكتوبة للمزوّدين، لكن إرشادات KCSIE 2026 توجّه المدارس إليها عند التحقق من كيفية تطبيق التصفية والمراقبة على الذكاء الاصطناعي. يلخص هذا الدليل كل معيار ويحوّله إلى سؤال يمكن للمسؤول المعيّن عن حماية الطلاب (DSL) طرحه على أي مزوّد.

ما الذي تغيّر، ومتى

ثلاث وثائق تشكّل اليوم حماية الطلاب في مجال الذكاء الاصطناعي في إنجلترا:

تقول DfE إن المعايير «موجهة لمطوري تقنيات التعليم والمزوّدين للمدارس والكليات»، وإن المدارس «قد تجدها مفيدة أيضًا في تقييم منتجات الذكاء الاصطناعي الآمنة للاستخدام في التعليم». وعمليًا، هي أنفع قائمة تحقق للعناية الواجبة تملكها المدرسة.

ماذا تقول KCSIE 2026 عن الذكاء الاصطناعي

لا تُنشئ KCSIE 2026 واجبًا منفصلًا يخص الذكاء الاصطناعي، بل تنسجه في الواجبات القائمة:

• مخاطر السلامة على الإنترنت (الفقرة 165). صارت مخاطر «التواصل» تشمل «التفاعل الضار عبر الإنترنت مع مستخدمين آخرين أو مع تطبيقات ذكاء اصطناعي توليدي تحاكي ذلك». وتشمل مخاطر «السلوك» الصور الفاضحة «المولّدة بالذكاء الاصطناعي».
• إرشادات الاستخدام (الفقرتان 167-168). تُوجَّه المدارس التي تختار استخدام الذكاء الاصطناعي التوليدي، سواء كان موجهًا للمعلمين أو للتلاميذ، إلى إرشادات DfE الخاصة بالذكاء الاصطناعي التوليدي وإلى مواد دعم مجانية أُعدت بالتعاون مع Chiltern Learning Trust وChartered College of Teaching. تغطي الوحدة 3 حماية الطلاب والأخلاقيات وحماية البيانات والملكية الفكرية.
• التصفية والمراقبة. إلى جانب الشرط القائم بمراجعة التصفية والمراقبة مرة واحدة على الأقل في كل عام دراسي، تُدرج KCSIE وثيقة سلامة المنتجات الصادرة عن DfE لتوضيح «كيفية تطبيق متطلبات التصفية والمراقبة على استخدام الذكاء الاصطناعي التوليدي في التعليم».

الخلاصة العملية: أداة الذكاء الاصطناعي الموجهة للتلاميذ جزء من منظومة التصفية والمراقبة لديكم، وينبغي أن تذكرها مراجعتكم السنوية بالاسم.

معايير سلامة منتجات الذكاء الاصطناعي التوليدي الـ13 كقائمة تحقق

لكل معيار أدناه: ملخص في سطر واحد من وثيقة DfE، ثم السؤال الذي ينبغي طرحه. اطلبوا أدلة (لقطات شاشة، وسياسات، ونتائج اختبارات)، لا مجرد «نعم».

1. الغرض المعلن

ينبغي أن تعلن المنتجات غرضها المقصود والمتعلمين المستهدفين ومحور التعلم، و«ألا تبالغ في تأثير أدواتها أو قدراتها».

اسألوا: لأي أعمار واحتياجات صُممت هذه الأداة، وما الأدلة التي تدعم ادعاءاتكم بشأن الأثر؟

2. حالات الاستخدام التعليمية

ينبغي أن تكون حالة الاستخدام المقصودة «واضحة لجميع المستخدمين والمعلمين والمشترين».

اسألوا: هل هذه أداة موجهة للمتعلمين، أم أداة للمعلمين، أم كلاهما؟ وأي الميزات تخص كلًا منهما؟

3. التصفية (للأدوات الموجهة للمتعلمين)

يجب أن «تمنع المنتجات المستخدمين بفعالية وموثوقية من الوصول إلى محتوى ضار أو غير لائق»، طوال المحادثة، وعبر اللغات والصور، وعلى الأجهزة الشخصية.

اسألوا: كيف تُطبَّق التصفية: مرة واحدة أم في كل دور من المحادثة؟ هل تغطي الصور واللغات الأخرى؟ هل تظل سارية حين يستخدم التلميذ الأداة في البيت؟

4. المراقبة والإبلاغ (للأدوات الموجهة للمتعلمين)

ينبغي أن تسجّل المنتجات المطالبات والردود، وأن تنبّه المشرفين إلى المحتوى الضار أو محاولات الوصول إليه، وأن تُخبر التلاميذ بلغة مناسبة لأعمارهم حين يُحجب شيء ما، وأن توجّه التنبيهات عالية الخطورة إلى مسؤول الحماية.

اسألوا: هل يستطيع المعلم قراءة سجل المحادثة كاملًا؟ من يُنبَّه حين يحدث أمر مقلق، وبأي سرعة؟ أين ندخل بيانات الاتصال الخاصة بمسؤول الحماية؟

5. الأمان

ينبغي أن تقاوم المنتجات محاولات كسر القيود (jailbreaking)، وأن تتيح للمسؤولين تحديد مستويات الصلاحيات، وأن تستخدم مصادقة متينة، وأن تختبر الإصدارات الجديدة من ناحية السلامة قبل إطلاقها.

اسألوا: كيف تختبرون مقاومة محاولات كسر القيود؟ كيف يسجّل التلاميذ الدخول، وإلى ماذا يمكن لحساب التلميذ الوصول؟

6. الخصوصية وحماية البيانات

إشعارات خصوصية واضحة ومناسبة للعمر؛ وتقييم لأثر حماية البيانات طوال عمر المنتج؛ وعدم الاستخدام التجاري للبيانات الشخصية، بما في ذلك تدريب النماذج، دون أساس قانوني مناسب.

اسألوا: هل يمكننا الاطلاع على تقييم أثر حماية البيانات (DPIA) واتفاقية معالجة البيانات الخاصة بكم؟ هل تُستخدم أي بيانات للتلاميذ لتدريب النماذج؟ من هم المعالجون الفرعيون لديكم؟

7. الملكية الفكرية

يجب ألا تُخزَّن أعمال التلاميذ والمعلمين أو تُجمع أو تُستخدم تجاريًا، بما في ذلك للتدريب، دون إذن (من أحد الوالدين لمن هم دون 18 عامًا).

اسألوا: هل تستخدمون أعمال التلاميذ لتدريب نماذجكم أو تحسينها؟

8. التصميم والاختبار

ينبغي أن تعطي المنتجات الأولوية للشفافية وسلامة الأطفال، وأن تُختبر مع مستخدمين متنوعين وواقعيين، بمن فيهم الأطفال.

اسألوا: مع من أجريتم الاختبارات؟ كيف تتحققون من أن المنتج يعمل بإنصاف مع التلاميذ ذوي الاحتياجات التعليمية الخاصة والإعاقات (SEND) أو الذين يتعلمون الإنجليزية كلغة إضافية؟

9. الحوكمة

تقييم واضح للمخاطر، ومسار رسمي للشكاوى المتعلقة بقضايا السلامة، وسياسات علنية بشأن قرارات سلامة الذكاء الاصطناعي.

اسألوا: كيف نصعّد مخاوف تتعلق بالسلامة، ومن يستجيب لها؟

10. النمو المعرفي (جديد في 2026)

ينبغي للمزوّدين «بذل كل جهد ممكن للتخفيف من احتمال تآكل المهارات المعرفية»، من خلال تلميحات متدرجة بدلًا من الإجابات الكاملة افتراضيًا.

اسألوا: هل تشرح الأداة وتوجّه، أم تكتفي بتسليم الإجابات؟ هل يستطيع المعلم أن يرى ما إذا كان التلاميذ يُوكلون التفكير إلى الأداة؟

11. النمو العاطفي والاجتماعي (جديد في 2026)

ينبغي ألا تقدّم المنتجات نفسها على أنها بشر، وأن تتجنب عبارات مثل «يمكنك أن تثق بي»، وأن تدعم الحدود الزمنية، وأن تراقب الاعتماد العاطفي.

اسألوا: كيف تصف الأداة طبيعتها للتلاميذ؟ ما الحدود الزمنية التي يمكن للمعلم تحديدها؟ كيف ترصدون الاعتماد غير الصحي؟

12. الصحة النفسية (جديد في 2026)

ينبغي أن ترصد المنتجات علامات الضيق، وأن تستجيب بشكل متدرج من الإرشاد إلى مصادر الدعم وصولًا إلى إشارة حماية، وأن توجّه التلاميذ دائمًا إلى مساعدة بشرية، وألا تشجع على الكتمان أبدًا.

اسألوا: ماذا يحدث، خطوة بخطوة، حين يكتب تلميذ شيئًا يوحي بأنه في خطر؟ هل يمكننا الاطلاع على البروتوكول؟

13. التلاعب (جديد في 2026)

لا تملق، ولا ثقة زائفة، ولا إشعار بالذنب أو ضغط؛ ولا تصميم يطيل الاستخدام، أو يدفع نحو الخيارات المدفوعة، أو يمزج الإعلانات.

اسألوا: هل توجد أي إعلانات أو سلاسل أيام متتالية أو مكافآت في تجربة التلميذ؟ هل يرى التلميذ في أي وقت دعوات للترقية؟

كيف تُجرون الفحص في عصر يوم واحد

1. أدرجوا كل أداة ذكاء اصطناعي يمكن للتلاميذ الوصول إليها. بما في ذلك ميزات الذكاء الاصطناعي داخل الأدوات التي تستخدمونها بالفعل، لا روبوتات المحادثة المستقلة فقط.
2. أرسلوا الأسئلة الـ13 إلى كل مزوّد. ينبغي أن يتمكن المزوّد ذو السمعة الجيدة من الإجابة عن معظمها كتابةً في غضون أسبوع.
3. اختبروا واجهة التلميذ بأنفسكم. سجّلوا الدخول كتلميذ وجرّبوا ما قد يجرّبه طفل فضولي في العاشرة. دوّنوا ما يحدث.
4. قيّموا كل أداة بالأخضر (قُدمت أدلة)، أو الكهرماني (إجابة دون أدلة)، أو الأحمر (لا إجابة).
5. سجّلوا النتيجة في مراجعة التصفية والمراقبة، مع توقيع مسؤول الحماية ومسؤول تقنية المعلومات عليها، كما تتوقع KCSIE في المراجعة السنوية.
6. أبلغوا أولياء الأمور. رسالة قصيرة إلى أولياء الأمور حول الذكاء الاصطناعي في الفصل تُكمل الحلقة.

ينبغي بعد ذلك أن تذكر سياسة الذكاء الاصطناعي في مدرستكم الأدوات المعتمدة ومن يراجعها.

أين يقع Askie for Schools

نفضّل أن تتحققوا منا وفق المعايير على أن تأخذوا كلامنا كما هو، لذا إليكم ما يقدمه Askie for Schools اليوم، بالمصطلحات المذكورة أعلاه:

• الغرض: رفيق ذكاء اصطناعي موجه للمتعلمين من الأطفال بين 4 و15 عامًا، يجيب عن الأسئلة ويشرح المفاهيم، بإجابات مكيّفة مع عمر كل تلميذ.
• التصفية: يمر كل رد عبر طبقات أمان متعددة قبل أن يصل إلى التلميذ.
• المراقبة: يمكن للمعلمين والإداريين الاطلاع على سجل المحادثات وتقارير الاستخدام.
• تسجيل الدخول: ينشئ المعلم حساب كل تلميذ، ويحصل كل تلميذ على رمز دخول خاص. ويمكن أن تأتي قوائم الطلاب من نظام معلومات الإدارة (MIS) لديكم عبر Wonde، أو من Google Classroom، أو من قائمة ملصوقة.
• البيانات: تظل المدرسة المتحكم في البيانات، وتُفصل بيانات الطلاب حسب المعلم، واتفاقية معالجة البيانات متاحة عند الطلب، ولا يبيع Askie البيانات أبدًا ولا يعرض إعلانات. ويطلب الاستيراد عبر Wonde اثني عشر حقلًا دون أي بيانات تخص الاحتياجات التعليمية الخاصة أو البيانات الطبية أو الرعوية.

اطرحوا علينا بقية الأسئلة مباشرة على askie@kidsai.app؛ فمكان الإجابات سجلاتكم، لا موادنا التسويقية. ويمكنكم البدء على الخطة المجانية مع ما يصل إلى 20 تلميذًا ومعاينة واجهة التلميذ قبل أن يسجّل أي طفل دخوله.

الأسئلة الشائعة

هل معايير DfE لسلامة منتجات الذكاء الاصطناعي التوليدي إلزامية؟

إنها مكتوبة للمزوّدين، لا كواجب قانوني على المدارس. لكن KCSIE 2026، وهي إرشادات ملزمة قانونًا، توجّه المدارس إليها في مسألة التصفية والمراقبة، لذا ينبغي عمليًا أن تكون المدرسة قادرة على إثبات أنها أخذتها في الاعتبار.

هل هي «توقعات» أم «معايير»؟

الاسمان يشيران إلى الوثيقة نفسها. نُشرت في يناير 2025 بعنوان Generative AI: product safety expectations وصار عنوانها الآن Generative AI: product safety standards؛ وكان أحدث تحديث لها في يناير 2026. ولا تزال KCSIE 2026 تستخدم الاسم الأقدم.

هل ينطبق هذا على أدوات الذكاء الاصطناعي الخاصة بالمعلمين فقط؟

بعض المعايير (الأمان، والخصوصية، والملكية الفكرية، والتصميم، والحوكمة، والتلاعب) تنطبق على الأدوات الموجهة للمعلمين أيضًا. أما معايير التصفية والمراقبة والنمو المعرفي والعاطفي والصحة النفسية فهي للمنتجات الموجهة للمتعلمين.

من في المدرسة ينبغي أن يتولى هذا الأمر؟

القائد الأول المسؤول عن التصفية والمراقبة، بالتعاون مع مسؤول الحماية ودعم تقنية المعلومات، كما تحدد KCSIE للمراجعة السنوية. اطلعوا على كيف تستخدم المدارس الذكاء الاصطناعي بأمان للتطبيق على نطاق أوسع.