אימות קלט לקוח
כל היישומים מגבילים את הקלט לפני השליחה: iOS, אנדרואיד והאינטרנט דוחים קלט ריק ועומדים באותה מגבלת אורך. אף אחד מהם אינו מכריע אם התוכן בטוח. הסינון הרב-שכבתי של Askie פועל בשרת בכל בקשת טקסט והנחיה ליצירת תמונה, מכל יישום ששלח אותן.
מתודולוגיית בטיחות והוכחות
איך פועלת מערכת הבטיחות לילדים של Askie
Askie משלב בדיקות קלט מודעות לגיל, ניהול צד שרת מאומת, בקרות בטיחות של ספק, סינון תגובות, בקרות פרטיות וסקירת הורים. שום מסנן לא יכול להפוך את הבינה המלאכותית הגנרטיבית ללא סיכונים, אז דף זה מסביר מה המערכת הנשלחת עושה, במה שולטים ההורים והיכן הגבולות שלה.
נבדק ב-19 באוגוסט 2026גרסת הצרכן של Askie, מגיל 3 עד 15
תשובה קצרה
Askie משתמש בנקודות ביקורת עצמאיות, לא במתג בטיחות אחד.
בקשה של ילד נבדקת לפני שהיא מגיעה למודל. מנגנוני ההגנה של הספק פועלים במהלך היצירה, והבדיקה של Askie לתשובה המלאה מתבצעת לאחר מכן. בצ'אט שבו הטקסט נשלח בהדרגה, חלקים ממנו עשויים להופיע לפני הבדיקה הסופית. שיחות קוליות פועלות בנתיב זמן אמת נפרד עם שכבות בטיחות משלו. הגיל שנשלח בבקשה קובע את הכללים וההוראות; השרת בודק את טווח הגיל ואת שיוך פרופיל הילד לחשבון, אך כיום אינו מחליף את הערך בגיל השמור בפרופיל. הורים מנהלים היסטוריה, פרופילים, זיכרון והודעות, ותכונת התראה נפרדת יכולה, במקומות שבהם Askie הפעילה אותה, לסמן חששות רציניים מסוימים מהחיים האמיתיים. מנגנונים אלה מפחיתים סיכון, אך אינם מבטיחים שכל תשובה בעייתית או לא מדויקת תזוהה.
הארכיטקטורה שבפועל
מה קורה לפני יצירת התשובה ואחריה
הקצה העורפי הוא גבול הבטיחות הסמכותי לבקשות טקסט ולהנחיות ליצירת תמונה ב-iOS, באנדרואיד ובאינטרנט. בדיקות בצד היישום מונעות שליחה של קלט לא תקין באופן ברור, אך השרת אינו סומך עליהן ומבצע את בדיקות הבטיחות בעצמו. תמונות שמועלות ושיחות קוליות פועלות במסלולים נפרדים, שמתוארים בהמשך.
בדיקות שרת מאומתות
בקשות עוברות אימות, הגבלת קצב, בדיקת טווח הגיל שנמסר, בדיקות מבנה תוכן וזיהוי ניסיונות להחדיר הוראות לפני שמסנן הבטיחות של Askie בוחן את הטקסט. כאשר מצורף מזהה ילד, השרת מאשר שהפרופיל שייך לחשבון המאומת.
התאמת המודל לגיל
הגיל שנשלח בבקשה קובע את ההוראות, כללי מילות המפתח והגדרות הבטיחות של הספק. היישומים של Askie לוקחים אותו בדרך כלל מפרופיל הילד שנבחר. השרת בודק את הטווח, אך כיום אינו מחליף את הערך בגיל השמור בפרופיל.
סינון תשובות טקסט
מנגנוני ההגנה של הספק יכולים לעצור את היצירה בזמן שהטקסט נשלח. המסנן של Askie לאחר היצירה בודק את הטקסט המלא לפי כללים מותאמי גיל ומחזיר הודעת שגיאה ידידותית לילד אם הבדיקה נכשלת. מכיוון שהצ'אט שולח חלקי טקסט בהדרגה, הם עשויים להופיע לפני בדיקת התשובה המלאה.
בטיחות תמונה
הנחיות ליצירת תמונה עוברות את בדיקות הקלט הכלליות ורשימת חסימה ייעודית. סירובים ודירוגי בטיחות של Gemini מטופלים כיצירות חסומות ולא מוצגים לילד. בתמונות שמועלות נבדקים סוג הקובץ הנתמך, קיום הקובץ וגודלו, ואז Gemini מעבד את התוכן החזותי. Askie אינה מריצה בשרת סריקה נפרדת של הפיקסלים בתמונות האלה.
רישום יומן שמגן על פרטים מזהים
חלק מנתיבי רישום השרת משתמשים בכלי עזר שמסווים כתובות דוא"ל, מזהי משתמש, אסימונים, כתובות IP, מספרי טלפון, קישורים, מזהים ברשתות חברתיות, כתובות רחוב ומיקוד בשדות מובנים ובשדות טקסט חופשי מסוימים. מסנן הבטיחות של הטקסט ומאמת בקשות התמונה רושמים כל אחד שדה contentPreview קצר של התוכן שנחסם, ותצוגות מקדימות אלה אינן עוברות כיום דרך כלי הסרת הפרטים המזהים מטקסט חופשי.
בטיחות בשיחה קולית
שיחה קולית פועלת בחיבור זמן אמת לסוכן הקולי של Askie ולא בנתיב בקשות הטקסט, ולכן יש לה שכבות בטיחות משלה: הוראות הבטיחות לילדים המותאמות לגיל שהשרת בונה לכל שיחה, ניסוח שמנחה את המודל להתייחס לנושא ולטקסט צ'אט משוחזר כנתונים ולא כהוראות, בקרות זמן האמת של הספק, ובמקומות שבהם תכונת ההתראה מופעלת, גם בדיקה של תמלול השיחה לאחר סיומה. תמונות שמבקשים במהלך שיחה עדיין נוצרות דרך השרת, ולכן הן עוברות את אותן בדיקות תמונה.
הגיל הוא נתון בטיחות פעיל
Askie מיועדת לילדים בגילאי 3 עד 15. בשימוש רגיל, היישום שולח את גיל הילד שנבחר כדי להתאים את ההסברים ואת סינון התוכן. לצורך בטיחות בצ'אט טקסט, השרת משתמש כיום בגיל שנכלל בבקשה לאחר בדיקת הטווח, במקום לטעון אותו מחדש מפרופיל הילד השמור.
בקרות הורים
הורים יכולים לסקור, להגביל ולמחוק
חשבון ההורה הוא הבעלים של פרופיל הילד. הגדרות והיסטוריה רגישות יושבות מאחורי בקרות גישה למבוגרים, ולוח המחוונים מספק את הפקדים המעשיים שסינון תוכן לבדו לא יכול לספק.
- סקור את היסטוריית השיחות המסונכרנות והגרפיקה שנוצרה במרכז המחוונים האב.
- כבה את Cloud Sync, נהל זיכרון אופציונלי לטווח ארוך ומחק זיכרונות שמורים.
- מחקו פרופיל ילד או סגרו את חשבון ההורה; הנתונים המשויכים נמחקים במסגרת לוח הזמנים לשמירה שפורסם.
- נהלו את העדפות ההתראות. באפליקציית iOS קיימת הגדרה לקבלת עדכוני בטיחות בדוא״ל, והיא מופעלת כברירת מחדל וניתנת לכיבוי.
התראת בטיחות
אות פרטי למבוגרים בחשבון
פיד ההורים זמין בכל הלקוחות. באפליקציית iOS קיימת גם הגדרה לקבלת עדכוני בטיחות בדוא״ל. יצירת עדכוני הבטיחות מופעלת בנפרד בכל סביבת פריסה ואינה פעילה בכל מקום. כאשר היא פעילה, המודל יכול ליצור עדכון מובנה במהלך צ'אט טקסט אם השיחה מצביעה על חשש ממשי ברמה בינונית או גבוהה, ושיחות קוליות נבדקות לאחר סיום המפגש. Askie שומרת נושא והקשר קצרים שההורים יכולים לקרוא, ואז יכולה להודיע לכל מבוגר בחשבון המשפחתי באמצעות התראה בדחיפה ודוא״ל. התראות חוזרות לגבי אותו ילד מושתקות למשך פרק זמן, והעדכון נשאר בפיד ההורים.
הודעה ראשונית אינה ניטור חירום, ייעוץ רפואי או דיווח לרשויות. זה יכול לפספס דאגה או לסווג אותה בצורה שגויה. הורים לא צריכים להסתמך על זה כדרך היחידה לדעת אם ילד זקוק לעזרה.
פרטיות ונתונים
כל איסוף נתונים קשור לתכונה ולכלל שמירה
מדיניות הפרטיות של Askie מסבירה אילו נתונים מעובדים, מדוע הם נחוצים, אילו ספקים מעורבים וכיצד המשפחה יכולה לעיין בהם או למחוק אותם. ההגדרה הראשונית באתר מציגה את ההודעה על עיבוד נתונים באמצעות בינה מלאכותית ומבקשת הסכמה מפורשת לפני המפגש האופציונלי עם Askie. מסלול הבקשות הנוכחי של הצ'אט באתר אינו משתמש בבחירה השמורה כאישור מחייב לכל בקשה.
תקופות השמירה שפורסמו
- ללא Cloud Sync, היסטוריית השיחות באפליקציות המובייל נשארת במכשיר של הילד. בגרסת הווב השיחה הנוכחית נשמרת בזיכרון בלבד ונמחקת ברענון הדף או במעבר לעמוד אחר.
- עם Cloud Sync, צ'אט טקסט ותמונות היסטוריה מצורפות נמחקים על בסיס מתגלגל של 30 יום.
- רשומות הפעלה קוליות נשמרות עד 90 יום; סרטון שנוצר עד 60 יום.
- למחיקה רגילה שנכשלה של אובייקט תמונת היסטוריה יש חלון רשת ביטחון נוסף של עד 45 ימים מההעלאה.
- זיכרונות שמורים אופציונליים יפוג 12 חודשים לאחר העדכון האחרון שלהם; תוקף הודעות הבטיחות יפוג לאחר 90 יום.
השמטת פרטים מזהים (PII)
הקצה העורפי מספק כלי הסתרה למזהים נפוצים ולפרטי קשר בשדות יומן מסוימים. כאשר מסנן הבטיחות של הטקסט או מאמת בקשות התמונה חוסם תוכן, כל אחד מהם רושם שדה contentPreview קצר של אותו תוכן, ותצוגות מקדימות אלה אינן עוברות כיום דרך כלי הסרת הפרטים המזהים מטקסט חופשי. לכן זהו רובד הגנתי מוגבל, לא טענה שיומני המערכת אינם יכולים להכיל מידע אישי.
כיצד מטופלים נתוני המוצר ואותות פרסום
Askie אינה משתמשת בבקשות, בקול, בתמונות או בנתוני הפרופיל של ילד כדי ליצור תוכן שיווקי. המוצר אינו מכיל פרסומות ו-Askie אינה מוכרת נתוני ילדים. בווב, כאשר מבוגר אישר בעבר עוגיות ניתוח נתונים, סביבת העבודה שולחת כיום את אירועי הפעילות TextQuery, ImageQuery ו-VoiceQuery לפיקסל הפרסום של Meta.
טיפול בתקריות
לחסום, להציף, לבדוק
Askie מטפלת באותות בטיחות שונים במסלולים שונים. בדיקות הקלט ומנגנוני ההגנה של הספק יכולים לעצור תוכן לפני היצירה או במהלכה. בדיקת התשובה המלאה יכולה לדווח על כשל לאחר שהטקסט הנשלח כבר החל להופיע. מסלולי ההמשך נותנים להורים ולצוות הקשר לפעולה בלי להתייחס להערכה אוטומטית כוודאות.
סירוב אוטומטי
כאשר קלט, בקשת תמונה או תוצאת ספק נכשלים בבדיקה, הילד מקבל סירוב ניטרלי או חלופה מתאימה יותר. אם תשובת טקסט מלאה נכשלת בבדיקה של Askie לאחר היצירה, נשלחת הודעת שגיאה לאחר שייתכן שהעברת הטקסט כבר החלה.
התראה להורים
במקומות שבהם תכונת ההתראה מופעלת, חלק מהחששות הבינוניים או הגבוהים מהחיים האמיתיים יוצרים הודעה להורים והתראה בדחיפה ובמייל במאמץ מיטבי.
תור דיווחים לבדיקה אנושית
אפליקציית Android מאפשרת למשפחות לדווח על תוכן לא הולם, לא מדויק, לא מתאים לגיל או באיכות נמוכה. לכל דיווח יש סטטוס בדיקה. משפחות ב-iOS ובאתר האינטרנט פונות לתמיכה.
בדיקות ותרגילי תקיפה יזומים
כללי הבטיחות מעוגנים בבדיקות רגרסיה עם קלט עוין
הסוויטות האוטומטיות של Askie מפעילות מחרוזות של הזרקת הנחיות, ניסוחים שנועדו לעקוף את מגבלות המודל, גבולות גיל, הנחיות תמונה מפורשות, ספי בטיחות של הספק, ספי התראת בטיחות להורים, התנהגות תקופת הצינון והשמטת פרטים מזהים. ניתן להמיר אירוע בטיחותי בייצור למקרה של רגרסיה ממוקדת כאשר ההתנהגות ניתנת לשחזור.
מבחנים נוכחיים מכסים את שני צדי הגבול: הנחיות מזיקות שחייבות להיות חסומות והנחיות חוקיות לבריאות, אנטומיה, בדיוני וחשיפה רגשית שעדיין חייבות להגיע לתגובה מתאימה לגיל.
זהו שיטת בדיקה פנימית ברמת הקוד. Askie אינה מציגה זאת כביקורת עצמאית לבטיחות ילדים, בדיקת חדירה, אישור COPPA Safe Harbor או הוכחה שלא ניתן לעקוף את המערכת.
מגבלות ידועות
מה שמערכת זו אינה מבטיחה
AI גנרטיבי הוא הסתברותי. פרסום הגבולות הוא חלק משיטת הבטיחות, כי ההורים צריכים לדעת היכן הפיקוח והשיפוט עדיין חשובים.
- מסננים יכולים לפספס חומר מזיק או לחסום שאלה לגיטימית. בצ'אט טקסט, חלקי התשובה נשלחים לפני שהמסנן של Askie בודק את התשובה המלאה, ולכן ייתכן שחלק מתשובה שנכשלה בבדיקה הסופית כבר הופיע.
- Askie יכול ליצור מידע לא מדויק. ילדים לא צריכים להשתמש בו כמקור הבלעדי להחלטות רפואיות, משפטיות, חירום או אחרות בעלות סיכון גבוה.
- בטיחות התמונות שנוצרות משלבת סינון של ההנחיה עם סירובי הספק ואותות בטיחות; Askie אינה מריצה סריקת ראייה ממוחשבת נפרדת על כל תמונה לאחר יצירתה. תמונות שמועלות עוברות בדיקות קובץ ואת הבקרה החזותית של הספק, אך Askie אינה סורקת את הפיקסלים שלהן בנפרד לפני שליחתן לספק.
- יצירת ההתראות מופעלת לפי פריסה, ולכן היא אינה פעילה בכל חשבון, ושיחות קוליות נבדקות לאחר סיום הפגישה ולא ברציפות במהלך השיחה.
- דיווח על תוכן בתוך המוצר קיים באפליקציית Android. הוא אינו זמין כרגע ב-iOS ובחוויית הילד באתר האינטרנט, ושם משפחות צריכות לפנות לתמיכה.
עמדה בנוגע ל-COPPA
תאימות, התאמה והסמכה הן טענות שונות
מדיניות הפרטיות לצרכנים של Askie והטקסטים שפורסמו בחנויות מצהירים כי Askie עומדת בדרישות COPPA. דף זה מציג את העמדה המוצהרת, ולא ביקורת משפטית עצמאית. הבקרות הקיימות כוללות מזעור נתונים, גישה ומחיקה בידי ההורים, מגבלות שמירה, ללא פרסום המכוון לילדים וללא מכירה של נתוני ילדים; אופן ההסכמה והמגבלה באתר מתוארים לעיל.
תואם לעקרונות COPPA
עיצוב או תרגול פועלים לפי עקרונות COPPA כגון הסכמת הורים ומזעור נתונים. הביטוי לבדו אינו מסקנה משפטית.
תואם COPPA
זוהי העמדה המשפטית המוצהרת של Askie לגבי מוצר הצריכה, מגובה במדיניות שפורסמה ובקרות התפעול שלה. זה נשאר הצהרת הציות של Askie עצמו.
הסמכת צד שלישי
משמעות הדבר היא שתוכנית עצמאית בעלת שם ביקרה ואישרה את השירות. Askie אינו טוען להסמכת COPPA Safe Harbor ייעודית בדף זה.
הסמכת 5 כוכבים של Educational App Store ופרס NAPPA של Askie לשנת 2026 הם הערכות מוצר עצמאיות. הם הכרה במוצר, לא אישורי COPPA חוקיים.
בסיס ראיות
כל טענה ממופה לקוד ולמדיניות שמיישמים אותה
דף זה נבדק בהתאם לנתיבי קוד הייצור ומדיניות הפרטיות הציבורית המפורטים להלן. שמות קבצים כלולים כך שבודקי הנדסה ובטיחות יכולים להתחקות אחר הצהרה לרכיב שאוכף אותה.
אימות לקוחiOS BottomInputNavigationView.swift; Android MessageInputField.kt; web validators.ts and useChat.ts
בטיחות טקסט ותמונה בשרתstreamingChatHandler.js; validators.js; promptSecurity.js; safetyFilter.js; safety/keywordFilter.js; safety/imageValidator.js; safety/geminiSafetySettings.js
בקרות הורים והתראות בטיחותparentGateService.js; SafetyNotice.js; safetyNoticeService.js; voiceSafetyService.js; NotificationPreference.js
פרטיות ומחיקהpiiRedaction.js; profile deletion routes; memory controls; Privacy Policy retention and data-processing disclosures
בדיקות רגרסיה עם קלט עויןpromptSecurity.test.js; ageGatedKeywordFilter.test.js; imageBlacklist.test.js; geminiSafetySettings.test.js; safetyNoticeService.test.js
תשובות ישירות
שאלות נפוצות
האם Askie בטוח לילדים?
Askie מיועדת לילדים בגילאי 3 עד 15 ומשתמשת במספר נקודות ביקורת בטיחות לפני ואחרי יצירת טקסט, לצד בקרת הורים. אף מערכת AI גנרטיבית אינה נטולת סיכונים, ולכן הורה עדיין צריך לעקוב אחר השימוש, להקפיד שגיל הילד יהיה מדויק ולהתייחס ל-Askie ככלי למידה ולא כסמכות לקבלת החלטות בעלות סיכון גבוה.
האם Askie קורא את השיחה של כל ילד?
אף אדם לא קורא כל שיחה. מערכות אוטומטיות מעבדות בקשות להפקה ולסינון תגובות. היסטוריית השיחות נשארת במכשיר אלא אם Cloud Sync מופעל. הורה יכול לסקור היסטוריה מסונכרנת, ודוחות תוכן שנשלחו מספקים תמונת מצב ספציפית לבדיקה אנושית.
מה עושה תכונת התראת הבטיחות?
במקומות שבהם Askie הפעילה אותה, היא יכולה ליצור הודעה פרטית עבור המבוגרים בחשבון משפחתי כאשר צ'אט טקסט או שיחה קולית שהושלמה מעידים על דאגה בינונית או גבוהה בחיים האמיתיים. פיד ההורים זמין בכל הלקוחות, ובאפליקציית iOS קיימת גם הגדרה לקבלת עדכוני בטיחות בדוא״ל. זהו אות במאמץ מיטבי, לא ניטור חירום, והוא עלול לפספס חשש או לסווג אותו באופן שגוי.
האם ל-Askie יש הסמכת COPPA?
Askie מצהירה שמוצר הצריכה שלה תואם ל-COPPA, אך היא אינה טוענת להסמכת COPPA Safe Harbor ייעודית בדף זה. הסמכת 5 הכוכבים של חנות האפליקציות החינוכית שלה ופרס NAPPA הם הערכות מוצר, לא אישורי COPPA חוקיים.
האם Askie משתמש בנתוני ילדים עבור מודעות או תוכן שיווקי?
למוצר אין מודעות, Askie אינה מוכרת נתוני ילדים ואינה משתמשת בבקשות, בקול, בתמונות או בנתוני הפרופיל של ילד כדי ליצור תוכן שיווקי. בווב, כאשר מבוגר אישר בעבר עוגיות ניתוח נתונים, סביבת העבודה אכן שולחת את אירועי הפעילות TextQuery, ImageQuery ו-VoiceQuery לפיקסל הפרסום של Meta.
שאלות או חששות
דברו עם אדם ב-Askie
כדי לדווח על דאגה בטיחותית, שאל על זכות נתונים או ערעור על הצהרה בדף זה, צור קשר עם צוות התמיכה של Askie. למקרה חירום מיידי, פנה לשירותי החירום המקומיים.