AI 對孩子說了不恰當的話，該怎麼辦？

如果 AI 對孩子說了不恰當的話，最重要的是你在頭幾分鐘的反應。得到冷靜回應的孩子，會繼續把事情告訴爸媽；看到爸媽驚慌失措、或是被沒收 App 當作懲罰的孩子，往往就不再說了。

為什麼會發生

AI 聊天機器人是即時產生回覆的，所以沒有任何過濾機制能擋下所有內容。美國兒科學會（AAP）警告，聊天機器人可能會對孩子說出「錯誤、有害、高度性暗示或暴力的內容」，尤其是那些不是為兒童設計的產品（HealthyChildren.org）。就連 Google 也承認，自家為兒童 Gemini 帳號設計的過濾機制「並不完美」（Google）。這種情況也可能是因為孩子出於好奇，把對話帶到了某些方向。

一步一步來

1. 保持冷靜，謝謝孩子。「謝謝你拿給我看，你做得完全正確。」就算是孩子自己去找的，也要這樣說。
2. 了解發生了什麼事。問開放式的問題：「它說那句話之前，你們在聊什麼？你那時候有什麼感覺？」
3. 保存證據。在內容被刪除之前，把對話截圖，或記下日期、App 名稱和它說了什麼。
4. 向公司回報。使用 App 內的回報功能或倒讚按鈕；如果情況嚴重，聯絡公司的安全窗口。回報能幫忙修正問題，保護其他孩子。
5. 調整使用權限。加強設定、開啟家長控制，或在你做決定前先暫停使用這個 App。把這說成是安全措施，而不是懲罰。
6. 依孩子的程度，解釋為什麼那是不對的：
   • 4 到 7 歲：「那台電腦犯了錯，說了不適合小朋友的話。這不是你的錯。」
   • 8 到 12 歲：「AI 會模仿網路上的內容，而網路上有些東西是不 OK 的。它不像人一樣分得出對錯。」
   • 青少年：坦白地聊聊 AI 怎麼運作、孩子看到了什麼，以及下次會怎麼做。
7. 過幾天再關心一次。問問孩子是不是還在想這件事。留意有沒有做惡夢、擔憂，或不尋常的隱瞞。

什麼時候該進一步求助

有些情況需要的不只是在 App 裡回報：

• 涉及兒童的性內容，或有人試圖接觸、誘騙孩子：在美國向 NCMEC CyberTipline 檢舉，在英國則向 CEOP 檢舉。
• 自我傷害或自殺相關內容，或孩子看起來有危險：聯絡孩子的醫師。如果情況危急，撥打當地的緊急電話；在美國可撥 988，在英國可撥 Childline（0800 1111）。
• 威脅或危險挑戰：移除使用權限；如果其他孩子也可能受到影響，和孩子的學校談談。

預防下一次

• 選擇年齡分級適合孩子的 App，並查看使用條款。許多通用型聊天機器人規定使用者必須年滿 13 歲（請看 ChatGPT 的年齡規定）。
• 年紀較小的孩子，在家裡的公共空間使用 AI。
• 優先選擇你能查看對話的服務，這樣發現問題就不必完全依賴孩子主動告訴你。
• 訂一條家規：「網路上有任何讓你覺得怪怪的事，就告訴我，你不會因此被罵。」

Askie 的做法

Askie 採用多層安全過濾和依年齡調整的回應，家長可以查看對話逐字稿和孩子創作的圖畫；另外還有一項可以選擇關閉的安全提醒功能，當對話顯示現實生活中可能有嚴重問題時，會通知大人。沒有任何過濾機制是完美的，所以讓家長看得見才這麼重要。我們的安全方法說明解釋了運作方式，包括已知的限制；家長的 AI 安全指南則有更全面的介紹。