AI 对孩子说了不恰当的话，该怎么办？

如果 AI 对孩子说了不恰当的话，最重要的是你在头几分钟的反应。得到冷静回应的孩子，会继续把事情告诉爸妈；看到爸妈惊慌失措、或是被没收 App 当作惩罚的孩子，往往就不再说了。

为什么会发生

AI 聊天机器人是实时生成回复的，所以没有任何过滤机制能挡下所有内容。美国儿科学会（AAP）警告，聊天机器人可能会对孩子说出“错误、有害、高度性暗示或暴力的内容”，尤其是那些不是为儿童设计的产品（HealthyChildren.org）。就连 Google 也承认，自家为儿童 Gemini 账号设计的过滤机制“并不完美”（Google）。这种情况也可能是因为孩子出于好奇，把对话带到了某些方向。

一步一步来

1. 保持冷静，谢谢孩子。“谢谢你拿给我看，你做得完全正确。”就算是孩子自己去找的，也要这样说。
2. 了解发生了什么事。问开放式的问题：“它说那句话之前，你们在聊什么？你那时候有什么感觉？”
3. 保存证据。在内容被删除之前，把对话截屏，或记下日期、App 名称和它说了什么。
4. 向公司反馈。使用 App 内的反馈功能或倒赞按钮；如果情况严重，联系公司的安全窗口。反馈能帮忙修正问题，保护其他孩子。
5. 调整使用权限。加强设置、打开家长控制，或在你做决定前先暂停使用这个 App。把这说成是安全措施，而不是惩罚。
6. 依孩子的程度，解释为什么那是不对的：
   • 4 到 7 岁：“那台电脑犯了错，说了不适合小朋友的话。这不是你的错。”
   • 8 到 12 岁：“AI 会模仿网络上的内容，而网络上有些东西是不 OK 的。它不像人一样分得出对错。”
   • 青少年：坦白地聊聊 AI 怎么运作、孩子看到了什么，以及下次会怎么做。
7. 过几天再关心一次。问问孩子是不是还在想这件事。留意有没有做恶梦、担忧，或不寻常的隐瞒。

什么时候该进一步求助

有些情况需要的不只是在 App 里反馈：

• 涉及儿童的性内容，或有人试图接触、诱骗孩子：在美国向 NCMEC CyberTipline 举报，在英国则向 CEOP 举报。
• 自我伤害或自杀相关内容，或孩子看起来有危险：联系孩子的医师。如果情况危急，拨打当地的紧急电话；在美国可拨 988，在英国可拨 Childline（0800 1111）。
• 威胁或危险挑战：移除使用权限；如果其他孩子也可能受到影响，和孩子的学校谈谈。

预防下一次

• 选择年龄分级适合孩子的 App，并查看使用条款。许多通用型聊天机器人规定用户必须年满 13 岁（请看 ChatGPT 的年龄规定）。
• 年纪较小的孩子，在家里的公共空间使用 AI。
• 优先选择你能查看对话的服务，这样发现问题就不必完全依赖孩子主动告诉你。
• 订一条家规：“网络上有任何让你觉得怪怪的事，就告诉我，你不会因此被骂。”

Askie 的做法

Askie 采用多层安全过滤和依年龄调整的回应，家长可以查看对话文字记录和孩子创作的图画；另外还有一项可以选择关闭的安全提醒功能，当对话显示现实生活中可能有严重问题时，会通知大人。没有任何过滤机制是完美的，所以让家长看得见才这么重要。我们的安全方法说明解释了运作方式，包括已知的限制；家长的 AI 安全指南则有更全面的介绍。