AIが子どもに不適切なことを言ったら、どうすればいいですか？

AIがお子さまに不適切なことを言ったとき、最も大切なのは最初の数分間の保護者の反応です。落ち着いた対応をしてもらえた子どもは、その後も保護者に話してくれます。保護者が慌てたり、罰としてアプリを取り上げられたりした子どもは、話さなくなることがよくあります。

なぜ起こるのか

AIチャットボットはその場で返答を生成するため、すべてを防げるフィルタはありません。米国小児科学会(AAP)は、特に子どもを想定して設計されていない製品では、チャットボットが子どもに「間違ったこと、有害なこと、きわめて性的なこと、暴力的なこと」を言う可能性があると警告しています(HealthyChildren.org)。Googleでさえ、子ども向けGeminiアカウントのフィルタは「完璧ではない」としています(Google)。また、子どもが好奇心から会話をある方向へ誘導した結果、起こることもあります。

対応の手順

1. 落ち着いて、お礼を言う。 「見せてくれてありがとう。あなたは正しいことをしたよ」たとえ自分から探しに行った場合でも、こう伝えましょう。
2. 何があったのかを聞く。 「それを言われる前は何について話していたの？どんな気持ちになった？」のように、自由に答えられる質問をします。
3. 証拠を残す。 何かが削除される前に、会話のスクリーンショットを撮るか、日付、アプリ、言われた内容を書き留めます。
4. 企業に報告する。 アプリ内の報告ボタンや「低評価」ボタンを使い、深刻な場合は企業の安全窓口にも連絡しましょう。報告は、ほかの子どものために問題を直す助けになります。
5. 利用環境を見直す。 設定を厳しくする、ペアレンタルコントロールをオンにする、または判断するまでアプリを一時停止します。罰ではなく、安全のための措置だと説明しましょう。
6. なぜ間違っていたのかを説明する。 子どもの年齢に合わせて伝えます。
   • 4〜7歳:「あのコンピューターが間違えて、子ども向けじゃないことを言っちゃったんだ。あなたのせいじゃないよ」
   • 8〜12歳:「AIはインターネットからパターンをまねしているんだけど、インターネットにはよくないものもあるんだ。AIは人みたいに、いいことと悪いことの区別がつかないんだよ」
   • 10代:AIの仕組み、見たもの、次にどうするかについて率直に話し合いましょう。
7. もう一度様子を聞く。 数日後、まだ気になっているかを聞いてみましょう。悪夢、不安、いつもと違う隠しごとに注意します。

さらに相談すべきとき

アプリへの報告だけでは足りない状況もあります。

• 子どもに関わる性的な内容、または誰かが子どもに接触したり、グルーミングしようとしたりしている場合: 米国ではNCMEC CyberTipline、英国ではCEOPに報告してください。
• 自傷や自殺に関する内容、またはお子さまに危険がありそうな場合: かかりつけ医に相談してください。危機的な状況では、お住まいの地域の緊急通報番号、米国では988、英国ではChildline(0800 1111)に連絡してください。
• 脅迫や危険なチャレンジの場合: 利用をやめさせ、ほかの子どもにも影響がありそうなら学校に相談しましょう。

次に備えて

• お子さまの年齢に合ったアプリを選び、利用規約を確認しましょう。汎用チャットボットの多くは、利用者が13歳以上であることを条件としています(ChatGPTの年齢ルールを参照)。
• 年少の子どもは、家族が集まる場所でAIを使うようにしましょう。
• 会話を確認できるサービスを選べば、問題に気づけるかどうかが、子どもが話してくれるかどうかに左右されません。
• 家族のルールを決めましょう。「ネットで何か変だと感じたら教えてね。叱ったりしないから」

Askieの取り組み

Askieは多層的な安全フィルタリングと年齢に合わせた応答を採用しており、保護者は会話の書き起こしや作成された作品を確認できます。また、オプトアウト式の安全通知機能により、会話から現実の深刻な懸念がうかがえる場合に大人へ知らせることができます。完璧なフィルタはないからこそ、保護者が確認できることが大切です。既知の限界も含めた仕組みは安全性の方針で、より広い全体像は保護者のためのAI安全ガイドで解説しています。