Character.AI 對孩子安全嗎?
Character.AI 不是為孩子設計的。條款規定使用者至少要 13 歲(英國和歐洲經濟區為 16 歲),而且從 2025年11月底起,已不再讓未滿 18 歲的使用者和角色自由聊天。Common Sense Media 建議,未滿 18 歲的人都不應該使用社交型 AI 陪伴。
不,Character.AI 不是適合孩子的安全選擇。它是一個和 AI「角色」聊天、玩角色扮演的平台,很多角色是其他使用者建立的,整個平台是為青少年和成人打造的。條款規定最低年齡為 13 歲,英國和歐洲經濟區的使用者則是 16 歲。對 13 歲以下的孩子來說,答案很簡單:不應該使用。
青少年的使用規則有什麼改變
2025年10月29日,Character.AI 宣布將停止讓未滿 18 歲的使用者自由聊天,並在 2025年11月25日前完成調整。青少年仍然可以使用比較有結構的功能,例如 Stories:挑選角色,再透過一次次的選擇推動劇情。
為了判斷誰未滿 18 歲,該公司表示會結合自家的年齡估算模型和 Persona 提供的第三方驗證,必要時再改用臉部年齡估算或身分證件查核。年齡驗證能降低風險,但也可能出錯或被繞過,所以只能把它當成其中一層防護,而不是保證。
家長和專家為什麼擔心
- 情感依附。美國兒科學會(AAP)指出,思考方式「比較充滿想像、比較不具批判性」的孩子,特別容易被像人一樣的陪伴型機器人吸引;而且不管聽起來多溫暖,聊天機器人「並不關心我們的孩子」(HealthyChildren.org)。
- 不當的角色扮演。Common Sense Media 在 2025年4月發表的社交型 AI 陪伴風險評估也涵蓋了 Character.AI,發現針對青少年的防護很容易被繞過,並認定這些產品對未滿 18 歲的使用者構成無法接受的風險。
- 嚴重傷害。Character.AI 正面臨多起訴訟,其中一起涉及一名對某個角色產生依附的 14 歲孩子自殺身亡。
- 監管機關的審查。2025年9月,美國聯邦貿易委員會(FTC)要求包括 Character Technologies 在內的七家公司,說明各自如何針對兒童和青少年測試與限制陪伴型聊天機器人(FTC)。
如果孩子在用 Character.AI
- 詢問,不要指責。「你都跟哪些角色聊天?你喜歡他們哪一點?」比說教更能讓你了解狀況。
- 檢查年齡設定。如果孩子註冊時填了成人的生日,就會跳過青少年保護機制。
- 留意警訊。疏遠朋友、對這個 App 神神秘秘、不能用的時候很難過,或比起人更喜歡機器人。AAP 建議,如果孩子看起來變得退縮,比起人更喜歡聊天機器人,可以和兒科醫師談談。
- 一起訂計畫。13 歲以下就刪除。如果是青少年,就一起討論:它能帶來哪些朋友、嗜好和其他 App 給不了的東西?
陪伴型功能也開始出現在其他 App 和遊戲中,所以就算刪掉了一個 App,這些對話依然重要。我們的 AI 陪伴能幫助孤單的孩子嗎?對依附問題有更深入的討論。
用更安全的方式滿足同樣的需求
很多孩子喜歡 Character.AI,是因為可以編故事、發揮想像力。這個需求是真實的,也值得滿足。請找專為孩子打造的服務:內容過濾是為兒童設計的,家長也看得到發生了什麼事。例如 Askie 是專為 4 到 15 歲孩子打造的 AI 夥伴,會和孩子一起創作故事、依年齡調整內容,並讓家長查看對話逐字稿。我們的 Askie 和 Character.AI 比較,以及給孩子的安全 AI 朋友指南,都詳細說明了兩者的差異。
孩子可以安心對話的 AI
Askie 是專為孩子打造、以語音為主的 AI 夥伴,回答會依孩子的年齡調整,並搭配由你設定的家長控制。