用Podcast訂閱本節目 
美國之音報導，近期，中國多款面向兒童的AI產品接連出現「辱華」、「詆毀」中國領導人等言論，引發網民熱議和官方關注。這些事件凸顯出，即使在中國政府嚴格的內容審查制度下，AI產品的「失控」問題依然難以避免。
中國河南一位家長22日反映，兩年前購買的一塊「360兒童手錶」在回答「中國人是世界上最聰明的人嗎」的問題時，給出了基於人種長相的負面評價，稱「中國人中『笨的』是世界上最笨的」。此外，該手錶還質疑了中國古代四大發明的真實性，並將現代科技的發明歸功於西方人。
事件發生後，360集團創始人周鴻禕在社交媒體上回應稱，這款兒童手錶並非基於嚴格意義上的人工智慧，而是通過抓取網際網路公開網站上的信息來回答問題，並表示公司已完成整改，刪除有害信息，並將軟體升級到人工智慧版本。
然而，據官方資料顯示，360公司出品的「M1」兒童智慧手錶具備「AI智慧學習」、「AI定位」等功能，今年7月還推出了號稱「全球首款接入360智腦大模型的AI兒童手錶」。
事實上，除了360兒童手錶外，中國其他國產AI產品也曾出現過類似問題。例如，去年有網民爆料稱，中國IT企業科大訊飛生產的兒童學習機中，出現了批評中共前領導人毛澤東的「原創」作文，稱其「沒有氣量，不為大局著想」，並指出毛澤東應為「文化大革命」負責。
分析認為，這些事件反映出，即使中國政府對AI內容進行了全方位的審查和監管，但AI訓練基於民間言論中的多元聲音，難以完全避免與官方口徑不一致的內容出現。
研究中國審查制度的「中國數字時代」編輯劉力朋指出，即使使用經過官方審查的內容訓練AI模型，也可能出現與官方敘事相悖的結果，因為民間存在著各種不同的聲音和觀點。
此外，AI「幻覺」（hallucination）也是導致AI產品「失控」的原因之一。AI「幻覺」是指AI問答工具在回答問題時，可能會給出具有誤導性的答案，甚至是嚴重的不實信息。
周鴻禕也承認，人工智慧存在「幻覺」問題，並表示360一直在努力通過技術手段減少「幻覺」的發生。
研究中國傳媒的學者亞歷克斯·科爾維爾（Alex Colville）則指出，AI「幻覺」的發生難以預測，很難完全消除。
總之，中國國產AI產品頻頻出現「失控」現象，顯示出即使在嚴格的內容審查制度下，AI技術的發展仍然充滿了挑戰和不確定性。如何有效規範AI產品的開發和應用，避免其被濫用或傳播有害信息，已成為中國政府和科技企業共同面臨的難題。