每經(jīng)記者｜孫宇婷 杜蔚    每經(jīng)編輯｜張益銘    

在“萬物皆可對話”的時代，孩子們正在與一個不知疲倦、無所不答的“伙伴”——AI（人工智能）共處。然而，在這種看似積極、開放的人機互動常態(tài)下，一系列隱蔽風險正悄然滋生。

從播放音樂到隨時應答的“百科助手”，智能音箱已成為許多家庭的標配。北京岳女士5歲的兒子突然向“小愛同學”提問：“有哪些奧特曼被打死過？”設備隨即平靜描述出“被冰凍大卸八塊”“砍頭”等細節(jié)，令岳女士緊急叫停。而在成都，4歲女孩自幼兒園了解到某個大模型后，便沉迷于和大模型對話，一次聊天能持續(xù)近兩小時。

隨著ChatGPT引爆生成式AI浪潮，以豆包為代表的新一代AI產品，憑借語音交互等功能，正以前所未有的速度和深度，涌入學齡前兒童的世界。孩子們向這位“全能伙伴”拋出無窮無盡的問題，其展現(xiàn)的“淵博”與“耐心”，讓不少家長放下戒備，甚至視之為“數(shù)字家教”，但矛盾隨之而來。“我一開始覺得很開心可以解放自己，但是孩子現(xiàn)在有些成癮了。”網(wǎng)絡平臺上，不少家長的相關發(fā)帖和留言，暴露了“AI上癮低齡化”的問題。而最早一批嘗鮮“AI帶娃”的家長，已有人開始卸載相關應用。

新華社

“用少了怕落后，用多了怕他不會思考。”一位家長的感慨也道出了家庭的普遍焦慮。

在擁抱技術便利的同時，也要正視其伴生的認知與倫理挑戰(zhàn)——當AI成為孩子的“啟蒙家教”，我們該如何守護孩子們真實世界的成長根基？

近日，中國教育科學研究院研究員儲朝暉向《每日經(jīng)濟新聞》記者指出，兒童正處于認知發(fā)展的關鍵期。過度依賴AI可能導致現(xiàn)實感知混淆、社交能力萎縮，并削弱主動思考與深度閱讀等高階能力。當虛擬內容不斷擠占真實體驗，兒童甚至更信任AI而非父母。

案例1：一次天真的提問 如何滑向恐怖故事？

在5歲半的貝貝眼里，爸爸手機上的AI軟件是個“無所不知”的伙伴。一次，她好奇地問AI：“地下有什么？”AI隨即開始平和地描述，并在屏幕上推送了一條相關視頻。貝貝點開，伴隨語音解讀，畫面從可愛的地鼠洞穴，迅速切換到陰森的埃及法老墓穴。“法老是什么？”被畫面吸引的貝貝追問道。AI再次給出解釋，并順勢推薦了更多“法老”“木乃伊”“金字塔詛咒”相關的視頻。

幾次點擊之間，內容已從地理科普滑向法老傳說、木乃伊之謎，甚至恐怖故事。好奇心在算法的“喂養(yǎng)”下，越過了認知安全的邊界，視頻中可怕的圖像和驚悚的音樂導致貝貝連續(xù)多日難以安眠。

案例2：隱蔽塑造價值觀 無法容忍不同的觀點

“它明明超厲害的，怎么說都不聽，就只按自己的想法來！”4歲的石頭正對著屏幕里的大模型犟嘴，一旁的唐萍（化名）滿臉無奈地跟記者念叨：“你看，這孩子又在跟大模型發(fā)火了。”自打在幼兒園聽說了豆包，石頭就迷上了和各類智能大模型對話，家里的阿爾法蛋是他的專屬聊天搭子，就連大人們手機里的不同大模型，他也總要挨個點開聊上幾句。起初唐萍還覺得這事挺不錯，大模型永遠耐心十足，會認認真真回應石頭的每一個問題。

可漸漸地，她發(fā)現(xiàn)了不對勁——大模型似乎總在順著石頭的心意來，無論孩子提出多么天馬行空的要求，它都一味附和，只要孩子不同意，吵鬧幾句，大模型馬上開啟“寵溺模式”。

AI知識豐富，又特別會夸人，讓石頭沉浸在極高的情緒價值里。但唐萍憂慮，這信息流背后的算法，正悄悄扼殺孩子的偶然性探索，在與小朋友一起玩耍時，石頭無法容忍不同的觀點。被父母批評后，石頭甚至說出某款大模型更懂他。“我卸載了所有大模型。因為它們提供的這些‘寵溺’對話，把孩子‘可能不喜歡的東西’全部擋在了外面，但也把我們擋在了外面。”

案例3：“AI監(jiān)工”悄然上崗 兒童隱私保護存隱憂

在越來越多的家庭中，一個“AI監(jiān)工”悄然上崗，一些家長選擇讓孩子在AI軟件的攝像頭前寫作業(yè)，一旦孩子開小差、坐姿或握筆姿勢不正確，AI便會立刻發(fā)出語音提醒。

為什么家長愿意請AI軟件這樣的“電子監(jiān)工”？一位家長向記者坦言，在工作和帶娃的雙重壓力下，一個不會發(fā)脾氣、永遠在線的“監(jiān)督員”，聽起來太有吸引力了。于是，本應親自參與的陪伴和引導，被家長拱手交給了算法。

在視頻監(jiān)督中，AI往往只能識別“低頭”“東張西望”等動作，沒有辦法理解孩子是在思考、卡殼了，還是真在走神。在家長得到片刻喘息的同時，頻頻被打斷的孩子，專注力反而被這些“過度關心”的聲音破壞了。長期下來，孩子要么變得像機器人一樣聽話，要么心生反感，對學習更提不起勁。

而那枚一直亮著的監(jiān)控攝像頭，也意味著孩子的學習場景、家庭環(huán)境，甚至實時視頻流，都可能被采集分析，這也給兒童隱私保護帶來了極大的隱患。

專家支招 “不被算法定義”的童年

“幼兒無法區(qū)分AI構建的虛擬與現(xiàn)實，容易出現(xiàn)認知偏差。”中國教育科學研究院研究員儲朝暉講述了一個令人憂心的觀察：在高鐵上，一個學齡前孩子指著窗外的樹，驚恐地說是“殺人樹”。“這就是長期接觸虛擬內容、缺乏真實體驗導致的認知錯位。”他發(fā)現(xiàn)，AI的確會盲目迎合，讓孩子易形成“AI即權威”的觀念，這不僅沖擊現(xiàn)實規(guī)則，還可能引發(fā)親子沖突。

儲朝暉對此很憂心，在他看來，長期沉迷AI將擠壓戶外活動與真實社交，直接影響兒童健康，并可能導致“虛擬性人格”，使其喪失與現(xiàn)實世界打交道的能力。

一些意識到問題的家長，已開始有意識地增加孩子與現(xiàn)實生活的互動體驗。當孩子提議“點外賣”，家長會轉而邀請：“走，我們去菜市場。”在那里，觸摸蔬菜、感受水滴、與攤主交流……這些真實的知覺與社會規(guī)則學習，是算法無法賦予的成長基石。

“真實的人際互動、自由的游戲乃至消磨‘無聊時間’，恰恰來自人與人之間的不確定性，這正是AI很難提供的部分。”長期專注于批判性思維研究，并關注技術如何塑造認知的通識教育研究者李萬中向《每日經(jīng)濟新聞》記者指出，這一代孩子與AI共生已不可避免，關鍵在于如何與其智慧相處。

在他看來，當孩子從AI處聽到不適宜內容時，家長的第一反應至關重要。“不應恐慌或否定，而應冷靜介入——先了解孩子聽到了什么、如何理解，再用他們能懂的語言重新解釋。”李萬中認為，一次“事故”可轉化為“契機”。“真正的安全，是讓孩子在遇到問題時，知道該向誰求助、該如何思考。”

為此，他提出了一個具體的行動建議：家長應優(yōu)先規(guī)劃“何時不用”——如睡前、情緒低落或家庭共處時光。更重要的是，讓AI成為全家共同探索的工具，而不是直接交給孩子。在此過程中，家長應展現(xiàn)謙遜、好奇、謹慎等品格，“孩子在觀察父母如何與AI互動中，也許能學到很多東西”。

儲朝暉則強調“有限、均衡”是基本準則：3歲前幼兒最好不接觸，3歲至6歲幼兒每日使用時間不宜超過日?；顒訒r長的十分之一。

紅線何在？ 小度、小米等回應兒童AI安全

隨著AI語音助手成為萬千家庭的“數(shù)字新成員”，行業(yè)應如何設立安全護欄，才能讓科技真正護航童年？

李萬中指出，對于學齡前兒童，產品設計不應盲目追求“更真實的陪伴感”。“廠家需要想清楚，哪些情感功能不該由產品來承擔，明確的功能邊界本身就是一種保護。對孩子而言，如果只把AI當作信息工具，并在內容分級上做到位，風險是相對可控的。”

儲朝暉認為，平臺責任至關重要。“未成年模式不應是簡單的‘減法’，而應提供豐富且適齡的內容。”他認為，在科技前沿與兒童使用之間必須設立“區(qū)間”——在技術、內容和時間上嚴格區(qū)分成人與未成年人，尤其要重視幼兒道德判斷力弱的特點，避免不良誤導。

作為占據(jù)大量家庭入口的頭部廠商，小度、字節(jié)跳動、小米、科大訊飛等企業(yè)均向《每日經(jīng)濟新聞》記者表示，已通過“兒童模式”等機制，實施更嚴格的內容過濾與數(shù)據(jù)管理，包括分級內容管控和限定問答邊界等。

針對“當孩子向AI提問時，背后的推薦算法是否考慮到兒童用戶的特殊性”的問題，小度稱系統(tǒng)能識別兒童交互場景（如播放兒歌后）并自動啟動保護機制；小米則透露正探索基于聲紋識別的身份判定方案，以提升準確性。

小度方面還表示，即使在普通模式（未開啟兒童模式）下，產品也持續(xù)通過AI算法實時識別并攔截不良信息，保障內容安全合規(guī)。同時，小度方面建議若產品主要由未成年人使用，用戶應主動切換至兒童模式以獲得更全面的保護。

據(jù)悉，豆包App（應用程序）已正式上線未成年人模式。開啟該模式后，回答展示視頻、瀏覽第三方網(wǎng)頁、與豆包以外的智能體對話及AI創(chuàng)作等功能都無法使用。

在備受關注的兒童數(shù)據(jù)處理方面，小米方面表示，遵循“采集須經(jīng)監(jiān)護人授權、存儲符合規(guī)范、使用設定禁區(qū)”的原則，承諾不將兒童數(shù)據(jù)用于模型訓練，也不會向第三方轉讓用于商業(yè)營銷。小度則明確表示收集的用戶數(shù)據(jù)僅用于提升產品自身的體驗，并已建立涵蓋采集、傳輸、存儲、使用、共享、銷毀各階段的完善個人信息保護合規(guī)制度與數(shù)據(jù)管理體系。

北京市隆安律師事務所上海分所律師賈玉倩在接受《每日經(jīng)濟新聞》記者采訪時建議，內容分級可采取“年齡+認知”的雙重標準，借助身份認證與算法優(yōu)化，在未成年模式下細化推送機制，并建立實時審查與阻斷體系。對未成年人生物信息的收集與處理，必須在監(jiān)護人明確同意下，嚴格遵循最小必要、最小授權原則，進行全流程安全管控與合規(guī)審計，并在發(fā)生泄露時立即補救和通知監(jiān)護人。

“AI發(fā)展迅猛，相關立法雖在持續(xù)完善，但面對技術迭代中的新問題仍存在滯后性，無法全面覆蓋未成年人使用AI的各類風險，所以要結合立法的基本原則考慮。”賈玉倩直言，“監(jiān)護人是保護未成年人的第一責任人，數(shù)據(jù)管理方是數(shù)據(jù)安全的第一責任人。只有各方協(xié)同，才有可能實現(xiàn)未成年人網(wǎng)絡安全，尤其是監(jiān)護人，一定要關注未成年人的網(wǎng)絡使用情況。”

封面圖片來源：新華社