中國(guó)網(wǎng)4月23日訊（記者 張艷玲）今年2月，ChatGPT生成的一則“杭州3月1日起取消機(jī)動(dòng)車尾號(hào)限行”的假消息，讓以ChatGPT為代表的生成式人工智能備受關(guān)注。

20日，由北京師范大學(xué)新聞傳播學(xué)院主辦的“大模型應(yīng)用中未成年人保護(hù)和發(fā)展評(píng)估——以ChatGPT、文心一言等生成式人工智能為例”跨學(xué)科研討會(huì)上，與會(huì)嘉賓圍繞主題，共同探討人工智能對(duì)未成年人保護(hù)和發(fā)展的影響。

生成式人工智能，指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。以ChatGPT為代表的生成式人工智能的發(fā)展，重塑了知識(shí)生產(chǎn)體系、教育考試體系、商業(yè)模式（設(shè)計(jì)、繪畫）、社會(huì)分工體系等，給人類社會(huì)帶來(lái)巨大發(fā)展機(jī)遇的同時(shí)，也帶來(lái)前所未有的風(fēng)險(xiǎn)挑戰(zhàn)。

生成式人工智能對(duì)社會(huì)帶來(lái)哪些機(jī)遇和挑戰(zhàn)？將如何影響未成年人健康發(fā)展？

ChatGPT引領(lǐng)人工智能行業(yè)發(fā)展，實(shí)現(xiàn)全天候互動(dòng)學(xué)習(xí)

哈爾濱工業(yè)大學(xué)計(jì)算機(jī)學(xué)院教授車萬(wàn)翔指出，ChatGPT是大規(guī)模預(yù)訓(xùn)練語(yǔ)言模型的代表，是繼數(shù)據(jù)庫(kù)和搜索引擎之后的全新一代“知識(shí)展現(xiàn)和調(diào)用方式”，引領(lǐng)著人工智能行業(yè)的發(fā)展。然而，預(yù)訓(xùn)練語(yǔ)言模型并不能真正克服現(xiàn)有深度學(xué)習(xí)模型魯棒性差、可解釋性弱、推理能力缺失等問題，在深層次語(yǔ)義理解上與人類認(rèn)知水平還相去甚遠(yuǎn)。因此，要提高人工智能（AGI）的語(yǔ)義理解能力，需要在大語(yǔ)言模型基礎(chǔ)之上，結(jié)合多模態(tài)輸入和具身智能，增強(qiáng)模型對(duì)現(xiàn)實(shí)中對(duì)象的理解，幫助它處理具身推理任務(wù)。

北京市未來(lái)教育高精尖創(chuàng)新中心人工智能實(shí)驗(yàn)室主任盧宇認(rèn)為，生成式人工智能具有啟發(fā)性內(nèi)容生成、對(duì)話情境理解、序列任務(wù)執(zhí)行、程序語(yǔ)言解析四項(xiàng)核心能力，ChatGPT在教師教學(xué)、學(xué)習(xí)過(guò)程、教育評(píng)價(jià)、學(xué)業(yè)輔導(dǎo)等多個(gè)典型教育環(huán)節(jié)，可以支撐多項(xiàng)潛在教育應(yīng)用。

中國(guó)政法大學(xué)未成年人事務(wù)治理與法律研究基地副主任苑寧寧認(rèn)為，生成式人工智能使未成年人的學(xué)習(xí)權(quán)和受教育權(quán)發(fā)生革命性變化，實(shí)現(xiàn)了全天候互動(dòng)學(xué)習(xí)情景。北京師范大學(xué)互聯(lián)網(wǎng)教育技術(shù)及應(yīng)用國(guó)家工程研究中心常務(wù)副主任鄭勤華也認(rèn)為，目前AIGC(AI Generated Content，指利用人工智能技術(shù)生成內(nèi)容)還是弱人工智能，未來(lái)，給人類的創(chuàng)新發(fā)展帶來(lái)無(wú)限可能。

教育部義務(wù)教育課程標(biāo)準(zhǔn)信息科技組組長(zhǎng)，對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)信息學(xué)院院長(zhǎng)熊璋認(rèn)為，AI大模型時(shí)代，未成年人教育出現(xiàn)從量到質(zhì)、由表及里、從緩至激的變化，因此，要充分認(rèn)識(shí)未成年人教育的基礎(chǔ)是素質(zhì)教育的重要性。

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任、北京師范大學(xué)法學(xué)院教授吳沈括指出，人工智能給教育方式和社會(huì)治理帶來(lái)巨大的變化，技術(shù)的使用在新生代已不可避免。因此，要追求科技向善，以引導(dǎo)的方式讓AGI為人類帶來(lái)更大價(jià)值。

人工智能對(duì)未成年人保護(hù)帶來(lái)挑戰(zhàn)，要重視青少年倫理、隱私教育

 

生成式人工智能或帶來(lái)虛假信息泛濫、用戶信息泄露、內(nèi)嵌的算法歧視、知識(shí)產(chǎn)權(quán)侵犯等影響。

中國(guó)社會(huì)科學(xué)院新聞與傳播研究所教授卜衛(wèi)認(rèn)為，ChatGPT為青少年提供了教育、交流、娛樂、生活技能、社會(huì)學(xué)習(xí)等資源機(jī)遇，同時(shí)帶來(lái)信息泄露、不良內(nèi)容、時(shí)間管理、安全風(fēng)險(xiǎn)、惡意軟件和病毒等風(fēng)險(xiǎn)。ChatGPT時(shí)代，更應(yīng)關(guān)注青少年數(shù)字素養(yǎng)中的溝通與協(xié)作素養(yǎng)，即通過(guò)數(shù)據(jù)技術(shù)互動(dòng)、分享和合作的能力及青少年如何影響GPT傳播技術(shù)內(nèi)容形式和發(fā)展。

中國(guó)青少年研究中心青少年法律研究所所長(zhǎng)郭開元認(rèn)為，青少年的價(jià)值觀并不成熟，容易受外界影響。如果教育應(yīng)用過(guò)度依賴人工智能，并代替教師，情感教育將會(huì)喪失。因此，大模型應(yīng)用對(duì)未成年人的保護(hù)不僅要依靠法律的支撐，還要基于兒童權(quán)益最大化的視角去設(shè)置規(guī)則。

北京互聯(lián)網(wǎng)法院少年庭庭長(zhǎng)孫銘溪表示，人工智能領(lǐng)域空間治理和未成年人網(wǎng)絡(luò)保護(hù)需要多方協(xié)作。北京師范大學(xué)新聞傳播學(xué)院副教授劉茜表示，青少年網(wǎng)絡(luò)隱私風(fēng)險(xiǎn)來(lái)源于青少年主體、技術(shù)、機(jī)構(gòu)、他人，因此，要加強(qiáng)青少年隱私教育和法律法規(guī)建設(shè)，提高青少年隱私風(fēng)險(xiǎn)保護(hù)意識(shí)和知識(shí)，在動(dòng)態(tài)發(fā)展中持續(xù)協(xié)同保護(hù)青少年權(quán)益。

“未來(lái)，在人工智能的技術(shù)研發(fā)中，要重視兒童倫理建設(shè)，將未成年人倫理教育前置，增加針對(duì)未成年人的防范性措施。”苑寧寧說(shuō)。

堅(jiān)持科技向善，人工智能應(yīng)助力未成年人健康發(fā)展

國(guó)家高度重視生成式人工智能技術(shù)健康發(fā)展。4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法（征求意見稿）》向社會(huì)公開征求意見。征求意見稿提出，提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗，禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

《征求意見稿》要求，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國(guó)家網(wǎng)信部門申報(bào)安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

北京師范大學(xué)新聞傳播學(xué)院20日發(fā)布的全國(guó)首個(gè)“生成式人工智能未成年人保護(hù)和發(fā)展評(píng)估指標(biāo)體系”，即CI—STEP指標(biāo)評(píng)價(jià)模型，從綜合管理、信息提示、科學(xué)普及和宣傳教育、技術(shù)保護(hù)、應(yīng)急投訴和舉報(bào)機(jī)制、隱私和個(gè)人信息保護(hù)制度6個(gè)維度，提出加強(qiáng)生成式人工智能未成年人保護(hù)評(píng)估指標(biāo)。

北京師范大學(xué)新聞傳播學(xué)院黨委書記、未成年人網(wǎng)絡(luò)素養(yǎng)研究中心主任方增泉認(rèn)為，未來(lái)，生成式人工智能未成年人保護(hù)，要監(jiān)管企業(yè)研發(fā)活動(dòng)，落實(shí)人工智能技術(shù)標(biāo)準(zhǔn)，提升監(jiān)管技術(shù)，以人工智能監(jiān)管科技規(guī)范人工智能生成的內(nèi)容。研發(fā)機(jī)構(gòu)及網(wǎng)絡(luò)平臺(tái)經(jīng)營(yíng)者，在產(chǎn)品投入市場(chǎng)前，必須進(jìn)行安全風(fēng)險(xiǎn)評(píng)估，確保風(fēng)險(xiǎn)可控。

在技術(shù)向善理念的指導(dǎo)下，技術(shù)發(fā)展應(yīng)堅(jiān)持最有利于未成年人的原則，兼顧未成年人網(wǎng)絡(luò)安全和數(shù)字發(fā)展，注重AI技術(shù)應(yīng)用符合科技倫理，鼓勵(lì)互聯(lián)網(wǎng)企業(yè)積極參與行業(yè)共治。堅(jiān)持保護(hù)和發(fā)展并重原則，促使生成式人工智能成為促進(jìn)未成年人發(fā)展的新動(dòng)能。“人工智能的發(fā)展應(yīng)保護(hù)和促進(jìn)未成年人權(quán)益，避免剝奪和損害未成年權(quán)利，助力未成年人健康成長(zhǎng)。”方增泉說(shuō)。

新聞傳播學(xué)院院長(zhǎng)張洪忠認(rèn)為，未成年教育領(lǐng)域大語(yǔ)言模型應(yīng)用存在的問題和可能產(chǎn)生的影響不容忽視，大模型應(yīng)用對(duì)未成年人保護(hù)和發(fā)展仍需進(jìn)行不斷深入研究。ChatGPT等生成式人工智能未來(lái)的發(fā)展?fàn)顩r，仍需不斷地進(jìn)行評(píng)估和反思，以實(shí)現(xiàn)對(duì)未成年人的全面保護(hù)和賦能發(fā)展。