生成式人工智能給教育帶來哪些挑戰

　　以ChatGPT為代表的生成式人工智能發展迅猛，為各行各業的創新和發展提供了新的工具和視角，教育行業也不例外。人們對于生成式人工智能的使用，生成式人工智能對教育、對學生影響的討論也有著不同的態度。的確，科技是發展的利器，也可能成為風險的源頭。生成式人工智能在教育應用中潛力巨大，但其嵌入教育全過程的教學實踐也帶來前所未有的倫理風險。

　　首先，生成式人工智能的新知識生產形式有可能帶來教學主體地位的混淆。生成式人工智能憑借自主學習和知識遷移實現創造性的知識生產，其強大的知識儲備能夠直接呈現答案，消解傳統教師由知識所賦予的權威和聲望，造成教師的主體地位被質疑。學生運用生成式人工智能快捷途徑獲取知識，雙向知識探索轉變為單向知識灌輸，不利于學生創造性思維、批判性思維的培養，一定程度上有悖于“培養全面發展的人”的教育理念。

　　其次，生成式人工智能的語言模型依賴將暴露技術本身的缺陷。生成式人工智能技術依托海量的數據、先進的算法、強大的算力優化教育內容的供給，促進教學方式的創新。然而這種智能技術自身缺陷也引發一定技術風險。一方面，生成式人工智能受訓練數據集來源不確定的影響，可能會生成虛假或錯誤的內容，導致學生將錯誤信息當作正確答案，長期下去可能擾亂學生的知識體系；另一方面，基于人類反饋的強化學習技術的模型訓練存在人的主觀價值滲透進算法設計的可能，導致算法偏見的產生，進一步強化教育不公平問題。

　　再其次，生成式人工智能的強人機交互技術將可能消解傳統師生的倫理關系。生成式人工智能可以賦能沉浸式教學環境的構建，增強學生的學習體驗。然而這種賦能一旦過多地介入師生互動，將會使師生之間的直接溝通和情感交流大大減少，甚至產生能夠代替教師的錯覺，導致在教育過程中，生成式人工智能技術與人的關系更加緊密，而真實的人與人之間的關系難以建立，一定程度上影響師生關系，妨礙學生情感發展和健全人格的形成。

　　2022年中共中央辦公廳、國務院辦公廳印發《關于加強科技倫理治理的意見》，2023年7月國家網信辦聯合國家發展改革委、教育部、科技部等六部門出臺《生成式人工智能服務管理暫行辦法》，從國家層面加強科技倫理治理、促進人工智能健康發展和規范應用。對教育實踐來說，這既是把好人工智能技術在教育應用中向善的核心點，更是主動應對人工智能技術倫理挑戰的關鍵。

　　一是明確智能教育應用限度，提升人工智能素養。一方面，要堅守人工智能技術教育應用的倫理底線，讓其始終處在適合的閾值內，最大限度釋放生成式人工智能賦能教育的活力。明確教育始終以人的自由全面發展為根本目的，生成式人工智能技術的應用只是為了更好地服務教學實踐，不能為了技術而技術。另一方面，隨著教育場景中融入生成式人工智能技術，社會對教師和學生的角色也賦予更高的要求。對教師來說，由知識傳授者轉變為價值觀的引導者。對此，良好的人工智能素養不僅能消解和防范自我主體變化，還能夠更好地為學生提供更加優質的教學服務。對學生來說，提升人工智能素養關乎其適應未來智能社會的能力，是激發其高階創造能力的重要基礎。這在一定程度上能夠防范單向知識灌輸造成的思維惰化和個性消弭風險。

　　二是規制人工智能生成內容，實現智能技術旨歸。在生成式人工智能教育應用的研發階段，不僅要構建適用于教育領域的大模型訓練數據池，從源頭防止錯誤、虛假信息和不良內容出現，還要提升語言模型算法的穩定性，避免生成式人工智能造成的倫理傷害。在推進生成式人工智能教育倫理治理階段，要加強對智能技術的監管，強化輸出信息的準確性，建立生成式人工智能問責機制，建立健全法規制度體系來規范生成式人工智能賦能教育，確保其透明性、安全性，加強其魯棒性，實現生成式人工智能技術向善賦能教育發展。

　　三是重設向善教育倫理規范，助推育人本質回歸。生成式人工智能賦能教育全過程，使“人—人”交互轉變為“人—機—人”交互，為了保持教育主體與生成式人工智能的和諧共生關系，必須重設向善教育倫理規范，把握好人機協同的倫理尺度，讓教育者和教育對象之間更加信任、從容接納智能技術，進而實現人智協同與共生。在這種良性發展軌道中，生成式人工智能將教師從重復性任務中解放出來，不斷凸顯教師的育人功能。而教師，也要不斷發揮生成式人工智能所不能替代的德育引導作用和價值，詮釋言傳身教、保持師道尊嚴，回歸育人本質。

　　技術發展永遠在路上。從人類發展的歷史長河來看，技術對人類的革命性影響一直都在。面對智能技術的變遷和影響，我們要認識到倫理道德對技術發展的規約、引領和價值塑造的能動作用，在教育實踐中以“智能向善”為導向目標，積極識變、主動應變、科學求變，進一步規范技術應用過程，變革教育教學方式，完善人才培養體系，以期培養符合社會需求的時代新人。

　　（作者王國鵬系數字化學習技術集成與應用教育部工程研究中心專職研究員、浙江師范大學教育學院特聘教授，余菲系浙江師范大學馬克思主義學院碩士研究生；本文系國家開放大學資助項目[課題號：Q23C0023-20220101]階段研究成果）