規范管理確保人工智能安全向善
http://m.dtrtvu.com2023年10月13日 10:22教育裝備網
人工智能技術正在深刻改變人類社會生活、改變世界,并使得教育教學更加個性化、高效化和智能化,為我國數字教育變革注入新活力新動能。同時,人工智能技術帶來的錯用、濫用等新問題也已經引起教育戰線乃至全社會廣泛關注、討論甚至擔憂。對此,迫切需要從思想觀念、技術建設、制度機制和研究實踐等方面著手,加強人工智能教育應用規范管理,確保數字教育高質量發展方向。
樹立正確的人工智能發展觀,正視人工智能的教育應用。人工智能發展是大勢所趨,將帶來一場系統性的觀念變革,每個人都是“學生”,都需要學習。同時,人工智能的發展也是一把雙刃劍,正向影響和負向影響都很大。當前在人工智能和教育應用上還存在著重視不夠、認知偏差以及觀望心態。思想上,對人工智能教育應用的重要性及負面影響缺乏正確認識,對教育數字化轉型戰略意義認識不足。認知上,存在對人工智能過高期待、過分依賴等“全能論”,對其技術的決策和推理能力盲目信任,認為人工智能將徹底改變教育、取代教師等;還存在恐懼擔憂、不信任等“風險論”,擔心使用人工智能技術會導致個人信息泄露,怕承擔責任。心態上,存在“等靠要”等觀望思想、依賴思想和畏難情緒,缺乏改革自主性、主動性和創新性。這都制約著人工智能教育應用,以至于出現教育數字化轉型的社會熱、研究熱、上層熱、基層冷、教學冷“三熱兩冷”現象。
我們首先要樹立正確的人工智能發展觀,正視人工智能的“兩面性”,堅持發展與安全并重、創新與治理相結合,既要以積極態度和責任擔當主動擁抱,又要做好潛在風險研判和防范,防止錯用、濫用現象出現。
加強技術系統建設,確保人工智能安全向善。人工智能本質是服務于人的工具。人工智能技術既要發展也要安全更要向善,技術帶來的問題要靠技術解決。一是提高技術安全門檻,筑牢安全屏障,防止數據隱私泄露,降低人工智能被濫用的風險,增強教育使用人工智能技術的信任感。二是加強數據加密、權限控制、流動控制、共享控制等數據安全保護技術研發,實現數據從收集、存儲、處理到分析、使用等全生命周期保護,確保數據安全。三是堅持科技向善,做到為育人服務。依照有關法律法規采取必要措施,規避人工智能產生不當內容,如虛假消息、歧視性言論、侵犯個人隱私等風險;將人工智能發展與以學習者為中心理念相結合,優化算法,完善教育應用模型架構,使人工智能教育應用符合教育規律。四是加強技術研發和創新,提升人工智能算法透明度及其產品安全性和穩定性,確保意識形態等安全,營造可信任的人工智能發展技術環境。
建設人工智能教育應用機制,確保其健康長效發展。建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德。人工智能教育應用是一項復雜持久的系統工程,目前正在拉開帷幕,需要從制度機制層面加強規范管理,實現健康有序持久發展。一是建立人工智能教育應用集決策、管理、實施和督導等于一體的有效機制,明確誰來管、管什么、怎么管,誰來干、干什么、怎么干,誰來督、督什么、怎么督,推動其健康發展和防止錯用、濫用等問題。二是以符合倫理要求的方式,建立人工智能教育應用的政策框架,規范關鍵步驟,避免可能出現的錯用、濫用問題,如意識形態風險、個人隱私安全、“數字繭房”,以及過度沉迷依賴、教育數字鴻溝等。三是從學生的根本利益出發,做好人工智能教育應用的宣傳、指導和培訓,讓想干、敢干、能干的人干得更好,讓觀望的人行動起來,讓擔憂的人放心干,形成公眾參與、齊抓共管、協同創新的人工智能育人新生態。
加強研究,做到未雨綢繆、積極應對和規范管理。人工智能教育應用是一個新生事物,將會出現許多未知新問題,人工智能應用教育往哪里走、怎么走、走到什么程度等都是嶄新課題,亟須加強研究。由于人工智能技術涉及計算機科學、語言學、心理學等諸多學科,需要多領域研究者共同合作。一是按照“實踐優于理論”原則,開展人工智能教育應用的比較研究、實驗研究、理論研究,及時總結典型經驗、實踐案例以及策略路徑,推動人工智能教育應用研究向理論與實踐雙輪驅動轉變,逐步形成中國自己的數字教育倫理規范體系,為世界人工智能教育及研究貢獻中國智慧。二是聚焦人工智能教育應用的重大命題開展研究,如人工智能數據安全、交易、保障,數字規制與數字能力之間的平衡,進學校、進課堂疏堵結合等,這些都是人工智能教育應用亟待研究解決的重大命題。三是探索人工智能育人新規律。當前,人工智能對教育的正向和負向影響尚處在萌芽狀態,產生的教育新現象、新問題尚未顯現,引發的教育新規律尚待揭示,需從數字教育學的視角進行理論研究和實踐突破,對過程中發現的新問題進行及時優化、糾偏。
(作者系教育部課程教材研究所研究員)
責任編輯:董曉娟
本文鏈接:TOP↑