人工智慧（AI）技術快速發展，深度賦能千行百業，由此帶來的演算法歧視、深度偽造等倫理風險也愈加凸顯科技。工業和資訊化部等十部門近日聯合印發《人工智慧科技倫理審查與服務辦法（試行）》（下稱《辦法》），為我國AI科技倫理審查與服務工作提供了明確指引。
工信部有關負責人表示，加強AI科技倫理治理，是堅守科技向善、築牢科技安全底線、保障產業高質量發展的必然要求科技。在此背景下，出臺《辦法》，既是對科技倫理治理要求的具體落地，也是推動AI產業創新發展、促進負責任創新的現實需要。
盤古智庫高階研究員吳琦對第一財經表示，作為我國首部針對AI科技倫理審查的專項規定，《辦法》立足AI技術和產業特點，對審查適用範圍、實施主體、工作程式、服務促進和監督管理等作出系統規定，旨在推動AI從原則倡導走向制度化、全鏈條的倫理治理，對於AI規範健康發展具有重要意義科技。
完善AI治理
隨著AI賦能千行百業，AI治理越發受到重視科技。今年政府工作報告明確提出“完善AI治理”，全國人大常委會工作報告也提出“加強AI領域立法研究”。
早在2022年3月，中共中央辦公廳、國務院辦公廳印發《關於加強科技倫理治理的意見》，對科技倫理治理作出頂層設計和系統部署；2023年9月，科技部等十部門聯合印發《科技倫理審查辦法（試行）》，對科技倫理審查主體、審查程式作出具體規定；2024年7月，黨的二十屆三中全會再次強調“加強科技倫理治理”科技。
吳琦分析，AI發展應用的同時，也帶來了科技倫理等負外部性問題，比如隱私與資料濫用、演算法偏見與歧視、深度偽造與資訊操縱、勞動替代與人類主體性危機等科技。目前國際上已形成一些共識性框架，比如OECD的AI原則、中國《新一代AI倫理規範》等。
《辦法》在遵循通用規定的前提下，立足AI技術特徵與倫理原則，在適用範圍、申請材料、審查重點、簡易程式適用等方面作了針對性完善與細化，更貼合AI科技倫理審查實際需要科技。
清華大學公共管理學院教授、AI國際治理研究院副院長梁正強調，要處理好發展和安全的關係，堅持分類分級監管與包容審慎創新並行的治理思路，進一步增強治理能力，完善治理體系，提高治理水平科技。在激勵創新與包容失敗中，實施包容審慎的監管模式，讓AI這一新興產業成長為明天的支柱產業。
展開全文
明確倫理審查細則
AI科技倫理治理是AI治理的重要組成部分，主要包括增進人類福祉、公平公正、可控可信、透明可解釋、責任可追溯、隱私保護等內涵科技。
《辦法》所適用的AI科技活動是指在我國境內開展的，可能在人的尊嚴、公共秩序、生命健康、生態環境、可持續發展等方面帶來科技倫理風險挑戰的AI科學研究、技術開發等活動，以及依據法律、行政法規和國家有關規定需進行AI科技倫理審查的其他科技活動科技。
《辦法》結合AI科技活動特點，明確了申請與受理、一般程式、簡易程式、專家複核程式、應急程式等不同程式要求科技。
根據《辦法》，委員會或服務中心重點圍繞人類福祉、公平公正、可控可信、透明可解釋、責任可追溯、隱私保護等方面開展倫理審查科技。同時，還需要關注參與科技活動的科技人員資質等是否符合相關要求，擬開展的科技活動是否具有科學價值和社會價值，科技活動的風險受益是否合理，倫理風險控制方案及應急預案是否科學恰當、具有可操作性等。
《辦法》明確，需要開展專家複核的AI科技活動主要包括三類：對人類主觀行為、心理情緒和生命健康等具有較強影響的人機融合系統的研發；具有輿論社會動員能力和社會意識引導能力的演算法模型、應用程式及系統的研發；面向存在安全、人身健康風險等場景的、具有高度自主能力的自動化決策系統的研發科技。
《辦法》專門設立第二章“服務與促進”，圍繞標準建設、促進服務、鼓勵創新、宣傳教育、人才培養五個方面制定務實舉措，精準破解當前AI企業倫理治理中存在的技術手段不足、標準規範不完善、治理工具匱乏等問題科技。
梁正認為，AI向生產生活各環節各領域深入滲透，其治理不能脫離行業屬性科技。針對不同行業制定精細化監管舉措，並設立不可逾越的底線，在醫療、金融、交通等重要領域，要將AI安全風險防控與現行法律法規深度融合，在築牢底線的基礎上推動健康發展。
《辦法》鼓勵高等學校、科研機構、醫療衛生機構、企業和科技類社會團體等參與AI科技倫理標準制定，凝聚行業共識，完善標準體系科技。推進AI科技倫理服務體系建設，強化風險監測預警、檢測評估、認證、諮詢等服務供給，加大對中小微企業AI科技倫理審查的支援和服務力度，降低企業合規成本。支援AI科技倫理審查技術創新，鼓勵企業運用技術手段防範倫理風險。
工業和資訊化領域科技倫理專家委員會主任委員魏一鳴表示，具有深厚技術實力的企業、高校和科研機構，應主動承擔起研發科技倫理治理“硬科技”的使命，加強AI倫理治理技術研發與工具創新科技。聚焦可解釋AI、演算法公平性監測、深度偽造鑑別等關鍵技術開展專項攻關，為倫理審查提供技術工具。透過研發實用的倫理評估工具、風險模擬平臺和演算法審計系統，將抽象的倫理原則轉化為可量化、可操作、可嵌入工程流程的技術指標與解決方案，推動倫理治理技術化、工程化。
(本文來自第一財經)
