931年，愛因斯坦在與加州理工大學的學生們交流時，充滿深情地說：關心人的本身，應當始終成為一切技術奮斗的主要目標，以保證我們的科學思想的成果能夠造福于人類，而不至于成為禍害。
人工智能是第四次工業革命的標志性技術，近年來智能化正在深刻改變我們的生產、生活方式，智能時代的大門已經緩緩開啟。然而，人工智能在給我們帶來更多驚喜的同時，也帶來了公共安全風險、隱私侵權、數字鴻溝、責任困境、倫理失范等許多新挑戰。
因此，人工智能治理這一概念應運而生。如何引導技術“負責任”地發展已成為全世界的共同訴求。
近日，在2021人工智能合作與治理國際論壇上，與會專家圍繞“推動構建平衡包容的人工智能治理體系”開展討論，探尋讓人工智能安全、可靠、負責的造福全人類之路——
科技并不是存在于真空之中
毋庸置疑，我們正在進入“人機物”三元融合，萬物互聯的智能時代。
最近一段時間，受到全社會熱議的“困在算法里的外賣小哥”、網絡游戲沉迷、掌握用戶數據和高級算法優勢形成壟斷性超級平臺、信息繭房導致群體極化和網絡暴力等問題，都在警示著我們——對于人工智能，如果利用得當，將大有裨益；但是，科技并不是存在于真空之中，也有可能使得現有問題進一步加劇。
聯合國開發計劃署駐華代表白雅婷舉例說，人工智能的客觀性僅在于其算法，而這些算法由人來編寫，因此人類的偏見可能會被編入人工智能當中，從而延續偏見和歧視；另外，人工智能系統的有效性基于數據，這可能會成為濫用數據和侵犯個人隱私的動機。如果沒有恰當的治理，這些技術的有害之處將對于人的生活構成有害的影響。
同時，從總體來看，在人工智能的發展中，目前發展中國家話語權較少；在國家內部，發揮人工智能潛能，只需要少數人獲得的先進技能和專業知識，如果這種不平衡持續下去，會出現掉隊的數字弱勢群體，數字鴻溝將持續擴大。
在清華大學公共管理學院教授、清華大學智庫中心主任蘇竣看來，在這場人工智能掀起的人類社會劇變中，我們需要科學的方法來研究和應對科學技術帶來的種種風險、問題和挑戰。不但要關注技術本身，更要關注技術對社會的影響，需要做長周期、多學科、寬領域的觀察、研究，通過實踐的積累，通過實驗去深刻理解人類社會轉型的過程機理，全方位回應來自學術界，以及每個普通的人的關切。
“因此，政策制定者必須具備前瞻性的思維，不能僅解決當下的問題，還必須要預見未來的挑戰。”白雅婷指出。
治理標準的統一并不容易
對于人工智能治理的路徑，專家們已有共識。
中科院院士、清華大學校長邱勇指出，人工智能治理必須協同多元主體，經過多維目標，融合多元價值，加強全球合作與對話，構建平衡、包容的人工智能治理體系。
然而，這些原則的具體落地并不是那么簡單。據統計，目前全世界已有160多套組織、國家等建立的人工智能道德和治理原則，但缺少將這些獨立的倡議結合起來的框架和標準；且在數據、算法、算力、場景等方面面臨許多挑戰。
11月24日，聯合國教科文組織在法國巴黎發布了《人工智能倫理建議書》，這是全球首個針對人工智能倫理制定的規范框架。
據世界工程組織聯合會主席、中國新一代人工智能發展戰略研究院執行院長龔克介紹，這個建議書的制定付出了艱辛的過程。
早在2020年年初，建議書就在網上公開征求意見。在當時意見基礎上，在全球遴選了24人組成特殊專家組，其中考慮了性別平衡、區域平衡、學科平衡等；通過專家組多輪討論和修改后，第一輪修改草稿在線征求意見，收到了來自90多個國家的5000多條意見；在此基礎上繼續修改，并在全球6個地區（涉及亞太、歐洲、非洲等），與涉及102個成員國代表開展在線協商；定稿后再由聯合國教科文組織總干事發送給193個成員國征求意見，最終才正式通過。
龔克認為，“這體現了多利益攸關方開放參與規定制定過程，不僅為人工智能治理體系建立提供了重要基石，本身協商過程也建立了多邊典范。”
事實上，當前我國已躋身人工智能水平的第一梯隊，也肩負著參與國際治理規則制定的職責。
科技部副部長李萌表示，我國已成立了由15個部門構成的人工智能規劃推進辦公室，辦公室設立新一代人工智能治理專業委員會，發布了相關治理原則和倫理規范；同時開展了長周期、跨學科的人工智能綜合影響社會實驗，部署了城市、農村、教育、醫療、能源、環境等30多個領域的場景實驗研究；并依托領軍企業布局了一批開放創新平臺，依托地方建立了17個創新發展實驗區。
作為我國新一代人工智能治理專業委員會主任、清華大學人工智能國際治理研究院院長薛瀾指出，當前人工智能治理已從理念探討走到了實踐探索的前沿。近年來，專委會正致力于構建有效的治理框架和相關規則。
按照目前的研究成果，思路是構建“政府、企業、公眾、大學與科研機構、媒體、非營利組織、國際組織”等多主體參與，以“底線思維、人本思維、發展思維、全球思維”為價值導向，以“算法、數據、算力、外部環境、場景”為治理對象，應用“宏觀-中觀-微觀”多維治理工具的人工智能綜合治理框架體系，通過“形成價值共識、多主體分工協作、治理理念迭代優化”等治理機制推動人工智能健康發展，促進人類福祉提升。
為人工智能發展劃定“紅線”
人們越來越認識到：人工智能不是萬能藥，它的好壞取決于使用人工智能的人及數據基礎、治理標準等；而治理正是確保大船行穩致遠的航向標。
為此，向著“平衡包容”的目標，各方都在努力前行，為人工智能發展畫定“紅線”。
龔克提出，目前不僅要發展人工智能的相關應用技術、開發更加有效的算法，還需要發展一批支撐治理的技術，如監督性技術，用于保護公平性以及隱私等。比如從社會中采集的數據，其實帶有一定偏見，這不是社會的錯，是現實社會固有的。但如果沒有適當技術對數據進行“減偏”，公平無歧視原則可能就無法落地。因此，要著力強調發展一批監管性支撐技術。
李萌認為，人工智能技術應該將普遍適用與分類推進相結合，根據不同群體需求提出差異化選擇，切實保護各相關主體合法權益，提高弱勢群體的適應性，努力消除數字鴻溝；同時也要尊重和幫助弱勢群體提供必要的替代方案，避免忽視、偏見、歧視。
邱勇提到了教育的意義，他指出，大學作為人類科技文明的重要策源地，不僅要在人工智能基礎理論與技術前沿努力突破創新，也要進行科技向善的文化理念，塑造良善的人工智能價值倫理。
卡內基理事會資深研究員、清華大學人工智能國際治理研究院學術委員溫德爾·瓦拉赫（Wendell Wallach）強調了新的國際合作方式的重要性。他認為，人工智能國際治理機制應該具有敏捷性、適應性、預見性、響應性和包容性，中美兩國需要共同參與制定人工智能國際治理方案，將使其更具有可行性。同時，每個國家要處理好對國家安全和國際合作雙重需求之間的關系，接受國際標準的同時，積極開展旨在應對新挑戰的前瞻性對話。
不過專家們也提出，人工智能治理的目的不是限制其發展，而是要為了實現向善、造福人類的健康發展。
李萌指出，目前社會對人工智能的社會風險、倫理風險和法律風險的認識，有一些是基于理性的推演預判，也有一些是基于主觀判斷的臆想。他認為，應該秉持積極而負責任的態度，努力實現人工智能創新發展與有效規制之間的協調，技術邊界拓展與應用范圍限制之間的平衡，避免陷入倫理陷阱而阻礙前沿技術的研究與應用。
