2022人工智能合作與治理國際論壇主辦方12日通過中國科協科學技術傳播中心發布消息說，在該論壇以“人工智能治理技術”為主題的第二場主論壇上，與會專家學者重點探討如何通過技術工具來實現人工智能(AI)可知、可信、可控和可用；如何實現算法的可解釋、可控制與公平性，將倫理準則“嵌入”到人工智能產品與系統的研發設計；如何將產業監管要求轉化為技術解決方案，開發針對人工智能行業或應用的“治理技術”與服務。

美國哥倫比亞大學常務副校長、計算機科學系教授周以真以《可信賴的人工智能》為題發表主旨演講說，正在推動的“值得信賴的人工智能”研究議程，其目的在于把人工智能社區、網絡安全社區和正式方法社區三個社區聚集在一起。她指出，一些人工智能系統可能是脆弱和不公平的，因此需要努力實現可信賴的人工智能。可信賴計算意味可靠性、安全性、可用性，要考慮準確性、穩健性、公平性，通過問責制、透明度、可解釋性、道德倫理等設置人工智能執行的任務和環境。關于如何能夠實現可信賴的人工智能，她則提出一種構建可信系統的事后驗證方法，即用數據模型、代碼程序來滿足人們關心的正確性屬性、安全性屬性、活性屬性等性質，并通過列舉研究問題應用形式化方法，來嘗試實現人工智能系統的可信度。

中國工程院院士、鵬城實驗室主任、清華大學人工智能國際治理研究院學術委員高文以《新一代人工智能發展的安全問題》為題發表主旨演講指出，人工智能改變了安全格局，進一步擴大了威脅，需要從多個層面進行風險管控。在人的層面應加強倫理教育；在模型算法層面，期望它可信、可控、可解釋并且被正當使用；在數據層面，期望數據具有充足的系統防護保證其安全。強人工智能安全風險來源于三個方面，一是模型的不可解釋性；二是算法和硬件的不可靠性；三是自主意識的不可控性，這一方面要在設計及應用階段采取預防和檢測措施，另一方面要加強國際合作，相互取長補短，還要加強人才培養。對于數據安全問題，他認為隱私保護和數據有效使用是一對矛盾，需要做到平衡，鵬程實驗室所采用的“防水堡”技術，對于保護模型訓練數據安全共享和使用提供了解決思路，該技術可以做到只分享價值，不分享數據，在保證原始數據不移動的情況下也能夠使數據可用。

瑞萊智慧(RealAI)公司聯合創始人及首席執行官田天以《人工智能安全的實踐探索》為題發表主旨演講認為，人工智能正在進入一個從高速增長向高質量增長轉變的新發展階段，這對人工智能的安全性和可靠性提出了更多新要求。他列舉一些已經真實地發生在人們身邊的人工智能安全問題，比如人臉識別產生的安全隱患和實際損失，同時指出，并不能因噎廢食地不去使用人工智能，而是應當進一步完善治理，讓人工智能在更安全的前提下發揮它應有的作用。

清華大學智能產業研究院教授、首席研究員聶再清以《可信AI技術與應用》為題發表主旨演講表示，安全可信是人工智能治理的核心訴求，而安全可信的人工智能技術產品需要具備安全可控、數據資產和隱私保護、可解釋性等條件。他還進一步結合智慧醫療、車路協同自動駕駛等實踐案例作詳細講解：AI安全性方面，以車路協同感知為例，講解自動駕駛領域如何通過多傳感器的協同感知，來提升AI協同內部可靠性，從而提高AI安全性；數據資產和隱私保護方面，以多中心醫療聯邦協作科研平臺為例進行講解，并提出通過多中心的聯合協作，解決數據孤島、數據單邊樣本不足、標簽嚴重缺失等挑戰，做到數據的可用不可見以及面向隱私保護的機器學習；可解釋性方面，以面向營養健康管理的可解釋個性化推薦為例，提出需要“引導式”而非“迎合式”信息推薦，提升用戶依從性并充分考慮營養健康因素，避免迎合式的飲食推薦。

在本場論壇圓桌對話環節，與會專家還深入探討如何通過技術創新應對和解決人工智能帶來的風險與挑戰，并回答相關提問。(完)