當今世界，新一輪科技革命和產業變革突飛猛進，以人工智能為代表的新興科技快速發展，人類正在進入一個“人機物”三元融合的萬物智能互聯時代 ，但人工智能也帶來了安全、隱私、公平等問題和挑戰，如何能夠實現值得信賴的人工智能？

“有很多標準方法來確保計算系統的可靠性，比如：測試、模擬、良好的軟件工程實踐，這些都是必要的。同時，形式化方法可以補充這幾種方法，來構建可信系統的標準方法。”哥倫比亞大學常務副校長、計算機科學系教授周以真10日在2022人工智能合作與治理國際論壇上如是指出。

2022人工智能合作與治理國際論壇由清華大學主辦，清華大學人工智能國際治理研究院(I-AIIG)承辦，中國新聞網作為戰略合作伙伴，聯合國開發計劃署(UNDP)、聯合國教科文組織(UNESCO)等國際組織、國內外學術機構支持。

周以真表示，對于某些任務來說，人工智能系統已經取得了足夠好的性能。比如，可以將它們部署在我們的街道和家中，用來識別物體或語音。在圍棋或其他的游戲中，甚至能超過人類的表現。

“人工智能的前景相當廣闊，它們會幫我們開車，能幫助醫生更加準確地診斷疾病，能幫助法官作出更為一致的法庭判決，也能幫助雇主雇傭更加合適的求職者。”她說。

同時，周以真指出，人工智能系統也可能是脆弱和不公平的。比如，在停止道路標志上添加涂鴉，會使分類器會以為它不是一個停車標志，等等。

周以真認為，計算系統的可信賴性意味著一組屬性，包括可靠性、安全性、隱私性、可用性等。建議網絡安全機構可以和統計學家進行交流形式化方法、計算機科學、人工智能等，“因為他們多年以來一直在處理關于如何評估一個模型好壞的問題，因此我們可以從統計學界學習。”(中新財經)