“人工智能作為賦能技術，需要一個治理的階段。人工智能應用發(fā)展迅速，有些在智慧城市建設領域起著核心作用，也有野蠻生長的現(xiàn)象，我們需要一個規(guī)則性治理。”在2021世界人工智能大會“共話標準，驅(qū)動產(chǎn)業(yè)”標準化分論壇上，中國科學院院士、工信部新一代人工智能標準與應用重點實驗室主任委員何積豐進行主旨報告時表示。
何積豐是著名計算機軟件科學家�，F(xiàn)任華東師范大學終身教授、軟件學院院長，中國科學院信息學部常委會副主任，上海市科協(xié)副主席，國家可信嵌入式軟件工程技術研究中心首席科學家，上海市高可信計算重點實驗室主任。
2021世界人工智能大會于7月8日至10日在上海召開，今年是第四屆大會，以“智聯(lián)世界 眾智成城”為主題，圍繞“AI賦能城市數(shù)字化轉(zhuǎn)型”方向，探討人工智能技術創(chuàng)新與產(chǎn)業(yè)落地的前沿進展，廣泛傳遞城市數(shù)字化轉(zhuǎn)型的理念與價值，推動相關治理和規(guī)范形成全球共識。
“人工智能的范圍遠遠不只計算機學科，人工智能在數(shù)學、物理、社會學、心理學等都發(fā)揮了一些不可替代的作用。”何積豐認為，人工智能常被看作計算機科學的分支，但事實上是在自然科學和社會科學的交叉口。“我們應該給智能技術設一個紅線，規(guī)定什么事情不能做。”
何積豐在演講中表示，人工智能本質(zhì)是機器模擬人類思考行為的能力，人工智能的發(fā)展可以分為三階段：弱人工智能、強人工智能、超人工智能。而我們正處于中間階段。
弱人工智能著重對人類推理過程的模仿，通常只擅長于某個特定領域；強人工智能是可以達到人類思維級別的人工智能程序，“深度學習”、“因果推理”和“大數(shù)據(jù)”是其發(fā)展的引擎和燃料；超人工智能具有全方位超越人類大腦的思維能力，例如自我學習、情感等。
何積豐指出，可信人工智能應該具備于人類智能類似的特質(zhì)，包括透明性、可解釋性、公平性、魯棒性、自適性等特質(zhì)。比如說，告訴用戶該智能系統(tǒng)工作原理，告訴用戶該智能系統(tǒng)在什么環(huán)境下不工作。
針對安全問題，何積豐提出幾點安全對策：保護模型和算法，對于早期的數(shù)據(jù)質(zhì)量、模型等制定標準，并要求模型在部署后的可解釋性；保護隱私；公平建模；可信驗證；倫理法律等。
其中，關于公平性，他指出兩個問題。第一，中國作為一個地域遼闊、人口眾多的大國難免經(jīng)濟發(fā)展不平衡，沿海地區(qū)和偏遠地區(qū)的經(jīng)濟發(fā)展差異也使得人們在高科技的使用上有差異，因此這種公平的實現(xiàn)相對較難。第二，不同年齡的人掌握新技術的能力有差別。他表示，“但是現(xiàn)在我們也沒有很好的辦法去做普及。前段時間網(wǎng)上有個老太太上公交車，讓她顯示健康碼，但她沒有智能手機。”
關于可信驗證，他認為要拿出辦法判斷某系統(tǒng)是否可信、可信度達到了哪一等級。“在云計算的發(fā)展支撐下，很多軟件系統(tǒng)發(fā)生了大變化。過去的軟件系統(tǒng)十分專業(yè)，它是否可靠只影響一部分業(yè)務；現(xiàn)在鼓勵企業(yè)上云，很多業(yè)務在云上，云變成像電、水一樣的公共設施，公共設施的可信極其關鍵。”
中國-博士人才網(wǎng)發(fā)布
聲明提示：凡本網(wǎng)注明“來源：XXX”的文/圖等稿件，本網(wǎng)轉(zhuǎn)載出于傳遞更多信息及方便產(chǎn)業(yè)探討之目的，并不意味著本站贊同其觀點或證實其內(nèi)容的真實性，文章內(nèi)容僅供參考。
