微動(dòng)態(tài)丨深度學(xué)習(xí)技術(shù)引發(fā)信任危機(jī)？構(gòu)建可信AI正當(dāng)時(shí)

在自動(dòng)駕駛場景中，通過修改錐桶的形狀，就能讓汽車感知模塊失效，徑直撞上去；通過在T恤上打印含特殊的花紋，就能讓目標(biāo)檢測系統(tǒng)捕捉不到穿這件衣服的人，實(shí)現(xiàn)“隱身”；制作帶有特制花紋的眼鏡，就能刷開數(shù)十部商用手機(jī)的人臉解鎖等。

上述案例已經(jīng)被研究團(tuán)隊(duì)用來證明人工智能面臨“信任危機(jī)”，人們需要更加“可信”的人工智能。

在9月1日舉辦的2022年世界人工智能大會(huì)（WAIC）的一場可信AI論壇上，中國信通院聯(lián)合京東探索研究院等近30家政產(chǎn)學(xué)研單位共同發(fā)布《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報(bào)告》，對人工智能產(chǎn)業(yè)融合可信要素的發(fā)展態(tài)勢進(jìn)行總體分析，研判發(fā)展趨勢并提出措施建議，為社會(huì)各界提供借鑒和參考，推動(dòng)可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展。

(資料圖片)

自2021年以來，歐盟和美國先后發(fā)布了《人工智能法案》和《2022算法問責(zé)法案》。在中國，深圳、上海等地也相繼推動(dòng)人工智能立法條例。各國針對人工智能算法的監(jiān)測、人工智能應(yīng)用的審查的相關(guān)監(jiān)管法規(guī)不斷增加，人工智能治理已進(jìn)入建章立制階段。

《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報(bào)告》指出，技術(shù)研究上，提升人工智能系統(tǒng)穩(wěn)定性、隱私保護(hù)技術(shù)占據(jù)可信人工智能技術(shù)研究主流，可解釋性、公平性等技術(shù)研究緊隨其后。

學(xué)界普遍認(rèn)為，從應(yīng)用的角度來看，以數(shù)據(jù)驅(qū)動(dòng)的深度學(xué)習(xí)技術(shù)潛力接近“天花板”的原因是，深度學(xué)習(xí)的本質(zhì)是利用沒有加工處理過的數(shù)據(jù)用概率學(xué)習(xí)的“黑箱”處理方法尋找規(guī)律。這一方法本質(zhì)上不可解釋，非常脆弱，帶來了新的風(fēng)險(xiǎn)和問題。如“對抗樣本攻擊”， 通過在輸入數(shù)據(jù)中添加擾動(dòng)，即可使系統(tǒng)做出錯(cuò)誤判斷。

當(dāng)前以對抗訓(xùn)練、梯度屏蔽為代表的人工智能系統(tǒng)穩(wěn)定性技術(shù)穩(wěn)步發(fā)展；以同態(tài)加密、多方安全計(jì)算、差分隱私等為代表的隱私安全技術(shù)發(fā)展迅速；可解釋性增強(qiáng)技術(shù)研究當(dāng)前仍處于初期階段，科技巨頭推出多個(gè)AI可解釋性工具及服務(wù)；提升人工智能公平性主流方法為通過構(gòu)建完整異構(gòu)數(shù)據(jù)集及引入公平?jīng)Q策量化指標(biāo)算法，以減輕決策偏差。

清華大學(xué)人工智能研究院名譽(yù)院長、瑞萊智慧首席科學(xué)家張鈸院士提出“第三代人工智能”，要求綜合運(yùn)用知識(shí)、數(shù)據(jù)、算法、算力四個(gè)要素，在實(shí)現(xiàn)高水平安全的前提下，為人工智能高水平發(fā)展提供動(dòng)力和支撐。

螞蟻集團(tuán)大安全機(jī)器智能部總監(jiān)、螞蟻集團(tuán)技術(shù)委員會(huì)可信AI聯(lián)合工作組組長王維強(qiáng)表示，可信AI的主要屬性有四個(gè)，分別是魯棒性、可解釋性、隱私保護(hù)和公平性。

可信AI正在走向工業(yè)級(jí)應(yīng)用時(shí)代，意味著真正的大規(guī)模應(yīng)用，需要從數(shù)據(jù)可信，到模型可信，到平臺(tái)可信，到運(yùn)營可信的工業(yè)化生產(chǎn)環(huán)境全鏈路的可信，讓可信成為AI技術(shù)發(fā)展中的一個(gè)內(nèi)在屬性，帶領(lǐng)AI走向更健康、更加可持續(xù)的未來，這需要產(chǎn)業(yè)界、學(xué)術(shù)界一起合作。

產(chǎn)業(yè)生態(tài)上，倫理、法律研究也在進(jìn)一步深入。瑞萊智慧合伙人、高級(jí)副總裁朱萌對第一財(cái)經(jīng)記者表示，應(yīng)該加強(qiáng)安全領(lǐng)域的三方面能力建設(shè)。“首先是，發(fā)掘現(xiàn)有AI安全風(fēng)險(xiǎn)、預(yù)判AI潛在風(fēng)險(xiǎn)；二是針對風(fēng)險(xiǎn)建設(shè)治理體系，包括建立AI治理理論、構(gòu)建治理運(yùn)轉(zhuǎn)機(jī)制、探索技術(shù)實(shí)踐路徑等；三是在治理體系框架下，重點(diǎn)探尋倫理法規(guī)的技術(shù)落地方案。”朱萌說道。

標(biāo)簽： 人工智能 技術(shù)研究 生態(tài)發(fā)展 人工智能系統(tǒng) 為代表的