人工智能正加速各行各業(yè)的智能化轉(zhuǎn)型，但數(shù)據(jù)隱私、算法偏見、技術(shù)濫用等安全問題也給人工智能的治理與產(chǎn)業(yè)發(fā)展帶來嚴(yán)峻挑戰(zhàn)。

未來人工智能如何兼顧創(chuàng)新發(fā)展與安全可控？在前不久舉辦的北京智源大會(huì)AI安全與產(chǎn)業(yè)治理論壇上，中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸表示，未來人工智能產(chǎn)業(yè)發(fā)展在擴(kuò)大應(yīng)用場(chǎng)景的同時(shí)，必須實(shí)現(xiàn)數(shù)據(jù)、算法與應(yīng)用層的安全可控。“人工智能的安全可控問題要從技術(shù)層面來解決。”在具體實(shí)現(xiàn)路徑上，張鈸提出了發(fā)展“第三代人工智能”，即融合第一代知識(shí)驅(qū)動(dòng)和第二代數(shù)據(jù)驅(qū)動(dòng)的人工智能，利用數(shù)據(jù)、知識(shí)、算法和算力4個(gè)要素，發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù)。

如何定義人工智能“安全可控”？北京瑞萊智慧科技有限公司CEO田天認(rèn)為，“安全”是指打造數(shù)據(jù)安全與算法安全兩大核心能力，解決數(shù)據(jù)強(qiáng)依賴帶來的隱私泄露等隱患，同時(shí)提升算法的可靠性，從而保證系統(tǒng)在網(wǎng)絡(luò)過載或有意攻擊情況下，依然穩(wěn)定運(yùn)行不崩潰；“可控”既指應(yīng)用層面的合規(guī)可控，更指核心技術(shù)的自主可控，以自主可控為根基，通過理論創(chuàng)新、技術(shù)突破形成核心競(jìng)爭(zhēng)力。安全可控是發(fā)展第三代人工智能的核心基準(zhǔn)，也是加快人工智能高質(zhì)量發(fā)展的有力支撐。

數(shù)據(jù)的不安全和算法的不安全是制約當(dāng)前人工智能產(chǎn)業(yè)發(fā)展的主要因素，也是發(fā)展安全可控人工智能需要解決的核心問題。在中國信息通信研究院安全所信息安全研究部主任魏薇看來，人工智能與數(shù)據(jù)產(chǎn)業(yè)互促發(fā)展的同時(shí)，安全問題也相互影響。一方面，人工智能對(duì)數(shù)據(jù)強(qiáng)依賴的發(fā)展特性導(dǎo)致其面臨的自身數(shù)據(jù)安全風(fēng)險(xiǎn)、應(yīng)用導(dǎo)致的數(shù)據(jù)安全風(fēng)險(xiǎn)以及應(yīng)用加劇的數(shù)據(jù)治理挑戰(zhàn)日益凸顯；另一方面，人工智能也為數(shù)據(jù)治理工作提供自動(dòng)化、智能化、高效化、精準(zhǔn)化的智慧支撐。

相較數(shù)據(jù)安全，算法安全問題初露端倪。阿里安全資深算法專家何源介紹，雖然人工智能技術(shù)已經(jīng)在凈化網(wǎng)絡(luò)環(huán)境、知識(shí)產(chǎn)權(quán)保護(hù)、生物識(shí)別、線下安防等安全工作中發(fā)揮著越來越大的助力作用，讓安全更智能，但其本身也面臨著魯棒性不夠、可解釋性差、技術(shù)濫用等安全風(fēng)險(xiǎn)。比如，算法漏洞的存在可以針對(duì)圖像檢索系統(tǒng)開展攻擊，導(dǎo)致非原創(chuàng)圖片逃逸檢測(cè)，對(duì)網(wǎng)站安全與商家權(quán)益造成威脅。

發(fā)展安全可控的人工智能是一項(xiàng)系統(tǒng)性的工作，需要從行業(yè)標(biāo)準(zhǔn)、法律規(guī)范、技術(shù)發(fā)展等多個(gè)維度打造與之配套的“基礎(chǔ)設(shè)施”，其中技術(shù)基礎(chǔ)設(shè)施的打造仍將發(fā)揮基礎(chǔ)性作用。比如，基于安全多方計(jì)算、聯(lián)邦學(xué)習(xí)、匿蹤查詢等技術(shù)打造數(shù)據(jù)安全共享平臺(tái)解決數(shù)據(jù)隱私難題，讓數(shù)據(jù)安全共享流通；打造人工智能系統(tǒng)防火墻，為人臉識(shí)別、目標(biāo)檢測(cè)、圖像分類等系統(tǒng)提供安全檢測(cè)與防御加固，從根本上提升系統(tǒng)安全性。

在新基建浪潮驅(qū)動(dòng)下，人工智能產(chǎn)業(yè)即將迎來與傳統(tǒng)產(chǎn)業(yè)深度融合的機(jī)遇期。田天表示，在安全可控的核心支撐下，人工智能能夠?qū)崿F(xiàn)從“單點(diǎn)自動(dòng)化”到“深度智能化”的價(jià)值提升。例如，在金融領(lǐng)域，人工智能的創(chuàng)新融合正為金融行業(yè)打造出一個(gè)兼具決策分析與感官感知的“智慧大腦”。而在安全可控的支撐下，“智慧大腦”能夠拓展全新能力邊界，形成更好的“決策左腦”與更加安全可靠的“感知右腦”。

在安全可控的助力下，“深度智能”時(shí)代正加速到來，人工智能在各行業(yè)領(lǐng)域的應(yīng)用廣度和深度將不斷得到拓展。“第三代人工智能通過釋放‘數(shù)據(jù)、知識(shí)、算法、算力’的全新維度，為實(shí)現(xiàn)安全可控的新一代人工智能提供可能，讓人工智能走出‘淺層智能’的舒適區(qū)，重塑產(chǎn)業(yè)價(jià)值。”田天說。