陶大程教授：AI是人性的一種映射，是人類“反思”的機會

出品|《新基建訪談》No.49

採訪|丁廣勝

整理|陳雨萌

爲何可信人工智能如此備受關注？

人工智能的脆弱性到底在什麼地方？

信任危機背後，人工智能的發展去向何方？

帶着種種疑惑，我們特邀陶大程教授參與《新基建訪談》交流，他提出人工智能目前還面臨“四大問題”，還爲我們深度解讀了京東探索研究院和中國信息通信研究院聯合撰寫發佈的國內首本《可信人工智能白皮書》。

陶教授是國際人工智能領域的知名學者，現任京東探索研究院院長、悉尼大學數字科學研究所顧問兼首席科學家。他是澳大利亞科學院院士、新南威爾士皇家學會院士、歐洲科學院外籍院士、ACM/AAAS/IEEE Fellow。

陶教授在2021年榮獲IEEE Computer Society Edward J McCluskey技術成就獎，2018年榮獲IEEE ICDM研究貢獻獎，2015和2020年兩度榮獲澳大利亞尤里卡獎，2015年榮獲悉尼科技大學校長獎章以及2020年榮獲悉尼大學校長傑出研究貢獻獎。

毋庸置疑，人工智能釋放出的巨大能量正在持續改變社會的方方面面。陶大程教授表示，隨着人工智能技術在衆多領域被廣泛與深度應用，其也不斷暴露出風險隱患，比如人工智能系統的脆弱性、系統的安全性、隱私性、公平性等等。

何爲人工智能面臨的“四大問題”

陶教授指出，人工智能暴露的諸多問題，大概歸成四個大類：

首先，人工智能系統受干擾可能無法正確識別目標。例如監控識別系統，通過拍攝到的圖像推斷當前場景的信息，但如果照片的一部分被遮擋或被刻意替換，就會造成潛在的危害。

其次，在一些安全性要求更高的應用領域，比如醫藥翻譯、機器人手術等，人工智能系統缺乏可解釋性往往會帶來極大的危害。他進一步解釋道，一個微小的錯誤若得不到預防和及時控制，就可能會帶來致命的事故，且可能會引發人們對於人工智能技術的信任危機。

其三，近年來人工智能技術的迅速發展依賴於大量的數據，但其中可能包含用戶的隱私信息。這引起社會各界對於隱私保護問題的關注。

“今年我國正式通過了《數據安全法》和《個人信息保護法》。這些法律法規對數據的處理和使用方式設立了多個維度的規範，對人工智能系統在使用數據時的合規性提出了更高的要求。”

其四，公平性也是我們要慎重考慮的因素。比如此前在國外被報道的某網絡監控與管理系統，就對黑人有系統性的歧視。公平性，不僅僅體現在種族上，還有男女、不同的家庭收入、不同的居住區域等等，人工智能系統需要公平地考慮各種因素，保證所有人都公平享受到技術帶來的價值。

陶教授告訴《新基建訪談》，在這些背景之下，京東探索研究院聯合中國信息通信研究院深入系統地研究了“可信人工智能”的前世今生，最終在2021年世界人工智能大會上正式面向全球發佈了國內首部《可信人工智能白皮書》。

他希望藉助白皮書，對可信人工智能支撐技術進行一次深入而全面的闡述。基於對可信人工智能的內涵及學術發展歷程的全面回顧，京東探索研究院將可信人工智能的研究內容歸納爲穩定性、可解釋性、隱私保護、公平性等維度。

科技的革新需要突破侷限與困難

陶教授認爲，科技的革新需要突破侷限與困難。經過半年多縝密的論證，京東探索研究院迴歸問題本源，明確立足於基礎研究的突破，提出可信人工智能、超級深度學習、量子機器學習這三大研究方向，以實現顛覆性的創新。

在他看來，企業拓展人工智能技術應用過程中應注重可信人工智能敏捷迭代。隨着人工智能技術與不同行業的廣泛融合，其應用深度與日俱增，企業所面臨的可信特質要求將不斷擴充，這就對企業應具備的可信實踐能力提出了更高的要求。

“一方面應研發可信人工智能檢測和監測工具，以匹配業務發展需要，並針對行業應用的獨特性進行升級和迭代。另一方面應積極與相關監管部門對接，構建內部和外部相協調的敏捷可信機制。”陶大程院士指出。

京東探索研究院的可信人工智能研究將聚焦於人工智能技術的穩定性、可解釋性、隱私保護能力和公平性，旨在發展以人爲本、向上的人工智能。“發展可信人工智能，目的是讓我們能真正釋放人工智能的潛力，提升全球人類的福祉。另外，在監管日趨深入的大背景下，可信賴、可解釋、可保護用戶隱私的人工智能研究，將成爲企業未來在AI賽道差異化競爭的全新護城河。”

陶教授還特別提到，隨着Transformer等新型神經網絡結構的出現和發展，以自監督學習爲代表的深度學習技術使得從海量多種模態數據中學習成爲可能，開啓了超級深度學習時代。爲了打破人工智能當前面臨的應用場景複雜、實際任務多樣、算力分佈分散、缺乏理論支撐等瓶頸，推進AI技術落地，實現產業變革，構建超級深度學習模型生態系統成爲一條通往未來的路徑。

此外，在陶教授看來，在後摩爾時代的今天，量子計算是目前唯一被嚴格理論證明具有超越經典計算機蘭道爾極限的解決問題的新方法，因此，探索研究院將量子機器學習確定爲第三個重要的研究方向。近日，他帶領其量子計算研究團隊主要成員杜宇軒、錢揚提出全球首個以經典雲平臺爲依託、量子計算設備爲終端的量子並行處理框架QUDIO（quantum distributed optimization scheme），將可實現充分調度現有量子計算資源去求解超越經典計算的大規模任務。

未來是數字和物理深度融合的世界

那麼，技術發展與社會對技術的期望如何才能達到一個平衡？

陶教授說：“社會的期望其實能引導技術發揮其正面價值、減輕或消除其負面因素，讓技術發展得更健康。”

比如，科技企業處於人工智能技術應用的第一線、責任重大，因此可以通過設立相關人工智能倫理監管部門來加強自我約束，充分提高開發者的風險意識及技術本身的抗風險能力，相信通過一系列監管措施的正面引導，人工智能最終能實現可信，迴應社會對技術的期望，真正造福人類的未來。

談及元宇宙話題，陶教授表示元宇宙是一個技術綜合體，其中包含了很多東西，比如：3D建模、AR、VR、人工智能、區塊鏈等等，對於元宇宙來說是技術架構的基本組成。

“如果能有效實現可信人工智能和超級智能學習，那麼對於元宇宙未來的落地會有很大的幫助”，陶教授認爲，未來一定是數字世界和物理世界的深度融合，物理世界和數字世界不是獨立的存在，而是深度的融合。

不爲細碎的苟且遮蔽，不爲當下的功利左右

面向未來，他提到對於年輕的AI公司和科研人員來說，建立起這樣一種“長期主義”的意識能幫助他們不爲眼前的侷限所困，不爲細碎的苟且遮蔽，不爲當下的功利左右，成爲有超越感、敬畏感和使命感的組織或個體。

陶教授認爲，追求科技的長期主義體現在“探索未來”和“科技向上”這兩點。探索未來意味着科技研發人員需要懷揣夢想、保持好奇，對未知的技術和理念滿懷嚮往，在前沿領域實現突破，創造真正有意義、有價值的突破性成果。我們要讓自己的思考領先於即將到來的變化，只有這樣，我們纔有機會在造成最大震盪的革新中還能夠向不變的目標前進，並保持平穩與初心。

“科技向上意味着我們的技術研究應秉持社會責任感，讓科技變得有恆久的價值和人性的溫度。從某種程度上說，AI是人性的一種映射，而人類構造AI的過程，實際上也是反思自己與類人智能體之間關係的一次機會。通過構建AI，我們正在重新塑造人類社會本身。”

他最後說到，這些東西看似無關利益，卻是我們研究可信AI的目的和意義所在。