日前舉行的中央經(jīng)濟(jì)工作會議指出，2024年要“加快推動人工智能發(fā)展”。當(dāng)前，人工智能（AI）已廣泛滲透到各行各業(yè)，從醫(yī)療保健、交通運輸，到教育培訓(xùn)、娛樂休閑等。那么AI技術(shù)有哪些新趨勢，未來該如何更安全地發(fā)展？2023年12月27日，AI發(fā)展與治理創(chuàng)新研討會在北京舉行，與會專家與相關(guān)從業(yè)者圍繞AI技術(shù)創(chuàng)新發(fā)展進(jìn)行了分享與討論。

新模式新業(yè)態(tài)不斷涌現(xiàn)

“人工智能已成為引領(lǐng)產(chǎn)業(yè)發(fā)展、驅(qū)動經(jīng)濟(jì)增長、連接全球合作的重要新興技術(shù)方向。”中國電子技術(shù)標(biāo)準(zhǔn)化研究院信息技術(shù)研究中心主任范科峰認(rèn)為，當(dāng)前，AI技術(shù)新模式新業(yè)態(tài)不斷涌現(xiàn)，產(chǎn)品和服務(wù)逐漸完善，在經(jīng)濟(jì)社會各領(lǐng)域廣泛應(yīng)用，與實體經(jīng)濟(jì)融合持續(xù)深化，正深刻改變著人類的生產(chǎn)生活方式。

在研討會上，多項AI技術(shù)在各領(lǐng)域?qū)嶋H應(yīng)用的案例令人眼前一亮。

AI技術(shù)能幫人更好地做生意。對從事家具外貿(mào)電商業(yè)務(wù)的黃凱來說，他的日常工作就離不開AI技術(shù)的幫助。“過去，要上架一款家具，我們得先完成設(shè)計、做出樣品，再進(jìn)行產(chǎn)品拍攝。這個過程不僅時間長，而且花費的成本也很高。但現(xiàn)在，有了AI技術(shù)的幫助，只需要輸入數(shù)據(jù)，就能很簡單地做出產(chǎn)品圖，并且能隨意模擬產(chǎn)品在客廳、商場等不同場景下擺放的效果，效率得到了極大提升。”此外，AI技術(shù)還幫助黃凱的公司降低了招聘運營人員的難度。據(jù)黃凱介紹，以前，從事外貿(mào)生意對運營人員的外語水平、工作經(jīng)驗要求較高，但有了AI工具做輔助，新員工也可以很快上手完成工作了。

在醫(yī)療領(lǐng)域，AI技術(shù)大有用武之地。胰腺癌是一種生存率較低的惡性腫瘤，并且早期篩查容易出現(xiàn)漏診或誤診?，F(xiàn)在，來自浙大醫(yī)學(xué)院附屬第一醫(yī)院、復(fù)旦大學(xué)附屬腫瘤醫(yī)院的醫(yī)學(xué)團(tuán)隊，已開始采用“平掃CT+AI”的方法，進(jìn)行大規(guī)模胰腺癌早期篩查。在2萬多人的真實病例試驗中，發(fā)現(xiàn)了31例臨床漏診病變，其中2例早期病患很快就完成了手術(shù)。該項研究成果也已發(fā)表在國際醫(yī)學(xué)期刊上。

在影視制作領(lǐng)域，AI技術(shù)未來可期。阿里大文娛團(tuán)隊借助AI技術(shù)，在虛擬拍攝、數(shù)字人、超高清視聽體驗等領(lǐng)域取得了創(chuàng)新突破。相對傳統(tǒng)制作方式，借助虛擬拍攝，制作效率可以提升40%。“很多過去想到但做不到、甚至創(chuàng)作者也沒想到的場景，都在AI的助力下呈現(xiàn)在我們的面前?？梢灶A(yù)見，AI技術(shù)將全面提升中國影視制作的水平。”阿里巴巴科技倫理治理委員會委員薛暉說。

風(fēng)險與挑戰(zhàn)不容忽視

隨著AI技術(shù)的快速發(fā)展，技術(shù)風(fēng)險、隱私保護(hù)等安全問題也愈加受到關(guān)注。在研討會上，阿里巴巴集團(tuán)與中國電子技術(shù)標(biāo)準(zhǔn)化研究院聯(lián)合發(fā)布了《生成式人工智能（AIGC）治理與實踐白皮書》，系統(tǒng)分析大模型和AIGC主要風(fēng)險，并從應(yīng)用角度提出針對性治理建議和可操作性實踐方案。

所謂生成式人工智能是指基于人工智能的技術(shù)方法，通過對已有數(shù)據(jù)的學(xué)習(xí)和識別，生成相關(guān)內(nèi)容的技術(shù)。中國科學(xué)院信息工程研究所技術(shù)副總師韓冀中認(rèn)為，這項技術(shù)最主要的特點，是改變了信息的生成方式和信息的獲取方式。“每一次信息獲取方式的變化，都會帶來整個信息產(chǎn)業(yè)的變革。比如我們早期獲取信息可能通過黃頁，后來是搜索引擎，現(xiàn)在有了更新的渠道，即ChatGPT這樣的技術(shù)，會讓整個信息產(chǎn)業(yè)產(chǎn)生巨大變化。”

阿里巴巴人工智能治理和可持續(xù)發(fā)展研究中心首席科學(xué)家何源認(rèn)為，生成式人工智能技術(shù)應(yīng)用中，可能存在的安全風(fēng)險與每個人息息相關(guān)。據(jù)何源介紹，生成式人工智能可以通過交互的方式低成本、快速地生產(chǎn)內(nèi)容，比如可以很容易地生成并傳播謠言，這給內(nèi)容安全的防控帶來了新挑戰(zhàn)。在隱私和版權(quán)方面，大模型應(yīng)用的海量互聯(lián)網(wǎng)數(shù)據(jù)，很難逐一確認(rèn)樣本授權(quán)，容易造成隱私泄露和侵權(quán)問題。另外，生成式人工智能還降低了很多專業(yè)領(lǐng)域的技術(shù)門檻，有可能被濫用于黑客攻擊、網(wǎng)絡(luò)犯罪等。因此，業(yè)內(nèi)專家認(rèn)為，建立相關(guān)安全治理體系十分必要。

“多元協(xié)同、開放共治”

為規(guī)范生成式人工智能技術(shù)發(fā)展，2023年7月，國家網(wǎng)信辦聯(lián)合多部委公布了《生成式人工智能服務(wù)管理暫行辦法》。

該《辦法》一方面明確鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系。同時，也明確“生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動，使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型；涉及知識產(chǎn)權(quán)的，不得侵害他人依法享有的知識產(chǎn)權(quán)；涉及個人信息的，應(yīng)當(dāng)取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實性、準(zhǔn)確性、客觀性、多樣性”等。

在研討會上，多位專家就生成式人工智能的安全治理提出自己的觀點。

中國電子技術(shù)標(biāo)準(zhǔn)化研究院信息技術(shù)研究中心副主任董建提到，當(dāng)前，國內(nèi)外都在推動研發(fā)生成式人工智能的治理工具，但如何通過技術(shù)深層次解決治理問題，尚需進(jìn)一步探索。

中國人工智能產(chǎn)業(yè)聯(lián)盟安全治理委員會專委會副主委潘恩榮認(rèn)為，生成式人工智能對人類的經(jīng)濟(jì)社會發(fā)展觀念帶來了巨大沖擊，規(guī)范其發(fā)展“宜疏不宜堵”。一方面，必須克服各種恐懼和臆想，克制“堵”的沖動；另一方面，要在實踐中，小步快跑地迭代出各種“疏”的方式。

復(fù)旦大學(xué)計算機(jī)科學(xué)技術(shù)學(xué)院教授張謐指出，科技行業(yè)應(yīng)該負(fù)責(zé)任地發(fā)展AI，兼顧AI發(fā)展和風(fēng)險管控?，F(xiàn)在全球范圍內(nèi)有AI競賽的氛圍，各方應(yīng)該立足長遠(yuǎn)，攜手營造有序競爭，保障AI技術(shù)發(fā)展處于安全區(qū)域。

“關(guān)于AI，我們不知道的比知道的多，難以想象的比可以預(yù)測的多。”薛暉表示，生成式人工智能帶來了前所未有的挑戰(zhàn)，需要前瞻性地應(yīng)對，“多元協(xié)同、開放共治”是AI發(fā)展和治理的必經(jīng)之路。

原標(biāo)題：

擁抱機(jī)遇 迎接挑戰(zhàn)

加快推動人工智能發(fā)展（AI前沿觀察）