必須加強人工智能發(fā)展的潛在風(fēng)險研判和防范，制定相應(yīng)規(guī)則，規(guī)范人工智能的發(fā)展，確保人工智能安全、可靠、可控

人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，將對人們的生產(chǎn)生活產(chǎn)生深遠(yuǎn)影響。比如，人工智能在研發(fā)新材料、預(yù)測蛋白質(zhì)結(jié)構(gòu)等方面具有優(yōu)勢，有望進一步重塑科學(xué)研究范式；智能駕駛的普及，將改變城市規(guī)劃和交通管理方式……各行各業(yè)對人工智能的需求日趨增大的同時，經(jīng)濟社會的方方面面正受到人工智能的多重影響。

隨著人工智能不斷取得突破，一些潛在的隱患和道德倫理問題也逐步顯現(xiàn)出來。例如，人工智能在安全、隱私等方面存在一定風(fēng)險隱患：“換臉”技術(shù)有可能侵犯個人隱私，信息采集不當(dāng)帶來數(shù)據(jù)泄露，算法漏洞加劇認(rèn)知偏見……這說明，人工智能不單具有技術(shù)屬性，還具有明顯的社會屬性。唯有綜合考慮經(jīng)濟、社會和環(huán)境等綜合因素，才能更好應(yīng)對人工智能技術(shù)帶來的機遇和挑戰(zhàn)，推動其健康發(fā)展。人工智能的進一步發(fā)展，給人工智能治理帶來更多課題，亟待相關(guān)法律和倫理工作者作答。

為此，必須加強人工智能發(fā)展的潛在風(fēng)險研判和防范，制定相應(yīng)規(guī)則，規(guī)范人工智能的發(fā)展，確保人工智能安全、可靠、可控。要整合多學(xué)科力量，加強人工智能相關(guān)法律、倫理、社會問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德。只有正確處理好人和機器的關(guān)系，才能更好走向“人機混合”的智能時代。

目前，業(yè)界已經(jīng)展開了一定程度的探索。譬如，構(gòu)建有效的優(yōu)化訓(xùn)練數(shù)據(jù)集，防止人工智能生成對公共安全、生產(chǎn)安全等有害的內(nèi)容；在編程設(shè)計階段，通過技術(shù)手段防止數(shù)據(jù)謬誤，增加智能系統(tǒng)的透明度和公平性；預(yù)先設(shè)立應(yīng)急機制和應(yīng)對措施，對人工智能使用人員進行必要培訓(xùn)。這些舉措，都在技術(shù)層面進一步夯實了人工智能治理的基礎(chǔ)。

近年來，我國陸續(xù)發(fā)布《新一代人工智能倫理規(guī)范》《關(guān)于加強科技倫理治理的意見》《全球人工智能治理倡議》等，旨在提升人工智能治理能力，有效防控人工智能發(fā)展風(fēng)險。各地區(qū)各行業(yè)也正在建立更加完善的多方治理機制，形成協(xié)作格局，貢獻治理智慧，共享治理成果。同時，我國還通過積極搭建人工智能發(fā)展各方參與的開放性平臺，推動形成具有廣泛共識的國際人工智能治理方案，向國際社會貢獻中國智慧。著眼長遠(yuǎn)，在發(fā)展、應(yīng)用的同時加強監(jiān)管和規(guī)范，人工智能就能更好造福人類。