12月4日-5日，由清華大學(xué)人工智能國(guó)際治理研究院主辦的2021人工智能合作與治理國(guó)際論壇在清華大學(xué)舉行，搜狐科技作為支持媒體之一參與報(bào)道。在“如何構(gòu)建一個(gè)平衡包容的人工智能治理體系”的主論壇中，清華大學(xué)文科資深教授、蘇世民書(shū)院院長(zhǎng)、人工智能國(guó)際治理研究院院長(zhǎng)薛瀾認(rèn)為，人工智能治理現(xiàn)在已經(jīng)從理念層面到實(shí)踐層面，既要鼓勵(lì)企業(yè)的創(chuàng)新發(fā)展，也要提供有效的治理框架和相關(guān)的規(guī)則。

“我們特別強(qiáng)調(diào)的是求同存異，爭(zhēng)取各國(guó)文明最大公約數(shù)，需要通過(guò)建立多邊協(xié)同共治的方式，把行業(yè)規(guī)則、技術(shù)標(biāo)準(zhǔn)等納到統(tǒng)一的框架內(nèi)。”薛瀾表示。

目前，全球共同提倡的人工智能治理基本準(zhǔn)則具有高度的相似性。薛瀾介紹了清華大學(xué)人工智能國(guó)際治理研究院提出的人工智能治理框架，基本的治理準(zhǔn)則、治理對(duì)象(包括數(shù)據(jù)、算法、算力，囊括了從知識(shí)、信息到數(shù)據(jù)的治理過(guò)程);治理工具(包括法律制度體系、技術(shù)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則和規(guī)范體系)，及參與的主體(包括政府、公民、媒體、高校、平臺(tái)企業(yè)、國(guó)際組織等)。

在應(yīng)用場(chǎng)景層面，從治理角度來(lái)講，目的在于降低潛在風(fēng)險(xiǎn)，使社會(huì)效益最大。“這會(huì)有各種不同類型的場(chǎng)景，從風(fēng)險(xiǎn)治理角度來(lái)講，大概率、大損失的需要高度關(guān)注;小概率、大損失，所謂黑天鵝事件，也要高度關(guān)注;還有很多小損失，相對(duì)來(lái)講不用太擔(dān)心。”薛瀾介紹稱，在價(jià)值導(dǎo)向方面，則要具備底線思維、人本思維、發(fā)展思維和全球思維，形成共識(shí)。

人工智能治理目前面臨什么樣的挑戰(zhàn)?從治理對(duì)象來(lái)看，薛瀾表示，這主要體現(xiàn)在四個(gè)方面。首先是數(shù)據(jù)層面，挑戰(zhàn)在于如何進(jìn)行高質(zhì)量的數(shù)據(jù)集建設(shè)，以及如何讓公共數(shù)據(jù)集更大程度開(kāi)放，數(shù)據(jù)自主可控和宏觀安全也需高度關(guān)注。

其次是算法的穩(wěn)定性、安全性、可解釋性和公平性;第三是算力層面，需要推動(dòng)核心硬件的持續(xù)性創(chuàng)新，尋求多邊合作共贏，避免技術(shù)壟斷等，同時(shí)需要突破技術(shù)創(chuàng)新范式，探索未來(lái)的新興技術(shù)。最后就是場(chǎng)景，這是人工智能下一步更大的治理挑戰(zhàn)，需要考慮如何根據(jù)不同類型和風(fēng)險(xiǎn)的場(chǎng)景提出更加具體的準(zhǔn)則，并更加具體地應(yīng)用。

從人工智能治理機(jī)制來(lái)講，薛瀾認(rèn)為，這包括三個(gè)層面。首先是形成價(jià)值共識(shí)，目前國(guó)家新一代人工智能治理專業(yè)委員會(huì)提出的治理準(zhǔn)則和一些國(guó)際組織和機(jī)制的準(zhǔn)則比較一致，核心是按照包容、共享、審慎、負(fù)責(zé)的價(jià)值原則來(lái)平衡人工智能治理中的發(fā)展和安全需求。

第二是促進(jìn)治理主體分工協(xié)作，發(fā)揮治理主體各自優(yōu)勢(shì)，形成治理合力。具體來(lái)看，政府要擔(dān)負(fù)其賦權(quán)和監(jiān)管職責(zé)，技術(shù)提供方需要進(jìn)行賦能，從而形成迭代優(yōu)化。同時(shí)，技術(shù)研究者和使用者也要有更多的合作交流，社會(huì)要提供及時(shí)有效的監(jiān)督。

第三個(gè)治理機(jī)制在于保持迭代優(yōu)化。薛瀾認(rèn)為，這是在人工智能治理方面獨(dú)特的地方，很多傳統(tǒng)的技術(shù)擴(kuò)散過(guò)程漫長(zhǎng)，可能經(jīng)過(guò)幾十年在社會(huì)上也只能達(dá)到70%、80%的滲透率，但現(xiàn)在人工智能技術(shù)發(fā)展非常快，在短短的幾個(gè)月甚至幾天，就可以拓展到成百上千萬(wàn)的用戶。

他表示，這種情況下，很難采用傳統(tǒng)的治理方式——先多方審慎探討，達(dá)成共識(shí)再出臺(tái)治理規(guī)則。這就會(huì)導(dǎo)致治理跟不上技術(shù)發(fā)展的速度，因此要保持各種治理模式相結(jié)合。首先是探索性治理或前瞻性治理，先對(duì)預(yù)想潛在的風(fēng)險(xiǎn)進(jìn)行規(guī)制，有效避免不利的情況發(fā)生。此外，還需要適應(yīng)性治理或敏捷治理，治理小跑跟上技術(shù)發(fā)展的步伐，不要追求完美，從而進(jìn)行有效平衡。

在治理工具層面，也需要多方結(jié)合。薛瀾介紹，宏觀層面，需要出臺(tái)國(guó)家規(guī)劃、法律體系和倫理規(guī)范，把這些宏觀工具和具體的應(yīng)用有效結(jié)合。在中觀層面，需要探索人工智能技術(shù)對(duì)社會(huì)的影響，進(jìn)行更好的社會(huì)應(yīng)用觀察和實(shí)驗(yàn)。

在具體技術(shù)應(yīng)用方面，薛瀾表示，技術(shù)標(biāo)準(zhǔn)對(duì)企業(yè)來(lái)講是更為關(guān)鍵的治理手段，包括強(qiáng)制性標(biāo)準(zhǔn)和推薦性標(biāo)準(zhǔn)，比如產(chǎn)品標(biāo)準(zhǔn)、工藝標(biāo)準(zhǔn)、檢測(cè)試驗(yàn)方法等，在開(kāi)始拿不準(zhǔn)的時(shí)候可以先按照推薦性標(biāo)準(zhǔn)推進(jìn)，在形成共識(shí)后就可以確定為強(qiáng)制性要求。

另外，薛瀾認(rèn)為，技術(shù)手段本身也在治理過(guò)程中也可以發(fā)揮更大作用。如何通過(guò)技術(shù)手段，采取一些措施，一方面保證可以把數(shù)據(jù)拿來(lái)用，另一方面形成對(duì)數(shù)據(jù)隱私有效的保護(hù)，聯(lián)邦學(xué)習(xí)、隱私計(jì)算、區(qū)塊鏈等監(jiān)管性科學(xué)技術(shù)都可以發(fā)揮作用。(梁昌均)

標(biāo)簽： AI治理 實(shí)踐層面 理念層面 應(yīng)用場(chǎng)景治理