去年OpenAI開(kāi)啟生成式人工智能浪潮，由大模型帶動(dòng)的AI產(chǎn)業(yè)一路狂奔。行業(yè)快速發(fā)展過(guò)程中，如何讓它的行為跟人類的價(jià)值真實(shí)意圖、倫理原則相一致，這成為學(xué)術(shù)、政策、產(chǎn)業(yè)等領(lǐng)域多方關(guān)注的“價(jià)值對(duì)齊”問(wèn)題。

10月26日，由騰訊研究院華東基地、騰訊優(yōu)圖實(shí)驗(yàn)室主辦的第一期“智創(chuàng)滬聯(lián)”活動(dòng)，在上海諾布中心正式舉辦?；顒?dòng)以“大模型價(jià)值對(duì)齊”為主題進(jìn)行研討，深入探尋價(jià)值對(duì)齊問(wèn)題的創(chuàng)新性解決方案與法律倫理治理，確保AI技術(shù)符合社會(huì)預(yù)期，探索AI與人類價(jià)值間的平衡。多位來(lái)自AI領(lǐng)域前沿的學(xué)者、專家分享自己看法和研究成果。

上海市人工智能行業(yè)協(xié)會(huì)秘書(shū)長(zhǎng)鐘俊浩在致辭中指出，在行業(yè)發(fā)展過(guò)程中，大模型的“價(jià)值對(duì)齊”作為一種推動(dòng)各領(lǐng)域協(xié)同發(fā)展的有效手段，具有重要的現(xiàn)實(shí)意義和深遠(yuǎn)的影響，還將為全球合作與發(fā)展提供新的契機(jī)。

上海交通大學(xué)副教授劉鵬飛指出，包括Open?AI在內(nèi)的大部分人工智能推動(dòng)組織，都在積極運(yùn)用各種方案加強(qiáng)價(jià)值對(duì)齊的完善落地，諸如監(jiān)督精調(diào)、基于人類反饋的強(qiáng)化學(xué)習(xí)、基于檢索的事實(shí)對(duì)齊，以及嘗試使用工具對(duì)模型進(jìn)行對(duì)齊，都是現(xiàn)階段被行業(yè)寄予厚望的“AI價(jià)值對(duì)齊”可執(zhí)行方案。

人機(jī)合作走向現(xiàn)實(shí)，AI價(jià)值對(duì)齊不可或缺

如何避免數(shù)據(jù)規(guī)模與算力不斷提升的AI大模型遭到濫用、生產(chǎn)有害內(nèi)容，已經(jīng)是人工智能行業(yè)的核心議題之一。正因如此，能夠有效增強(qiáng)AI大模型安全與實(shí)用性的“AI價(jià)值對(duì)齊”，才會(huì)成為行業(yè)關(guān)注的焦點(diǎn)。

騰訊研究院秘書(shū)長(zhǎng)張欽坤指出，價(jià)值對(duì)齊將成為AI產(chǎn)品的重要競(jìng)爭(zhēng)力。因?yàn)?，大模型價(jià)值對(duì)齊的實(shí)現(xiàn)，需要對(duì)齊技術(shù)（人類反饋強(qiáng)化學(xué)習(xí)、AI監(jiān)督等）、訓(xùn)練數(shù)據(jù)干預(yù)、模型可解釋、對(duì)抗測(cè)試等多種技術(shù)和治理措施的結(jié)合，同時(shí)未來(lái)還需要著重考慮如何通過(guò)更多的社會(huì)參與來(lái)形成價(jià)值對(duì)齊的共識(shí)，以及如何使監(jiān)督、理解、設(shè)計(jì)AI模型的能力與模型本身的復(fù)雜性同步發(fā)展，以更好地對(duì)大模型進(jìn)行有效的監(jiān)督。

“我們期待的是大語(yǔ)言模型可以和人類的價(jià)值、真實(shí)的意圖相一致，確保AI技術(shù)可以可靠和安全地服務(wù)于人，并且確保社會(huì)經(jīng)濟(jì)可以健康地增長(zhǎng)?！鄙虾＝煌ù髮W(xué)劉鵬飛副教授介紹道。

劉鵬飛教授表示，隨著生成式人工智能實(shí)用性不斷增長(zhǎng)，除了最基礎(chǔ)的性能優(yōu)化之外，價(jià)值對(duì)齊的重要性，也隨著AI大模型的快速迭代迅速提升。缺乏對(duì)齊的大模型不僅會(huì)生成大量虛假甚至有害的信息，在高階應(yīng)用領(lǐng)域更會(huì)產(chǎn)生巨大的危險(xiǎn)隱患。

上海交通大學(xué)的閆宏秀教授則表示，技術(shù)的發(fā)展進(jìn)步，始終遵循著消除風(fēng)險(xiǎn)、力求確定性的趨勢(shì)，作為應(yīng)對(duì)風(fēng)險(xiǎn)的有效方式，“信任”始終是人類的必選項(xiàng)。沒(méi)有信任，技術(shù)發(fā)展的停滯幾乎是必然的。讓人工智能走向可信、可控、可靠，讓人機(jī)合作走向現(xiàn)實(shí)，“AI價(jià)值對(duì)齊”正是其中不可或缺的一環(huán)。

“以合乎倫理的結(jié)構(gòu)性性能來(lái)夯實(shí)價(jià)值對(duì)齊的底層倫理邏輯，以對(duì)信任的理性認(rèn)知構(gòu)建價(jià)值對(duì)齊的邊界?！遍Z宏秀教授總結(jié)道。

讓AI價(jià)值對(duì)齊落地，多國(guó)用立法進(jìn)行詮釋

多位嘉賓在論壇活動(dòng)上表示，明確了技術(shù)路徑，如何將技術(shù)理論結(jié)合實(shí)際需求盡快落地，無(wú)疑是現(xiàn)階段“AI價(jià)值對(duì)齊”議題的發(fā)展重點(diǎn)。

來(lái)自上海人工智能實(shí)驗(yàn)室治理研究中心的研究員滕妍指出，想要加速“AI價(jià)值對(duì)齊”的發(fā)展，除了“基于人類反饋進(jìn)行調(diào)整”之外，讓人工智能部分監(jiān)督，或者協(xié)調(diào)人類技術(shù)進(jìn)行監(jiān)督，提供一些高質(zhì)量的反饋數(shù)據(jù)來(lái)提高價(jià)值對(duì)齊能力，是目前各國(guó)熱度很高的研究方向之一，包括OpenAI在內(nèi)都對(duì)這個(gè)領(lǐng)域投入過(guò)不少關(guān)注。

“除此之外，在‘確認(rèn)大模型是否對(duì)齊’的評(píng)估環(huán)節(jié)，除了采用人工手段進(jìn)行驗(yàn)證之外，通過(guò)專用的AI模型來(lái)進(jìn)行評(píng)測(cè)，同樣逐漸成為行業(yè)的趨勢(shì)所在?！彪J(rèn)為，從準(zhǔn)確率來(lái)看，評(píng)測(cè)模型依舊有提升空間，但從執(zhí)行與迭代的效率來(lái)看，利用AI大模型來(lái)加速人工智能價(jià)值對(duì)齊，前景十分可觀。

除了技術(shù)與倫理層面，在攸關(guān)社會(huì)現(xiàn)實(shí)運(yùn)轉(zhuǎn)的法律層面，“AI價(jià)值對(duì)齊”同樣帶來(lái)了全新的挑戰(zhàn)，對(duì)此，來(lái)自同濟(jì)大學(xué)法學(xué)院的助理教授朱悅，分享了最新的行業(yè)觀點(diǎn)：

“從國(guó)內(nèi)的《生成式人工智能信息安全服務(wù)規(guī)定》，到歐盟的《人工智能法案》，再到美國(guó)頭部企業(yè)的深度自治試驗(yàn)，在全球范圍內(nèi)，積極推動(dòng)AI大模型技術(shù)發(fā)展的國(guó)家和地區(qū)，都將相關(guān)法令研討提上了日程。而透明、可解釋和可問(wèn)責(zé)以及個(gè)人層面的隱私保護(hù)等詳盡問(wèn)題，都是現(xiàn)如今在立法過(guò)程中遇到的挑戰(zhàn)?！?/p>

朱悅指出，雖然在目前這個(gè)“AI價(jià)值對(duì)齊”依舊處于基礎(chǔ)技術(shù)迭代的早期階段，在法律層面上做出定論為時(shí)尚早，但從各國(guó)政府和跨國(guó)企業(yè)的積極性來(lái)看，通過(guò)立法對(duì)“AI價(jià)值對(duì)齊”進(jìn)行詮釋，并通過(guò)實(shí)踐來(lái)不斷完善，已經(jīng)是行業(yè)的大勢(shì)所趨。

圍繞AI對(duì)齊的方法論、監(jiān)管實(shí)施等話題，來(lái)自上海復(fù)旦大學(xué)計(jì)算機(jī)系的肖仰華教授、上海交通大學(xué)的張拳石副教授、對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院的許可副教授、安遠(yuǎn)AI資深研究經(jīng)理方亮、螞蟻集團(tuán)全面風(fēng)險(xiǎn)管理部專家王炳浩，以及騰訊優(yōu)圖實(shí)驗(yàn)室的高級(jí)研究員李珂、騰訊研究院高級(jí)研究員曹建峰，通過(guò)圓桌討論深入交換了觀點(diǎn)見(jiàn)解，從不同角度出發(fā)，剖析并肯定了“AI價(jià)值對(duì)齊”對(duì)人工智能行業(yè)發(fā)展的重要意義。

關(guān)注AI價(jià)值對(duì)齊 科技向善再進(jìn)一步

AI價(jià)值對(duì)齊，是當(dāng)前階段人工智能領(lǐng)域最具挑戰(zhàn)性的基礎(chǔ)研究項(xiàng)目之一，需要廣泛的學(xué)科和社會(huì)參與，其研究?jī)r(jià)值，更是攸關(guān)下一階段更強(qiáng)大的AI能否得以安全控制，實(shí)現(xiàn)AI向善的長(zhǎng)遠(yuǎn)目標(biāo)。AI價(jià)值對(duì)齊所蘊(yùn)含的倫理道德意義，也是與主辦方騰訊研究院一貫堅(jiān)持的“科技向善”理念吻合。

根據(jù)騰訊研究院華東基地秘書(shū)長(zhǎng)徐思彥介紹，騰訊研究院作為騰訊公司設(shè)立的智庫(kù)機(jī)構(gòu)，在上海設(shè)立了華東基地作為區(qū)域研究的交流平臺(tái)，聯(lián)合本地產(chǎn)學(xué)研各類機(jī)構(gòu)，通過(guò)對(duì)話沙龍、課題研究和白皮書(shū)等方式，開(kāi)展前沿科技、人工智能、未來(lái)城市、金融科技、工業(yè)互聯(lián)網(wǎng)等多領(lǐng)域的研究。

作為騰訊研究院華東基地打造的城市品牌系列活動(dòng)，“智創(chuàng)滬聯(lián)”論壇將定期邀請(qǐng)業(yè)界專家，探討在科技創(chuàng)新不斷的發(fā)展過(guò)程中，前沿科技的演變可能帶來(lái)的商業(yè)模式的變化以及涉及的相關(guān)政策和法律問(wèn)題。

作為第一期的“大模型價(jià)值對(duì)齊”研討活動(dòng)，得到了上海市人工智能行業(yè)協(xié)會(huì)、上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室、上海人工智能實(shí)驗(yàn)室治理研究中心，以及對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心協(xié)辦支持。