編者按(an) 當前(qian)，人工智能(neng)發(fa)展方(fang)興未艾，大(da)幅提(ti)升了人類認識世界和(he)改造世界的能(neng)力，同(tong)時也(ye)帶來一系(xi)列難以(yi)預知的風(feng)險挑戰。為幫助讀(du)者更好了解人工智能(neng)，本版今起推出“解讀(du)人工智能(neng)前(qian)沿技(ji)術趨勢”系(xi)列報道，分析(xi)技(ji)術變革深層邏輯，凝聚智能(neng)向善共識。

近期，國內外一些人(ren)工智能(neng)(neng)（AI）產品問答內容價值導向錯(cuo)誤的(de)(de)新聞頻上熱搜。隨著AI技術的(de)(de)發展(zhan)，AI的(de)(de)價值導向問題逐漸引發廣泛(fan)關(guan)注，“構(gou)建可(ke)信(xin)賴的(de)(de)AI系(xi)統(tong)”的(de)(de)呼聲越來越高。日前(qian)在2024年(nian)(nian)世界(jie)科技與發展(zhan)論(lun)壇期間發布的(de)(de)《2024年(nian)(nian)人(ren)工智能(neng)(neng)十大前(qian)沿技術趨勢(shi)展(zhan)望》，就列(lie)入了“人(ren)機(ji)對齊：構(gou)建可(ke)信(xin)賴的(de)(de)AI系(xi)統(tong)”。2024年(nian)(nian)世界(jie)互聯網大會烏鎮峰會也(ye)聚(ju)焦AI，釋放清晰信(xin)號——擁抱以人(ren)為本、智能(neng)(neng)向善的(de)(de)數字未來。

什(shen)么是(shi)可(ke)(ke)信賴的AI系(xi)統(tong)？構(gou)建可(ke)(ke)信賴的AI系(xi)統(tong)有哪些路徑？科技日報記者(zhe)就(jiu)以上問題采訪(fang)了相(xiang)關專家。

可靠穩定是關鍵

隨(sui)著AI在社會生(sheng)活和各個行(xing)業中滲(shen)透程(cheng)度的(de)(de)加(jia)深，其決(jue)策和行(xing)為的(de)(de)影(ying)響范圍也日益(yi)擴大(da)。例(li)如，在醫療、交通(tong)、金(jin)(jin)融等(deng)(deng)高風險領域(yu)(yu)，AI系統的(de)(de)決(jue)策影(ying)響著人(ren)們(men)的(de)(de)生(sheng)命、財產與福祉，一些錯誤決(jue)策可能(neng)直接(jie)威(wei)脅到人(ren)類生(sheng)命或財產安全。康奈爾(er)大(da)學約翰遜(xun)商學院講席教(jiao)授叢林介紹，AI在金(jin)(jin)融領域(yu)(yu)的(de)(de)應用(yong)主要(yao)包括資產管理、資產回報預測、資產定(ding)價等(deng)(deng)。“我們(men)希(xi)望(wang)金(jin)(jin)融領域(yu)(yu)的(de)(de)AI要(yao)準(zhun)確(que)。我們(men)并(bing)不需要(yao)它(ta)(ta)有(you)發散思維或特別有(you)創造力，而是希(xi)望(wang)它(ta)(ta)能(neng)給我們(men)準(zhun)確(que)的(de)(de)答(da)案，或是具有(you)一定(ding)的(de)(de)穩健性。”他說。

“確保AI系統(tong)可(ke)(ke)信(xin)賴(lai)(lai)，已經成(cheng)(cheng)為AI發(fa)展不可(ke)(ke)忽視(shi)的要(yao)求。這不僅是技術層面的改進，更是社(she)會倫理(li)與責(ze)任的體(ti)現。”中國科學(xue)技術大學(xue)人(ren)工智能(neng)(neng)與數據(ju)科學(xue)學(xue)院教(jiao)授王翔認為，可(ke)(ke)信(xin)賴(lai)(lai)AI系統(tong)不僅能(neng)(neng)讓技術更好地(di)滿足人(ren)類需求，還能(neng)(neng)有(you)(you)效防范(fan)AI誤判和偏見可(ke)(ke)能(neng)(neng)引發(fa)的負面效應。可(ke)(ke)信(xin)賴(lai)(lai)的AI系統(tong)不但要(yao)有(you)(you)優秀的預(yu)(yu)測、生成(cheng)(cheng)、決(jue)策等業務能(neng)(neng)力，而且在透明度(du)、公(gong)平性、可(ke)(ke)解釋性、安(an)全性等方面也要(yao)符合用戶預(yu)(yu)期(qi)。

其(qi)中(zhong)(zhong)，可(ke)解釋性(xing)是(shi)(shi)指用戶應(ying)能(neng)(neng)夠理解AI的(de)行為和決(jue)策流程(cheng)，以(yi)便增強用戶對AI的(de)信任，并(bing)(bing)更好地加以(yi)利用。公平(ping)性(xing)要求AI的(de)決(jue)策不應(ying)受到偏見影響(xiang)，避(bi)免形成(cheng)對不同群體的(de)歧視(shi)。安全性(xing)則是(shi)(shi)指AI系統(tong)在(zai)運行過程(cheng)中(zhong)(zhong)不會帶來安全隱患，并(bing)(bing)能(neng)(neng)在(zai)一定范圍內(nei)控制自身行為，特別是(shi)(shi)在(zai)極端或意外(wai)情況下要能(neng)(neng)保護人類安全。“AI系統(tong)還需(xu)要具備可(ke)靠(kao)性(xing)和穩定性(xing)，這要求它(ta)的(de)表現在(zai)復雜和變化的(de)開發(fa)環境中(zhong)(zhong)也要始(shi)終如(ru)一，不輕易受到外(wai)部因素干擾。”王翔說(shuo)。

人機對齊是前提

那么，如(ru)何確保(bao)AI系(xi)統(tong)可信賴？王翔認為，人機對齊與構建(jian)可信賴的AI系(xi)統(tong)之間關系(xi)密切。“只(zhi)有具備(bei)人機對齊特質(zhi)的AI系(xi)統(tong)，才(cai)能(neng)進一步實現可信賴的特性。”他說(shuo)。

從概念(nian)上(shang)看(kan)，人(ren)(ren)機(ji)對(dui)齊(qi)是(shi)指確保AI系統(tong)在執(zhi)行(xing)任務、進(jin)行(xing)決策時，其行(xing)為、目標和價(jia)值(zhi)觀能(neng)夠(gou)與人(ren)(ren)類保持一致。“這就是(shi)說(shuo)，AI系統(tong)在自我優化和執(zhi)行(xing)任務過程中，不僅要高效完(wan)成任務，還要符合人(ren)(ren)類的(de)倫理和價(jia)值(zhi)體系，不能(neng)偏離人(ren)(ren)類設定的(de)目標或帶來不良(liang)的(de)社(she)會影響。”王翔進(jin)一步解釋，“尤其是(shi)在涉(she)及社(she)會倫理和安全的(de)場景(jing)中，確保AI輸出內容與人(ren)(ren)類的(de)價(jia)值(zhi)觀和道德準則(ze)相符，是(shi)人(ren)(ren)機(ji)對(dui)齊(qi)的(de)核心意義。”

如果AI系(xi)統(tong)沒(mei)有(you)經過(guo)(guo)人機對齊(qi)的(de)(de)(de)過(guo)(guo)程，即(ji)使具備強大的(de)(de)(de)功能(neng)和智能(neng)，也可能(neng)因不符合人類的(de)(de)(de)期(qi)望(wang)和價值觀而(er)導致(zhi)(zhi)信任危機或負面(mian)影響。“因此(ci)，確保AI系(xi)統(tong)在目標和行(xing)為(wei)上(shang)與人類保持(chi)一致(zhi)(zhi)是構(gou)建可信賴AI系(xi)統(tong)的(de)(de)(de)重要(yao)前提。兩(liang)者的(de)(de)(de)結合不僅能(neng)提升AI的(de)(de)(de)表(biao)現，還可為(wei)未來AI在各領域的(de)(de)(de)廣泛應用奠定基(ji)礎。”王翔說。

確保AI以(yi)人(ren)為本、智(zhi)能向善，完善倫(lun)理和法(fa)(fa)律(lv)框架是重要發(fa)力(li)方向。王翔認為，技術的(de)進步往(wang)往(wang)伴隨著新(xin)問(wen)題的(de)發(fa)生，因此需要設立法(fa)(fa)律(lv)邊界和倫(lun)理準則，為AI的(de)發(fa)展(zhan)提供(gong)指導與(yu)約束。這不僅可(ke)以(yi)減(jian)少AI應用中潛(qian)在的(de)倫(lun)理風險，還能使AI應用更加(jia)規范和安(an)全。此外，建(jian)設可(ke)信賴(lai)的(de)AI系統(tong)需要跨學科(ke)合(he)作，哲學、倫(lun)理學、社會學等學科(ke)的(de)參與(yu)能為AI的(de)設計(ji)與(yu)發(fa)展(zhan)提供(gong)更全面的(de)視角。

技術優化是(shi)手段

構(gou)建可信(xin)賴的AI系統，還需要在技術層(ceng)面和(he)(he)應用實踐中不斷探索和(he)(he)完善(shan)。王翔(xiang)介紹了三種主要的技術路徑。

一(yi)是數據驅(qu)動路徑。王翔(xiang)認(ren)為，數(shu)(shu)據質量和多樣性(xing)是實現可(ke)信(xin)賴AI的(de)(de)基(ji)礎。訓練數(shu)(shu)據的(de)(de)多樣性(xing)可(ke)以有效減少模(mo)型(xing)中的(de)(de)偏見問題，確(que)保系統決(jue)策更加公平(ping)、全面。“只有在龐(pang)大(da)的(de)(de)優質數(shu)(shu)據基(ji)礎上構建的(de)(de)AI模(mo)型(xing)才(cai)能(neng)適應(ying)廣泛的(de)(de)應(ying)用(yong)場景，降低(di)在特殊或(huo)極端條件下出現偏見的(de)(de)可(ke)能(neng)性(xing)。”王翔(xiang)說，數(shu)(shu)據的(de)(de)安全性(xing)也至關(guan)重要(yao)，尤其是在涉(she)及個人隱私的(de)(de)領域(yu)，保障數(shu)(shu)據安全可(ke)以提高用(yong)戶信(xin)任(ren)度(du)。

二是算法驅動路徑(jing)。王翔說，算法(fa)的(de)優化(hua)與(yu)控(kong)制是實現可信賴AI的(de)關鍵手段。在(zai)(zai)模(mo)型的(de)設(she)計階段，開(kai)發者(zhe)可以通過設(she)置倫理規(gui)則、嵌入人類價值觀等(deng)約(yue)束條件，確保系統在(zai)(zai)實際運行中(zhong)符合社(she)會準(zhun)則。同時，設(she)計透明的(de)算法(fa)結構有助(zhu)于提(ti)升模(mo)型的(de)可解釋(shi)性，便于用戶(hu)理解其運行機制，并為未來的(de)模(mo)型更新和優化(hua)打下基礎(chu)。

三是獎懲引導路(lu)徑。王翔說，通過(guo)合理設計獎(jiang)(jiang)懲(cheng)機(ji)(ji)(ji)制(zhi)，可以讓AI在(zai)不斷(duan)試錯(cuo)和學(xue)習(xi)過(guo)程中(zhong)，逐漸形成符(fu)合人類價值觀的(de)(de)行(xing)為方(fang)式。例(li)如，可以在(zai)獎(jiang)(jiang)懲(cheng)系統中(zhong)設置反饋機(ji)(ji)(ji)制(zhi)，當AI的(de)(de)行(xing)為偏離預期(qi)時(shi)施加相(xiang)應懲(cheng)罰，引導其在(zai)自(zi)我訓練過(guo)程中(zhong)符(fu)合人類期(qi)望。同時(shi)，獎(jiang)(jiang)懲(cheng)機(ji)(ji)(ji)制(zhi)需具備時(shi)代適(shi)應性，確(que)保AI系統能在(zai)運行(xing)中(zhong)持續更(geng)新并優化自(zi)身。

這三種技(ji)(ji)術路徑(jing)(jing)的(de)側(ce)重點各有不同(tong)(tong)。王翔(xiang)解釋，數(shu)(shu)據驅(qu)動(dong)路徑(jing)(jing)主要(yao)聚焦于通過高(gao)質(zhi)量(liang)、多樣化的(de)數(shu)(shu)據源減少AI系統(tong)的(de)偏見，提(ti)升(sheng)系統(tong)的(de)適用性；算(suan)法(fa)驅(qu)動(dong)路徑(jing)(jing)更(geng)注重模型(xing)的(de)設計和(he)透明性，使(shi)系統(tong)在行(xing)為邏輯上(shang)更(geng)符合人(ren)類預期(qi)；獎懲引(yin)導(dao)路徑(jing)(jing)則(ze)側(ce)重于在AI自我學習(xi)和(he)優化過程(cheng)中提(ti)供有效(xiao)指引(yin)和(he)反(fan)饋，讓系統(tong)逐漸(jian)趨向人(ren)類認可(ke)的(de)方向。“不同(tong)(tong)路徑(jing)(jing)相結合，可(ke)以(yi)為實現可(ke)信賴的(de)AI提(ti)供更(geng)加(jia)豐富的(de)技(ji)(ji)術支持。”王翔(xiang)說。

要構建可(ke)信賴的AI系統(tong)(tong)，還需在(zai)實(shi)際應用中不(bu)斷進行(xing)迭代和(he)優化。“通(tong)過(guo)多次評估和(he)測試(shi)，可(ke)以(yi)在(zai)不(bu)同環境和(he)條件下驗證AI系統(tong)(tong)的性(xing)能，確保(bao)其在(zai)現(xian)實(shi)應用中的表(biao)現(xian)符合人類預期。”王翔說。

聲明：轉載此圖文是出于傳遞更多信息之目的。若有來源標注錯誤或侵犯了您的合法權益，請作者持權屬證明與本網聯系，我們將及時更正、刪除，謝謝。

來源： 科技日報