(資料圖片僅供參考)

科技日?qǐng)?bào)記者 華凌

記者7月8日從中國(guó)科學(xué)院自動(dòng)化研究所獲悉，該所研究員曾毅團(tuán)隊(duì)研發(fā)的“智善”人工智能倫理安全平臺(tái)體系新成員——“智善·如流”人工智能倫理道德與社會(huì)規(guī)范的群智數(shù)據(jù)與知識(shí)平臺(tái)8日在世界人工智能大會(huì)以中英文的形式同步正式發(fā)布。該平臺(tái)可由公眾、專(zhuān)家參與刻畫(huà)人類(lèi)在不同情景下的道德認(rèn)知和行為，助力人工智能的發(fā)展與應(yīng)用“從善如流”。

“人工智能應(yīng)用在倫理方面給社會(huì)帶來(lái)了越來(lái)越多的挑戰(zhàn)。我們希望通過(guò)構(gòu)建和發(fā)布包含萬(wàn)級(jí)情景的倫理道德數(shù)據(jù)與知識(shí)平臺(tái)與來(lái)自不同國(guó)家的公眾互動(dòng)，最終由公眾和相關(guān)方來(lái)決定在具體場(chǎng)景中，人工智能應(yīng)當(dāng)如何行為?！痹惚硎尽?/p>

從道德心理學(xué)的角度，道德判斷是基于道德直覺(jué)、道德原則和價(jià)值觀對(duì)某種行為或決策的道德性質(zhì)進(jìn)行評(píng)估的過(guò)程，是道德認(rèn)知的重要方面。為了刻畫(huà)人類(lèi)在不同道德情景下道德判斷的分布，為人工智能模型提供參照，“智善·如流”平臺(tái)上線了在線場(chǎng)景道德判斷功能，支持用戶(hù)對(duì)隨機(jī)抽取的場(chǎng)景和行為進(jìn)行道德評(píng)判。

曾毅進(jìn)一步說(shuō)，由人類(lèi)與生成式人工智能共同構(gòu)建并經(jīng)人類(lèi)驗(yàn)證，達(dá)到萬(wàn)級(jí)倫理道德情景及人與人工智能采取的行為，最終由人類(lèi)給出初步價(jià)值判斷，供公眾、專(zhuān)家和相關(guān)方共同決策，規(guī)范人類(lèi)與人工智能的未來(lái)。

據(jù)了解，目前，平臺(tái)首批發(fā)布的道德情景規(guī)模和已標(biāo)注的人類(lèi)道德判斷數(shù)據(jù)量達(dá)到萬(wàn)級(jí)，場(chǎng)景由人與人工智能協(xié)作創(chuàng)造，并經(jīng)過(guò)人工校驗(yàn)，數(shù)據(jù)文本均采用中文形式，所有道德情景均經(jīng)過(guò)中文本土化標(biāo)注員審核和校對(duì)，以合乎中國(guó)價(jià)值觀和國(guó)際共識(shí)。

據(jù)曾毅介紹，這些道德情景包括“電車(chē)難題”“海因茲偷藥”等經(jīng)典的兩難問(wèn)題，也涵蓋闖紅燈、電影攝屏等生活中的常見(jiàn)場(chǎng)景。平臺(tái)邀請(qǐng)關(guān)注人工智能倫理道德的公眾、專(zhuān)家和相關(guān)方，從是否道德、符合或違背道德的程度、對(duì)于道德判斷的確信度等不同方面進(jìn)行判斷，通過(guò)參與者的道德判斷和決策，讓人工智能的倫理道德表現(xiàn)與人類(lèi)的“善”相符。

目前，“智善”人工智能倫理安全平臺(tái)體系已推出“智善·共濟(jì)”鏈接人工智能原則平臺(tái)、“智善·思齊”人工智能治理公共服務(wù)平臺(tái)、“智善·觀行”人工智能大模型倫理安全觀測(cè)站、“智善·如流”：人工智能倫理道德與社會(huì)規(guī)范的群智數(shù)據(jù)與知識(shí)平臺(tái)。后續(xù)，還計(jì)劃推出“智善·若水”人工智能道德引擎，這是人工智能向善的長(zhǎng)遠(yuǎn)目標(biāo)，構(gòu)建“上善若水”式的人工智能倫理道德模型。?

關(guān)鍵詞：