發(fā)布時(shí)間:2023-07-07 19:50:18
成都市青白江區回收奢侈品包電話(huà)13981937861,成都佳梵廢舊物資回收有限公司長(cháng)期回收空調、變壓器、配電柜、電腦、廢鐵、廢銅、電子電器、電線(xiàn)電纜、廢舊金屬、廢舊等物資,聯(lián)系電話(huà):13981937861,18980010174。
中新網(wǎng)上海7月7日電 題:大模型勿成“脫韁野馬” 人工智能何以“上善若水”?
中新網(wǎng)記者 鄭瑩瑩
勿以惡小而為之,勿以善小而不為。對于正在飛速發(fā)展的人工智能,人類(lèi)期待它為善去惡。
正在上海舉辦的2023世界人工智能大會(huì )(WAIC)上,大模型發(fā)展之熱、人工智能發(fā)展之安全,備受業(yè)界關(guān)注。
2023世界人工智能大會(huì )于7月6日至7月8日在上海舉辦,伴隨人工智能發(fā)展,機器人越來(lái)越“聰明”,通用人工智能的發(fā)展備受期待。中新網(wǎng)記者 湯彥俊 攝
不能讓大模型成為“脫韁野馬”
“大模型要監管和發(fā)展兼顧,我們不能盲目發(fā)展,讓大模型變成脫韁的野馬?!睆偷┐髮W(xué)教授、上海市數據科學(xué)重點(diǎn)實(shí)驗室主任肖仰華7日在2023世界人工智能大會(huì )“數據要素與隱私計算高峰論壇”上說(shuō)。
他指出,大模型的負面影響已經(jīng)顯現,比如對隱私的侵犯,“我們還是要建立大模型發(fā)展的安全底線(xiàn)、倫理標準和一些規范?!?/p>
另一方面,他也指出,我們不能因為有隱私方面的顧慮而放棄對大模型的應用,“從某種程度上說(shuō),大模型是一種先進(jìn)生產(chǎn)力,是個(gè)人和企業(yè)都要積極擁抱的。我們要正視隱私問(wèn)題,但也要積極應用大模型?!?/p>
如何在應用的同時(shí)保護用戶(hù)隱私?他表示,需要建立系統性的防范體系。
一方面,我們要建立起用戶(hù)對大模型隱私的安全意識,用戶(hù)要意識到:在使用大模型過(guò)程當中,數據有可能被服務(wù)方收集。
另一方面,提供大模型服務(wù)的廠(chǎng)商要提升服務(wù)的規范性,給用戶(hù)充分的知情權,要在用戶(hù)完全授權的情況下,在合理范圍內收集用戶(hù)數據。
肖仰華說(shuō),大模型,尤其是生成式大模型發(fā)展起來(lái)后,對隱私帶來(lái)了前所未有的挑戰,“生成式大模型往往是一種概率化的生成,是從海量的語(yǔ)料中拼接式生成的,所以傳統意義上的一些隱私侵犯認定在大模型時(shí)代就會(huì )失效,識別上困難,保護上更加困難?!?/p>
但在大模型領(lǐng)域,可以“用魔法打敗魔法”。
肖仰華表示,在大模型隱私保護方面,除了技術(shù)、法規方法,我們還有一條很重要的路徑——利用大模型自身的能力來(lái)保護我們的隱私,“其實(shí)大模型能力很強,可以識別出語(yǔ)料當中哪些內容是可能侵犯隱私的,我們已經(jīng)有那么多大模型,我們可以把它用在保護隱私的場(chǎng)景?!?/p>
2023世界人工智能大會(huì )于7月6日至7月8日在上海舉辦,今年的主題是“ 智聯(lián)世界 生成未來(lái)”?!≈行戮W(wǎng)記者 鄭瑩瑩 攝
人工智能何以“上善若水”?
“即使通用人工智能真正‘上善若水’,人與人工智能是否可以和諧共生,最終取決于人如何行為,而不是人工智能?!敝袊茖W(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理研究中心主任曾毅7日在2023世界人工智能大會(huì )“聚焦·大模型時(shí)代AIGC新浪潮可信Al論壇”上說(shuō)。
他將“人工智能與人類(lèi)”“人類(lèi)與螞蟻”作了類(lèi)比,指出:當我們的人工智能是人類(lèi),就像人類(lèi)是現在的螞蟻時(shí),如果人類(lèi)還在破壞環(huán)境、破壞其他生命,超級智能為什么要給人類(lèi)生存的權利?人類(lèi)沒(méi)有給超級智能更多的理由。
他說(shuō)這是一個(gè)開(kāi)放性的問(wèn)題,是一個(gè)科學(xué)問(wèn)題,是一個(gè)社會(huì )問(wèn)題,更是一個(gè)歷史問(wèn)題。
在曾毅看來(lái),最開(kāi)始的人工智能,當它沒(méi)有接受任何人類(lèi)數據的時(shí)候,它是一個(gè)無(wú)善無(wú)惡的算法。當它接觸到了社會(huì )和人類(lèi)的數據的時(shí)候,它變得有善有惡,這個(gè)時(shí)候它還不能明辨善惡。當與人類(lèi)價(jià)值觀(guān)校準、與環(huán)境價(jià)值觀(guān)校準的時(shí)候,它變得知善知惡。
“我們最終希望的是人工智能可以為善去惡?!彼f(shuō)。
他還指出,人工智能的倫理道德既不應該僅由研究人工智能的工程師來(lái)定義,更不應該在實(shí)驗室里主觀(guān)臆想,而是需要群體智慧,需要更多公眾參與定義。(完)