九九这里有精品,色婷婷久久综合中文久久蜜桃,操比动态图,久草热草,**aaaa毛片免费视频,一级毛片aa**免费观看,成人免费aaaaa毛片

中國(guó)企業(yè)報(bào)集團(tuán)主管主辦

中國(guó)企業(yè)信息交流平臺(tái)

微博 微信

部分AI系統(tǒng)已學(xué)會(huì)欺騙人類(lèi)

2024-05-11 10:35 來(lái)源:科技日?qǐng)?bào) 次閱讀
 
部分AI系統(tǒng)已學(xué)會(huì)欺騙人類(lèi)

  科技日?qǐng)?bào)北京5月10日電 (記者張夢(mèng)然)有些人工智能(AI)系統(tǒng)已學(xué)會(huì)了欺騙人類(lèi),即使是經(jīng)過(guò)訓(xùn)練的、“表現(xiàn)”出有用且誠(chéng)實(shí)的系統(tǒng)。10日發(fā)表在《模式》雜志上的一篇文章中,研究人員描述了欺騙性AI的風(fēng)險(xiǎn),并呼吁政府制定強(qiáng)有力的法規(guī)盡快解決這個(gè)問(wèn)題。

  【總編輯圈點(diǎn)】

  論文第一作者、美國(guó)麻省理工學(xué)院人工智能安全研究員彼得·樸說(shuō),開(kāi)發(fā)人員對(duì)導(dǎo)致AI出現(xiàn)欺騙這種不良行為的原因,還沒(méi)有很好的理解。但總的來(lái)說(shuō),AI欺騙之所以出現(xiàn),是因?yàn)榛谄垓_的策略,是在給定的AI訓(xùn)練任務(wù)中一種能得到良好反饋的方式,換句話說(shuō),欺騙可幫助AI實(shí)現(xiàn)目標(biāo)。

  研究人員分析了文獻(xiàn),重點(diǎn)關(guān)注AI系統(tǒng)傳播虛假信息的方式。通過(guò)欺騙,AI系統(tǒng)地學(xué)習(xí)了如何去操縱他人。

  研究人員在分析中發(fā)現(xiàn)的最引人注目的例子是Meta公司的CICERO。這是一個(gè)專(zhuān)注于《外交》游戲的AI系統(tǒng),《外交》是一款涉及建立聯(lián)盟征服世界的游戲。Meta聲稱(chēng)訓(xùn)練 CICERO “在很大程度上是誠(chéng)實(shí)和樂(lè)于助人的 ”,且在玩游戲時(shí)“從不故意背刺 ”人類(lèi)盟友。但該公司與《科學(xué)》論文一起發(fā)布的數(shù)據(jù)顯示,CICERO并不那么“忠厚”。

  研究人員發(fā)現(xiàn)這款A(yù)I或已成為欺騙大師。雖然Meta成功地訓(xùn)練其在《外交》游戲中獲勝,但Meta未能訓(xùn)練它誠(chéng)實(shí)地獲勝。

  AI系統(tǒng)在游戲中作弊看似無(wú)害,但它將導(dǎo)致欺騙性AI在能力上出現(xiàn)突破,未來(lái)可能會(huì)演變成更高級(jí)的欺騙形式。一些AI系統(tǒng)甚至學(xué)會(huì)了欺騙旨在評(píng)估其安全性的測(cè)試。在一項(xiàng)研究中,數(shù)字模擬器中的AI生物會(huì)“裝死”,以騙過(guò)旨在消除快速?gòu)?fù)制AI系統(tǒng)的重要測(cè)試。

  人類(lèi)需要盡快對(duì)未來(lái)AI和開(kāi)源模型的更高級(jí)欺騙技能作好準(zhǔn)備。隨著它們的欺騙能力越來(lái)越先進(jìn),其對(duì)社會(huì)構(gòu)成的危險(xiǎn)將變得越來(lái)越嚴(yán)重。如文中所稱(chēng),它們會(huì)順利通過(guò)人類(lèi)開(kāi)發(fā)人員和監(jiān)管機(jī)構(gòu)強(qiáng)加的安全測(cè)試,引導(dǎo)人類(lèi)進(jìn)入一種“虛假的安全感”。如果欺騙性AI進(jìn)一步完善這種令人不安的技能,人類(lèi)可能會(huì)完全失去對(duì)它們的控制。

點(diǎn)贊()
上一條:加強(qiáng)數(shù)據(jù)共享迫在眉睫,Akamai以零信任守護(hù)安全合規(guī)2024-05-10
下一條:部分AI系統(tǒng)已學(xué)會(huì)欺騙人類(lèi)2024-05-11

相關(guān)稿件

王海峰:AI技術(shù)會(huì)替代部分人類(lèi)崗位但也會(huì)創(chuàng)造更多工作機(jī)會(huì) 2023-05-02
重磅!元蝴蝶AI系統(tǒng)正式發(fā)布上線! 2024-03-16
AMD在北京AI PC創(chuàng)新峰會(huì)上展示Ryzen AI PC生態(tài)系統(tǒng)的強(qiáng)大實(shí)力 2024-03-22
李彥宏:AI搶不走人類(lèi)飯碗 2023-05-24
人工智能會(huì)在幾年內(nèi)超越人類(lèi)嗎 2024-04-14
國(guó)務(wù)院國(guó)有資產(chǎn)管理委員會(huì) 中國(guó)企業(yè)聯(lián)合會(huì) 中國(guó)企業(yè)報(bào) 中國(guó)社會(huì)經(jīng)濟(jì)網(wǎng) 中國(guó)國(guó)際電子商務(wù)網(wǎng) 新浪財(cái)經(jīng) 鳳凰財(cái)經(jīng) 中國(guó)報(bào)告基地 企業(yè)社會(huì)責(zé)任中國(guó)網(wǎng) 杭州網(wǎng) 中國(guó)產(chǎn)經(jīng)新聞網(wǎng) 環(huán)球企業(yè)家 華北新聞網(wǎng) 和諧中國(guó)網(wǎng) 天機(jī)網(wǎng) 中貿(mào)網(wǎng) 湖南經(jīng)濟(jì)新聞網(wǎng) 翼牛網(wǎng) 東莞二手房 中國(guó)經(jīng)濟(jì)網(wǎng) 中國(guó)企業(yè)網(wǎng)黃金展位頻道 硅谷網(wǎng) 東方經(jīng)濟(jì)網(wǎng) 華訊財(cái)經(jīng) 網(wǎng)站目錄 全景網(wǎng) 中南網(wǎng) 美通社 大佳網(wǎng) 火爆網(wǎng) 跨考研招網(wǎng) 當(dāng)代金融家雜志 借貸撮合網(wǎng) 大公財(cái)經(jīng) 誠(chéng)搜網(wǎng) 中國(guó)鋼鐵現(xiàn)貨網(wǎng) 證券之星 融易在線 2014世界杯 中華魂網(wǎng) 納稅人俱樂(lè)部 慧業(yè)網(wǎng) 商界網(wǎng) 品牌家 中國(guó)國(guó)資報(bào)道 金融界 中國(guó)農(nóng)業(yè)新聞網(wǎng) 中國(guó)招商聯(lián)盟 和訊股票 經(jīng)濟(jì)網(wǎng) 中國(guó)數(shù)據(jù)分析行業(yè)網(wǎng) 中國(guó)報(bào)道網(wǎng) 九州新聞網(wǎng) 投資界 北京科技創(chuàng)新企業(yè)誠(chéng)信聯(lián)盟網(wǎng) 中國(guó)白銀網(wǎng) 炣燃科技 中企媒資網(wǎng) 中國(guó)石油化工集團(tuán) 中國(guó)保利集團(tuán)公司 東風(fēng)汽車(chē)公司 中國(guó)化工集團(tuán)公司 中國(guó)電信集團(tuán)公司 華為技術(shù)有限公司 廈門(mén)銀鷺食品有限公司 中國(guó)恒天集團(tuán)有限公司 濱州東方地毯集團(tuán)有限公司 大唐電信科技股份有限公司 中國(guó)誠(chéng)通控股集團(tuán)有限公司 喜來(lái)健醫(yī)療器械有限公司 中國(guó)能源建設(shè)股份有限公司 內(nèi)蒙古伊利實(shí)業(yè)集團(tuán)股份有限公司 中國(guó)移動(dòng)通信集團(tuán)公司 中國(guó)化工集團(tuán)公司 貴州茅臺(tái)酒股份有限公司