問(wèn)題明確？微軟總裁稱目前人工智能最令人擔(dān)憂的問(wèn)題是深度造假環(huán)球微動(dòng)態(tài)

2023-05-28 21:00:25 來(lái)源：科技美學(xué) 編輯：

(資料圖片僅供參考)

前段時(shí)間，小編向大家介紹過(guò)，隨著最近GPT-4語(yǔ)言模型的正式投入使用，ChatGPT也帶來(lái)了全新的插件——網(wǎng)絡(luò)瀏覽器和代碼解釋器，賦予ChatGPT使用工具、聯(lián)網(wǎng)、運(yùn)行計(jì)算的能力。

更新后，跟據(jù)全球媒體的反饋來(lái)看，GPT-4相較于確實(shí)有很大的性能提升，但出乎全球AI關(guān)注者的意料的是最近這種能力似乎有了全新的進(jìn)化。

(GPT-4反思后，準(zhǔn)確率為88%，之前為67%)

一名前谷歌大腦研究工程師發(fā)現(xiàn)了GPT-4可以合理的方式批評(píng)自己的成果，也就是說(shuō)GPT-4模型已經(jīng)有了一定的反思能力，這再一次加快了GPT-4模型的進(jìn)化速度，據(jù)相關(guān)媒體測(cè)試稱，有了反思能力的GPT-4測(cè)試成功率相較于沒(méi)有反思能力的GPT-4提升了30%。

但也是由于性能過(guò)強(qiáng)超出預(yù)想，使得其發(fā)展速度可以加重了用戶對(duì)于個(gè)人信息安全的擔(dān)憂，并且對(duì)ChatGPT是否可控提出了質(zhì)疑。

根據(jù)網(wǎng)絡(luò)安全公司Darktrace公布的最新研究報(bào)告，攻擊者使用ChatGPT等生成式AI，通過(guò)增加文本描述、標(biāo)點(diǎn)符號(hào)和句子長(zhǎng)度，讓社會(huì)工程攻擊量增加了135%。

而作為OpenAI的主要投資方，微軟的總裁布拉德·史密斯周四表示，他對(duì)人工智能的最大擔(dān)憂是深度造假，隨著各式各樣的人工智能工具出現(xiàn)，這類看起來(lái)很逼真但實(shí)際是虛假的內(nèi)容如今越來(lái)越普遍了。

此外，他還呼吁采取措施，以確保人們能夠判定照片或視頻的真實(shí)性。史密斯強(qiáng)調(diào)，“我們需要采取措施防止合法內(nèi)容被篡改，以及防止意圖通過(guò)使用人工智能進(jìn)行欺騙的行為。”

史密斯還呼吁支持成立新機(jī)構(gòu)來(lái)監(jiān)管ChatGPT等流行AI，以“承擔(dān)保護(hù)安全、物理安全、網(wǎng)絡(luò)安全和國(guó)家安全的義務(wù)”。

史密斯還在演講中和周四發(fā)表的一篇博文中指出，人們需要對(duì)AI造成的任何問(wèn)題負(fù)責(zé)，他敦促立法者確保對(duì)有關(guān)民生工程的AI技術(shù)進(jìn)行安全監(jiān)管。史密斯說(shuō)：“我們需要更多的實(shí)踐和監(jiān)管來(lái)確保人工智能在正確的軌道上運(yùn)行”。

而在此前，人們一直擔(dān)心AI的潛在風(fēng)險(xiǎn)，包括它對(duì)工作的威脅以及錯(cuò)誤信息和偏見(jiàn)的傳播。意大利數(shù)據(jù)保護(hù)機(jī)構(gòu)表示，意大利不僅會(huì)阻止OpenAI 的聊天機(jī)器人，還會(huì)調(diào)查它是否符合通用數(shù)據(jù)保護(hù)條例。

此外，愛(ài)爾蘭數(shù)據(jù)保護(hù)委員會(huì)也表示，該機(jī)構(gòu)正在與意大利監(jiān)管機(jī)構(gòu)跟進(jìn)，以了解他們采取行動(dòng)的依據(jù)，來(lái)保護(hù)本國(guó)用戶的信息安全。

而近期，據(jù)相關(guān)媒體報(bào)道稱，不只是意大利，德國(guó)、法國(guó)等國(guó)家也可能跟隨意大利的做法對(duì)ChatGPT進(jìn)行停用，并且德國(guó)相關(guān)組織表示已經(jīng)與意大利相關(guān)組織進(jìn)行了聯(lián)系，并討論了調(diào)查結(jié)果。隨后歐洲數(shù)據(jù)保護(hù)委員會(huì)表示，已成立ChatGPT特別工作組，這可能是朝著制定人工智能隱私規(guī)則通用政策方面邁出的重要一步。

目前，全球都在對(duì)AI接下來(lái)的安全問(wèn)題進(jìn)行更多關(guān)注，感興趣的小伙伴可以保持關(guān)注。

2299元起，iQOO Neo8系列發(fā)布，新機(jī)開(kāi)箱體驗(yàn)

小米Civi3發(fā)布會(huì)正式定檔，外觀引人關(guān)注！

華為鴻蒙份額達(dá) 8%，手機(jī)操作系統(tǒng)市場(chǎng)格局再變化

關(guān)鍵詞：

相關(guān)閱讀

分享到：

版權(quán)和免責(zé)申明

凡注有"環(huán)球傳媒網(wǎng)"或電頭為"環(huán)球傳媒網(wǎng)"的稿件，均為環(huán)球傳媒網(wǎng)獨(dú)家版權(quán)所有，未經(jīng)許可不得轉(zhuǎn)載或鏡像；授權(quán)轉(zhuǎn)載必須注明來(lái)源為"環(huán)球傳媒網(wǎng)"，并保留"環(huán)球傳媒網(wǎng)"的電頭。

深圳南财多媒体有限公司介绍

新視野

資訊

焦點(diǎn)