深圳南财多媒体有限公司介绍

您的位置:首頁 > 趣聞 > 正文

OpenAI高層提議設(shè)立參考IAEA模式設(shè)立AI國際監(jiān)管機(jī)構(gòu)

人工智能的發(fā)展足夠迅速,它可能帶來的危險(xiǎn)也足夠明顯,以至于OpenAI的領(lǐng)導(dǎo)層認(rèn)為,世界需要一個(gè)類似于管理核能的國際監(jiān)管機(jī)構(gòu)--而且要快,但不要太快。在公司博客的一篇文章中,OpenAI的創(chuàng)始人Sam Altman、總裁Greg Brockman和首席科學(xué)家Ilya Sutskever解釋說,人工智能的創(chuàng)新速度如此之快,以至于我們不能指望現(xiàn)有的機(jī)構(gòu)能夠充分地控制這項(xiàng)技術(shù)。

雖然這里有某種拍馬屁的質(zhì),但任何公正的觀察者都清楚,這項(xiàng)技術(shù),最明顯的是OpenAI的爆炸流行的ChatGPT對(duì)話機(jī)器人,代表了一種獨(dú)特的威脅,也是一種寶貴的資產(chǎn)。

文章在細(xì)節(jié)和承諾方面比較輕描淡寫,但也承認(rèn)人工智能不會(huì)自己管理自己:

我們需要在領(lǐng)先的開發(fā)工作中進(jìn)行某種程度的協(xié)調(diào),以確保超級(jí)智能的發(fā)展以一種既能讓我們保持安全又能幫助這些系統(tǒng)與社會(huì)順利整合的方式進(jìn)行。

我們最終可能需要一個(gè)類似于[國際原子能機(jī)構(gòu)]的機(jī)構(gòu)來開展超級(jí)智能工作;任何超過一定能力(或計(jì)算等資源)門檻的努力都需要接受國際權(quán)威機(jī)構(gòu)的檢查,要求進(jìn)行審計(jì),測(cè)試是否符合安全標(biāo)準(zhǔn),對(duì)部署程度和安全級(jí)別進(jìn)行限制,等等。

IAEA是聯(lián)合國在核電問題上進(jìn)行國際合作的官方機(jī)構(gòu),就像核不擴(kuò)散監(jiān)管一樣,建立在這種模式上的人工智能管理機(jī)構(gòu)可能無法進(jìn)入并打開不良行為者的開關(guān),但它可以建立并跟蹤國際標(biāo)準(zhǔn)和協(xié)議,這至少是一個(gè)起點(diǎn)。

OpenAI的帖子指出,跟蹤用于人工智能研究的計(jì)算能力和能源使用情況是相對(duì)較少的客觀措施之一,可以而且可能應(yīng)該被報(bào)告和跟蹤。雖然可能很難說人工智能應(yīng)該或不應(yīng)該被用于哪些領(lǐng)域,但說用于人工智能的資源應(yīng)該像其他行業(yè)一樣受到監(jiān)督和審計(jì)可能是有價(jià)值的。(該公司也建議較小的AI公司可以豁免監(jiān)管,以避免扼殺創(chuàng)新的綠芽)。

領(lǐng)先的人工智能研究員和評(píng)論家Timnit Gebru今天在接受《衛(wèi)報(bào)》采訪時(shí)說了類似的話:"除非有外部壓力要求做一些不同的事情,否則公司是不會(huì)自我監(jiān)管的。我們需要監(jiān)管,我們需要比單純的利潤動(dòng)機(jī)更好的模式。"

OpenAI明顯接受了后者,這讓許多希望它名副其實(shí)的人感到驚愕,但至少作為市場(chǎng)領(lǐng)導(dǎo)者,它也在呼吁在治理方面采取真正的行動(dòng)--除了最的聽證會(huì),參議員們排隊(duì)發(fā)表連任演講,文稿大多以問句結(jié)束。

雖然該建議相當(dāng)于"也許我們應(yīng)該,比如,做一些事情",但它至少是行業(yè)內(nèi)的一個(gè)對(duì)話啟動(dòng)器,表明世界上最大的單一人工智能品牌和供應(yīng)商支持做一些事情。迫切需要公共監(jiān)督,但"我們還不知道如何設(shè)計(jì)這樣一個(gè)機(jī)制"。

雖然該公司的領(lǐng)導(dǎo)人說他們支持踩剎車,但現(xiàn)在還沒有計(jì)劃這樣做,因?yàn)樗麄儾幌敕艞?quot;改善我們的社會(huì)"(更不用說底線)的巨大潛力,也因?yàn)橛幸环N風(fēng)險(xiǎn),即壞的行為者已經(jīng)把他們的腳放在油門上。

主站蜘蛛池模板: 电动卫生级调节阀,电动防爆球阀,电动软密封蝶阀,气动高压球阀,气动对夹蝶阀,气动V型调节球阀-上海川沪阀门有限公司 | 工控机,嵌入式主板,工业主板,arm主板,图像采集卡,poe网卡,朗锐智科 | 不锈钢螺丝,不锈钢螺栓,不锈钢标准件-江苏百德特种合金有限公司 交变/复合盐雾试验箱-高低温冲击试验箱_安奈设备产品供应杭州/江苏南京/安徽马鞍山合肥等全国各地 | 柔性输送线|柔性链板|齿形链-上海赫勒输送设备有限公司首页[输送机] | 「阿尔法设计官网」工业设计_产品设计_产品外观设计 深圳工业设计公司 | 低温等离子清洗机(双气路进口)-嘉润万丰| 体感VRAR全息沉浸式3D投影多媒体展厅展会游戏互动-万展互动 | 卓能JOINTLEAN端子连接器厂家-专业提供PCB接线端子|轨道式端子|重载连接器|欧式连接器等电气连接产品和服务 | 大白菜官网,大白菜winpe,大白菜U盘装系统, u盘启动盘制作工具 | 废气处理设备-工业除尘器-RTO-RCO-蓄热式焚烧炉厂家-江苏天达环保设备有限公司 | 根系分析仪,大米外观品质检测仪,考种仪,藻类鉴定计数仪,叶面积仪,菌落计数仪,抑菌圈测量仪,抗生素效价测定仪,植物表型仪,冠层分析仪-杭州万深检测仪器网 | 智能电表|预付费ic卡水电表|nb智能无线远传载波电表-福建百悦信息科技有限公司 | 南京技嘉环保科技有限公司-杀菌除臭剂|污水|垃圾|厕所|橡胶厂|化工厂|铸造厂除臭剂 | 高尔夫球杆_高尔夫果岭_高尔夫用品-深圳市新高品体育用品有限公司 | 阻垢剂-反渗透缓蚀阻垢剂厂家-山东鲁东环保科技有限公司 | 标准件-非标紧固件-不锈钢螺栓-非标不锈钢螺丝-非标螺母厂家-三角牙锁紧自攻-南京宝宇标准件有限公司 | 户外环保不锈钢垃圾桶_标识标牌制作_园林公园椅厂家_花箱定制-北京汇众环艺 | 单电机制砂机,BHS制砂机,制沙机设备,制砂机价格-正升制砂机厂家 单级/双级旋片式真空泵厂家,2xz旋片真空泵-浙江台州求精真空泵有限公司 | 劳动法网-专业的劳动法和劳动争议仲裁服务网 | 不锈钢法兰-碳钢法兰-法兰盘生产加工厂家-[鼎捷峰]-不锈钢法兰-碳钢法兰-法兰盘生产加工厂家-[鼎捷峰] | 无轨电动平车_轨道平车_蓄电池电动平车★尽在新乡百特智能转运设备有限公司 | 吊篮式|移动式冷热冲击试验箱-二槽冷热冲击试验箱-广东科宝 | 博莱特空压机|博莱特-阿特拉斯独资空压机品牌核心代理商 | 不干胶标签,不干胶标签纸_厂家-山东同力胶粘制品 | 污水提升器,污水提升泵,地下室排水,增压泵,雨水泵,智能供排水控制器-上海智流泵业有限公司 | 小程序开发公司_APP开发多少钱_软件开发定制_微信小程序制作_客户销售管理软件-济南小溪畅流网络科技有限公司 | 轻型地埋电缆故障测试仪,频响法绕组变形测试仪,静荷式卧式拉力试验机-扬州苏电 | 郑州爱婴幼师学校_专业幼师培训_托育师培训_幼儿教育培训学校 | 潍坊大集网-潍坊信息港-潍坊信息网 | 冷藏车-东风吸污车-纯电动环卫车-污水净化车-应急特勤保障车-程力专汽厂家-程力专用汽车股份有限公司销售二十一分公司 | 海日牌清洗剂-打造带电清洗剂、工业清洗剂等清洗剂国内一线品牌 海外整合营销-独立站营销-社交媒体运营_广州甲壳虫跨境网络服务 | 智能家居全屋智能系统多少钱一套-小米全套价格、装修方案 | 外贸资讯网 - 洞悉全球贸易,把握市场先机 | 选矿设备-新型重选设备-金属矿尾矿重选-青州冠诚重工机械有限公司 | 超声波分散机-均质机-萃取仪-超声波涂料分散设备-杭州精浩 | 河南中专学校|职高|技校招生-河南中职中专网 | 气力输送设备_料封泵_仓泵_散装机_气化板_压力释放阀-河南锐驰机械设备有限公司 | 外贸资讯网 - 洞悉全球贸易,把握市场先机 | 刚性-柔性防水套管-橡胶伸缩接头-波纹管补偿器-启腾供水材料有限公司 | 小程序开发公司-小程序制作-微信小程序开发-小程序定制-咏熠软件 | 澳门精准正版免费大全,2025新澳门全年免费,新澳天天开奖免费资料大全最新,新澳2025今晚开奖资料,新澳马今天最快最新图库-首页-东莞市傲马网络科技有限公司 |