谷歌研發(fā)能末日攻擊的“切斷開關”防人工智能威脅

2016-06-06 11:43:58來源：36氪原標題：谷歌在研發(fā)人工智能末日攻擊的“切斷開關” 關鍵詞：機器人人工智能 AI閱讀量：31812

導讀：天生具備拯救人類使命感的 Elon Musk 以及地球聰明的大腦之一霍金都認為，機器對人類的威脅并非杞人憂天。

　　【中國智能制造網(wǎng) 企業(yè)動態(tài)】Google收購的英國人工智能公司DeepMind已經(jīng)展現(xiàn)出AI先進的自學能力，其算法不僅在玩游戲比人厲害，而且還在與人類圍棋選手的對決中取得了壓倒性的勝利。這不僅引發(fā)了AI超越人類的擔憂，甚至還有人擔心類似《未來終結(jié)者》那樣天網(wǎng)對人類殺戮時刻的到來。現(xiàn)在DeepMind決定未雨綢繆，據(jù)英國鏡報報道，在近日公布的一篇論文中，DeepMind提出了給機器人安裝“切斷開關(killswitch)”的想法，為的是阻止AI學會如何阻止人類對某項活動(比方說發(fā)射核武器)的干預。用專業(yè)術(shù)語來說，這叫做“安全可中斷性”。

　　關于安全科中斷性的作用，論文寫道：安全可中斷性可用于控制機器人不端甚至可能導致不可逆后果的行為，或者將其從微妙處境中脫身出來，或者甚至臨時用來實現(xiàn)某項機器人尚未學會執(zhí)行或者未必會為此受到獎勵的任務。

　　天生具備拯救人類使命感的ElonMusk以及地球聰明的大腦之一霍金都認為，機器對人類的威脅并非杞人憂天。去年底的時候，Musk和孵化器YC的總裁SamAltman共同宣布設立一家非盈利的人工智能公司OpenAI。他們希望，這個項目能夠抵消邪惡的人工超級智能可能帶來的威脅。這種威脅的可能性正如牛津大學的哲學家NickBostrom發(fā)出的警告一樣—如果毫無限制地分享人工智能的研究成果，在沒能確保安全的情況下，一些不懷好意的人可能就會利用它干壞事：“如果你有一個按鈕，只要按一下就能夠?qū)κ澜缭斐善茐�，你肯定不希望每個人都擁有一個這樣按鈕。”而DeepMind的研究，就是對這樣一種按鈕的切斷按鈕。不過將來的問題也許是，哪一個按鈕會先起效？

上一篇：Facebook發(fā)布人工智能搜索引擎 DeepText

下一篇：惠普和Carbon正在從軟件方向等顛覆3D打印行業(yè)

我要評論

高燃直擊2024世界智能制造博覽會！譜寫智能制造領域全新篇章
2024世界智能制造博覽會于12月20日至22日在南京國際博覽中心盛大舉行。本屆展覽聚焦智能制造領域先進技術(shù)產(chǎn)品、系統(tǒng)解決方案和行業(yè)示范應用等，為參展商與觀眾搭建了一個全方位、多層次的交流平臺。
智能制造智能裝備機器人
2024-12-23 08:45:07
河北：關于2024年“機器人化”技術(shù)改造擬支持項目名單的公示
經(jīng)廣泛征集、各市推薦、專家評審，現(xiàn)將2024年“機器人化”技術(shù)改造擬支持項目名單予以公示。如有異議，請在公示期內(nèi)通過書面形式向省工業(yè)和信息化廳實名反饋。
機器人機器人化改造
2024-12-20 08:21:39
博通市值破萬億刀，定制AI芯片劍指英偉達GPU
博通半導體業(yè)務涵蓋 “網(wǎng)絡芯片” 和 “ASIC” 定制芯片，在本次生成式 AI 浪潮中獲利頗豐。
AI芯片AI
2024-12-19 11:39:35
工業(yè)4.0釋放：人工智能如何在2025年重塑制造業(yè)
預計到2025年，人工智能將在全球范圍內(nèi)對制造業(yè)的各個環(huán)節(jié)產(chǎn)生深遠影響，提升效率、降低成本并推動創(chuàng)新。
工業(yè)4.0人工智能制造業(yè)
2024-12-19 11:37:52
中小企業(yè)數(shù)字化賦能專項行動方案出臺，強調(diào)推動人工智能創(chuàng)新
到2027年，中小企業(yè)數(shù)字化轉(zhuǎn)型“百城”試點取得扎實成效，專精特新中小企業(yè)實現(xiàn)數(shù)字化改造應改盡改，形成一批數(shù)字化水平達到三級、四級的轉(zhuǎn)型標桿。
中小企業(yè)數(shù)字化人工智能
2024-12-19 08:09:04
專家談 | 中國信通院王愛華：加速推進人工智能賦能新型工業(yè)化
人工智能是新一輪科技革命和產(chǎn)業(yè)變革的驅(qū)動力量，是推動我國數(shù)字經(jīng)濟高質(zhì)量發(fā)展的重要引擎。
人工智能新型工業(yè)化
2024-12-18 18:27:09

版權(quán)與免責聲明：

凡本站注明“來源：智能制造網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡有限公司-智能制造網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本站授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應在授權(quán)范圍內(nèi)使用，并注明“來源：智能制造網(wǎng)”。違反上述聲明者，本站將追究其相關法律責任。

本站轉(zhuǎn)載并注明自其它來源（非智能制造網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本站贊同其觀點或和對其真實性負責，不承擔此類作品侵權(quán)行為的直接責任及連帶責任。如其他媒體、平臺或個人從本站轉(zhuǎn)載時，必須保留本站注明的作品第一來源，并自負版權(quán)等法律責任。如擅自篡改為“稿件來源：智能制造網(wǎng)”，本站將依法追究責任。

鑒于本站稿件來源廣泛、數(shù)量較多，如涉及作品內(nèi)容、版權(quán)等問題，請與本站聯(lián)系并提供相關證明材料：聯(lián)系電話：0571-89719789；郵箱：1271141964@qq.com。

不想錯過行業(yè)資訊？

訂閱 智能制造網(wǎng)APP

一鍵篩選來訂閱

信息更豐富

今日焦點/FOCUS 更多

熱門話題/TOPICS更多

聚焦2024年世界互聯(lián)網(wǎng)大會

2024世界互聯(lián)網(wǎng)大會｜千方集團：構(gòu)建算力新質(zhì)生態(tài)，賦能交通創(chuàng)新場景

下一屆見！2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會閉幕

能源新選擇：固態(tài)電池時代已來

固態(tài)電池賽道技術(shù)“比拼”進入新熱潮，大規(guī)模商用加速

一周趣評：高性能車規(guī)級MCU芯片發(fā)布；固態(tài)電池技術(shù)迎來新突破

精彩直播/VIDEO更多

回放

數(shù)字孿生賦能新型工業(yè)化分論壇

: 數(shù)字孿生賦能低空經(jīng)濟分論壇

: 數(shù)字孿生賦能城市全域數(shù)字化轉(zhuǎn)型分論壇

推薦產(chǎn)品/PRODUCT 更多

G. Bee電動球閥AKE640ST.AQ-DN50
球閥,手動球閥,氣動球閥,電動球閥,Bee球閥
品牌
其他品牌
環(huán)保分散機
分散機,衛(wèi)生級分散機,節(jié)能分散機機
品牌
巴恩斯迷宮現(xiàn)貨
巴恩斯迷宮,WW00-M65623
品牌
其他品牌
自動金相磨拋機儀表
金相磨拋機,自動,ZMP-2000S
品牌
其他品牌
京瓷液晶TCG057VGLDFANN-GN02
工業(yè)液晶屏,智能控制,工控機
品牌
京瓷
德國Fiessler光幕
Fiessler光幕,Fiessler進口光幕,德國Fiessler,Fiessler激光掃描儀,Fiessler光柵
品牌
其他品牌

精品乱码一区内射人妻无码-亚洲中文AⅤ中文字幕在线-免费不卡国产福利在线观看-国产综合无码一区二区色蜜蜜

谷歌研發(fā)能末日攻擊的“切斷開關”防人工智能威脅