AI教父示警:人类恐落后 杀手机器人10年内成真(图)
被称为“AI教父”的英裔加拿大认知心理学家和电脑科学家杰弗里·辛顿(Geoffrey Hinton)(图片来源:GEOFF ROBINS/AFP via Getty Images)
【看中国2024年3月25日讯】(看中国记者王君综合报导)有“AI教父”之称的加拿大多伦多大学的名誉教授辛顿(Geoffrey Hinton),他于接受日媒采访之时,谈到了人工智能(AI)的威胁。他说,有很多人都以为,如果要防止AI失控,只要将电源开关关掉就可以了。但有超越人类智慧的AI能够用语言来操纵我们,或者会试图说服我们不要关掉开关。
辛顿是一个“深度学习”(Deep Learning)与神经网络(指模仿人脑的数学模型)先驱,他的研究帮助奠定了AI发展基础。2023年,他突然从已经工作10多年的美国谷歌辞职,并开始谈论AI的威胁。
3月22日,《日本经济新闻》刊出了对于辛顿的专访内容。他表示,若给AI设定目标,以作为解决对策,那么它可能会找出对于人类不利的方法。比如,假设对AI下达遏制气候变化的指令。此时AI将会意识到为达到目的,而有必要把人类清除,他担忧真的会付诸实施的风险。
辛顿表示,今后还可能出现不同的AI之间相互竞争的局面。比如,若AI之间发生争夺数据中心等资源,这将会是一个像生物体般推动进化的过程。我们面对透过竞争而变得更聪明的AI,人类将落在后面。
辛顿还预测,在未来10年内,将会出现自主杀死人类的机器人武器(或称杀手机器人)。他称,机器人武器或许迟早也会遭到限制,可是这可能要等到真正于战场上遭使用、人类已认识到会带来多么悲惨的结局之后才能够实现。
辛顿又谈及,若从主观经验这个角度来进行说明,他认为AI能够拥有与人类一样的感觉,且人类也会经历了与客观事实不符的事件。比如我喝了很多酒,在早上醒来之时,眼前因幻觉而出现粉红色小象,但我并不会相信小象的存在,而会认为自己的感知系统未正常工作,所以这只是内在的体验。
他表示,透过了照相机收集视觉讯息的AI,也能够产生同样的情况。将物体放于相机前,并用棱镜使光线弯曲,而形成产生物体在远处的错觉。若对话式AI解释称感知系统因棱镜而不能够正常工作,我们就可以说它有着与人类一样的感觉。
报告:AI恐造成人类灭绝
最近美国国务院委讬民间公司展开人工智能(AI)的研究,其报告指出现今快速发展的人工智能将会带来“灾难性”的国安风险,且警告政府的时间已经不多,必须来进行干预。经一名美国国务院官员证实,这份报告是由美国政府委讬调查的,用来评估人工智能如何保护国家的利益。但该官员强调,此报告并不代表美国政府观点。
根据《CNN》报导指出,美国国务院在最近委讬民间公司Gladstone AI来进行人工智能(AI)研究报告,该公司直接表示,最先进人工智能系统,于最坏的情况之下,将可能对人类构成了“灭绝等级的威胁”,此项调查是1年多来对于200多人的采访结果,而受访者来自于人工智能公司高层、大规模杀伤性武器的专家、网络安全的研究人员,以及政府内部的国家安全官员。
Gladstone AI的执行长兼联合创始人哈里斯(Jeremie Harris)在接受《CNN》采访之时指出,人工智能已是一项经济变革的技术,它可能够使我们治愈疾病、可做出科学发现,甚至克服我们曾经认为无法克服的挑战。可是也有可能会带来严重风险,在世界顶级人工智能会议上所发表的实证研究和分析等,已有越来越多的证据表明,当超过一定阈值,人工智能将可能变得不可控。
Gladstone AI认为,最先进的人工智能系统能够武器化,并造成不可逆转伤害。其次,报告中称,人工智能实验室内部存在着隐忧,因为研究人员可能会失去对于正在开发的系统控制权,而对全球安全酿成了毁灭性后果。另外,人工智能的兴起,也有可能会破坏全球安全稳定,就有如核武一样,各国将可能会开始于人工智能领域上展开新一轮军备竞赛。
Gladstone AI在报告中呼吁美国政府迫切需要展开干预,而采取重大的新措施应对此一威胁,包括了成立新的人工智能机构,或者采行紧急监管保障措施,甚至限制运用电脑训练人工智能模型的能力。
Gladstone AI称,有一些人工智能公司的员工私下也有类似的担忧,有一家知名人工智能实验室的人士指出,若某一个特定的人工智能模型开放给大众使用,那么将会非常糟糕,因为其可能会用在干预选举或者操纵选民,而破坏民主。
来源:看中国
短网址: 版权所有,任何形式转载需本站授权许可。 严禁建立镜像网站.
【诚征荣誉会员】溪流能够汇成大海,小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员:每位荣誉会员每年只需支付一份订阅费用,成为《看中国》网站的荣誉会员,就可以助力我们突破审查与封锁,向至少10000位中国大陆同胞奉上独立真实的关键资讯,在危难时刻向他们发出预警,救他们于大瘟疫与其它社会危难之中。
看完这篇文章您觉得
- 【贯明专栏】台湾最美的海湾 人间仙境七星潭(视频)
- 水果皇后——草莓(组图)
- 战火无情 造化弄人 那一代人的离合沧桑(组图)
- 千年前的人类抵御矮人“他”化为恶龙(图)
- 龙年龙抬头地龙翻身 世界已现动荡不祥之兆(组图)
- 世界上最贵的歌 4句歌词火遍全球(组图)
- 中共元老迫使习近平接受“政权要移交红色家族”?(图)
- 政治权力饭碗抢夺 彭丽媛的考察与丁薛祥的半躺平(组图)
- 江泽民最宠爱的“二英” 现在怎样了?(组图)
- 李强不想成为李克强 已暗暗在做一件事(图)
- 实锤!中共党魁自曝:党内出了大问题!(视频)
- 北京突传重磅消息!岌岌可危!中共新发言人4天发飙12次(视频)
- 习近平考察湖南 不经意间泄露了经济真相(图)
- 网飞“三体”逼真还原墙内禁播部分 暗喻人类最大威胁(图)
- 中共肺炎(又称武汉肺炎)
- 拜登
- 病毒
- COVID-19
- 疫苗
- 川普
- 特朗普
- 国安法
- 贸易战
- 习近平
- 华为
- 台铁
- 三峡大坝
- 新疆棉
- 长江
- 洪水
- 袁弓夷
- 港版国安法
- 汉光演习
- 国民党
- 退党
- 弗洛伊德
- BLM
- 中共
- 阎丽梦
- 金正恩
- 王岐山
- 赖清德
- 孟晚舟
- 关税
- 边境墙
- 彭斯
- 美国
- 贸易谈判
- 刘鹤
- 王沪宁
- 江泽民
- 崔永元
- 中南海
- 内幕
- 中共
- 反送中
- 贪官
- 情妇
- 腐败
- 反腐
- 打虎
- 官场
- 看中国
- 一国两制
- 法广
- 社交媒体
- 往事微痕
- 出卖国土
- FB
- 六四
- 朝鲜
- 加拿大
- 脱欧
- 央行
- 债务
- 杠杆
- 美元
- 货币
- 人民币
- 欧元
- 日元
- 港币
- 房地产
- 楼市
- 财政
- 财富
- 中产
- 海参崴
- 台湾
- 蔡英文
- 北京
- 刘强东
- 大妈
- 房价
- 疫苗
- 非洲猪瘟
- 大陆
- P2P
- 雾霾
- 基因编辑
- 防火墙
- 维权
- 709律师
- 上访
- 法轮功
- 网络审查
- 活摘器官
- 江东六十四屯
- 唐努乌梁海
- 长白山
- 白龙尾岛
- 江心坡
- SARS
- 新疆劳改营
- 言论自由
- 女主播
- 央视
- 华人
- 移民
- 华人
- 留学
- 海关
- 遣返
- 签证
- 回国
- 入籍
- 绿卡
- 民生
- 海外
- 加拿大
- 澳洲
- 民国
- 桂军
- 抗战
- 孙中山
- 蒋介石
- 宋美龄
- 邓小平
- 林彪
- 刘少奇
- 中共
- 皇帝
- 诸葛亮
- 易经
- 幽默人生
- 智慧
- 感悟
- 手机
- 预言
- 奇闻
- UFO
- 外星人
- 寿命
- 文革
- 养生
- 紫凤
- 贯明
- 李道真
- 轶飞
- 李云飞
- 云中君
- 辛思
- 夏闻
- 时代漫谈
- 沧海
- 东方纵横
- 唐柏桥
- 王尚一
- 江枫
- 黄清
- 李唐风
- 园丁
- 今涛拍暗
- 李青城
- 秦就石
- 中经研
- 秦天靖
- 江浩
- Eagle Vision
- 李子壬
- 马新宇
- 马来启
- 紫君
- 秦山
- 陈破空
- 戴东尼
- 曹长青
- 邢仁涛
- 瑜正
- 简易
- 肖川
- 伍凡
- 顾言
- 归瑜
- 乙欣
- 陈泱潮
- 徐沛
- 美台将举办新回合《21世纪贸易倡议》协定谈判
- 住宅周围出现这3件事 喜事临门有吉兆!(图)
- 先礼后兵 布林肯:中共不停手 美国将采取行动(视频)
- 新一轮贸易战开打 北京制定了贸易“核武”(图)
- 美国大学反以抗议升级:迹象显示外国势力助推(图)