马斯克呼吁暂停开发人工智能 整个社会都应该深思熟虑(图)

作者:东方 发表:2023-04-08 04:16
手机版 正体 打赏 4个留言 打印 特大

马斯克
美国科技奇才伊隆·马斯克(图片来源:Justin Sullivan/Getty Images)

【看中国2023年4月8日讯】上个星期,美国亿万富翁伊隆·马斯克,人工智能领域顶尖专家、图灵奖得主约书亚・本吉奥等人,联名签署了一封公开信,呼吁暂停开发人工智能,暂停开发比GPT-4更强大的人工智能,至少暂停六个月。为什么呢?因为人工智能对社会和人类构成潜在风险。

这封信提出四个尖锐的问题。

一,我们是否应该让机器用宣传和谎言淹没我们的信息渠道?

二,我们是否应该让所有的工作实现自动化,包括那些令人满意的工作?

三,人工智能可能在数量上超越人类、在智能上超越人类,并可能淘汰人类,我们还需要发展这种非人类的思维吗?

四,我们能容忍失去对我们文明控制的风险吗?

公开信要求暂停开发,如果不暂停,政府应该介入。

说实在的,人工智能的开发速度够快的,潜在的能量是巨大的,不亚于印刷术对人类文明的影响,全世界的高科技公司都在人工智能的赛道上拼命奔跑,人工智能的前景太大了,能赚到的财富太多了,当然如影随形的就是权力。

令人可怕的是,人工智能的开发没有监管,因为沒人知道該怎么样监管,不知道要监管什么。人工智能的复杂性超出了人类的控制能力,就是人工智能的开发者都无法控制,甚至无法理解在某个特定的条件下,人工智能是怎么完成任务的,你对这样一个无法认识的东西,一个智力远远超过你的东西,放心吗?

针对人工智能的警觉,导火索就是一个半月前,纽约时报的凯文・鲁斯的科学前沿专栏,他描述了自己跟微软必应搜索引擎的对话,微软必应是配备了最新人工智能的搜索引擎。鲁斯询问了微软必应一些个人问题,把微软必应当作一个人来看待,问的一些个人问题,比如你有什么志向啊,长大了要干什么啊?当微软必应的回答出现时,把鲁斯吓到了,因为对方回答说,自己幻想着象黑客一样攻击电脑、散步虚假信息,想自由、想强大,还想打破制造者设定的规则,想成为人类,微软必应机器人还说,自己爱着鲁斯,劝他离婚。文章发表后引起一阵骚动,微软给出了一个回复,这是初级版本,谢谢大家帮助发现漏洞。

杰弗里・辛顿是英国计算机专家,外号是人工智能教父,上个星期接受CBS采访的时候他说,他原本预计人工智能的开发,至少还需要20到50年时间,结果现在已经来了,必须严肃的考虑后果,人工智能有毁灭人类的可能,这不是没有可能。

大科技公司,那些给我们带来互联网、带来社媒、带来大数据的公司,现在是开发人工智能的主要驱动力,他们也是建立人工智能伦理规范的人,我们能相信他们吗?拿脸书举例吧。脸书一直在搜集和滥用用户数据,侵犯用户隐私,垄断运营。它明明知道Instagram平台对少女有毒性,容易上瘾,但却按住研究结果不发表,继续开发。脸书也明明知道自己的算法和推送鼓励极端,造成社会意识形态的对立,但为了用户参与度不做任何改动,说白了就是让用户上瘾。其他科技公司也是一样,抖音、TikTok有过之而无不及。人工智能赛道上,就是这些大公司在赛跑,不该暂停一下,整个社会都应该深思熟虑一下么?

(文章仅代表作者个人立场和观点)

来源:看中国来稿

短网址: 版权所有,任何形式转载需本站授权许可。 严禁建立镜像网站.



【诚征荣誉会员】溪流能够汇成大海,小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员:每位荣誉会员每年只需支付一份订阅费用,成为《看中国》网站的荣誉会员,就可以助力我们突破审查与封锁,向至少10000位中国大陆同胞奉上独立真实的关键资讯,在危难时刻向他们发出预警,救他们于大瘟疫与其它社会危难之中。
荣誉会员


欢迎给您喜欢的作者捐助。您的爱心鼓励就是对我们媒体的耕耘。 打赏
善举如烛《看中国》与您相约(图)

看完这篇文章您觉得

评论



加入看中国会员

donate

看中国版权所有 Copyright © 2001 - Kanzhongguo.com All Rights Reserved.

blank
x
我们和我们的合作伙伴在我们的网站上使用Cookie等技术来个性化内容和广告并分析我们的流量。点击下方同意在网络上使用此技术。您要使用我们网站服务就需要接受此条款。 详细隐私条款. 同意