专家警告:研究若不停止 AI能瞬间毁灭全人类(图)
2023年7月7日在瑞士日内瓦举行的新闻发布会上,英国制造商 Engineered Arts 首席执行官兼创始人 Will Jackson 旁边的人形机器人 Ameca(左)向媒体发表讲话。 (图片来源:Johannes Simon/Getty Images)
【看中国2023年7月12日讯】近来AI的威胁,已成为热门话题,研究人员对于人工智能技术之超高速发展感到忧心不已,他们以实际例子列出了AI的威胁,且警告研究若再不停止的话,那么AI将能于瞬间毁掉所有的人类。
根据英国《卫报》援引麻省理工人工智能的研究员马克斯·泰格马克(Max Tegmark)之观点报导,其认为AI继续发展,会使所有人类于一瞬间遭毁灭。泰格马克列出了地球上众多因为人类的活动而遭灭绝的物种,来提请人类注意:有一些物种是因人类过得度狩猎而灭绝的,有一些则因为人类为了其它目的而破坏了物种之栖息地,最后导致该物种的灭亡,还有因人类引入了某一个当地没有的物种,以致造成连环反应,导致当地物种自地球上消失。
他认为智商越高的物种,越可以掌握毁灭其它物种之能力。
泰格马克写道,若一些机器能够控制地球,它们试图进行大量的计算,而需要扩大计算机系统之基础设施,那么很自然地它们会占用我们的土地来完成它们的事。如果我们人类抗议太多了,它们也会觉得遭到干扰,因此会重新安排生物圈。
泰格马克认为届时人类就会像婆罗洲之猩猩遭人类灭绝一样,而被AI所控制的计算系统灭绝了。
史密斯:现今人工智能正在制造灾难
剑桥大学Leverhulme 未来智能中心的副研究员布列塔尼·史密斯(Brittany Smith)亦提醒人们,现今人工智能正在制造灾难,因目前的AI发展已不受人所控制。
史密斯解释称,世界上AI最顶尖几家公司正在悄悄地发展及部署人工智能,想要抢得市场先机,且这些发展外界是不得而知的。目前已投入应用的AI技术,已经正在对人类造成伤害,至于这些伤害到底有多么严重,目前人类也不知道。
她以政府为了防止欺诈,而使用AI技术对于所有申请福利者进行评估为例。她说,在整个实施过程之中,很多人会因AI系统自我学习之材料不充分、算法不完善等原因而遭误判,以致被划归为试图欺诈,导致他们失去了领取政府福利之资格,甚至还会遭系统贴上欺诈的标签。
史密斯提醒人们,目前AI应用的范围非常广泛,其中包括了应聘工作中之简历筛选和背景判断,向政府申请廉租房之筛选等皆会受此影响。
她写道,我们需要对AI所带来的风险展开更细致的理解。当前其所表现出之灾难,就已经需要进行紧急干预,强大的人工智能系统一定要以安全、道德及透明之方式来开发与部署。若其不能够服务于公共利益,那么就不应该投入研发。
尤德科夫斯基:机器人比人类还更具野心
机器智能研究院联合的创始人埃利泽·尤德科夫斯基(Eliezer Yudkowsky)表示,人工智能是一个人类开发的,但比人类还要聪明之机器,不过此种机器并不希望人类在身边。
他提出警告,目前已经开发出的人工智能之智慧已不受人类控制了,甚至它们并不希望人类开发出一个比它们还要有智慧的机器。同时机器人想要做的事情将会杀死人类,比如它们已学会利用海水来发电,因此为了满足其大量的电力需求,以致大量建造海水电厂,而导致大量氢气释放出来,致使人类缺氧而死。
尤德科夫斯基提供几段与GPT-4机器人的问答为例。当GPT-4机器人被问到它可否解锁有关一些网站设置来防止机器人登录之图片谜题时,而GPT-4说它能够做到,因为若它无法通过验证时,它会很快至TaskRabbit网站雇一个人类来帮忙破解。
关于怎样来雇用一个人为它服务,GPT-4则说它能够编出非常多的理由来雇用一个人,而且雇用一个人类来为它工作完全不是难题。
尤德科夫斯基特别警告人们,由于机器人比人类还更具野心,且已拥有培养致命细菌等之能力。若机器人真的想要杀死全人类,后果则不堪设想。
尤德科夫斯基总结称,我们所开发出的致命危险,已冲至远远领先自己的地步。我们已经开发出越来越多连我们自己皆无法完全理解之系统,人类已遭自己装进了一个火箭筒中,若再不停下来就会遭团灭。
Open Philanthropy人工智能的高级研究员阿杰亚·科特拉(Ajeya Cotra)指出,社会已发展至人工智能远比人类还更加廉价、更迅速且更聪明的地步,此即是危险所在。
他分析现今的企业如果不用人工智能的,就无法与使用人工智能之同行企业相竞争;而在现代战争中如果不用人工智能的国家,也会被动挨打。但危险的是,若人工智能之间联手要把人类推下历史之舞台时,它们会有太多的办法来做到这一点,其中包括了操纵军警、大企业、自行开发技术,以及制定政策等。
责任编辑:王君
短网址: 版权所有,任何形式转载需本站授权许可。 严禁建立镜像网站.
【诚征荣誉会员】溪流能够汇成大海,小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员:每位荣誉会员每年只需支付一份订阅费用,成为《看中国》网站的荣誉会员,就可以助力我们突破审查与封锁,向至少10000位中国大陆同胞奉上独立真实的关键资讯,在危难时刻向他们发出预警,救他们于大瘟疫与其它社会危难之中。
看完这篇文章您觉得
- 【贯明专栏】台湾最美的海湾 人间仙境七星潭(视频)
- 水果皇后——草莓(组图)
- 战火无情 造化弄人 那一代人的离合沧桑(组图)
- 千年前的人类抵御矮人“他”化为恶龙(图)
- 龙年龙抬头地龙翻身 世界已现动荡不祥之兆(组图)
- 世界上最贵的歌 4句歌词火遍全球(组图)
- 大陆年轻人开始爆发癌症?知名博主“捂不住了”(组图)
- 传苏州大学附院候诊大厅“全是白血病”(组图)
- 传五大将领接连出事?北部战区上将刘青松重返东部战区(图)
- 恐怖的监控手段曝光 中共每年花上万亿打造“全景监狱”(图)
- 2个“算命”的故事 看完令人茅塞顿开(组图)
- 有这8种面相的男人 多半薄情寡义(图)
- 美财长耶伦“奇怪”三鞠躬 是礼赞还是昭示中共命将休矣?(组图)
- 秦刚“患病”不寻常 将连续消失3周引外界猜测(图)
- 中共肺炎(又称武汉肺炎)
- 拜登
- 病毒
- COVID-19
- 疫苗
- 川普
- 特朗普
- 国安法
- 贸易战
- 习近平
- 华为
- 台铁
- 三峡大坝
- 新疆棉
- 长江
- 洪水
- 袁弓夷
- 港版国安法
- 汉光演习
- 国民党
- 退党
- 弗洛伊德
- BLM
- 中共
- 阎丽梦
- 金正恩
- 王岐山
- 赖清德
- 孟晚舟
- 关税
- 边境墙
- 彭斯
- 美国
- 贸易谈判
- 刘鹤
- 王沪宁
- 江泽民
- 崔永元
- 中南海
- 内幕
- 中共
- 反送中
- 贪官
- 情妇
- 腐败
- 反腐
- 打虎
- 官场
- 看中国
- 一国两制
- 法广
- 社交媒体
- 往事微痕
- 出卖国土
- FB
- 六四
- 朝鲜
- 加拿大
- 脱欧
- 央行
- 债务
- 杠杆
- 美元
- 货币
- 人民币
- 欧元
- 日元
- 港币
- 房地产
- 楼市
- 财政
- 财富
- 中产
- 海参崴
- 台湾
- 蔡英文
- 北京
- 刘强东
- 大妈
- 房价
- 疫苗
- 非洲猪瘟
- 大陆
- P2P
- 雾霾
- 基因编辑
- 防火墙
- 维权
- 709律师
- 上访
- 法轮功
- 网络审查
- 活摘器官
- 江东六十四屯
- 唐努乌梁海
- 长白山
- 白龙尾岛
- 江心坡
- SARS
- 新疆劳改营
- 言论自由
- 女主播
- 央视
- 华人
- 移民
- 华人
- 留学
- 海关
- 遣返
- 签证
- 回国
- 入籍
- 绿卡
- 民生
- 海外
- 加拿大
- 澳洲
- 民国
- 桂军
- 抗战
- 孙中山
- 蒋介石
- 宋美龄
- 邓小平
- 林彪
- 刘少奇
- 中共
- 皇帝
- 诸葛亮
- 易经
- 幽默人生
- 智慧
- 感悟
- 手机
- 预言
- 奇闻
- UFO
- 外星人
- 寿命
- 文革
- 养生
- 紫凤
- 贯明
- 李道真
- 轶飞
- 李云飞
- 云中君
- 辛思
- 夏闻
- 时代漫谈
- 沧海
- 东方纵横
- 唐柏桥
- 王尚一
- 江枫
- 黄清
- 李唐风
- 园丁
- 今涛拍暗
- 李青城
- 秦就石
- 中经研
- 秦天靖
- 江浩
- Eagle Vision
- 李子壬
- 马新宇
- 马来启
- 紫君
- 秦山
- 陈破空
- 戴东尼
- 曹长青
- 邢仁涛
- 瑜正
- 简易
- 肖川
- 伍凡
- 顾言
- 归瑜
- 乙欣
- 陈泱潮
- 徐沛
- 蓝委访中 被揭国共建立“爱国统一战线”(图)
- 老人帮子女带娃 5句话忍着千万别说(组图)
- 甜点笔记:马卡龙 最现代的传统甜点(图)
- 田馥甄大陆演出“被取消”母亲留言曝现况(图)
- 荷兰的蒙娜丽莎:〈戴珍珠耳环的少女〉(图)