资源对接 人脉拓展

扬帆出海APP

微信小程序
企业管理
我是创业者 我是投资人

扬帆创投微信小程序
更聚焦的出海投融资平台
精准高效领先的融资对接服务
微信扫一扫进入小程序

图灵奖得主Bengio和Hinton，同时警告AI可能灭绝人类！

图灵奖得主Bengio和Hinton，同时警告AI可能灭绝人类！
 
就在昨夜，一封签署名单多达350人的公开信迅速传播开去，信中核心只有一句话：
 
“降低AI灭绝人类的风险”，应该像流行病和核战争等其它社会规模的风险一样，成为全球的优先事项。
  
 
签署这封公开信的，既包括三大AI巨头的CEO，即ChatGPT老板、OpenAI的Sam Altman，DeepMind的Demis Hassabis和Anthropic的Dario Amodei；
  
 
也包括不少国内外高校的教授，除了Yoshua Bengio和Geoffrey Hinton以外，清华AIR院长张亚勤和斯坦福教授、图灵奖得主Martin Hellman等人也名列其中。
 
这段时间来，关于AI风险的各种大小讨论也是接连不断，OpenAI CEO Sam Altman前段时间还倡议称，人们应当像对待核设施一样监管AI。
 
所以，究竟是谁发起的这封公开信倡议，又是否有AI大牛反对这件事？
 

为何签署这封信？

 

发布这封公开信的机构名叫Center for AI Safety（CAIS），是一家关于AI安全的非营利组织。
 
 
在这封公开信的开头，CAIS反复强调：
 
包括AI专家、记者、政策制定者和公众在内，越来越多的人开始讨论AI带来的一系列重要和紧迫的风险。
 
即便如此，要想表达对先进AI的严重风险，可能还是有一定难度。这封公开信旨在克服这一障碍，并展开对相关议题的讨论，让更多专家和公众人物认识到这一点。
 
 
事实上，已经有不少签署了这封信的AI大牛，最近发了关于AI风险的博客文章、或是在访谈中谈到了自己的观点。
 
例如前段时间，Yoshua Bengio就写了一封长信，警告称“人类大脑是生物机器，一定会有超级智能AI超越它”。
 
 
除此之外，包括Stability AI的创始人Emad Mostaque、以及剑桥大学助理教授David Krueger等人，也都在最近的访谈中提到了关于AI带来的潜在危害。
 
例如，Emad Mostaque认为，10年后包括Stability AI、OpenAI和DeepMind在内，这些AI公司的规模甚至会超过谷歌和Facebook。
 
也正是因此，AI风险是一个必须要考虑的事情：
 
我们可能正处于全面变革的风口浪尖，这些变革对于任何一家公司或是国家来说都太过庞大，以至于难以管理。
  

没签的AI大牛怎么说？

 

当然，这波闹得沸沸扬扬的“请求AI监管”浪潮下，也有不少反对的声音。
 
目前为止，包括另一位图灵奖得主Yann LeCun、前特斯拉AI总监Andrej Karpathy还有吴恩达等AI大牛在内，都还没签署这封联名信。
 
吴恩达发推回应称：
 
当我想到大部分人类生存面临的风险时：流行病、气候变化导致大规模人口减少、（撞击地球的）小行星……
 
AI将是我们寻找解决方案的关键部分。所以，如果你想让人类在接下来的1000年里生存和繁荣，那就让AI发展得更快，而不是更慢。
  
 
LeCun转发表示同意：
 
“超人级”AI之所以不在风险列表榜首，很大程度上是因为它还不存在。至少我们在设计出达到狗智商（更不用说人类了）的AI之前，讨论它的安全性还为时过早。
 
 
对此，纽约大学教授Gary Marcus补充道：
 
不要把框架缩小到只关注人类灭绝的风险。AI其实还存在许多其他的严重风险，包括可能帮助开发生物武器等。
 
 
不过，Gary Marcus同样没有签署这份350人公开信。
 
显然包括不少AI大牛在内，反对者主要有两种意见。
 
一种意见认为，AI技术确实存在风险，但这封公开信涉及到的内容太泛泛。
 
如果有更精确的声明如“减轻AI技术的潜在风险应该是科技行业、政府和该领域学术研究人员的首要任务”，那么这封信还是可以签署的。
 
 
这封公开信中的内容根本就是夸大其词了，而且AI在气候变化等领域甚至可以起到降低风险的作用。
 
 
另一类意见则认为，这封信只不过是当前掌握最领先AI技术的人，试图控制AI接下来的走向而已。
 
以OpenAI的CEO Sam Altman为例：
 
Sam Altman要是真的担心，大可以现在直接关掉ChatGPT服务器。
  
 
所以，你认为按照现在的进度来看，AI有可能灭绝人类吗？

原文链接：点击前往 >

文章作者：网易科技

版权申明：文章来源于网易科技。该文观点仅代表作者本人，扬帆出海平台仅提供信息存储空间服务，不代表扬帆出海官方立场。因本文所引起的纠纷和损失扬帆出海均不承担侵权行为的连带责任，如若转载请联系原文作者。 更多资讯关注扬帆出海官网：https://www.yfchuhai.com/

{{likeNum}}

好文章，需要你的鼓励

相关阅读

热门活动

更多

全网首发 · 《2024短剧出海白皮书》

线上活动
05.20-08.31

2024出海大咖演讲分享邀请

线上活动
05.20-05.21

文章热榜

更多

收藏第一份关于中东北非先买后付市场的中文报告｜Checkout.com与Tamara联合出品

2

苹果 AI 布局揭秘：迟到的「玩家」如何搅动市场？

07-08 10:07
3

谁在挖百度墙角？

07-03 10:07
4

聚焦 ChinaJoy 2024 Appier 携手游戏行业专家共话出海营销新机遇

07-15 12:07
5

AI的误用，看来是真的开始了

07-02 13:07

热门报告

更多

《2024年1-6月中国游戏产业报告》

2087
2024-07-25

《全球游戏移动广告市场洞察（2024H1）》

2670
2024-07-25
请前往扬帆出海小程序完成个人认证
认证通过后即可申请入驻
咨询/开通企业服务会员
请添加下方商务企业微信
企业服务会员
助力销售转化再上台阶
bd@yfchuhai.com
咨询/开通企业服务会员
请添加下方商务企业微信
企业服务会员
助力销售转化再上台阶
bd@yfchuhai.com
APP
小程序
微信公众号
微信小程序
扬帆出海APP
扬帆出海APP
微信
公众号
微信公众号
关注扬帆出海
专注服务互联网出海！
出海人
社群
微信公众号
扫码进群
与10万+出海人同行！