您当前的位置:首页 > 科技频道 > 科技滚动

人工智能导致的世界末日将会是什么样子?

人工智能(AI)将改变世界,但这是“恶”还是“善”,备受争议。为此,一个专家团队齐聚亚利桑那州立大学(ASU)的“设想和解决不良AI的结果”研讨会,讨论了当人工智能成为人类的一个重大威胁时,人类将处于什么样的困境。

人工智能科学家Eric Horvitz指出,AI具有巨大的潜力,以多种方式影响到社会的各个方面。同时,就像任何技术一样,人工智能有利也有弊。

作为AI乐观支持者的一员,Horvitz表示非常看好人工智能的未来。与此同时,他也认为AI要想赢得公众的信任,那么在技术方面仍要不断努力。为了实现这一点,所有围绕着技术的问题都要被讨论。

专家希望这次对话能够解决有关AI的问题。由科学家、网络安全专家和政策制定者组成的40个人,被分成两队,讨论AI会以哪些方式给世界造成麻烦。

红队的任务是将AI可能导致的灾难性情况都列出来,蓝队则被要求设计相应的解决方案。假设的情况也要基于当前的技术,而不是胡乱假设一通。

若人工智能“失控”

红队假设AI可能存在的风险有以下几种。自动网络攻击(这是一种足够智能的网络武器,在攻击后能隐藏自己,并能防止被毁灭),股票市场将被操纵,无人驾驶技术无法对关键路标进行识别,AI被用来操纵选举或影响选举结果。

并不是每一个问题都给予了足够的解决方案,表明了人类目前面对AI可能带来的糟糕情况毫无准备。例如,在智能自动化网络攻击的情况下,攻击者很容易使用不知情的互联网游戏玩家来掩盖自己的踪迹,使用类似于在线游戏来掩盖攻击本身。

将其作为娱乐的人可能认为这些是无稽的末日景象,但实际上这些假设是向认识AI可能构成的威胁迈出了深思熟虑的第一步。

美国国防部高级研究计划署的John Launchbury希望这场讨论能给网络战争、自动化武器和机器人部队制定具体的协议。

研讨会的目的不是为了煽动恐惧情绪,而是合理、现实地预测技术如何被滥用的各种可能性,并希望能在AI防御方面取得突破。

黔讯网 来源:北京时间  编辑:滚动新闻编辑组

  • 微笑
  • 流汗
  • 难过
  • 羡慕
  • 愤怒
  • 流泪
相关新闻