我要投稿   新闻热线:021-60850333
人工智能的利害两面观

2018-4-9 14:32:23

来源:东方网 作者:江曾培 选稿:桑怡

  新世纪以来,人工智能发展很快,AI正渗入社会生活的方方面面,它极大的方便了人们的生活与工作,如霍金所说,“人工智能甚至可帮助根除长期存在的社会挑战,比如疾病和贫困等。”然而,由于人工智能的发展蕴涵着不可控性的危险,霍金也同时提出,“人类必须建立有效机制,尽早识别威胁所在,防止新科技(人工智能)对人类带来的威胁进一步上升。”

  近年来,多种多样的智能机器人先后问世,代替了许多可以代替的行业劳动,使一些人从笨重的、重复的、机械的劳动中解放出来。有人担心,这会带来一些人的失业。确实,这一情况已经出现,不过,这本质上不是“失业”,而是逼着一些人“转业”,转到更富智慧的工作中去。18世纪工业革命后,机器夺走了一些工作岗位,曾经引起一些工人愤怒地去砸机器,但机器出现的结果却是大大提高了社会劳动生产率,从而使一度“失业”的工人也都得到更好的生活工作条件。人工智能的发展,尽管也会给一些人带来一时的“转业”之痛,但根本上是有利于人的发展提高的。对此,应当“风物长宜放眼量”。

  需要防止的人工智能的威胁,在于它的不可控性。看到一个争论,就是要不要发展带枪的机器人?有人赞成,认为只要好好控制,就可以协助警察维持治安。美国就出动过一个机器人,携带炸弹消灭了一名枪杀5名警察的狙击手。然而,不少人对此表示质疑与警惕。机器人警察的存在不光是威胁了一部分危险分子,更威胁了其他“良民”的安全。试想一个场景,大街上有着拿枪的机器人,你真的敢从他的身边路过吗?一不小心系统坏掉怎么办?然后一个子弹直接命中心脏咋办?把你当成逃犯咋办?结果只能使百姓失去了安全感。更严重的,人工智能的进一步发展,机器人能建立自身的决策流程,拿着枪在大街上任意乱扫人群,这不成了灾难吗?

  这并非杞人之忧。人工智能技术确是一把双刃剑。一方面,人工智能对社会经济有着无可替代的重要推动作用。另一方面,人工智能技术对社会也带来了近期和远期的风险。随着人工智能技术的发展,许多知名科技人士都对人工智能将来对社会的影响发出了预警。太空探索技术公司创始人、特斯拉CEO埃隆·马斯克说过,人工智能是人类文明的最大威胁。日前又说,人工智能的独裁统治期限将远超出任何一个政权,从而实现对人类的无限期压迫。他说,他对最前沿的AI技术很了解,他们的能力远超出我们的想像,而且在以指数增长的速度进化。看看阿尔法狗就知道了,他们用短短的6-9个月的时间,就可以从一个业余选手,变成一个战无不胜的世界围棋冠军。如今,又出了阿尔法零(alpha0),完全碾压之前的阿尔法狗。阿尔法零可以自己不断学习进化,基本上可以玩任何游戏。只要你规定好游戏规则,他会读懂规则,然后开始玩,就像人类一样。人工智能的危险要远大于核武器的危险。我们需要确保AI技术安全的发展,让这些超级智慧可以和人类和谐共存。

  马斯克观点与霍金一样,就是在发展人工智能的同时,需要充分认识它给人类带来的危险与威胁,要以清醒的头脑防患于未然。对此,早在1950年出版的美国著名科幻小说家艾萨克·阿西莫夫撰写的《我,机器人》小说中,就提出了著名的“机器人三大定律”:第一定律,机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手旁观;第二定律,机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;第三定律,机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。总之,要让机器人完全处于人类的控制之下,以防止其出现越规行为。此后,这“三大定律”不断激发出对于人工智能安全性的新思考。

  为此,当今许多国家在发展人工智能的同时,也都启动了相关的立法立规。我国于2017年7 月发布的《新一代人工智能发展规划》,在强调要构筑我国人工智能发展先发优势的同时,也提出了要逐步建立完善人工智能的法律法规、伦理规范和政策休系。这就是两手抓:大力用其利,积极防其害。

* 以上只是作者个人言论,不代表本网观点

上一篇稿件