为何马斯克有关AI的警告可能是正确的?

摘自: 网易网站| 2017-08-27 09:45:08|

马斯克说AI是人类最大风险 要求政府干预和监管

  网易科技讯  8月26日消息,据CNBC网站报道,特斯拉和SpaceX公司的首席执行官埃隆·马斯克(Elon Musk)曾多次表示,随着人工智能(AI)的应用越来越广泛,社会需要更加关注其安全问题。

  马斯克最近在推特上写道:“如果你不担心人工智能的安全性,那么现在你应该担心了。”

  软件解决方案公司SAP的首席学习官(CLO)珍妮·迪尔伯恩(Jenny Dearborn)对这观点表示赞同。

  事实上,她认为,至关重要的是要开展好有关人工智能知识以及如何更好利用这项技术的教育。

  她告诉CNBC:“人工智能将无处不在。这将是我们社会中最普遍的一种现象,而这种现象不会被人们直观地看到。但它将存在一切事物的背后。”

  迪尔伯恩称,人工智能将影响我们所做的一切,包括扫描证件、滚动网页、使用应用程序和家庭传感器系统,以及日常生活的许多其他方面。结果,人工智能将不断收集数据和个人信息。迪尔伯恩解释说,企业可以利用这些信息,应用算法来了解你的行为。

  她说:“我们需要利用人工智能让人类更强大,而不是取代人类。我们需要让更多的人在如何利用人工智能上发出自己的声音,这样我们就不会反过来被人工智能所利用。”

  但在人工智能上谁会利用我们呢?我们为什么要保持小心呢?迪尔伯恩称,在人工智能领域的前沿有三家公司:谷歌、Facebook和亚马逊。她说,(如果人类被人工智能所利用)它们“将受益最大”。

  迪尔伯恩表示:“对于人工智能渗透到人们生活的程度,人们需要有所了解。这样,他们就不会在某天醒来说:‘我一直都是被利用的棋子’。”

  她以Fitbit等健康追踪设备为例:一家医疗保健公司可以利用健身应用提供的数据来了解人们的健康习惯。她说:“那么,如果有一天,对于每天步行少于1万步的人,它决定增加他的保险费用,人们该怎么办?”

为什么马斯克有关AI的警告可能是正确的?

  迪尔伯恩认为这是一种极端但不是不可能发生的情形。她问道:“谁来做出这个决定?”。她说,如果我们不参与有关人工智能的讨论,那这些大公司将拥有全部话言权。

  她担心,人们会为了方便起见而愉快地泄露自己的隐私。她指出:“他们说,‘我可以接受’,但如果(一家公司的所作所为) 越过红线怎么办呢?”

  迪尔伯恩称:“现在,大多数公司都比政府拥有更大的权力。”今后,会有大量关于人们隐私、个人自由和红线的讨论。因此,“开展这方面的教育非常关键。”

  她表示,我们应该决定我们希望这个新经济会是什么样子,了解我们自己在其中扮演的角色,参与对话并成为知情的公民。这样,在人工智能如何“设计和以何为导向”上,社会大体上可以做出明智的决定。

  马斯克有类似的观点,他说:“人工智能对人类文明的存在构成了根本性的风险,这与汽车事故、飞机相撞、药物错配、食品安全的影响方式不同——后者只会对社会造成局部的损害,但人工智能有可能对整个社会造成威胁。”

  迪尔伯恩提出了自己的解决方案:“我们应该教育好年轻人,让他们对我们要去的地方持批评态度。”她支持年轻人进入科技行业,事实上,她说,对我们生活产生最大影响的重大决策经常来自于科技行业,而不是政府。

  她说:“如果你想从事卫生保健行业,就选择以医疗保健为重点的科技类专业;如果你想成为一名神经系统的科学家,那就选择以神经系统其为重点的科技类专业。”

  迪尔伯恩补充说,我们最大的责任是弄清楚社会将如何利用人工智能。

  她给出了一个例子:谷歌一直在测试无人驾驶汽车。但是,如果一辆无人驾驶汽车即将发生碰撞,它必须在拯救驾驶员和撞向人群,或避开人群但让载有驾驶员的汽车发生碰撞这两项选择做出一个数学决策,那该怎么办?

为什么马斯克有关AI的警告可能是正确的?

  尽管她承认这是一个极端的例子,迪尔伯恩称,人们很快就必须对这类问题做出回答。因此,让更多来自不同背景的人群参与有关人工智能开发和应用方式的讨论很重要。

  她说:“这就像创造一个政府结构或社会秩序。你需要确保构建这些系统的人们拥有平等的代表性和多样性。”。

  她说,现在的科技领域以白人男性为主,他们同时制定了有关我们的道德和社会原则的规则。

  迪尔伯恩称:“在这方面,我们不能采取自由放任的方式。这些都是伦理准则和红线,不能让营利性公司自行做出这些决定。”

扫一扫,分享到微信朋友圈

责任编辑:3

本文相关推荐

看荐精选

精彩文章

边上班赚钱边旅行看世界 其实并没有那么爽

在同龄的小伙伴里,小周的职业是大家羡慕的对象,不必每天打卡挤地铁,朋友圈里充满绝美的风景照和充满诗意...

11月17日 07:52

冒雨为救护车疏导交通 外卖小哥你真棒!

外卖小哥在路中为救护车疏导交通。受访者供图  外卖小哥曾剑华。彭程/摄  英勇救人的民警范雄飞。紧急...

11月17日 07:49

南方日报连发四评,谈习近平主席十九大后首访

综合人民网、央视网11月10日至14日,中共中央总书记、国家主席习近平应邀赴越南岘港出席亚太经合组织...

11月16日 22:07

第四届世界互联网大会将于12月3日开幕

国务院新闻办公室就第四届世界互联网大会有关情况及筹备工作进展举行发布会。中国网信网李旭摄记者16日从...

11月16日 19:46

我国共享经济将保持 年均40%高速增长

图/新华社据新华社电我国将如何规范共享经济发展?双11的火爆,是因为消费从线下转到线上了吗?在15日...

11月16日 17:15
oumin@189.cn kanmiaochen@21cn.com liyg@21cnsales.com ibm2012cd@21cn.com Athena_1a@21cn.com 1994004509@qq.com Athena_1a@163.com