上海天骥劳务服务有限公司欢迎您!咨询热线:021-65193395    021-55670502

求职登录 企业登录 求职注册 企业注册
营销分布

当前位置:

首页

>>

新闻动态

>>

法规文件

联系方式CONTACT  US

公司名称:

上海天骥劳务服务有限公司

联系电话:

021-65193395

微信公众号:

postmaster@ahlwpqw.com

联系地址:

上海市杨浦区临青路188号A12楼3楼

如果AI作恶 一定是人在作恶

作者:        发布日期:2018-11-12        点击量:89

  一群装有炸药的无人机飞向人群,开始杀戮;一架无人机拦下一个行人,无人机上携带的手机里传出威胁指令,胁迫路人把身上的钱包放到无人机上挂着的袋子里……虽然这是拍摄的假想视频,但通过AI作恶已经不是科幻小说的情节。

  “AI作恶,是世界末日还是杞人忧天?”成为今年中国计算机大会(CNCC2018)中的一个讨论议题,也是中国计算机学会青年计算机科技论坛 (CCF YOCSEF)的一个活动。这个论坛于近日在杭州举行。

  主持人、哈尔滨工业大学长聘教授邬向前提前搜集了一些AI有可能“作恶”的迹象:谷歌、亚马逊、微软分别与美国军方、警方和移民局合作,研究人工智能在军事、警用和移民方面的用途;韩国科学技术院也与军方合作设立实验室,研究人工智能武器。“这些研究不仅严重侵犯了人权、自由和隐私,还对人类的安全产生了威胁,是对人类作恶,从而遭到人工智能研究人员的强烈抵制。”他认为,这也一定程度印证了霍金、马斯克和比尔·盖茨等提出的人工智能威胁论,即人工智能会危害并最终毁灭人类。

  在此之前,包括南京大学周志华教授在内的全球20多个国家、50多名高校顶尖AI学者集体签名抵制韩国科学技术研究院(KAIST)研发出基于AI的导弹、潜艇和四轴飞行器。

  其实,任何技术都是一把双刃剑。那么AI作恶是世界末日还是杞人忧天?为了避免人工智能作恶,是否应该停止相关技术的研究?从立法角度如何看待和防止AI作恶?

  360集团技术总裁、首席安全官谭晓生认为人性决定了AI的善与恶。AI的善与恶,本质上依然是发明和发展AI的人的善与恶。事情总有两面,当我们享受AI带给我们的便捷、便利的时候,也要承担AI所带来的风险:AI的算法可能存在缺陷、AI的代码实现可能会存在缺陷、AI所承载的硬件计算载体可能存在缺陷,更不要说AI已经被网络黑产和军方所采用,如同若干次技术革命时所面临的挑战一样。

  他强调“物竞天择,适者生存”:“我们应该拥抱变化,积极适应AI的快速发展。”

  北京大学法学院教授、互联网法律中心主任张平教授从法律角度分享了自己对AI作恶的认识。她认为“AI作恶的实质是人类在作恶”。张平教授在发言中谈道,AI的本质是人类的工具,而法律对人类利用工具作恶的规制主要是从技术、产品以及人机混合体(新生命)三个方面进行。

  她分析,从现有法律看,AI作恶可分为“大恶”与“小恶”。“大恶”是达到了人类无法控制的顶级作恶,例如“反人类罪”,按照现行人类法律对于反人类行为当必除之;“小恶”的基本特征是将AI作为人类的工具用来作恶,包括大数据的滥用等。

  张平提出,要想制止AI作恶,应当从人类开始。不过,她认为真正令人恐惧的是作恶的“人机混合体”。一些具有强大功能的“人机混合体”将更多享受地球以及宇宙的资源,而其他自然人将处于弱势,从而成为“被作恶对象”。

  那么在AI研发的规制上只可能从善良的角度尽可能做道德约束,但绝无法阻止人类中的“恶人”行为。大恶只能由人类命运决定,就像核武器一样,全人类恶之。张平教授还给出了AI应当遵循的基本原则,即有益目的原则、安全性原则、价值归属原则和非颠覆原则等。

  参会者在讨论中阐述了各自的观点。现在有很多利用AI作恶的现象,比如人工智能武器、大数据滥用、隐私侵犯等;AI本身是一种工具,有脆弱性,即容易被不法分子利用;无论是多先进的技术,总会首先应用于作战,这是不可避免的。

  在防止AI作恶方面,专家学者们也给出了自己的意见。不过,大家认为防止AI作恶的难度很大,因为AI的发展太过于迅速,进化很快,并且其有分散性和低门槛的特点,很难防止。

  因此,应该设立伦理委员会,对AI的研究进行审查,可以考虑设立AI的研究禁区,从危害性和应用领域对AI进行分级,防止别有用心的人控制AI。(中国青年报·中青在线记者 李新玲)

来源:中国青年报
编辑:尹文卓