韩国研发AI武器遭抵制,武器自带“头脑”将多可怕
禁止自主武器的开发,事实上并不妨碍人工智能技术的发展,也不妨碍其被正常用于军事领域,其中的关键就在于,人类是否拥有控制权,能否在关键时刻对其进行关闭。
文 |郑伟彬
转自新京报专栏
4月4日,全球超过50名人工智能研究人员联名抵制韩国科学技术院与韩国顶尖财团合作开设的人工智能武器试验室。原因在于该机构试图研发自主武器(autonomous weapons)。
韩国研发“机器杀手”遭到联合抵制
据韩国时报报道,该研究机构将开发一种基于人工智能的导弹。它能够控制自身的速度和高度,也能够侦测到敌方的雷达防线并改变路线,在没有直接人为干预的情况下调整其针对目标的路径。此外,该机构还将开发配备人工智能(AI)的潜艇和武装四轮摩托。这些设备都可以根据AI技术及其算法决定何时与人接触。
在遭到全球人工智能研究人员的联名抵制之后,韩国科学技术院校长申成澈(音译)表示,由于意识到关于人工智能有违人类道德的担忧,因此将不会开展任何有违人类尊严的研究活动,包括研发缺少人工控制的自主武器。
类似的问题已经有很多讨论,也引发了全球许多科学家、研究机构及政府的关注。比如2017年,包括美国企业家马斯克在内的117名企业家、专家发表公开信,呼吁联合国禁止使用AI武器。随后不久,英国政府表示将计划禁止完全自主武器。
AI应用于军事领域关键在人类有主导权
需要强调的是,在上述事件中所涉及的AI武器,均是针对自主武器(autonomous weapons),而非简单的智能武器,或是自动化武器(automatic weapons)。
但很多媒体在报道韩国此次事件时,都错误地将autonomous weapons翻译成自动武器。事实上,这两者之间有着很大的差别,即武器是否具有自主意识,能够自主决定是否展开攻击行为。
自主武器并不等于智能武器,也不等于自动武器。诸如智能武器或自动武器,现在就已经存在,比如自动瞄准装置、导弹定位系统、无人机等等,但是无论是哪一种武器,其最终决定权都在人类手中。这一点在此次的公开信上已经得到了具体的体现。研究人员明确反对“autonomous weapons lacking meaningful human control”,即缺乏最起码的人类控制的自主武器。这和一般意义上的自动化武器或智能武器已经不是同一概念了。
自主武器,属于通常所说的强人工智能范围,它把武器是否对人类进行毁灭性打击行为的决策权交给机器。这无疑是十分危险的做法。它所造成的结果,必然是毫无道德、伦理限制的杀人机器四处横行,而人类将对此束手无策。一旦打开了这个潘多拉盒,将很难关闭,人类存在面临被彻底消灭的可能。这也是为何当前主流的人工智能研究,都不主张让机器拥有自主意识。
而对于智能武器之类的技术研发,却可能有益于人类,有益于军事发展。比如扫雷机器人,它可以代替人类执行危险的扫雷任务。比如美国海军研究实验室在几年前设计的“船上自主消防机器人”,可以在整个船上自主移动,处理许多通过由人类执行的危险消防任务。这些与自主武器这种机器杀手,有着天壤之别。换句话说,禁止自主武器的开发,事实上并不妨碍人工智能技术的发展,也不妨碍其被正常用于军事领域,其中的关键就在于,人类是否拥有控制权,能否在关键时刻对其进行关闭。
设置约束协议防止自主武器出现
从这个角度上说,这也是人类发展任何形态科技所应该恪守的底线,即避免科技进步的同时带来人类无法控制的后果。以人工智能为例,当前已经出现过一些类似的“失控”事件,涉及种族歧视、性别歧视等。比如微软的聊天机器人Tay曾经在Twitter上发表涉及种族歧视的言论,导致其上线一天就被迫关闭。背后的原因在于被污染的数据未能进行剔除,导致机器智能的失控。
除了数据本身,算法同样也可能导致智能失控。目前广泛应用的深度学习即是一个“黑箱”决策过程,人类无法得知决策是怎样形成的。这是一种潜在的危险。因此有少量研究人员就试图通过诸如拓扑数据分析等方法,来揭开这个神秘的黑箱。否则,只能像即将于5月在欧盟生效的《通用数据保护条例》所规定的那样,对于不可解释的算法,视其为“非法”。
对于自主武器也是如此,在当前并不能永远排除自主武器出现的可能之时,一个可以接受的方式即是设置相应的约束协议,最大可能地防止这种可能的出现或使用。正如联合国已经较为成功地禁止了生化武器、致盲激光武器的使用一样。
总而言之,在任何技术进步面前,人类始终要回答一个问题,即人类作为一个整体是否具备足够的智慧来应对技术创新带来的希望和危险。当人类社会越来越由技术所主导或推动时,今天的人类为其付出多少努力,注入多少价值观,将决定未来人类社会的最终面貌。
【附:一文一图】
身边的喧嚣 | 摄影:Nino Marcutti
韩国研发AI武器遭抵制,武器自带“头脑”将多可怕的更多相关文章
- Bukkit插件编程之检测玩家受到的伤害是来自投射类武器还是近身武器
package com.sklm.lhb.listener; import org.bukkit.entity.Arrow; import org.bukkit.entity.Player; impo ...
- 面试官的七种武器:Java篇
起源 自己经历过的面试也不少了,互联网的.外企的,都有.总结一下这些面试的经验,发现面试官问的问题其实不外乎几个大类,玩不出太多新鲜玩意的.细细想来,面试官拥有以下七种武器.恰似古龙先生笔下的武侠世界 ...
- weapon制作武器
weapon制作武器 (weapon.pas/c/cpp) 解题报告 制作武器weapon.pas/c/cpp) 背景 WZland的紧急避难所很快就建好了,WZland的居民们陆续地来到这个紧急避难 ...
- C++游戏系列5:不止有一件武器
很多其它见:C++游戏系列文件夹 知识点:对象数组作为数据成员 改进:每一个角色所持有的武器不仅仅一件,故持有的武器,用了对象数组来表示,当然,也能够是空手. 由此而带来的,还得记录一共同拥有几件武器 ...
- 传奇衣服、翅膀、武器、怪物、NPC等外观代码计算方法与公式
详细介绍humX.wil weaponX.wil itemsX.wil dnitemsX.wil stateitemX.wil monX.wil代码计算方法 以下计算方法适用于HERO引擎和3K ...
- 2018 AI产业界大盘点
2018 AI产业界大盘点 大事件盘点 “ 1.24——Facebook人工智能部门负责人Yann LeCun宣布卸任 Facebook人工智能研究部门(FAIR)的负责人Yann LeCun宣布卸 ...
- 李飞飞确认将离职!谷歌云AI总帅换人,卡耐基·梅隆老教授接棒
https://mp.weixin.qq.com/s/i1uwZALu1BcOq0jAMvPdBw 看点:李飞飞正式回归斯坦福,新任谷歌云AI总帅还是个教授,不过这次是全职. 智东西9月11日凌晨消息 ...
- 一文解读AI芯片之间的战争 (转)
2015年的秋天,北京的雨水比往年要多些,温度却不算太冷.这一年里,年仅23岁的姚颂刚刚拿到清华大学的毕业证书;32岁的陈天石博士毕业后已在中科院计算所待了整整8年;而在芯片界摸爬滚打了14年的老将何 ...
- 游戏AI之初步介绍(0)
目录 游戏AI是什么? 游戏AI和理论AI 智能的假象 (更新)游戏AI和机器学习 介绍一些游戏AI 4X游戏AI <求生之路>系列 角色扮演/沙盒游戏中的NPC 游戏AI 需要学些什么? ...
随机推荐
- Convert.ToBase64String(Byte[])和Encoding.UTF8.GetString(Byte[])的区别
Encoding.UTF8.GetString是针对使用utf8编码得到的字符串对应的byte[]使用,可以还原我们能看懂的字符串而Convert.ToBase64String是对任意byte[]都可 ...
- 【视觉SLAM14讲】ch3课后题答案
1.验证旋转矩阵是正交矩阵 感觉下面这篇博客写的不错 http://www.cnblogs.com/caster99/p/4703033.html 总结一下:旋转矩阵是一个完美的矩阵——正交矩阵.①行 ...
- STL之queue&stack使用简介
queue 队列也是一个线性存储表,与后进先出的堆栈不同,元素数据的插入在表的一端进行,在另一端删除,从而构成了一个先进先出(First In First Out) 表.插入一端称为队尾,删除一 ...
- JDK从1.8升级到9.0.1后sun.misc.BASE64Decoder和sun.misc.BASE64Encoder不可用
目录 描述 原因分析 处理办法 参考 描述 最近研究把项目的JDK升级从1.8升级到9.0.1,在eclipse上配置好JDK为9后,发现项目有错,查看发现sun.misc.BASE64Decoder ...
- lombok 去除麻烦的实体类get和set,toString书写
首先在pom.xml中添加 <dependency> <groupId>org.projectlombok</groupId> <artifactId> ...
- 第十七篇:django基础(二)
本篇内容 简单图书crm系统 编写views views:作为MVC中的C,接收用户的输入,调用数据库Model层和业务逻辑Model层,处理后将处理结果渲染到V层中去. app01/views.py ...
- 【bzoj4898】[Apio2017]商旅 Floyd+分数规划+Spfa
题目描述 有n个点.m条边.和k种商品.第$i$个点可以以$B_{ij}$的价格买入商品$j$,并以$S_{ij}$的价格卖出.任何时候只能持有一个商品.求一个环,使得初始不携带商品时以某种交易方式走 ...
- BZOJ 2453 维护队列 | 分块
题目: http://www.lydsy.com/JudgeOnline/problem.php?id=2453 题解: 考虑维护每个位置的颜色上一次出现在哪里,计为pre[i],在询问l到r的时候, ...
- 10个简化Web开发者工作的HTML5开发工具
HTML5的到来,改变了设计和开发的工作,完全改变了以前的开发方式. HTML5进行本身就是一个很简单,很快捷的开发技术并且带给开发人员很多不同的工具和功能,使他们的工作变得更加Cool.它的功能非常 ...
- Windows ToolTips简要介绍(转)
原文转自 https://blog.csdn.net/sesiria/article/details/77450151 Windows 标准控件ToolTips简要介绍 参考文档 MSDN https ...