当马云和马斯克高谈阔论AI是否会影响人类社会时,尚无“感情”的AI已在校园中“作恶”。近日,一张AI监控课堂的GIF在网上迅速刷屏。这张GIF中记录了课堂中所有学生任一举动,都被AI录制下来并进行完整的数据分析。在这一AI场景中,课堂因监控技术变为“囚笼”,并引发了一场关于道德、人道等方面的争议。

AI监控课堂,“安全”成作恶借口

小明上课表现:趴桌子3次,睡觉1次,听讲1次,阅读0次,举手0次,笑了0次,厌恶表情出现10次……当这些多达十几项的数据指标综合起来,可能会让老师下一个判断:张小明是个不知上进的“落后生”。这不是发生在热门美剧《黑镜》中AI监控人类的科幻桥段,而是以目前AI技术所构建的一个“恐怖”场景。

据了解,研发这一课堂监控系统的是,号称“AI第一股”的旷视科技。在旷视科技的描述中,这一系统看起来颇为高大上——“旷视科技将自主研发的人脸识别、行为识别、表情识别等技术,集成在考勤及行为分析摄像机MegEye-C3V-920和行为分析服务器中,通过对课堂视频数据进行实时的结构化分析,反馈学生行为、表情、专注度、前排上座率等多维度课堂数据。”

但再高深的技术,也不能掩盖课堂监控系统对青少年情感控制、抹杀和剥夺。可笑的是,当这一系统引发争议后,旷视科技发布正式声明称这只是技术场景概念演示,其专注于保护孩子在校园的安全。试问,用AI技术保护青少年的安全,需要分析他在课堂上举手、睡觉、厌恶或欢喜的表情吗?旷视科技的声明,明显是在偷换概念,甚至是把“安全”当作窥视青少年个人行为的作恶借口。

以安全之名行“监控”之实,让青少年在AI场景中被禁锢地像一只只“小绵羊”,神经随时绷紧。这将会对青少年的心理健康成长,造成多大的伤害?的确,这只是一个技术场景概念演示,但一旦技术成熟并落地,影响的将是数代年轻人!

抵制争议场景,只为避免滑向深渊

旷视科技的所作所为,正在偏离自己的初衷。旷视科技的初衷之一,是重视AI研发和应用对隐私权、伦理价值观等带来的挑战。但这一课堂监控系统的出现,显然突破了AI使用场景的底线,并饱受大众诟病。

其实,AI技术及相关场景本身没有错,错的是将它们用在毫无意义甚至不正确的用途上。而这,就是目前部分AI场景的致命软肋——存在道德争议、人道争议。这事实上也凸显出当下AI领域还存在管理方面的漏洞——AI技术及场景已在大踏步前行,但合乎道德、伦理的指导方针、政策等尚没有相匹配的进度。

而在知乎上,“如何看待旷视科技新产品监视学生上课?”这个问题受到关注。其中获得2000+赞的回答中提到,“这不是产品经理或者程序员的问题,不是一家公司的问题,甚至不是一个技术问题。这是我们社会的价值观的问题,是我们怎么看待自身权益的问题。”这段话,或许能够给大众带来更多思考。

我们现在所能做的,就是坚决抵制课堂监控系统这种存在道德争议、人道争议的AI使用场景。我们坚决不能让步,因为任何一点点的让步,都可能导致未来道德会滑向无底深渊。(科技新发现
康斯坦丁/文)

当课堂因监控技术变“囚笼”,存在争议的AI使用场景该被抵制吗?的更多相关文章

  1. 剖析CPU温度监控技术【转】

    转自:http://blog.csdn.net/hunanchenxingyu/article/details/46476545 迄今为止还没有一种cpu散热系统能保证永不失效.失去了散热系统保护伞的 ...

  2. 剖析CPU温度监控技术

    转载 :剖析CPU温度监控技术   标签: CPU 温度控制技术 1805 具体温度检测调整代码(转载)        迄今为止还没有一种cpu散热系统能保证永不失效.失去了散热系统保护伞的“芯”,往 ...

  3. [转帖]开源的监控技术栈除了ELK,还有InfluxData的TICK

    开源的监控技术栈除了ELK,还有InfluxData的TICK   https://cloud.tencent.com/developer/news/357119 来源 | Influxdata 译者 ...

  4. 分布式系统监视zabbix讲解七之分布式监控--技术流ken

    分布式监控 概述 Zabbix通过Zabbix proxy为IT基础设施提供有效和可用的分布式监控 代理(proxy)可用于代替Zabbix server本地收集数据,然后将数据报告给服务器. Pro ...

  5. 大前端技术系列:TWA技术+TensorFlow.js => 集成原生和AI功能的app

    大前端技术系列:TWA技术+TensorFlow.js => 集成原生和AI功能的app ( 本文内容为melodyWxy原作,git地址:https://github.com/melodyWx ...

  6. 【活动】美团技术沙龙第49期:AI在外卖场景中的最佳实践

    美团技术沙龙第49期开始啦! 本次沙龙,美团外卖技术部专家会深入介绍AI在对话系统.图像处理.个性化推荐.智能营销等方向在外卖业务中的实践,希望与业界技术同学一起交流学习. 无论你从事智能搜索,或是算 ...

  7. zabbix实现百台服务器的自动化监控--技术流ken

    前言 最近有小伙伴通过Q联系到我说:公司现在有百多台服务器,想要部署zabbix进行监控,怎么实现自动化全网监控? 本篇博客将讲解一个我工作时做的一个实际项目,现在写出来供大家以后参考使用. 实现自动 ...

  8. iOS中 WGAFN_网络监控 技术分享

    需要用到第三方AFNetworking/SVProgressHUD 没有的可以关注我微博私信我.http://weibo.com/hanjunqiang AppDelegate.m #import & ...

  9. 分布式系统监视zabbix讲解五之web监控--技术流ken

    Web 监控 概况 你可以使用 Zabbix 检查几个网站可用性方面. 如果要使用 Web 检测功能,必须在 编译Zabbix 的时候加入 cURL(libcurl) 的支持. 要使用 Web 监控, ...

随机推荐

  1. ubuntu+mysql+php+apache2+wordpress建站全记录

    虽然操作并不难,但用到的各种命令,各种坑的解决方法还需要记一下 建好的博客: 念诗之人的博客 VPS和域名选购 VPS选购 国内外有很多商家可供选择,国内有如阿里云,百度云,腾讯云等(ECS,BCC等 ...

  2. ubuntu 如何添加alias

    公司的nx 上面一般使用gvim 编辑文件.并且为gvim 增加了alias,只要敲 g 就是gvim 的意思,这样编辑一个文件只需要 g xxx.v 就可以了.非常方便. 在自己电脑上安装了ubun ...

  3. 你都这么拼了,面试官TM怎么还是无动于衷

    面试,对于每个人而然并不陌生,可以说是必须经历的一个过程了,小到一场考试,大到企业面试,甚至大型选秀...... 有时自己明明很努力了,但偏偏会在面试环节出了插曲,比如,紧张就是最容易出现的了. 我相 ...

  4. MySQL学习笔记——基础与进阶篇

    目录 一.###MySQL登录和退出 二.###MySQL常用命令 三.###MySQL语法规范 四.###基础查询 五.###条件查询 六.###排序查询 七.###常见函数的学习 八.###分组查 ...

  5. android 基础学习笔记1

    1.控件 XML种控件必须带有Layoutwidth 和height 1.textview 常用属性 text,textcolor,textsize Android 种颜色用十六进制数表示,共四种形式 ...

  6. Thread Based Parallelism - Thread in a Subclass

    Thread Based Parallelism - Thread in a Subclass 1 import threading import time exit_Flag = 0 class m ...

  7. 记一次MySQL中Waiting for table metadata lock的解决方法

    最近项目中的数据库查询经常挂起,应用程序启动后也报操作超时.测试人员就说数据库又挂了(貌似他们眼中的连接失败,查询无果都是挂了),通过 show processlist 一看,满屏都是 Waiting ...

  8. jmeter与jdk的安装

    1.第一步:下载jdk的安装包 下载链接: http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151 ...

  9. MySQL索引那些事

    原文链接 大家有没有遇到过慢查询的情况,执行一条SQL需要几秒,甚至十几.几十秒的时间,这时候DBA就会建议你去把查询的 SQL 优化一下,怎么优化?你能想到的就是加索引吧? 为什么加索引就查的快了? ...

  10. Ubuntu Xftp 配置

    sudo apt-get updatesudo apt install openssh-serversudo apt-get install vsftpdsudo service vsftpd res ...