欢迎访问:沃派博客 每天不定时发布IT文章相关资讯
当前位置:沃派博客-沃派网 > IT文章 > 正文

把人当成人

09-05 IT文章

有一家叫旷视科技的人工智能公司,拥有全世界最领先的人工智能算法和人脸识别技术,最近他们在演示自己的产品如何在教育领域应用时用了这么一张图。

把人当成人

这张图显示,系统实时监控着课堂上学生的一举一动,可以记录统计各种行为的次数。

到底是在听讲、阅读、举手,还是在趴桌子、玩手机、睡觉,全都一览无余。这宛如《黑镜》的一幕让很多人感到有点不寒而栗。

这套系统可以“无死角巡航拍摄教室并自动变焦拍摄人脸”,“通过对课堂视频数据进行实时的结构化分析,反馈学生行为、表情、专注度、上座率等多维度课堂数据”。

在引起争议之后,旷视科技在声明里辩解说,这张课堂行为分析图片只是“技术场景化概念演示”,言下之意只是一个概念,还没有正式投入使用。

但其实这样的应用场景早已不只是概念演示而已,在很多学校正在成为现实,最近就有很多这样的新闻。

有大学。

把人当成人

有中学。

把人当成人

也有小学。

把人当成人

这些学校用的也许并不是旷视科技的系统,但这不重要。

这些系统名字各有不同,有的叫“智能课堂行为分析系统”,有的叫“智慧课堂行为管理系统”。

它们的功能都大同小异,都是每隔30秒或者一两分钟进行一次扫描,识别学生到底是在认真听讲,还是在开小差打瞌睡。

有的系统还能识别学生的面部表情,分析学生们到底是高兴、伤心,还是愤怒、反感。

把人当成人

把人当成人

上海那所小学的系统,甚至还会捕捉“孩子在校园生活中是否有微笑、向老师问好、主动捡垃圾、列队整齐等良好行为”。

出于好奇我又用“facial recognition”, “class performance”这些英文关键词搜了一下,发现人脸识别进校园并不只出现在中国。

在全世界范围内,都有人工智能公司在推销推广类似的方案,很多国家也有学校在做这样的尝试。

全世界有那么多的学校,如果都能安装人脸识别系统,可以想见未来这是一个多么巨大的市场,有多少人正在垂涎欲滴地希望分食到蛋糕。

但是,如果对比一下国内和国外的情况,还是能发现稍微有一些不太一样的地方。

最明显的区别就是,美国的学校在试图说服外界时,通常会引述校园枪击案频频发生的大背景。

他们强调安装这套系统的目的是,为了能够在第一时间识别出现在校园里的可疑人物,这样一旦有紧急情况发生就能多争取几分钟乃至几秒钟宝贵的应急反应时间。

在公开的媒体报道里,我还没有看到有学校宣称要用这套系统去分析学生表情和监控学生的课堂表现。

但即使这样,还是有很多批评和质疑的声音。

2017年,纽约州一个叫Lockport的小城市,教育部门宣布将在2018年为辖区内的中小学购置摄像头和搭建人脸识别系统,成为全美第一个这么做的公立学校系统。

消息传出后,学生、家长、民间组织纷纷反对。一个叫NYCLU的民间组织在写给纽约州教育部门的信里说:

人脸识别系统通常用于警察办案、赌场监控和军事设施,安装在学校里是不合适的。

最终纽约州教育部门紧急叫停,这个计划被搁置,Lockport几所学校直到今年开学也没有装上这套系统。

把人当成人

全美范围内,不少城市已经或者正在试图立法限制人脸识别技术的应用范围,其中就包括处在科技发展最前沿的旧金山。

而反观国内,那些已经安装或者计划安装人脸识别系统的学校,一开始在对外宣传时都是得意洋洋地把“能够监控学生的表情和行为”作为卖点,完全没有意识到这背后存在的道德伦理问题。

用于保护学生人身安全、识别可疑人物,尚且可以理解;但如果往前一步,把监控重点放在学生的课堂表现上,性质就完全不一样了,有一条线被越过了。

媒体质疑这类系统,通常会批评它是对隐私的侵犯。

但我觉得其实侵犯隐私还是一个何不食肉糜的问题,这类系统最让人不舒服的地方是,在侵犯了隐私之前,它首先侵犯的是孩子们作为人的尊严。

说白了就是在摄像头背后的学校和老师,是不是把学生当成独立平等的个体,是不是当成一个个鲜活的人来对待。

中小学生在课堂上有开小差、打瞌睡、顽皮打闹,本来都是再正常不过的事。

版权保护: 本文由 沃派博客-沃派网 编辑,转载请保留链接: http://www.bdice.cn/html/79990.html