一场突如其来的校园监视危机,旷视科技“冤”吗?
开学后, 是时候唤起你的恐怖回忆了。
也许《黑镜》的编剧怎么也没想到,这部曾一度被封神,但口碑一路下滑的科幻电视剧,终于迎来了“戏言”一语成谶的时刻。
在2018年播出的第四季第二集中,为了更好监护自己的女儿, 一位母亲给她的眼睛植入了芯片控制器,自己可以透过一个类似iPad的硬件查看其身体的各项生命体征,也可以转播它的视觉信号。
换句话说,她可以通过iPad看到任何女儿看到的画面。假如后台显示因为女儿看到恐怖画面而导致皮质醇上升,她可以按下屏蔽按钮,用马赛克抹除掉女儿看到的特定物体,譬如一只凶猛的大狗。
现在,让我们偷换一下里面的技术细节。
把植入的芯片,换成教室里可以做到十几个小时连续监控的人脸识别摄像头。通过人脸识别的实时分析,作为家长和老师,你可以随时获得她更加细致的多达十几条指标结论:
趴桌子2次,玩手机2次,睡觉1次,听讲0次,阅读0次,举手0次,笑了0次,厌恶表情出现了10次……
最后机器可能得出一个综合结论:她是个有问题的孩子。
以上,便是旷视科技在前天晚上引发微博轩然大波的产品图片以及被截取的视频内容。
而这已经不是一部电影,也不是一个停留在宣传片层面的demo,因为类似项目,已经进驻部分小学与大学。
在微博与知乎上的讨伐声此起彼伏时,旷视科技很快便发布了一则正式声明,表示网上出现的图片仅仅是技术场景概念演示,公司在教育领域的产品专注于保护孩子在校园的安全。
这则声明中,关键词是“安全”。而最具争议的讨论点之一,也恰恰是“安全”。
要解决孩子的人身安全, 需要我们去分析他睡了多少次觉,举了多少次手以及瞟了同桌多少眼的问题吗?
或者反过来说,这些强加的条条框框,是否能够有效解决校园霸凌?
再或者说,我们知道这个孩子或许有几个表现不达标,那么我们有没有准备好对症下药的解决方法?即便作为一名老师可能很了解一个孩子上课有不听讲的毛病,但是对于改变他的毛病却通常无能为力。
我们的关注点从谈及“安全”的一开始,就已经本末倒置了。
这也是《黑镜》里植入芯片与人脸识别分析上课表现与行为的共同点:
拿捏不好分寸,将所谓的“保护”转变为“过度保护”,以保护之名行“监禁”之实,将会在未成年人的心理上留下怎样的痕迹?最坏的结果,还请参见黑镜这一集的结局。
技术本没有任何错误,根本在于我们的命运掌握在有权使用技术的人手里。
旷视“冤”吗?
当舆论炮火被引到旷视身上时,我们其实需要了解更多真相。
2018年在北京举行的安博会上,除了“人脸识别技术”成为硬件与方案的标配,几乎现场可提供场景解决方案的安防厂商中,有一半都表示可以做以校园场景为基础的人脸识别监控。
而在百度与天眼查上搜索“校园智慧解决方案”,声称可以提供室内人脸识别监控方案的企业不在少数。
实际上,在国内各省的平安校园建设持续多年,出发点是预防各类侵害学生权益的事件发生,譬如阻止社会人员滋扰在校师生,再有就是让人痛恨的校园霸凌。
与此同时,2018年教育信息化2.0行动计划的颁布,也让提高教学质量与效率的目标与更多更复杂的技术手段建立了联系。
然而,在技术应用愈加成熟与便捷的过程中,有些东西正在发生变质。
学校与家长的关注点从学生的人身安全,逐渐转向更加符合个人利益的要素上,譬如如何让学生更加高效地学习,预防早恋等等,这些在他们看来都与更好的成绩,孩子们更好的未来以及学校更好的名声直接挂钩。
早在2017年,国内就有不少中小学安装了联网摄像头,家长在家里下个app,就可以通过教室黑板上方那个摄像头,看自己的孩子到底在教室里做些什么。
版权保护: 本文由 沃派博客-沃派网 编辑,转载请保留链接: http://www.bdice.cn/html/79909.html