欢迎访问:沃派博客 每天不定时发布IT文章相关资讯
当前位置:沃派博客-沃派网 > IT文章 > 正文

开学季摄像头潜入课堂,AI商业化后的隐私黑盒能关得住吗?

09-04 IT文章

开学季摄像头潜入课堂,AI商业化后的隐私黑盒能关得住吗?

在 C 端用户质疑其存在的隐私与伦理问题同时,计算机视觉方案落地线下教育场景的真实应用现状到底如何,教育市场的需求存量有多少,课堂学生状态监控方案落地后将带来哪些社会问题?这些问题亟待调查与解答。

撰文 | 寓扬、茜茜 编辑 | 四月

九月伊始,又是一年开学季,和学生一同走进课堂的还有摄像头和人工智能。

近日,一组课堂上学生行为分析的视频截图在微博引发热议。照片中,摄像头通过计算机视觉算法获取两名学生的课堂表现,并以标签的形式计算出「听讲、阅读、举手,趴桌子、玩手机、睡觉」等动作次数。截图显示该技术方案来自旷视科技。

开学季摄像头潜入课堂,AI商业化后的隐私黑盒能关得住吗?

讨论区,网友对人工智能「监视」课堂行为所带来的隐私、伦理价值问题的声讨不断。有网友表示,「希望有人来解释一下课堂监控 AI 产品的合法性,尤其是人权和隐私权等权利的保护。」

机器之心向旷视科技求证该方案目前的应用情况,旷视科技方面表示,该图片为技术场景化概念演示。旷视在教育领域的产品主要专注于保护孩子在校园的安全,同时也将坚持正当性、数据隐私保护等核心原则,接受社会的广泛建议和监督。

事实上,据机器之心了解,目前视觉方案在课堂教育场景的应用已经不是新鲜事,摄像头生产厂商、教育巨头、AI 技术公司三大类数十家企业。

在 C 端用户质疑其存在的隐私与伦理问题同时,计算机视觉方案落地线下教育场景的真实应用现状到底如何,教育市场的需求存量有多少,课堂学生状态监控方案落地后将带来哪些社会问题?这些问题亟待调查与解答。

1

智慧课堂是一块什么样的市场?

据机器之心了解,旷视关于智慧课堂的解决方案在 2018 年的中国教育装备展上就已经亮相。当时,结合校园场景的需求,与自身在人脸识别、行为识别、表情识别等方面的 AI 技术,旷视就推出了智慧教育解决方案。

在教学场景,旷视重点打造的是课堂智能考勤系统和教学评价系统。其中,考勤系统基于旷视的考勤摄像机,巡航拍摄教室并自动变焦拍摄人脸,再配合旷视的考勤主机盒子,以人脸识别验证的方式对上课学生进行身份核实。

而本次备受争议的则是课堂教学评价系统。旷视的大致做法是,通过其考勤及行为分析摄像机 MegEye-C3V-920 获取人脸、行为以及表情等数据,通过行为分析服务器对课堂视频数据进行结构化分析,并反馈学生的行为、表情、专注度等数据,辅助教学评估。

旷视科技告诉机器之心,目前旷视在智慧校园中主要提供门禁系统,比如应用在教室、宿舍中的门禁系统,学生可以刷脸通过,并且这些系统是离线部署在学校,旷视只提供技术支持。

针对网上流出的课堂行为分析图片,对方称,「这张图源于旷视一次小规模线下活动的 Demo 展示照片,目前还停留在技术展示阶段,并没有落地应用。」

不只是旷视,BAT、科大讯飞、好未来以及多家创业公司在近两年均围绕课堂场景推出了相关的视觉解决方案,这些玩家大体可以分为三类,分别是:设备厂商(摄像头生产商),教育公司和 AI 技术公司。

比如,一位该领域的技术方案提供商向机器之心表示,一般教学分析系统需要 800 万像素左右的摄像头对教室进行拍摄,典型情况下可以覆盖一个 40 人的课堂。

系统会先对每个人进行人脸跟踪,跟踪每个人的位置,然后把每个 ID 单独存储为序列数据,即一系列的图片。随后,在学校部署的工作站会使用深度学习模型进行「情感计算 」,对学生们的肢体、头部、视线等动作完成分析,得到一系列数值。

服务器会把这些值打包发到发到云端,加载更加抽象的模型进行二次分析,最终输出整堂课的活跃度和专注度互动度等指标。在机器学习领域,检测专注度姿态的方式通过行为检测技术来完成。

2

AI 摄像头陆续潜入课堂

从应用端来看,尽管课堂监测方案存在一定争议,但不少学校的智慧课堂应用已经落地,以此进行系统化的学生管理,提升教学质量。

近日,位于江苏南京的中国药科大学,在两间教室「试水」安装了人脸识别系统,用于日常考勤和课堂纪律管理。学生是否认真听讲,课堂上是否抬头低头,抬头低头了几次,抬头低头了多长时间,低头是否在玩手机,是否闭眼打瞌睡,都逃不过人脸识别系统的「法眼」。

开学季摄像头潜入课堂,AI商业化后的隐私黑盒能关得住吗?

版权保护: 本文由 沃派博客-沃派网 编辑,转载请保留链接: http://www.bdice.cn/html/79785.html