人脸识别可否进课堂?专家称涉嫌技术滥用

2019-09-05 16:48:14 

网络调查显示,84%网友不赞同此举,86.1%认为该行为侵犯了学生隐私

  近日,南京某大学在部分教室“试水”人脸识别系统,不但可以识别每个进出教室的学生,自动签到签退,还能识别学生发呆、打瞌睡、玩手机等行为。

  还记得校园时代被班主任在教室后门“暗中观察”所支配的恐惧吗?如今,取而代之的可能是一个“360度无监控死角”的人脸识别摄像头。

  近日,南京某大学在部分教室“试水”人脸识别系统引发网友热议。该系统不但可以识别每个进出教室的学生,自动签到签退,还能识别学生发呆、打瞌睡、玩手机等行为。校方称,此举是为提高学生到课率,严肃课堂纪律。

  近年来,人脸识别进校园的尝试越来越多,但每一次曝光都伴随着极大的争议。有专家对南都记者表示,人脸识别进课堂已经超出了正当、合法、必要的限度,涉嫌技术滥用。

u=4137901454,2241789919&fm=26&gp=0

  落地

  人脸识别摄像头入驻高校、中小学

  2019年秋季开学伊始,南京某大学就因为几天前的一段视频被顶上了微博热搜。

  原来,该校在校门、图书馆、宿舍安装了新的人脸识别门禁,部分教室内还装上了人脸识别系统,不仅可以有效杜绝由别人代为签到的情况,还能识别学生发呆、打瞌睡、玩手机等行为。校方表示,未来还将实现“刷脸”吃饭、借书等等。

  “从进教室的那一刻起,你往那一坐,它(摄像头)对你已经全程进行识别了……比如你抬头了几次、低头了几次,还有你是否在玩手机,是否在发呆,是否在看别的书,都能感知到”,该校图书与信息中心主任称,目前课堂人脸识别系统会先在两间教室试点,效果好的话将在全校推广。

  他还表示,学校之前已向公安部门和法务部门咨询,由于教室属于公开场所,因此不存在“侵犯隐私”的说法。

  南都记者注意到,这则新闻距离上一次引发广泛讨论的上海某小学智能课堂行为分析系统,仅仅过去了一个星期。

  据媒体报道,该小学正在构建智能课堂行为分析系统,运用姿态评估、表情识别、语言识别、关键词匹配等技术,探索对课堂教学过程的定量分析。

  比如孩子在校园生活中是否有微笑、向老师问好、主动捡垃圾、列队整齐等良好行为,或者快速奔跑、摔跤、打架、拥挤等危险动作。系统还可以采集学生姿态行为如打哈欠、坐姿、走姿的图像数据,对孩子的走姿倾斜、不良坐姿和睡眠不良等情况等进行识别判断,生成预警报告。

  事实上,早在去年5月,杭州某中学联合海康威视研发的全国首个智慧课堂行为管理系统——“慧眼”就曾引发过关于新技术在教育领域的应用边界的争议。

  据了解,“慧眼”可以针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为,再结合面部表情是高兴、伤心,还是愤怒、反感,分析出学生们在课堂上的状态。有学生直言:“自从教室装了慧眼,上课都不敢开小差了。”

timg (2)

  公众

  逾八成不赞同人脸识别进课堂

  与人脸识别技术在教育领域内的席卷之势相对的,是公众对人脸识别进课堂的疑虑和担忧。

  对此,南都NDX实验室热点站站队以“你赞同学校用人脸识别系统采集学生的课堂行为吗?”为题,发起了话题讨论。调查结果显示,参与投票的3269位网友中,84%不赞同,86.1%认为该行为侵犯了学生隐私。

  有网友认为,“这个系统只会教孩子虚伪”、“学生会把注意力集中在表情上,而不会专注学习了!”还有网友质疑,“监狱都不带这么控制表情的,这是把孩子当机器人来培养?”“其实当了老师那么多年眼明手快的了,怎么会没发现台下学生的小动作呢!”

  此外,尽管投票网友中只有1.3%表示,自己孩子就读的学校安装了人脸识别系统,却有高达22.8%的网友称没有经过家长或自己的同意;剩下的网友中,81%表示不会同意学校安装人脸识别系统。

  针对公众对隐私的担忧,上述杭州某中学校长回应称,人脸识别系统只采集学生的行为状态信息,不会进行课堂录像。例如,认真听课的为A,趴下睡觉的是B,起立回答问题为C,系统只是统计这些符号信息。

  据了解,该系统采用的摄像头背后都是一个小型处理器,操作原理为通过对学生面部进行判断,之后形成一个与之相对应的代码。系统采集的对象为代码,而非学生的面部影像。

  监管

  鼓励建设智慧课堂但规范缺失

  南都记者梳理发现,人脸识别系统在高校、中学、小学的全面开花,不仅得益于AI技术的广泛应用,也符合国家鼓励的发展方向——教育部在2016年教育信息化工作要点中,首次正式提出智慧校园建设与应用。

  2018年4月,教育部印发《教育信息化2.0行动计划》,提出构建智慧学习支持环境,推动人工智能(AI)在教学、管理等方面的全流程应用。此后,各地的教育厅和学校纷纷在实践中摸索出了适合自身情况的路径。

  比如同年5月印发的《江苏省中小学智慧校园建设指导意见(试行)》提出“支持教学行为数据采集和分析的智慧教室和学习体验中心”;随后出台的《广东省中小学智慧教室建设指南(试行)》则进一步明确,支持对课堂教学过程的数据分析,实现课堂对学生情绪分析、人脸识别及抬头率等课堂参与性指标的分析。

  在业界,这些基于人脸识别的课堂专注度分析已经形成了较为成熟的解决方案。从传统的班级授课到借助智能手段实现个性化教学,智慧教育是大势所趋——除了AI技术提供商,传统教育类公司和互联网企业也都想“分一杯羹”。

  然而,由于行业标准和规范的缺失,市场上的智能教育产品显现出质量良莠不齐、存在潜在数据安全风险等问题。另一方面,也鲜少有地方在相关文件中从保护学生隐私和AI伦理的角度提出要求。

  争议

  AI采集人脸信息 是否侵犯学生隐私?

  南都记者梳理发现,公众的讨论主要聚焦在三个问题上:在安防目的之外使用人脸识别系统是否必要?学生被收集人脸信息是否侵犯隐私?课堂行为采集是否会对教师和学生的心理产生不好的影响,导致“作秀式”教学?

  必要性

  “学校是公共场所,也是敏感区域,因为涉及到学生之间的危险行为、教师体罚学生等情况,容易有纠纷,所以在教室里装摄像头总体应该还是起到一个正向作用”,中国信息安全研究院副院长左晓栋指出。

  但他也强调,安装摄像头的目的应该限制在公共安全上面,用来识别开小差的学生的做法存在争议,“至少目前还看不到课堂行为分析的必要性。”因此,他认为,人脸识别进课堂已经超出了正当、合法、必要的限度,涉嫌技术滥用。

timg (1)

  隐私权

  据上述杭州某中学副校长透露,为了避免信息外泄,系统使用的是本地服务器。后期统计出的数据也分权限,如校领导和中层管理人员,可以看到的数据信息也不同。至于代码运算出来的结果,则仅供任课教师关于课堂效果的一个参考。

  在北京师范大学刑事法律科学研究院暨法学院副教授吴沈括看来,利用人脸信息识别学生的行为,对其进行课堂上的有效管理,是法律允许的行为;但若将信息影响大范围披露,借此对学生予以当众羞辱,或对采集内容未尽到妥善保管义务导致信息发生泄露,以及在信息泄露事故发生后未能采取及时的止损措施等,则是法律禁止的行为。

  对于中小学生来说,采集人脸信息还涉及未成年人隐私的问题。“如果没有获得学生及家长同意,学校就没有权利进行监测”,中国政法大学传播法研究中心副主任朱巍还提到,采集的信息不能作为商业化用途,也不得对外公开;学生毕业后,学校需保障其能够及时删除信息的权利。

  心理影响

  北京师范大学中国教育与社会发展研究院讲师高莉曾撰文指出,无论对于教师还是学生,人脸识别摄像头分析课堂行为的功能都可能带来负面效果。

  如果把系统结果异化为评价教师教学的一种方式,那么在摄像头监控下的教学很可能会演变成一种拘谨的“作秀”式教学,比如降低教学难度,减少学生“困惑”表情产生;甚至为了取悦学生,增加与教学内容无关的“段子”,博取“掌声”。

  她提到,教学本应是一种高度自主化的过程,教师与学生之间的关系应该是相互尊重和融洽的,教育环境也应该是自由和充满信任的。

  “面部识别技术一旦走进学校、监控课堂,学生的身体、时间不仅被规训着,甚至连注意力、一举一动、喜怒哀乐也将被纳入监控范畴。长期生活学习在这种不信任环境所带来的逆反心理,也会对学生的身心健康有影响”,她说。


热门评论
打开普宁通查看更多评论
热门推荐
家长、老师注意!这件事八部门发话了 2019-09-06 22:28:15
公安部:将严厉打击教育类App违法违规采集使用个人信息等行为 2019-09-06 11:42:20
“开学安全手册”来了,家长师生必备!这10道“安全知识题”,务必考考孩子! 2019-09-06 11:36:16
太难了!家长们给老师“上了一课” 2019-09-06 00:52:45
教师节马上要来啦 这些年来教师队伍有了哪些变化? 2019-09-05 16:52:27
人脸识别可否进课堂?专家称涉嫌技术滥用 2019-09-05 16:48:14
教师待遇,提了! 2019-09-04 17:49:41
我市45位学生荣获潮汕星河奖 13位教师荣获潮汕星河辉勇师表奖 2019-09-04 16:31:01
教育部:教师职称、编制、工资待遇将迎来这些新变化 2019-09-04 10:52:54
刚刚发布!以后这几类考试作弊,最高判7年 2019-09-03 16:37:15
没看够!下载个普宁通呗!
普宁通 使用普宁通 生活更轻松 立即打开 ×