10月26日消息，别再以为刷脸眨眼就安全！AI生成的视频照样蒙混过关。
据央视网近日报道，杭州市中级人民法院今年公布一起案例，AI生成视频，已经能够逃过人脸识别系统。
案件中胡某运、胡某亮两名不法分子为牟利，通过境外聊天软件接入黑灰产交易链条，承接非法任务。
他们收集网民照片，利用境外AI换脸网站，通过深度学习算法提取人脸特征、建模训练，生成带有眨眼、点头、摇头等指定动作的动态视频。
作案时，二人在手机安装虚拟相机程序替换原生摄像头。当购物平台调起人脸核验，系统看到的并不是真人画面，而是提前合成好的AI视频，以此绕过活体检测，登录他人账号，窃取并贩卖用户个人信息。
本案中，二人违法所得共计5857元。由于侵权持续时间较短，被查获后主动停止侵权、全额退缴违法所得且自愿认罪认罚，检察机关综合案情，作出刑事不起诉决定。
免于刑事追责，不代表无需承担法律责任。二人行为侵害众多不特定网民的个人信息，损害社会公共利益，杭州市人民检察院就此提起个人信息保护民事公益诉讼。
庭审中，两名被告对滥用AI技术侵犯他人信息的行为供认不讳，当庭向受害群众和社会公众致歉，承诺今后守法。
法院最终判决，判令二人公开赔礼道歉，并支付与违法所得数额相当的公益损害赔偿金。
该案也是典型警示：技术中立不等于违法免责，仅依靠简单动作的刷脸核验存在明显漏洞，AI低成本深度合成正在冲击人脸核验体系，平台、用户都需要升级防护。
