“换脸”有隐患,新技术商用不能没有边界和门槛


标签主题:人脸改变人脸识别技术AI人工智能新技术个人信息边界一键式视频监管器

当我们涌现出源源不断的科技创新时,相应的系统和法规未能及时建立和完善。这是我们必须面对的一个大难题。如何提高风险防范意识,以受控制的方式使用选定的技术,尽可能避免风险而不假装,这一过程显然是在考验监管机构的智慧和技巧。

“只需要一张照片来播放世界”根据9月1日《新京报》的报道,8月30日,一款名为“ZAO Every Face Makes Play”的变脸应用程序很受欢迎,用户可以上传个人照片。之后,您可以使用一个按钮输入主演星形的相关影片剪辑,生成新视频并创建表情符号。大量用户下载该应用程序以上传自拍照片,并将生成的视频分享到社交网络,这导致了“病毒式”传播。在为用户带来新体验的同时,软件背后的隐私权,肖像权,版权等安全问题也引起了人们的关注。

另一个专注于“有趣”的软件很受欢迎。有点不同的是,这一次,对安全问题的质疑和警惕很快就出现了。用户敏感地发现他们的注册过程需要使用手机号码,并且在提交上传的照片后,需要进行非公开角色验证和肖像权限验证。扫描面部验证的过程是一旦收集到这些关键信息就收集用户面部的识别信息。泄漏或被盗可能涉及财产安全和人身安全。此外,用户协议明确规定了过度收集和滥用信息,这也使用户感到担忧。

在舆论的强烈反响下,公司已经修改了用户协议的相关规定,但公众的焦虑和担忧仍难以消除,如何避免隐藏在QR码和人工等技术分红背后的安全陷阱情报。它再一次成为影响人们的公共问题。

个人信息,个人和财产安全的披露是典型的安全陷阱。他们中的一些人是别有用心的开发人员,在隐私政策上耍花招,从销售用户权利中获利,有些是开发人员无意识或无法保持防止隐私泄露的大门,并让用户的权利“高涨”风险环境。

目前,手机号码,身份证号码,指纹,面部信息等个人信息在线和离线都有丰富的应用场景。当AI改变面子,面子支付,面部解锁和其他场景都有相同而且唯一的通过时,这个传球本身就有大量的黄金,但也存在巨大的无法控制的风险。

面对APP风暴的这种变化也引起了人们对技术伦理的思考。 “更多的便利,更多的风险”不应成为技术进步和发展的副产品。为了消除类似风暴的发生,显然不足以弥补泄漏和治理。还有必要从源头上详细阐述和监督人工智能的研究和开发与应用。例如,人脸识别技术的商业门槛和界限在哪里?申请授权的标准和条件是什么?一旦相关数据信息泄露和被盗,将面临什么样的惩罚?

必须承认技术开发和应用的速度太快。当源源不断的科技创新出现时,相应的系统和法规尚未及时建立和完善。这是我们必须面对的一个大难题。如何提高风险防范意识,以受控制的方式使用选定的技术,尽可能避免风险而不假装,这一过程显然是在考验监管机构的智慧和技巧。

在刚刚结束的2019年世界人工智能会议上,人工智能已经成为最具吸引力和最有前途的创新工具,并在教育,医疗,金融,安全等领域的卓越表现,从全球创新领导者到新生活。小牛的企业家对AI +充满渴望。

人工智能拥有未来的密码。如何控制这种创新工具,整个社会都是义无反顾的。除了及时跟进立法和严格监督外,公司还应该珍惜自己的声誉,远离霸王条款。个人用户需要不断收紧个人信息保护的神经。无论如何,个人信息安全不能成为一个想要捏它的“软柿子”。今天,在科学技术的生命中,安全感和幸福感是不容忽视的。 (韩韫超)

(编辑:乔雪峰,陆伟)

转载,请保持这篇文章的连接:

——