专栏名称: 张国全
内容广泛
分享
今天看啥  ›  专栏  ›  张国全

一张照片突然刷爆朋友圈!吓我一声冷汗,你还浑然不觉.....

张国全  · 公众号  · 时评  · 2019-09-12 07:02


一身冷汗!
科技的进步总是出乎我们意料。
近日,一张视频监控图像在网上疯传。图片显示的,是某大学在部分教室“试水”的人脸识别系统:两位学生正身处教室,而人工智能系统早已在一旁标注出她们在课堂上睡觉、举手、趴桌子和阅读的次数。
据梨视频报道,上述旷视人脸识别系统早已落地应用在中国药科大学,该校两间教室“试水”安装人脸识别系统。
这一系统在学生进教室后,即能自动识别个人信息,学生是否认真听讲,课堂上是否抬头低头,抬头低头了几次,抬头低头了多长时间,低头是否在玩手机,是否闭眼打瞌睡,都能被人脸识别系统实时监控。

随之,网上又爆出,上海中医药大学附属闵行蔷薇小学正在构建智能课堂行为分析系统,运用如姿态评估、表情识别、语言识别、教师轨迹热力分析等技术,探索对课堂教学过程的定量分析。
消息曝光后,网上一片哗然。很多人纷纷吐槽:学生首先是一个人,又不是学校的私有物品,学校无权进行如此监控。
网络舆论如此之大,让教育部也坐不住了。今天,教育部有关负责人表示,人脸识别进校园,既有数据安全也有个人隐私问题,要加以限制和管理,希望学校非常慎重地使用这些技术软件。
的确,教育本该建立在人与人、人与世界的沟通和互动中。如果运用人脸识别这种人工智能来监控学生,将来,学生和老师的心灵交流将形同虚设,教育二字荡然无存,只剩机械的控制。
技术发展,已经掀起了排空巨浪,福耶祸耶,只有靠我们自己把握了!






其实,人脸识别,还仅仅是人工智能运用的冰山一角。仅仅是一个脸,人工智能就可以作很多文章。

比如,AI换脸技术!
从上周末开始,一个名为“ZAO”的AI换脸App忽然火爆全网,用这款App制作的换脸视频在微博、朋友圈随处可见。
只要一张照片,想附体谁就附体谁!▼

ZAO最大的噱头是和明星“换脸”,并且嵌入短视频中,可下载后传播,用于社交娱乐。

这一技术,其实背后用的是“deepfakes”直接开源的AI换脸项目代码。在deepfakes代码开源后,AI换脸技术一下子如星星之火,一瞬间烧遍了整个世界。
AI换脸的威力极为强大,只需几张图片,就能还原3D人脸动态,逼真到人鬼莫辨。



比如,这些奥巴马里,哪个是真的?
其实,他们都是假的。
AI换脸的应用后果,也是相当可怕的。比如,它可以把情色电影里的女主角换成了盖尔·加朵等好莱坞明星。
实际上,这类“换脸”的受害者除了盖尔·加朵,还包括黛茜·雷德利、娜塔莉·波特曼等一众好莱坞女星。国内当红的女星们也纷纷中招。
你想想,只需要一个身材诱人的身体,就能P出任何一个女明星来,这是多大的钱景?
好莱坞女星斯嘉丽·约翰逊在华盛顿邮报的采访中表示:“让任何一个人成为这项技术的攻击目标只是时间问题。”
最可怕的,是按照ZAO的服务协议,当你选择使用这个app以后,根据协议内容,该app除了可免费使用并修改你的肖像,还可以将它任意授权给自己想授权的第三方,当做信息进行贩卖。
换句话说,你今天在网上换脸,当你觉得很开心的时候,其实,你的脸,已经不再只属于你自己,它也归ZAO,及它想授权的所有人。
往远处想,这种无缝替换人脸的技术,还可以被犯罪分子利用,玩出无数的花样。比如,使用这项技术无缝把老人子女的脸融入视频中,不管是生病要钱,还是绑架,还是转账,都很容易骗到老人。
细思恐极!大家不能低估了人性的恶。在这种技术面前,每个人都可能成为潜在的受害者。





当然,最让人担心的还是,人工智能被利用来进行战争和杀戮。
在日内瓦举办的、有超过七十个国家代表出席的联合国武器公约会议上,一段可怕的视频公诸于众,一时间引起世界恐慌!
为啥如此吓人?
因为它曝光了人类史上一个恐怖武器——杀手机器人!
这个杀手机器人,其实是一架体型很小的智能无人机,就跟蜜蜂一样大,但它的处理器比人类快100倍,可以躲避人类各种追踪。
然而,蜜蜂虽小,五脏俱全,尤其是它全身的黑科技:广角摄像头、传感器、面部识别,应有尽有。只要把目标图像信息输入它身上,它就能手术刀般精准找到打击对象,戴口罩、伪装统统没用,它的识别率高达99.99! 

再次,每个杀手机器人配有3克浓缩炸药,确定目标后,一次撞击可以毫无压力爆头,摧毁整个大脑。而且它还能穿透建筑物、汽车、火车,躲避人类子弹,应对几乎所有防御手段。总之,这个杀手机器人目前是bug般的存在!
如果把一个造价仅2500万美元的杀人机器蜂群释放出去,就可以杀死半个城市的人。只要你把敌人挑出来,定义每一个人的面部信息,蜂群就能发起针对性打击了!
试想,如果人工智能杀手,再运用上基因武器,就会把战争冲突升级至前所未有的规模,而且人类将很难控制住局面。
更可怕的是,如果有科学家因为私心在代码里面加了一行毁灭人类的指令,或者人工智能突然变异成反人类的品种,整个人类或将被机器人的基因武器横扫,甚至灭亡!
的确,未来,人工智能会发展成什么样,给我们的生活造成什么影响,它究竟是普罗米修斯的火种还是潘多拉的魔盒。
我们目前不得而知。




未来已来!
从今天起,一只命运的蝴蝶,已经张开了它颠覆之翅!这次看似不太起眼的翅膀扇动,注定将在不远的将来,引起山呼海啸般的巨震!
从今天起,人工智能不再是科幻小说,不再是阅读理解,不再是新闻标题,不再是试管中荡漾的液体和双螺旋体中孱弱的灵魂,而是实实在在的宿命。
人类历史上,每一次重大的技术革命,都会引发对人类自身乃至整个社会的冲击。脑机接口也一样,对人类社会来说,这或是一场充满不确定性的大海啸!

铁器的发明,传统农业社会的出现,引发了一场冷兵器时代的战争。在中国,这场战争从春秋战国时期,一直打到了汉代,才告终结。

电力的发明,工业社会的出现,引发第一次世界大战和世界大战,让整个二十世纪上半叶,染上了血色。

现在,随着人工智能等技术等推进,在带来科技福利的同时,也将引发一场新的社会变革的风暴。




《天龙八部》里的扫地僧说,少林七十二绝技每练一技都需要相应的佛法才能化解,而要把七十二绝技学成于一身需要极高深的心法修为,萧峰和慕容复的老爸都因为偷学绝技但心法没跟上而深受其害。
技术发展日新月异,对人性的反噬潜移默化,人的修为跟得上AI吗?我们能不能有相应的思想和制度制约,来化解AI这项绝顶武功带来的毒素?
写到这里,不知道为什么,我突然想起了小说狄更斯 《双城记》开篇的那段话:
这是一个最好的时代,这是一个最坏的时代; 这是一个智慧的年代,这是一个愚蠢的年代;这是一个信仰的时期,这是一个怀疑的时期;这是一个光明的季节,这是一个黑暗的季节;这是希望之春,这是失望之冬;人们面前应有尽有,人们面前一无所有;人们正踏上天堂之路,人们正走向地狱之门。

水可载舟,亦可覆舟,技术也是如此!


来源:财经要参(ID:mofzpy)作者:要参君


今天看啥 -
本文地址:http://www.jintiankansha.me/t/f0jMaztC4E