最近,一种新骗局在直播平台蔓延。商家用AI技术仿冒明星、伪造产品,让消费者防不胜防。
明星亲自带货?别信!
前几天,北京张女士刷到一位明星用方言推销保健品。“说得特别真诚,我差点就下单了。”
结果呢?那是AI“换脸”的假视频。连北京大学李教授都不得不发声明澄清:网上那些卖药的视频,全是AI合成的假货!
辣椒树比人高?太假了!
某些直播间在卖“樟树港辣椒”种子。主播说得天花乱坠:辣椒成串结,植株两米高,产量特别大。
仔细观察,视频漏洞百出。有人在深水里摘辣椒,这符合常识吗?
技术专家一看就笑了:“人物和辣椒丛都融为一体了,这明显是AI合成的‘穿模’现象。”
真辣椒啥样?我去产地看了。农艺师直摇头:“这哪是辣椒?真的樟树港辣椒很矮,亩产最多两三千斤。”
AI造假太容易,几分钟就搞定
更可怕的是,现在AI造假太简单了。原来需要专业团队,现在几分钟就能做一段假视频。
这是违法的!
法律专家说了,这种事已经犯法了。
“侵犯了消费者的知情权,”消法专家表示,“故意用假视频骗人,就是欺诈!”
更严重的可能构成犯罪,特别是卖种子的,还违反《种子法》。
普通老百姓怎么辨别?记住这几点:
1,看人物和背景融合自不自然,
2,观察光线、影子对不对劲
3,别信太完美的效果
4,先去官方渠道核实,
大家一起来打假
面对越来越猖獗的AI仿冒,需要大家一起努力。平台要加强审核,法律要更严格,技术公司要守住底线。
现在用AI的人已经有2.3亿了,以后假东西会越来越多。我们既要享受科技带来的方便,也要提防被骗。
记住:天上不会掉馅饼,直播间里别轻信!