当AI开始谋财害命：从骗钱到卖假药，人类该如何防范？

11 阅读：145 2025-05-05 08:08:04 评论：0

不是，现在AI造假都这么离谱了嘛？

前几天央视曝光了“苗古金贴”骗局，这款产品宣传的名头可不小，号称由传承“千年秘方”的非遗传承人制作，而且还有模有样晒出了“非遗传承人”证书跟“非遗传承人”照片，这下子销量猛涨，登上了电商畅销榜，总销量几十万，当真是恐怖。

图片来源：央视新闻

结果媒体深挖下去，传承人的照片实际上是AI生成的，脸部表情僵硬、手掌有六指、光线美颜到离谱、一眼假。

而所谓的“非遗传承人”证书乃是机构非法制作，花两三千块钱就能够买到；“苗古金贴”则是由第三方代工厂贴牌生产，成本不到10块钱。“千年秘方”、“专治颈椎问题”只不过是借助AI来割韭菜的骗局。

图片来源：央视新闻

AI生成的人物、伪造的品牌证书、贴牌生产的产品，整个事件就魔幻起来了。最后有关部门介入，对相关企业和涉案人立案调查，这波卖假药的就等着法律的审判吧。

图片来源：央视新闻

这件事也让小雷想起以前电视上那位“做出违背祖宗决定”的“神医”，同样是各种光环加身，家族传承得到的药方，也是公然兜售假药。

只不过以前的“神医”是出现在电视，还是真人，现在的“神医”是出现再互联网，还是AI生成的，真“查无此人”。

但电视上的“神医”起码起码还有真人出镜扮演“神医”，这点“情绪价值”多多少少增加点可信度。

图片来源：澎湃新闻

哪像“苗古金贴”这么离谱，直接AI生成人物图片就出来骗，偏偏还有这么多人上当，整个事件都让小雷觉得不可思议却又真实发生了，只能说世界就是个草台班子。

“失控”的AI技术

今年是AI技术蓬勃发展的年份，AI生成图片、AI生成视频、AI生成代码这样的功能也都被AI企业开发出来了，可以说现阶段的AI技术已经进入了一个新阶段，

此前央视315晚会就曝光了AI诈骗的违法行为，目前比较常见的主要有AI声音合成与AI换脸两种，而且随着AI技术的不断进步，成本越来越低，只需花费几十元，就可定制AI深度合成名人音频视频。

图片来源：央视财经

而且围绕AI技术还形成了外呼产业链，外呼公司使用人工智能机器人拨打营销电话，机器人不知疲倦，不管白天黑夜都可以拨打营销电话；而且外呼公司事先用真人录音进行AI克隆复制成机器人的声音，这样一来使得接听者根本难以分辨电话那头的究竟是人，还是机器人。

小雷就曾接到这样的外呼AI电话，两三分钟里确实很难听出来是真人还是AI，后面是发现对面没有换气声，所以才判断出来是AI，但足以迷惑他人了。

此外据新京报报道，现今围绕AI技术也形成了一条完整的黑色产业链：上游技术负责兜售“AI换脸套餐”，中游则利用非法获取的个人信息来投放诈骗信息，下游则通过虚拟货币、跑分平台等渠道转移资金。技术、数据、资金”三位一体“，织了一张AI诈骗的大网，让许多用户深陷其中。

这两年利用AI技术冒充名人实施不法行为事件时有发生，张文宏、靳东、雷军等名人都深受其害：骗子用“AI靳东”实施诈骗，许多女性消费者上当；张文宏医生“带货”冲上热搜，但这是AI换脸之后的“张文宏”，稍微懂点AI的小伙伴一眼就能看出来是假的，可还是有不少老年人上当，在“AI张文宏”处买了产品。

此事也让张文宏医生无奈，他也曾向媒体透露自己投诉无门，不胜其扰。

图片来源：央视新闻

雷军的遭遇更离谱，2024年国庆节期间“雷军语音包”引热议，许多以“雷军”声音为配音的内容在社交平台迅速传播，“锐评”假期堵车、游戏等话题，这其中也出现了不少污言秽语。以至于出现了”国庆7天，被AI雷军骂了8天”的调侃。

雷军本人还专门为此发了个视频，呼吁大家不要再用自己的声音恶搞。

靳东、雷军等名人的遭遇也让我们看到了AI技术滥用的后果，以前讲究耳听为实、眼见为实，但在互联网AI时代，耳朵听到的有可能是假的，眼睛看到的也不一定是真实的。

并且利用AI技术围猎的不仅仅是老年人，即便是年轻人也会掉进坑中。据东南早报报道，福建一公司老板郭某接到了“好友”的视频通话，对方向郭某借钱，不到十分钟的时间里郭某就被骗走430万元，事后才发现电话那头是好友的“数字替身”——脸是直接AI换的，声音也是用AI拟声技术合成的。问题是受害者对此一点警觉都没有，这就有点可怕了。

难怪有人会担心，以前还可以通过观察眼睛、头发、手指等来辨别是否是AI生成，现在这些伎俩都不太好使了。若是AI再发现下去，怕是真可以达到以假乱真的效果。

给AI技术戴上“紧箍咒”

小雷很喜欢一句话，技术本无善恶之分，有善恶之分的是使用技术的人，这句话就是对AI最好、最准确的描述。AI用得好可以帮助人类提高效率、更好地处理复杂繁多的事务；而当AI技术被用于误导消费者、实施不法行为之时，平台与监管者就成为帮凶。

像前面提到的“苗古金贴”骗局，靠着AI生成的图片就可以堂而皇之出来卖假货，这其中暴露的正是电商平台审核制度的缺陷。像电商畅销榜等榜单，平台是否有审核过登上榜单的相关店铺的资质？是否有对店铺投放的广告进行排查？如果平台不重视起来，加强对内容的审核，像“苗古金贴”这种AI生成的假人都能过审的离谱事件，以后只怕会越来越多。