现在大家都爱用AI修图,要么美化照片,要么玩性别转换、时光变老这类趣味玩法,大多是图个乐子。可总有人把这个技术用在歪处,靠AI造假牟利、骗人。AI造假可不是小打小闹,一旦触碰法律红线,轻则受罚,重则要被追究刑事责任。
据新华网客户端报道,湖北孝感大悟法院审理该案时,原告方为证明租客欠缴水电费,承诺补交水电表照片作为佐证。可当这些照片提交到法庭时,法官一眼就发现了破绽——照片右下角赫然带着AI生成的水印。
进一步核查更有意思,原告代理人先是声称水电表为租客单独使用,追问下又改口承认是“一梯两户”共用,陈述前后矛盾。面对铁证,代理人最终承认伪造证据,还补交了真实照片。法官当场对其进行训诫,精确指出这种行为已构成伪造重要证据,涉嫌妨害诉讼秩序。
其实不然,证据是司法裁判的基石,AI造假冲击的是司法公正的根基。根据法律规定,这种行为轻则被训诫、罚款,重则可能被拘留,情节严重的还会追究刑事责任。即便本案中造假者主动纠正错误获从宽处理,其诉讼请求也因证据不足被驳回,可谓偷鸡不成蚀把米。
据羊城晚报•羊城派报道,江苏一位螃蟹商家近期就遭遇了AI合成视频骗退款的套路。广州一名买家网购8只螃蟹后,次日就以“6只死亡”为由申请仅退款,还附上了死蟹图片和视频。
商家起初察觉凭证可疑,死蟹的状态不符合自然死亡特征,但迫于差评压力还是退了款。售后复盘时才发现关键漏洞:买家提供的两段视频里,死蟹的公母比例前后不一致,还和商家发货的4公4母完全对不上——原来是AI合成时出了纰漏。商家整理好发货视频、防伪记录等证据报警后,涉事买家被认定为诈骗,处以8日行政拘留,195元退款也被全额追回。
有人用AI合成服装脱线图索赔,有人生成陶瓷杯裂纹照骗退款,还有人篡改行李箱破损图后调包。
对中小商家来说,这些AI生成的凭证肉眼难辨瑕疵,为了尽最大可能避免差评往往只能认栽,直到出现明显破绽才敢维权。
律师提醒,哪怕涉案金额再小,这种行为也违反治安管理规定,多次实施或金额累计较大还可能触犯刑法。
AI造假的魔爪还伸向了名人肖像,不少公众人物都遭遇了“被直播”的困扰。据央视新闻相关报道,演员温峥嵘就曾在同一时间“现身”三个不同直播间,身着不同服装推广不一样的产品,动作神态和本人高度相似。可实际上,温峥嵘根本就没有参与过这些直播,都是不法商家截取她的过往素材,用AI深度合成重塑形象和语音制作的虚假直播。
温峥嵘坦言,自己半夜收工回家,刷手机竟看到“自己在直播”,进入直播间质疑后还被拉黑。她的团队一天内曾集中举报50个假冒账号,可有的账号被下架后换个形式就重新出现。
除了温峥嵘,北京协和医院的于康教授、央视主持人李梓萌、奥运冠军全红婵等也都遭过AI仿冒,要么被用来推销减肥产品,要么被克隆声音卖土鸡蛋,甚至被换脸售卖蛋白棒。主持人阿喆自己也有过这样的遭遇,把我的脸换在别的带货视频里,即使点击举报依旧防不胜防。
这种AI造假的门槛极低,在各大应用商店,免费的换脸App、文生视频工具随处可见,上传几张照片就能替换视频中的人物,输入关键词30秒就能生成仿真短视频,还能选择不添加AI生成标识。
这种低成本的造假手段,让不法分子有了可乘之机,却给权利人维权带来极大困难——技术鉴定、证据固定都要专业支持,维权周期长、成本高,不少人只能选择放弃。
其实今年9月1日,《人工智能生成合成内容标识办法》就已正式施行,要求AI生成内容必须“亮明身份”,可乱象依旧频发。
核心原因主要在于违法成本低而维权成本高:司法实践中,AI侵权案件的赔偿金额往往不足万元,远低于商家的非法收益;而权利人要证明侵权,要消耗大量时间和精力固定证据、进行技术鉴定,很多时候得不偿失。
中科睿鉴深度伪造检测专家 葛星宇:光影是一个很重要的指标,光源打在环境里,人对于光的反射结果、环境和光影反射的结果应该是一样的。或者当屏幕开始抖动,我们无论是人在动还是背景的图像在动,它们的运动轨迹应该都是一样的。(来源:央视新闻)
对老百姓来说,学会甄别AI造假很关键。比如查看证据或凭证时,多留意细节:是否有光影违和、比例失调的情况,信息是否前后一致;网购时尽可能地选择正规平台,留存好交易凭证,遇到可疑退货申请及时核查;刷直播间时,若发现名人直播时间异常、话术生硬,要多留个心眼,通过官方渠道核实信息。
技术本身没有善恶,AI的初衷是为了方便生活、提高效率,而非成为造假的工具。当AI造假的成本越来越低,我们更需要筑牢法律和技术的双重防线,守住诚信底线。毕竟,任何妄图靠造假走捷径的行为,最终都只会自食恶果。
《用AI合成“死蟹”视频骗退款被行拘:电商如何防“科技碰瓷”?鱼眼·探问》羊城晚报•羊城派
《2025年度AI乱象调查丨直播间骗术升级,名人带货也现“伪人”出镜》手机网易网
山西省人民政府关于史红波等6人任免职务的通知晋政任〔2025〕57号★省公安厅、省测绘地理信息院、省生态环境监视测定和应急保障中心(省生态环境科学研究院):山西省人民政府决定任命:史红波为省公安厅副厅长;徐浩为省公安厅治安管理总队总队长(副厅长级,试用期一年);孙志远为省公安厅刑事侦
据山西卫视“山西新闻联播”消息:12月31日,阳泉市召开全市领导干部大会,会上宣布鞠振任阳泉市委书记。
依据国务院《人工影响天气管理条例》《河南省人工影响天气管理条例》,为服务农业生产、大气污染防治、降低森林火险等级等需要,计划组织并且开展人工影响天气地面增雨作业,现将有关事项公告如下:一、作业时段。
河北省消防救援总队官方网站12月30日发布“河北承德国恩老年公寓‘4·8’重大火灾事故调查报告”。报告数据显示,2025年4月8日21时15分许,承德市隆化县国恩老年公寓出现重大火灾事故,造成20人死亡。
元旦临近,为保障全市“跨年夜”期间社会秩序稳定和群众生命财产安全,防范拥挤、踩踏、爆燃、火灾等事故发生,根据《中华人民共和国治安管理处罚法》《中华人民共和国消防法》《中华人民共和国大气污染防治法》《大型群众性活动管理条例》《烟花爆竹安全管理条例》《无人驾驶航空器飞行管理暂行条例》
气象监测显示,受冷空气影响,内蒙古、东北地区、华北北部气温继续下跌,31日早晨较30日早晨,内蒙古东北部、黑龙江西北部局地降温幅度达12摄氏度以上。
12月30日,小鹏汽车董事长何小鹏通过社交平台分享了赴美实测特斯拉无人驾驶系统的全过程。测试中,何小鹏尝试驾驶搭载FSD V14 系统的特斯拉,完成麦当劳 “Drive-thru” 免下车点餐取餐流程,结果因车辆自动停下的时机不够准确,体验失败,部分场景仍需人工干预。
据“浙江人大”微信公众号消息,12月30日,省人大常委会党组书记、副主任陈金彪会见省法院党组书记郑青一行。上述消息显示,郑青已任浙江省高院党组书记。
注意!注意!洛阳警方正在严打烟花爆竹违法犯罪行为2025年12月19日,汝阳县公安局柏树派出所民警在辖区开展入户走访、安全风险隐患排查时,发现辖区华沟村一居民家中储存有烟花爆竹,存在比较大安全风险隐患,且该住户日常使用明火在院内做饭、取暖,危险系数高。
,米乐网页版在线登录