眼见为实的时代正在被AI打破。8月27日，山西省消费者协会发布消费警示，针对AI换脸、语音克隆、数字人直播等数字伪装术提醒广大消费者强化风险防范意识。警示用这样一段描述勾勒现实图景：指尖轻点短视频平台，直播间里样貌酷似明星的虚拟主播正在卖力低价带货；手机突然接到来电，听筒中传出和亲友高度相似的仿真声线，以急事为由索要大额转账。这些AI催生的新骗局，正在成为消费领域的新型威胁。
警示披露的真实案例令人警醒。今年5月，山西大同网警在网络巡查中发现，网民邢某非法使用某名人形象的AI数字人直播带货。经核查，邢某在未经授权的情况下，利用AI工具生成数字人形象及带货文案进行直播，引发社会关注，造成恶劣影响，其行为构成盗用、冒用他人身份招摇撞骗，属地公安局已依法对其作出行政拘留。这是AI数字人仿冒名人直播被执法部门处理的又一典型案例。
警示还提到太原市民李先生的遭遇。他试听某AI培训免费课程后，花费2680元报名，结果发现课程内容在网上免费平台就能学到，提出退费被拒绝，催要正式合同和发票也一直不给。在某投诉平台上，涉及AI课程虚假宣传、诱导消费、退费难的投诉屡见不鲜。从虚假直播到AI培训陷阱，AI技术的滥用正在多个消费场景蔓延。
街头调查的数据更直观。8月26日，山西晚报记者在太原街头随机采访了20余位市民，超过半数表示曾在短视频平台刷到过疑似AI生成的虚假直播或带货视频，近三成受访者反映身边有人遭遇过AI相关的消费骗局或诈骗信息。一位受访者直言，现在刷直播看到明星带货都不敢信了，谁知道对面是不是AI做的。当技术门槛降低到普通人也能制作高仿真内容，信任成本正在被无限推高。
山西省消协根据近期接到的投诉案例，梳理出六大AI消费陷阱。最直观的一类是虚拟名人直播带货，不法分子利用AI复刻明星、专家的形象声线直播带货，画面常存在表情僵硬、口型与台词不匹配等失真问题，直播间售卖的多为劣质假冒商品，消费者冲着名人效应下单，收货后才发觉上当。与仿名人直播异曲同工的，是商品宣传的过度美化，部分商家借助AI生成精致效果图、批量伪造好评，刻意掩盖质量瑕疵。
语音克隆诈骗则是更具迷惑性的陷阱。AI语音合成技术可以高度还原亲友的声线，骗子利用克隆声音冒充熟人打电话借钱，接听者往往难以分辨真伪。公安部相关负责人近日表示，不法分子利用AI等新技术实施违法犯罪时有发生，涉及电信网络诈骗、侵犯个人隐私、破坏社会信任乃至威胁国家安全等多个领域，公安机关已采取多种措施进行打击和整治。
AI培训陷阱则是收割焦虑的典型。随着AI热潮兴起，各类AI培训课程鱼龙混杂，部分机构夸大宣传、虚假承诺，诱导消费者高价购买名不副实的课程。此外还有AI换脸诈骗、AI生成虚假合同、AI客服冒充官方等陷阱，覆盖了从购物、投资到培训、社交的多个消费场景。消协提醒，面对各类AI生成内容，消费者要多一分警惕，涉及转账汇款务必通过多种渠道核实对方身份。
针对AI新型骗局，监管层正在密集出手。今年7月15日，国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》正式施行，要求拟人化互动服务提供者履行AI生成合成内容标识义务，采取有效措施提示用户正在与人工智能服务互动。《直播电商监督管理办法》也明确要求数字人主播持续标识、运营者承担第一责任。山西省消协此次发布警示，正是监管框架下消费者权益保护的重要一环。
技术层面的防护同样在推进。AI生成内容标识办法自2025年9月1日实施以来，显式与隐式双标识成为AI内容的分水岭。主流平台也在加强AI内容审核，小红书等平台曾开展专项治理，下架违规AI账号。对消费者而言，掌握基本的辨别技巧至关重要：观察视频画面是否存在表情僵硬、口型失真、背景异常；对声称亲友借钱、客服退款的来电保持警惕，主动回拨验证；选择AI课程、AI服务时核查机构资质与备案信息，避免被话术收割。
数字人直播、AI换脸等技术的商业应用本身并无原罪，但技术红利绝不能成为骗局的温床。随着监管细则落地、平台治理加码、消费者防范意识提升，AI消费生态有望逐步走向规范。山西省消协的这次警示，为消费者划出了一道清晰的防骗底线，也在提醒所有AI从业者，技术创新的边界必须建立在合规与诚信之上。
AI消费陷阱频发的同时，数字人技术的正当商业应用也在快速扩张，合规红线正变得前所未有的清晰。今年以来，国家层面陆续出台多项规定，《人工智能生成合成内容标识办法》要求AI内容强制显式隐式双标识，《直播电商监督管理办法》明确数字人主播须持续标识、运营者承担第一责任，《人工智能拟人化互动服务管理暂行办法》禁止向未成年人提供虚拟亲密关系服务。监管框架的逐步完善，为AI数字人的商业应用划定了边界。
对企业而言，合规已成为AI数字人应用的准入门槛。使用AI克隆真人形象或声音，必须获得本人的书面告知与单独同意，商业使用还需重新取得授权；提供数字人直播服务，需要在画面持续显示AI标识；涉及算法推荐与舆论属性的服务，还要履行算法备案义务。山西省消协此次警示中提到的仿名人直播案例，正是因为触碰了未经授权克隆他人形象的合规红线，才从商业行为变成了违法行为。
从产业视角看，合规与创新并非对立关系。明确规则反而让正当的数字人应用有了更清晰的发展空间，政务数字人、企业虚拟主播、教育培训数字人等场景在合规框架下加速落地。石家庄社保中心上线AI数字人小石，7×24小时值守156项业务；攀枝花不动产登记中心推出攀小登，成为四川首个全流程导办数字人。监管与创新的良性互动，正在推动AI数字人产业从野蛮生长走向规范发展。