外国人熟练演唱中文歌曲、银发奶奶传授养生秘诀、氛围感女孩分享穿搭美学……社交媒体上，一些AI生成的视频关注度颇高，“细节满满”让很多网友信以为真。“新华视点”记者调查发现，不少社交账号利用AI技术造假、博眼球快速“吸粉”起号，进而变现。
近期，多个平台对“AI起号”现象开展专项治理行动，清理违规内容并封禁部分账号。
AI造假起号成新套路
广西市民王夏经常刷到这样的视频：“帅哥”“美女”高频率更新日常生活，并在评论区与网友频繁互动。由于熟悉AI软件，王夏很快发现这些视频的主角是AI数字人，“但视频没有任何AI生成提示字样，好几个账号显示来自同一家MCN公司”。
当前，生成式人工智能技术日益普及，不少内容创作者通过AI创作出更具想象力的作品。但也有一些人利用AI造假，无底线博眼球，作为起号变现捷径。
记者在某社交平台上发现，部分账号将目标锁定中老年女性群体，利用AI打造“完美熟龄女性形象”，搭配“40+、50+长这样，怎么样”等话术，进行“年龄焦虑”营销。
此类账号发布的穿搭、保养、护肤、养生等视频多未设置AI生成提示，不少网友误以为是真人，在评论区咨询保养方法。一些账号背后运营者则借机推送“三无”保健产品广告，还有“水军”互动造势。记者注意到，虽然部分视频存在明显技术破绽，但浏览、点赞、评论量依旧不少。
记者调查发现，当前，主流网络平台普遍升级AI内容识别系统，要求对AI生成作品添加标注，但仍有一些人采用各种手段绕过审核。
“平台甄别AI内容主要依靠特征性技术痕迹，一些起号者通过多种手段削弱特征痕迹，逃避平台标注。”重庆理工大学计算机科学与工程学院教授李彦说，如通过微信转压缩等方式改变视频文件代码结构，再上传至平台，就较难判定为AI生成内容。
记者用一款AI软件生成一张人像图片，裁掉AI生图软件水印后发布在社交平台上。发布后，平台系统并未自动识别、提示添加标注。相当一部分网友辨别不出这是AI生成图，纷纷点赞、发送私信，账号后台收到超200条消息。
起号有教程 多手段变现
记者调查发现，社交平台上有不少AI造假起号的教程，情感、养生、颜值等类别是“重灾区”，相关帖子常以“条条是爆款”“最适合普通人入局”“3天暴力起号”等为噱头。
以一则“养生赛道”起号教程为例，先向AI软件输入器官、食物等关键词，生成吸睛文案，批量产出拟人化素材、智能合成动态视频；再在片尾设置养生知识问答，引导互动并刺激转发，以提升账号互动权重。该教程声称：“按照此方法，单条视频制作最快仅需15分钟，单账号日均收益可达500+(元)。”
有专营平台起号的商家告诉记者，只需缴纳1680元，3到15天即可运营出一个万粉AI账号。当账号积累一定流量后，就可以通过电商带货、账号转卖等方式变现。
“后面的电商带货，从直播间搭建、选品策略、话术设计到违禁词规避等，我们有一套运营体系，学员照葫芦画瓢就行。”一名售卖AI账号起号教程的商家说。
一名博主透露，她借助AI软件生成的“氛围感美女”视频在多个平台“吸粉”过万，接到不少推广商单，月收入在1万元左右。
有商家称，手上有未标注AI生成的“美女”账号，粉丝量均在一万以上，且为“三无账号”(无实名、无账号违规、无作品违规)，“现在平台风控很严，账号会升值”。
该商家说，这些账号销售十分火爆，买家经常催着加急起号，有个合作商“一周就要几十个万粉号”。在其提供的交易截图中，9个账号的成交价从700元至4000元不等，而百万粉丝的号要十几万元。
记者搜索发现，社交平台上有众多网友求购和出售账号。一名卖家称，2.5万粉丝的AI养生号售价6000元，11万粉丝的AI宠物号售价1.6万元，11.7万粉丝的AI母婴号售价1.35万，这些账号同样为“三无账号”。
一名账号售卖者在朋友圈展示销售火爆。(网络截图)
阻断AI造假起号利益链
根据反电信网络诈骗法，任何单位和个人不得非法买卖、出租、出借互联网账号。多个网络平台规定，账号仅限本人使用，禁止以任何形式出租、转让、售卖或以其他方式许可他人使用账号。
重庆公孝律师事务所执行主任徐斌表示，AI造假起号灰色产业链是技术异化的结果，可能造成低俗猎奇信息泛滥，加速虚假新闻、谣言传播，扰乱网络空间秩序，亟待加强清理整治。
今年4月以来，中央网信办部署开展“清朗·整治AI技术滥用”专项行动，聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象开展重点整治。第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。
前不久，多家互联网平台发布专项治理公告，重点整治AI批量造假、AI起号引流带货、转让销售AI虚拟账号等违规行为。
李彦等专家认为，AI造假起号的背后，涉及技术提供者、传播平台、内容发布者等多个参与方，技术、数据等关键信息存在壁垒，需加强协同治理，多方共同打击违规行为。
北京邮电大学互联网治理与法律研究中心执行主任谢永江建议，技术提供者强化技术的安全性和合规性研发，提供技术支持和解决方案；平台提高对深度伪造内容的检测精度，进一步完善相关规则，明确对AI造假起号等违规行为的界定和处罚标准等。
阻断违规账号的流量变现，是从根源上打击黑灰产业链的关键。受访专家建议，监管部门应督促平台履行治理责任，建立违规账号“黑名单”，对高频、反复触犯平台规则的账号主体加大处罚力度，禁止违规账号进行带货、卖课等商业活动，持续开展AI造假起号整治，切断其获利渠道。
谢永江说，还应鼓励公众参与乱象治理，如举报可疑账号、引入专业机构开展评估等，“真实、优质的用户创作，是平台活力和创新的源泉”。
（来源：中国网）
相关推荐
-
规范机票退改签 三地消协敦促航司、平台限期整改
据了解，京津冀三地消协组织于今年9月启动机票退改签专项调查，通过线上问卷、体验式调查与案例征集相结合的方式，对退改签环节进行深入梳理，针对调查发现的问题，敦促相关企业就退改签规则公示不明显、收费行为不规范、维权保障不充分等方面进行整改。 ——三大问题影响退改签消....
-
多地推进具身智能公共验证训练平台建设
试点搭建以国家地方共建人形机器人创新中心主训练场为核心、多个分训练场为支点的“1 N”联动体系，打造可复制推广的训练场建设模式与方案，向全国输出落地。试点以标准体系为牵引，搭建“基础 特色”标准框架，围绕实体物理场、虚拟训练场、本体及部组件、场景应用四大方向，计划....
-
能识别作业违规、能发现意外情况 AI巡检机器人助力进博会安全
在进博会的一个展馆内，有一台白色智能机器人正在场馆进行安全巡检，如果出现没戴安全帽、扶梯使用不规范、高处作业没系安全带等行为，机器人都会进行自动提醒，并把画面和记录留存上传。 现场巡查人员童逸琛：这款机器人它可以支持我们24小时不间断巡馆，推动我们安全治理从事后....
-
AI探店野蛮生长 亟待监管与平台协同治理
证券时报记者周春媚打开短视频平台，从火锅店的翻滚红汤，到烤串店的飘香孜然，再到奶茶店的新品测评，各类探店视频文案丰富诱人、画面细节生动，烟火气溢出屏幕。0.18元的教程，9.6元的“到店”“不用真人出镜、不用写文案脚本”“没有一个镜头是实拍，全程AI生成，细节真实到离谱”“低成本批量产出探店团购短视频”……记者在闲鱼平台上搜索“AI探店”，各类教程映入眼帘。“探店”不“到店”，或涉虚假广告探店内容的价值锚点本在于“真人、真到店、真体验”，如果冒着热气的锅底、排队的等位人潮都可以凭空生成，一条探店视频里的“真实性”还剩下几成？压缩灰色空间，遏制野蛮生长，AI探店才能从一门流量生意变回一...
-
七家新业态平台联合倡议：推进新就业形态人员参加基本医保
你们接单送餐、派件送货、载客出行，穿行大街小巷，连接千家万户；每一份订单背后，都是一个家庭的灯火；每一次奔波，都值得被健康守护。我们倡议：依法合规、积极宣传、持续探索、协同配合，共同守护新就业群体健康。
-
几块钱就能享受高阶会员 二手平台“破解版AI”靠谱吗
北京师范大学法学院教授、中国互联网协会研究中心副主任吴沈括表示，卖家的部分行为已经触及法律红线。二手平台应当依据《网络反不正当竞争暂行规定》，主动监测并下架各类具有特殊关键词的商品，比如出教程薅羊毛、转租账号等。
-
7月至今7家电商平台拦截违规充电宝商品3.7万件
记者18日从市场监管总局召开的强化质量认证监管专题新闻发布会上了解到，针对当前市场上仍然存在的生产、销售无CCC认证充电宝的情况，今年7月至9月，市场监管总局部署开展无CCC认证充电宝集中整治行动。行动开展至今，7家主要电商平台已开展联网核查376.3万次，拦截违规充电宝商品....
-
违法违规收集使用个人信息 75款移动应用被点名
涉及5款移动应用如下： 《betterWE星球》(版本3.0.1，小米应用商店)、《铲铲乐园》(微信小程序)、《萌萌猫咪乐园》(微信小程序)、《跑酷乐园游戏》(微信小程序)、《应用商店》(版本V3.1.3.20260514_142，状元郎博士 S10Pro)。
-
抢抓暑期旺季机遇 在线旅游平台加速推进AI能力落地
8月5日，携程商旅官微发布消息，携程商旅智能行程规划AIAgent“程星途”已完整接入用友商旅云，推动差旅管理从“人操作系统”向“人与AI协同”跃迁。今年4月，携程商旅CEO宋涛在首届全球商旅伙伴大会现场发布了“携程商旅AI生态”全景图，这一生态全面覆盖差旅出行、差旅管理、采购管理等全流程场景。该AI生态包含差旅问答、行程预订、差旅审批、差旅洞察、合规风控、财务结算、资源采购共7个Agent。据悉，同程旅行的机票、火车票、酒店、门票、度假等核心产品的旅行预订服务，将同时接入微信AI智能体生态。但支付、退改签场景存在信任壁垒，平台需解决AI答复准确性、责任划分难题，才能打消用户支付顾虑。
-
上半年生成式人工智能领域新设企业增长28.0%
制造业企业转型升级步伐加快。装备制造业向高端迈进。上半年，高端装备制造业新设企业2.8万户，同比增长2.5%。其中，智能装备制造业增长6.4%，城市轨道装备制造业增长4.4%。高技术制造业增势强劲。截至6月底，高技术制造业企业总量达33.0万户，上半年新设1.5万户