外国人熟练演唱中文歌曲、银发奶奶传授养生秘诀、氛围感女孩分享穿搭美学……社交媒体上，一些AI生成的视频关注度颇高，“细节满满”让很多网友信以为真。“新华视点”记者调查发现，不少社交账号利用AI技术造假、博眼球快速“吸粉”起号，进而变现。
近期，多个平台对“AI起号”现象开展专项治理行动，清理违规内容并封禁部分账号。
AI造假起号成新套路
广西市民王夏经常刷到这样的视频：“帅哥”“美女”高频率更新日常生活，并在评论区与网友频繁互动。由于熟悉AI软件，王夏很快发现这些视频的主角是AI数字人，“但视频没有任何AI生成提示字样，好几个账号显示来自同一家MCN公司”。
当前，生成式人工智能技术日益普及，不少内容创作者通过AI创作出更具想象力的作品。但也有一些人利用AI造假，无底线博眼球，作为起号变现捷径。
记者在某社交平台上发现，部分账号将目标锁定中老年女性群体，利用AI打造“完美熟龄女性形象”，搭配“40+、50+长这样，怎么样”等话术，进行“年龄焦虑”营销。
此类账号发布的穿搭、保养、护肤、养生等视频多未设置AI生成提示，不少网友误以为是真人，在评论区咨询保养方法。一些账号背后运营者则借机推送“三无”保健产品广告，还有“水军”互动造势。记者注意到，虽然部分视频存在明显技术破绽，但浏览、点赞、评论量依旧不少。
记者调查发现，当前，主流网络平台普遍升级AI内容识别系统，要求对AI生成作品添加标注，但仍有一些人采用各种手段绕过审核。
“平台甄别AI内容主要依靠特征性技术痕迹，一些起号者通过多种手段削弱特征痕迹，逃避平台标注。”重庆理工大学计算机科学与工程学院教授李彦说，如通过微信转压缩等方式改变视频文件代码结构，再上传至平台，就较难判定为AI生成内容。
记者用一款AI软件生成一张人像图片，裁掉AI生图软件水印后发布在社交平台上。发布后，平台系统并未自动识别、提示添加标注。相当一部分网友辨别不出这是AI生成图，纷纷点赞、发送私信，账号后台收到超200条消息。
起号有教程 多手段变现
记者调查发现，社交平台上有不少AI造假起号的教程，情感、养生、颜值等类别是“重灾区”，相关帖子常以“条条是爆款”“最适合普通人入局”“3天暴力起号”等为噱头。
以一则“养生赛道”起号教程为例，先向AI软件输入器官、食物等关键词，生成吸睛文案，批量产出拟人化素材、智能合成动态视频；再在片尾设置养生知识问答，引导互动并刺激转发，以提升账号互动权重。该教程声称：“按照此方法，单条视频制作最快仅需15分钟，单账号日均收益可达500+(元)。”
有专营平台起号的商家告诉记者，只需缴纳1680元，3到15天即可运营出一个万粉AI账号。当账号积累一定流量后，就可以通过电商带货、账号转卖等方式变现。
“后面的电商带货，从直播间搭建、选品策略、话术设计到违禁词规避等，我们有一套运营体系，学员照葫芦画瓢就行。”一名售卖AI账号起号教程的商家说。
一名博主透露，她借助AI软件生成的“氛围感美女”视频在多个平台“吸粉”过万，接到不少推广商单，月收入在1万元左右。
有商家称，手上有未标注AI生成的“美女”账号，粉丝量均在一万以上，且为“三无账号”(无实名、无账号违规、无作品违规)，“现在平台风控很严，账号会升值”。
该商家说，这些账号销售十分火爆，买家经常催着加急起号，有个合作商“一周就要几十个万粉号”。在其提供的交易截图中，9个账号的成交价从700元至4000元不等，而百万粉丝的号要十几万元。
记者搜索发现，社交平台上有众多网友求购和出售账号。一名卖家称，2.5万粉丝的AI养生号售价6000元，11万粉丝的AI宠物号售价1.6万元，11.7万粉丝的AI母婴号售价1.35万，这些账号同样为“三无账号”。
一名账号售卖者在朋友圈展示销售火爆。(网络截图)
阻断AI造假起号利益链
根据反电信网络诈骗法，任何单位和个人不得非法买卖、出租、出借互联网账号。多个网络平台规定，账号仅限本人使用，禁止以任何形式出租、转让、售卖或以其他方式许可他人使用账号。
重庆公孝律师事务所执行主任徐斌表示，AI造假起号灰色产业链是技术异化的结果，可能造成低俗猎奇信息泛滥，加速虚假新闻、谣言传播，扰乱网络空间秩序，亟待加强清理整治。
今年4月以来，中央网信办部署开展“清朗·整治AI技术滥用”专项行动，聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象开展重点整治。第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。
前不久，多家互联网平台发布专项治理公告，重点整治AI批量造假、AI起号引流带货、转让销售AI虚拟账号等违规行为。
李彦等专家认为，AI造假起号的背后，涉及技术提供者、传播平台、内容发布者等多个参与方，技术、数据等关键信息存在壁垒，需加强协同治理，多方共同打击违规行为。
北京邮电大学互联网治理与法律研究中心执行主任谢永江建议，技术提供者强化技术的安全性和合规性研发，提供技术支持和解决方案；平台提高对深度伪造内容的检测精度，进一步完善相关规则，明确对AI造假起号等违规行为的界定和处罚标准等。
阻断违规账号的流量变现，是从根源上打击黑灰产业链的关键。受访专家建议，监管部门应督促平台履行治理责任，建立违规账号“黑名单”，对高频、反复触犯平台规则的账号主体加大处罚力度，禁止违规账号进行带货、卖课等商业活动，持续开展AI造假起号整治，切断其获利渠道。
谢永江说，还应鼓励公众参与乱象治理，如举报可疑账号、引入专业机构开展评估等，“真实、优质的用户创作，是平台活力和创新的源泉”。
（来源：中国网）
相关推荐
-
海南20款移动应用程序违法违规收集使用个人信息被责令整改
(黄方舟)海南省互联网信息办公室30日举办新闻通气会介绍，该办今年第一季度持续开展移动互联网应用程序违法违规收集使用个人信息专项治理，技术检测结果显示20款APP均不同程度存在违法违规收集使用个人信息行为。
-
你“跑单”我就“毁号”，到底谁在违法？
最近一段时间，“毁号”成为游戏圈热议词汇，甚至有出圈趋势。杨晨律师解读，游戏账号、装备、皮肤、特定的“游戏进度”均被视为玩家的合法私有财产，受法律严格保护。
-
又一个“DeepSeek时刻” ？Seedance对AI视频产业意味着什么？
2.0，AI视频生成模型加速迭代，AI视频赛道也逐渐进入白热化竞争阶段。 那么，Seedance 2.0的爆火，对于国产AI视频究竟意味着什么？对于行业竞争格局将产生什么样的影响？而从全球技术角逐层面来看，国产AI视频生成模型是否已经从追随进入到领跑阶段？ AI视频领域“DeepSeek时刻”....
-
一键生成“换脸”视频作品 真假难辨的AI内容该如何监管？
只要输入简单的文字描述，然后一键点击，这个大模型就能自动生成包含多镜头切换、连贯叙事和同步音效的视频作品，影视制作的门槛大大降低，甚至有人惊呼，以后做一部电影只需要导演一个人就够了。 但惊喜背后，惊吓也随之而来，由该平台生成的明星、演员的视频在网络疯传，真假难....
-
社区团购需压实各方责任
数据显示，我国社区团购用户规模已突破6亿，覆盖超80%的城市社区与县域市场。主打生鲜、日用品等高频刚需品类的社区团购发展迅速，但也产生了一些普遍性问题：生鲜食品进货查验义务履行不到位、质量检测流于形式、仓储点选址不符合要求、食品与有害物质混放、冷链运输不达标等。 ....
-
杜绝“内卷式”竞争 市场监管总局约谈7家平台企业
2月13日，市场监管总局约谈阿里巴巴、抖音、百度、腾讯、京东、美团、淘宝闪购等平台企业，要求有关平台企业严格遵守《中华人民共和国反不正当竞争法》《中华人民共和国价格法》《中华人民共和国消费者权益保护法》《中华人民共和国电子商务法》等法律法规规定，主动落实主体责任....
-
市监总局点名“幽灵网店”，将重点打击电商领域侵权假冒问题
2月6日，市场监管总局执法稽查局一级巡视员佟波表示，2026年，市场监管总局将持续强化知识产权执法工作力度，特别是要重点打击整治电商领域侵权假冒问题，包括“幽灵网店”现象。 佟波指出，当前知识产权执法仍面临复杂严峻的形势，商标侵权屡查不止问题仍比较突出，电商领域侵权....
-
国家医疗保障局：对精神疾病类医保定点医疗机构开展集体约谈
《通知》要求，各省级医保部门要组织本辖区内所有精神类定点医疗机构即日起全面开展自查自纠，重点聚焦但不限于诱导住院、虚假住院、虚构病情、虚构诊疗、伪造文书、违规收费等违法违规使用医保基金行为，压实机构主体责任和机构主要负责人管理责任。各精神类定点医疗机构应于3月1....
-
黄金平台陷“多事之秋”
警惕预定价空买空卖交易模式 黄金交易平台频发兑付危机，引发行业关注。从交易模式来看，这类平台的部分交易模式存在相似之处，均以“约定交易”为核心。约定交易主要分为约价回收和锁价交易两种形式
