外国人熟练演唱中文歌曲、银发奶奶传授养生秘诀、氛围感女孩分享穿搭美学……社交媒体上，一些AI生成的视频关注度颇高，“细节满满”让很多网友信以为真。“新华视点”记者调查发现，不少社交账号利用AI技术造假、博眼球快速“吸粉”起号，进而变现。
近期，多个平台对“AI起号”现象开展专项治理行动，清理违规内容并封禁部分账号。
AI造假起号成新套路
广西市民王夏经常刷到这样的视频：“帅哥”“美女”高频率更新日常生活，并在评论区与网友频繁互动。由于熟悉AI软件，王夏很快发现这些视频的主角是AI数字人，“但视频没有任何AI生成提示字样，好几个账号显示来自同一家MCN公司”。
当前，生成式人工智能技术日益普及，不少内容创作者通过AI创作出更具想象力的作品。但也有一些人利用AI造假，无底线博眼球，作为起号变现捷径。
记者在某社交平台上发现，部分账号将目标锁定中老年女性群体，利用AI打造“完美熟龄女性形象”，搭配“40+、50+长这样，怎么样”等话术，进行“年龄焦虑”营销。
此类账号发布的穿搭、保养、护肤、养生等视频多未设置AI生成提示，不少网友误以为是真人，在评论区咨询保养方法。一些账号背后运营者则借机推送“三无”保健产品广告，还有“水军”互动造势。记者注意到，虽然部分视频存在明显技术破绽，但浏览、点赞、评论量依旧不少。
记者调查发现，当前，主流网络平台普遍升级AI内容识别系统，要求对AI生成作品添加标注，但仍有一些人采用各种手段绕过审核。
“平台甄别AI内容主要依靠特征性技术痕迹，一些起号者通过多种手段削弱特征痕迹，逃避平台标注。”重庆理工大学计算机科学与工程学院教授李彦说，如通过微信转压缩等方式改变视频文件代码结构，再上传至平台，就较难判定为AI生成内容。
记者用一款AI软件生成一张人像图片，裁掉AI生图软件水印后发布在社交平台上。发布后，平台系统并未自动识别、提示添加标注。相当一部分网友辨别不出这是AI生成图，纷纷点赞、发送私信，账号后台收到超200条消息。
起号有教程 多手段变现
记者调查发现，社交平台上有不少AI造假起号的教程，情感、养生、颜值等类别是“重灾区”，相关帖子常以“条条是爆款”“最适合普通人入局”“3天暴力起号”等为噱头。
以一则“养生赛道”起号教程为例，先向AI软件输入器官、食物等关键词，生成吸睛文案，批量产出拟人化素材、智能合成动态视频；再在片尾设置养生知识问答，引导互动并刺激转发，以提升账号互动权重。该教程声称：“按照此方法，单条视频制作最快仅需15分钟，单账号日均收益可达500+(元)。”
有专营平台起号的商家告诉记者，只需缴纳1680元，3到15天即可运营出一个万粉AI账号。当账号积累一定流量后，就可以通过电商带货、账号转卖等方式变现。
“后面的电商带货，从直播间搭建、选品策略、话术设计到违禁词规避等，我们有一套运营体系，学员照葫芦画瓢就行。”一名售卖AI账号起号教程的商家说。
一名博主透露，她借助AI软件生成的“氛围感美女”视频在多个平台“吸粉”过万，接到不少推广商单，月收入在1万元左右。
有商家称，手上有未标注AI生成的“美女”账号，粉丝量均在一万以上，且为“三无账号”(无实名、无账号违规、无作品违规)，“现在平台风控很严，账号会升值”。
该商家说，这些账号销售十分火爆，买家经常催着加急起号，有个合作商“一周就要几十个万粉号”。在其提供的交易截图中，9个账号的成交价从700元至4000元不等，而百万粉丝的号要十几万元。
记者搜索发现，社交平台上有众多网友求购和出售账号。一名卖家称，2.5万粉丝的AI养生号售价6000元，11万粉丝的AI宠物号售价1.6万元，11.7万粉丝的AI母婴号售价1.35万，这些账号同样为“三无账号”。
一名账号售卖者在朋友圈展示销售火爆。(网络截图)
阻断AI造假起号利益链
根据反电信网络诈骗法，任何单位和个人不得非法买卖、出租、出借互联网账号。多个网络平台规定，账号仅限本人使用，禁止以任何形式出租、转让、售卖或以其他方式许可他人使用账号。
重庆公孝律师事务所执行主任徐斌表示，AI造假起号灰色产业链是技术异化的结果，可能造成低俗猎奇信息泛滥，加速虚假新闻、谣言传播，扰乱网络空间秩序，亟待加强清理整治。
今年4月以来，中央网信办部署开展“清朗·整治AI技术滥用”专项行动，聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象开展重点整治。第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。
前不久，多家互联网平台发布专项治理公告，重点整治AI批量造假、AI起号引流带货、转让销售AI虚拟账号等违规行为。
李彦等专家认为，AI造假起号的背后，涉及技术提供者、传播平台、内容发布者等多个参与方，技术、数据等关键信息存在壁垒，需加强协同治理，多方共同打击违规行为。
北京邮电大学互联网治理与法律研究中心执行主任谢永江建议，技术提供者强化技术的安全性和合规性研发，提供技术支持和解决方案；平台提高对深度伪造内容的检测精度，进一步完善相关规则，明确对AI造假起号等违规行为的界定和处罚标准等。
阻断违规账号的流量变现，是从根源上打击黑灰产业链的关键。受访专家建议，监管部门应督促平台履行治理责任，建立违规账号“黑名单”，对高频、反复触犯平台规则的账号主体加大处罚力度，禁止违规账号进行带货、卖课等商业活动，持续开展AI造假起号整治，切断其获利渠道。
谢永江说，还应鼓励公众参与乱象治理，如举报可疑账号、引入专业机构开展评估等，“真实、优质的用户创作，是平台活力和创新的源泉”。
（来源：中国网）
相关推荐
-
7月至今7家电商平台拦截违规充电宝商品3.7万件
记者18日从市场监管总局召开的强化质量认证监管专题新闻发布会上了解到，针对当前市场上仍然存在的生产、销售无CCC认证充电宝的情况，今年7月至9月，市场监管总局部署开展无CCC认证充电宝集中整治行动。行动开展至今，7家主要电商平台已开展联网核查376.3万次，拦截违规充电宝商品....
-
违法违规收集使用个人信息 75款移动应用被点名
涉及5款移动应用如下： 《betterWE星球》(版本3.0.1，小米应用商店)、《铲铲乐园》(微信小程序)、《萌萌猫咪乐园》(微信小程序)、《跑酷乐园游戏》(微信小程序)、《应用商店》(版本V3.1.3.20260514_142，状元郎博士 S10Pro)。
-
抢抓暑期旺季机遇 在线旅游平台加速推进AI能力落地
8月5日，携程商旅官微发布消息，携程商旅智能行程规划AIAgent“程星途”已完整接入用友商旅云，推动差旅管理从“人操作系统”向“人与AI协同”跃迁。今年4月，携程商旅CEO宋涛在首届全球商旅伙伴大会现场发布了“携程商旅AI生态”全景图，这一生态全面覆盖差旅出行、差旅管理、采购管理等全流程场景。该AI生态包含差旅问答、行程预订、差旅审批、差旅洞察、合规风控、财务结算、资源采购共7个Agent。据悉，同程旅行的机票、火车票、酒店、门票、度假等核心产品的旅行预订服务，将同时接入微信AI智能体生态。但支付、退改签场景存在信任壁垒，平台需解决AI答复准确性、责任划分难题，才能打消用户支付顾虑。
-
上半年生成式人工智能领域新设企业增长28.0%
制造业企业转型升级步伐加快。装备制造业向高端迈进。上半年，高端装备制造业新设企业2.8万户，同比增长2.5%。其中，智能装备制造业增长6.4%，城市轨道装备制造业增长4.4%。高技术制造业增势强劲。截至6月底，高技术制造业企业总量达33.0万户，上半年新设1.5万户
-
录播冒充直播被平台永久禁播，商家请求恢复败诉
商家不服，认为平台处罚过重，向法院起诉，要求平台解封账号、赔偿损失。 平台作出永久封禁处罚是否合法合规 那么，对于商家用录播冒充直播的行为，平台作出永久封禁处罚是否合法合规？ 原告服饰贸易公司在被告某科技公司运营的直播平台上注册了专属直播账号，售卖自家品牌的服饰....
-
大战略牵引新开局丨为千行百业“添翼赋能” 平台经济迎来新风口
”王旭阳表示。 深耕养老服务、逐浪AI前沿、重构物流底座，三个不同的故事，正拼凑出天津平台经济的全景图：既有服务民生的温度，也有技术创新的高度，更有赋能实体经济的广度。目前，天津已构建起共享经济、互联网销售、科技服务、工业互联网、金融、新消费、新兴数字平台七大完....
-
云南上线材料智能设计平台，现存新材料相关企业超79万家
目前平台已在多家头部单位落地验证，铂基合金研发周期压缩至1年、成本大降95%，后续将入驻云南AI科研平台向全省开放，助力云南从资源大省向新材料创新强省转型，为国家关键材料自主可控提供支撑。 天眼查专业版数据显示，截至目前我国现存在业、存续状态的新材料相关企业超79.1万....
-
剂泰科技与Deerfield达成首个战略联盟里程碑 潜在交易总额超16亿美元
今日，AI药物递送创新公司剂泰科技(北京)股份有限公司(“剂泰科技”)宣布与全球顶级健康投资与创新平台Deerfield Management(“Deerfield”)取得战略联盟首个重要成果，加速新一代免疫疗法的全球开发。
-
“京蒙协作 仓启新程”京蒙共享前置仓消费帮扶平台推介活动在京成功举办
自治区人民政府副秘书长、北京市第八批东西部协作内蒙古挂职干部团队领队赵鹏，自治区农牧厅副厅长海山，北京市农业农村局副局长、一级巡视员姚忠阳，顺义区委常委、常务副区长李欣及北京市部分区有关部门、北京市部分商超采购单位负责人和自治区各盟市农牧部门负责人、相关企业负....
-
行业性纵容！“幽灵外卖”黑产调查：7家电商平台“幽灵店铺”多达67604家
7家电商平台因为暗藏“幽灵店铺”集体陷入“幽灵外卖”案。执法人员根据转单数据查实，拼多多、美团、京东、饿了么、抖音、淘宝、天猫等7家电商平台上运营的“幽灵店铺”多达67604家。
