人工智能合成内容新规落地 互联网平台纷纷响应
AI生成内容不得“隐身”传播
AI生成内容不得“隐身”传播。昨天，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》(以下简称《标识办法》)正式施行，所有AI生成的文字、图片、视频等内容均须“亮明身份”。新规落地之际，多家互联网平台响应，相关用户协议已修改升级，将严打对AI生成技术的滥用行为。
各社交平台更新用户协议
“AI‘假孙子’总算现原形了。”昨天，市民刘先生打开一家短视频平台，发现之前奶奶爱看的“萌娃”短视频下面多了一行小字：“作者提示：内容为AI技术制作，虚构内容请谨慎甄别”，“这下老人总该相信，这些一两岁的孩子洗菜烧火都是假的了。”
提示小字的上线，与《标识办法》密切相关。据规定，利用人工智能技术生成的文本、图片、音频、视频、虚拟场景等信息，必须添加显式和隐式两种标识。显式标识指可以被用户明显感知到的标识，隐式标识指在生成内容的数据中添加的标识。
“哪些内容是生成的”“内容从哪里生成的”“谁生成的这些内容”……《标识办法》明确了生成合成内容制作传播各主体的责任义务。比如服务提供者应在内容生成、传播、下载等环节确保标识完整；互联网应用程序分发平台应审核应用是否具备添加标识功能；个人用户发布生成内容时应主动声明。
新规落地后，记者注意到，各社交媒体平台相关用户协议已有所更新。微信、视频号、抖音、B站、微博、小红书等平台，要求内容发布者以显著方式主动标识AI生成内容。对于不主动标识AI生成内容的行为，部分平台表示会采取限流、下架、封号等措施。同时，部分社交平台表示，还将对可能是AI生成合成的内容进行相应提示，以便用户清晰识别。
完善标识防范AI以假乱真
给AI生成合成内容加上标识，为何需要单独出台文件加以规制？据悉，标识制度的独特制度价值已经成为国际共识。日前，美国、新加坡、欧盟、英国等国家和地区纷纷采取措施推进生成式人工智能标识制度的建立。
“标识制度的主要目标是实现大规模、高可靠性和低成本的监管。”中国科学院科技战略咨询研究院研究员肖尤丹表示，此次新规虽然切口小，但可以用较小的合规成本，较好地解决当前AI技术快速发展带来的新问题。标识制度对利用AI技术抄袭、搬运内容的新媒体营销号无疑是一次沉重打击。同时，平台方可以追溯到服务提供者，明确其是否履行了标识义务。
作为我国人工智能领域首部“办法+强制性国家标准”的“组合拳”，配套的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》也于昨天同步施行。该标准针对人工智能生成合成标识的技术实现方式给出了更加细致、精准的指引，并配以具体的实现范例。例如视频内容显式标识要求，文字提示高度不低于画面最短边的5%，持续时间不少于2秒等。
“这有助于相关行业各主体采取相应的技术措施、全面准确落实内容标识义务，并实现标识技术的标准化，提高互认程度，降低由于标准不统一带来的合规成本。”中国社会科学院大学互联网法治研究中心主任刘晓春表示。
整治AI滥用也需防误伤
AI生成内容，已成当下热门内容赛道，百度、B站、字节跳动、快手等，都曾针对生成式AI的创作者提供流量资源扶持、现金补贴等活动。与此同时，AI生成的违规内容信息也纷至沓来，不少社交账号利用AI技术造假、博眼球快速“吸粉”起号，批量制造虚假人设，大量推送猎奇、养生、情感等内容，并可通过引流带货、账号转卖等方式变现。
针对这一新形势，今年4月开始，中央网信办开展了为期3个月的“清朗·整治AI技术滥用”专项行动，共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。
除了要求以显著方式主动标识AI生成内容外，多个平台也发布公告，重点整治AI生成滥用，其中，利用AI生成低俗猎奇视频、AI生成虚拟外国幼儿教育专家教授育儿内容、AI生成国际军事虚假内容等，正成为重点整治对象。
值得注意的是，目前有网络用户表示，自己发布画作、文章、视频被“误伤”，明明是原创内容，却被平台误判为“疑似AI合成”，面临作品被限流、下架的问题。据悉，目前业内在AI低质内容治理方面，占比九成以上的审核工作由机器来完成，机器审核准确率难以达到100%，仍需人工不断校准。
对此，业内专家建议，未来平台应完善复核机制，建立便捷、有效的申诉渠道，如有条件，还可在算法识别基础上引入专家评估机制，综合判断内容是否为AI生成。
（来源：中国网）
相关推荐
-
数贸会今日启幕 绘就AI与人共生图景
证券时报记者陈雨康以“在数贸会遇见AI未来”为主题的全球数字贸易博览会（以下简称“数贸会”）9月23日在杭州开幕。记者提前探馆发现，人工智能展区以具身智能为主线，系统化布局数据融通、算力筑基、模型创新三大核心板块，并呈现从硬件算力集群、核心算法模型到数据智能的全栈技术基座。星物种机器人联合创始人周勇在接受证券时报记者采访时表示，公司的具身智能清洁机器人能自主识别洗手台、便器等3D立体污渍，精准完成喷洗、吸污、烘干闭环作业，并能自主建图、规划路径、避让行人、自动回充。目前，公司手握的意向订单达到了5亿元，具身智能清洁机器人也处于加快产能爬坡的阶段。
-
告别野蛮生长，AI降速并非坏事
尽管技术发展与安全规范从来不是非此即彼的对立关系，但当AI技术的能力边界已逐步扩张到社会安全红线时，及时为产业补上安全治理短板是必要之举。也就是说，构建与技术能力相匹配的安全边界与治理框架，并不是产业发展的对立面，其真正目的在于让AI从野蛮生长走向可持续发展。 回....
-
马斯克质疑AI巨头自相矛盾：一边警告AI毁灭人类，一边冲刺IPO
他说，各家公司可以提前让竞争对手接触模型和测试工具，在正式发布前寻找潜在安全问题，而不必等待新的监管机构建立。 这番表态发生在AI行业近期集中讨论安全风险之际。 Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)近日呼吁放慢前沿AI能力发展的速度，并提出引入第三方评估....
-
AI巨头呼吁“踩刹车” 机构认为国内算力需求仍有增长空间
前沿模型迭代如果放慢，AI产业链的需求是否也会随之降温？机构目前认为，需要区分模型研发节奏与算力需求增长。现阶段，企业应用、推理业务仍在扩张，相关讨论尚不足以证明AI资本开支进入收缩周期，但投资者对需求来源、商业回报及安全边界的审视正在加强。 AI安全讨论扰动市场情....
-
探访外滩大会：机器人走向实景应用 AI加速赋能千行百业
专家认为，在AI加速进入物理世界的背景下，需重点关注如何让收入、就业、需求与生产率增长形成新的循环。 机器人展现“真本领” 在灵心巧手展台，一台机器人正在表演钢琴演奏，指尖起落之间，流畅的曲调倾泻而出。 “这款机器人搭载了LinkerHand L6灵巧手与自研机械臂，五根手指独....
-
数据中心“逐电”西行 多方求解AI算力“口渴症”
一名数据中心运营人员向证券时报记者表示，2013年发布的《关于数据中心建设布局的指导意见》要求新建数据中心PUE不高于1.5。未澜咨询合伙人罗天一在接受证券时报记者采访时表示，数据中心规模大小会对WUE产生一定影响，但最主要的还是看数据中心使用的冷却方式，“比如相较高耗水的蒸发冷却塔，目前较为先进的芯片级液冷就不用水作为冷却介质，WUE可以为0。据庆阳一名数据中心经理测算，一个中型的数据中心，按单月耗电量1000万度计算，一年就可节省3000万元到5000万元。其次，在数据中心的选址和建设上，政府要提升数据中心项目审批前水资源影响评估的科学性、时效性以及全面性，企业则应把当地水资源...
-
投资硬科技业绩回报显著 9家银行AIC总资产合计突破7000亿元
近日，9家大型银行旗下金融资产投资公司（AIC）的经营“成绩单”浮出水面。证券时报记者梳理发现，5家国有大行旗下“老牌”AIC上半年净利润同比集体大幅跃升，上半年净利润总计173.49亿元，同比增长约1.4倍，其中建信投资增幅接近5倍。证券时报记者梳理公开信息获悉，从布局硬科技赛道来看，工银投资的覆盖面最为广泛，从广东智能机器人基金到重庆空天信息低空经济基金，横跨人工智能、集成电路、低空经济和高端装备等多领域。银行的收益不仅体现为股权直投盈利，还体现为科技企业客户带来的存款、贷款、中间业务等综合收益。
-
黄仁勋：AI是基础设施，就像水电一样，不应该去监管“理论和假想中的AI危害”
同时，对一个国家来说，最坏的结果就是“被甩在后面”。 他在一场炉边对话中对美国商务部长霍华德·卢特尼克(Howard Lutnick)说道：“每个国家都必须做到的一点是：你需要意识到AI就是基础设施，就像水、道路、电力和互联网一样。每一个国家都需要建设基础设施，以支撑本国的本土....
-
马斯克：AI或让全球经济规模扩大20%-30%，若算上人形机器人有望扩大十倍
对于实体AI为什么可能带来如此巨大的生产力提升，马斯克解释说，一个通用人形机器人的实用性，大致取决于三个因素：AI软件能力、AI芯片能力、机电系统灵活性。 “现在，这三者都在指数级地改善。而机器人的实用性就是这三者相乘的结果。”马斯克说，机器人产业还有一个与纯软件不....