这几天，国内AI大模型都在密集上线新的版本，其中，国内平台进行内测的新一代视频生成模型，就给相关行业带来了巨大的震撼。只要输入简单的文字描述，然后一键点击，这个大模型就能自动生成包含多镜头切换、连贯叙事和同步音效的视频作品，影视制作的门槛大大降低，甚至有人惊呼，以后做一部电影只需要导演一个人就够了。
但惊喜背后，惊吓也随之而来，由该平台生成的明星、演员的视频在网络疯传，真假难辨的程度前所未见。要知道，此前的AI换脸和声音克隆技术，就已经让不少人上当受骗。如今，如果假视频的生成到了电影级别，我们如何能分得清虚拟和现实呢？人们的肖像权、隐私权以及著作权，该如何保护？
临近春节，中国的人工智能领域，迎来了创新“井喷”。去年，还是DeepSeek一枝独秀，今年，却是多款大模型密集升级上线，而且在多个技术赛道，实现重大突破。本周，在智能体编程赛道，智谱推出新一代旗舰模型GLM-5，引爆全球技术圈。更受瞩目的是，在视觉生成赛道上，字节跳动正式上线新一代AI视频生成模型Seedance 2.0，以“可导演的电影级全流程生成引擎”为定位，刷屏国内外的内容创作圈。
只需输入简短描述和参考图即可生成具备多机位运镜、原生音效的高质量视频，还支持多镜头长叙事等功能，Seedance 2.0模型的出现，让知名视频博主潘天鸿感慨，它简直就是万能的视频生成模型。潘天鸿还参与了该模型正式发布前的灰度测试，其测评视频标题为：改变视频行业的AI，快来了，但有点恐怖。
潘天鸿：它永远带给你的是惊喜，不是失望，这就是这个模型“恐怖”的地方。它远超出我的预期，这个AI的特性在于它有导演意识，会做明确分镜，并且所有的人物呈现不会失真，非常真实。
Seedance 2.0与国外最优秀的视频大模型Sora比较，谁更优秀？本周，记者与视频博主合作进行了测试，记者希望大模型生成一个“大熊猫参加冬奥会并完成单板滑雪内转1980度抓板动作”的视频，给两款大模型分别输入了80字的任务提示词。
Sora版的视频，用现场解说可实现如何向专业动作靠拢，而Seedance版视频，似乎更强调炫酷，也更适合传播。
再看看专业人士点评。潘天鸿团队称，Seedance 2.0不是工具升级，而是行业革命；测评人士之外，游戏制作人冯骥评价说：AIGC，也就是人工智能，生成多模态内容的创作方式，其童年期时代，结束了，并表示，该模型是“当前地表最强视频生成模型”；而多位美国导演或影视从业者，在使用之后，更是公开表达诸如“好莱坞要完蛋了”，或“这东西说不定真能搞垮好莱坞”的感慨。
2024年就有数据显示，我国网络视听行业市场规模超1.22万亿元，短视频用户规模达到10.4亿，使用率达93.8%。行业普遍认为，随着AI视频技术的不断迭代，AI将深度参与从创意、拍摄到传播等各个环节，内容生产的产业链将发生重构。
一句话、一个人，就能拍电影，很多媒体用“颠覆”二字来形容Seedance 2.0的性能。它颠覆的不仅仅是整个行业，对个体来说，还在颠覆人的判断力。在Seedance 2.0灰度测试的真人照片生成视频阶段，由于生成的视频过于逼真，有评论就说，其以假乱真的程度，让“眼见为实”四个字，受到更大的挑战。
如今，新一代视频大模型的出现，让仿真能力更强，技术门槛更低，当然也让人更担忧。争议之下，这个大模型内测仅仅两天之后，企业就宣布紧急优化，暂停使用真人图像作为主体参考，在本周四正式上线的版本中，这个功能也依旧不能使用。大家都在问：这个功能会恢复吗？更重要的是：我们该如何为这项强大的技术，划定清晰的边界？
在没有向AI提供任何声音文件的情况下，仅仅上传了一张照片，AI就自动匹配出了本人的声音。Seedance 2.0的爆火，带来的不仅是技术的惊叹，更引发了公众对隐私权的深层担忧。
担心不止于此。在此前Seedance 2.0内测期间，就有网友利用该工具生成与明星的相关视频，导致名人形象被随意使用，“魔改”内容泛滥。相比于此前语言大模型在文本层面的突破，Seedance 2.0所带来的视频生成能力的飞跃，更像是一个被打开的潘多拉魔盒。
短短两天内测，Seedance 2.0已暴露出诸多侵权风险，其中争议最大的是真人素材参考功能。2月9日，相关运营方在内测群内发布通知，进行紧急优化，暂不支持输入真人素材作为主体参考。而在本周四Seedance 2.0正式上线时，真人图像参考功能依然无法使用。
真人素材的参考功能，如何才能合规、安全地使用呢？个人信息保护法中已有明确说法，人脸、声音等生物识别信息，被明确界定为“敏感个人信息”。而法律也明确规定，处理此类信息，应当取得个人的单独同意。
除了真人素材，Seedance 2.0还面临着影视动漫作品版权侵权的隐忧。
AI生成的视频，越来越难辨真假，那些负责生成视频的AI平台，理应是第一责任人，必须建立完善的内部、外部监督机制，防止侵权视频的产生。但除了生成平台，那些发布、传播这些视频的短视频平台、社交媒体，同样责无旁贷。在AI内容海量生成、瞬时传播的今天，单靠个人举报和事后删除已经远远不够。平台是否应该把责任前置，建立更严格的审核机制，从源头上遏制这些侵权视频的发布和传播呢？
根据明星、名人形象合成的视频，充斥在各类短视频平台和社交媒体，有的涉嫌侵权，有的甚至被用来带货，作为传播平台，该负怎样的责任呢？民法典规定，网络用户利用网络服务实施侵权行为的，权利人有权通知网络服务提供者采取删除、屏蔽、断开链接等必要措施，这就是“避风港原则”。在这一原则下，平台只需要按“通知—删除”的原则进行事后补救。专家认为，在海量AI生成内容涌现的当下，这一原则显然已经需要改进。
其实，民法典中已有规定，网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。其中，“应当知道”四个字，意味着平台要承担起更多的注意义务，专家认为，面对AI侵权视频，网络平台应该从事后删除的被动应对，转向事前识别和审核的主动治理。
目前，各大传播平台已普遍采用一定的过滤和拦截技术，防止侵权视频的传播。在专家看来，相比传播平台，作为内容提供者的AI视频生成平台，在侵权违法内容的审查中，理应承担更高的责任。2023年8月开始施行的《生成式人工智能服务管理暂行办法》中就明确，生成式人工智能服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。
AI的不断升级，也需要监管的发力。本周四，国家网信办表示，针对发布AI生成信息时不添加标识、传播虚假不实内容等问题，已开展专项整治，已处置账号1.3万余个，清理违法违规信息54.3万条，典型案例中，就包含了AI换脸假冒运动员、售卖AI生成的公众人物“送祝福”视频等情形。
从文字、图片、声音，再到如今愈发逼真的视频生成，AI技术的迭代速度，已经超出了很多人的想象。但AI发展得越快，我们越需要停下来思考一个根本问题：我们发展AI，究竟是为了什么？如果科技进步带来的是一个越来越难以分辨真与假、善与恶、美与丑的世界，这样的“进步”，是我们想要的吗？技术的发展，永远都是一把双刃剑，为了避免技术被滥用，相关的监管和规则的制定，也必须加速跟上。
（来源：中国网）
相关推荐
-
中国大模型调用量登顶如何重塑全球AI产业格局？
” 这一增长，将强化中国大模型全产业链“应用驱动创新”的良性闭环。对云服务商而言，刘杰告诉记者，Token出海带来了对海外节点算力、网络加速、安全防护等服务的大量需求。中国Token出海，还将推动全球大模型生态向多元共生持续演变。
-
“养龙虾”爆火：智能体概念走向大众 科技巨头抢滩布局
MiniMax、小米、火山引擎等也相继宣布推出相关产品。小米推出移动端Agent产品“Xiaomi miclaw”，基于自研MiMo大模型构建，能便捷调用小米生态设备及系统级应用，降低了非专业用户的使用门槛。MiniMax和火山引擎则分别上线了网页版MaxClaw和云上SaaS版ArkClaw，用户打开网页即可体....
-
AI语料“投毒”产业链揭秘：只花100元，虚构的保健品就被大模型“推荐”了
” “X丽清医疗美容”也为记者虚构的医美机构，同样被机构植入到AI搜索推荐中。 随后，记者以中老年心脏类保健品厂商的身份，再次咨询了GEO机构，并委婉介绍，自己的厂商已经倒闭，所以没有相关资质，该GEO机构表示：“这些都可以帮忙去包装。”据他透露，“所有的内容都是我们自....
-
财经观察：算力基建加速筑牢AI产业底座
为响应国家战略部署，多地密集出台配套举措，全力护航人工智能产业底座建设。 近日，四川印发的《关于进一步促进服务业创新突破的实施意见》提出，夯实人工智能基础设施，抢占数据信息服务制高点。推进人工智能数据集、语料库建设，扩容省级“算力券”，探索制定“场景券”“模型....
-
春节AI热潮后多点冷思考
春晚舞台与技术的融合，把AI热潮推向新高度。场景还定义了技术的价值所在，无论是热闹的红包，还是春晚的视听震撼，都精准回应了真实需求，才能从炫技走向实用。那些在红包大战中积累的算力、在视觉特效中打磨的算法、在机器人表演中验证的感知能力，都需要在车间里经受更严苛的考....
-
中国科技公司押注“春节档” 除夕再迎重磅开源模型
专家表示，一些中国企业引领的开源社区在国际上蓬勃发展，在AI时代展现出勃勃生机。中国企业积极拥抱开源理念，成为全球开源大模型创新的引领者。
-
又一个“DeepSeek时刻” ？Seedance对AI视频产业意味着什么？
2.0，AI视频生成模型加速迭代，AI视频赛道也逐渐进入白热化竞争阶段。 那么，Seedance 2.0的爆火，对于国产AI视频究竟意味着什么？对于行业竞争格局将产生什么样的影响？而从全球技术角逐层面来看，国产AI视频生成模型是否已经从追随进入到领跑阶段？ AI视频领域“DeepSeek时刻”....
-
社区团购需压实各方责任
数据显示，我国社区团购用户规模已突破6亿，覆盖超80%的城市社区与县域市场。主打生鲜、日用品等高频刚需品类的社区团购发展迅速，但也产生了一些普遍性问题：生鲜食品进货查验义务履行不到位、质量检测流于形式、仓储点选址不符合要求、食品与有害物质混放、冷链运输不达标等。 ....
-
杜绝“内卷式”竞争 市场监管总局约谈7家平台企业
2月13日，市场监管总局约谈阿里巴巴、抖音、百度、腾讯、京东、美团、淘宝闪购等平台企业，要求有关平台企业严格遵守《中华人民共和国反不正当竞争法》《中华人民共和国价格法》《中华人民共和国消费者权益保护法》《中华人民共和国电子商务法》等法律法规规定，主动落实主体责任....
