OpenAI联手多方加强Sora监管，严控AI视频深度伪造风险

AI对决AI！金融科技打响AI欺诈攻防战
经济观察报 记者 老盈盈
在AI（人工智能）技术快速发展的背景下，各式各样的“深度伪造”（Deepfake）随时可能在日常生活中出现，让人防不胜防。
近期，蚂蚁数字科技（下称“蚂蚁数科”）的产品技术人士在对算法进行优化时发现了一些不法分子新的欺诈手段。不法分子首先布下“钓鱼”陷阱，以银行的身份向被攻击对象发送短信或邮件链接，引导他们到其网站进行交易。等被攻击对象不慎点击进入钓鱼网站，提交了自己的姓（搜索结果收录于2025年11月7日）

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

近日，OpenAI与美国演员工会（SAG-AFTRA）等机构联合发布声明，宣布建立深度合作机制，重点防范其AI视频生成工具Sora可能引发的深度伪造（Deepfake）滥用风险。

Sora是OpenAI推出的文本到视频生成模型，自发布以来便引发全球高度关注。该模型具备“1分钟长视频生成”“物理规律模拟”“多镜头叙事”等多项前沿能力。然而，其强大的内容生成潜力也伴随着显著的安全隐患。不法分子可能利用此类技术伪造公众人物影像、篡改历史场景或制造虚假信息，严重威胁个人名誉、社会公信力乃至国家安全。

当地时间10月20日，OpenAI宣布将与演员布莱恩·克兰斯顿、美国演员工会（SAG-AFTRA）及其他表演者工会展开合作，共同应对AI生成内容带来的伦理与法律挑战。此前，在9月底Sora 2上线后，平台出现了未经授权使用克兰斯顿声音和形象生成的AI视频，引发了这位《绝命毒师》主演的公开担忧。他在声明中表示：“感谢OpenAI制定政策并完善防护机制，希望所有相关企业都能尊重我们管理自身声音与肖像复制权的职业权利。”

除演员工会外，OpenAI还将与代表克兰斯顿的联合人才经纪公司（UTA）、经纪人协会（ATA）以及创意艺术家经纪公司（CAA）协同合作，进一步强化对未经授权AI内容的管控。值得一提的是，CAA和UTA此前曾批评OpenAI在Sora训练过程中使用受版权保护的内容，认为此举对其客户及知识产权构成潜在威胁。

此外，上周OpenAI已应马丁·路德·金遗产委员会的要求，在Sora平台上屏蔽了涉及该民权领袖的“不敬描述”视频。这一举措反映出公司在面对敏感历史人物时所采取的审慎态度。

Clips AI

自动将长视频或音频内容转换为社交媒体短片

255 查看详情

自9月30日Sora 2正式推出以来，OpenAI持续调整其在版权与肖像权方面的政策框架。10月3日，首席执行官萨姆·奥特曼更新了Sora的“退出政策”（opt-out），赋予版权所有者更精细的角色生成控制权限。尽管Sora在发布初期即实行用户需明确授权方可使用他人声音与肖像的“选择加入”（opt-in）机制，但公司此后再次承诺将快速响应任何侵权投诉。

此次合作中，OpenAI进一步明确将在后续版本中全面推行严格的“选择加入”制度：所有艺术家、表演者乃至普通用户必须主动授权，其声音与形象才能被用于AI视频生成。例如，若有人试图生成克兰斯顿的虚拟形象，则必须获得其本人或授权代理的确认，并限定具体用途与时限。

同时，OpenAI将设立快速处理通道，对涉嫌侵权的内容及时下架，并配合执法机构追溯源头。公司还宣布将向合作方开放部分底层技术细节，鼓励第三方开发深度伪造检测工具。目前，斯坦福大学、麻省理工学院（MIT）等顶尖高校已参与相关研究，致力于通过算法识别AI生成内容中的细微异常。

OpenAI重申其对美国《禁止假冒法案》（NO FAKES Act）的支持。该联邦法案旨在禁止未经授权使用AI复制人类的声音或视觉形象，保护个体身份权益不受侵害。公司表示将持续推动行业规范建设，确保AI技术发展不逾越伦理与法律边界。

以上就是OpenAI联手多方加强Sora监管，严控AI视频深度伪造风险的详细内容，更多请关注其它相关文章！

# 未经授权  # 旅游网站建设的地方  # 昌平区网站建设商家  # 株洲建设网站的公司  # 无锡无锡网站推广做网站  # 贵州seo的效果  # 威海关键词排名  # 应聘网站优化  # 咸阳抖音seo招商  # 推广网络营销唤掏云速捷ui丶  # 中兴通网站建设文案策划  # 斯坦福大学  # 麻省理工学院  # 将与  # 路德  # sora  # 迭代  # 严控  # 美国  # 斯顿  # 官网  # 2025  # 2025年  # ai视频  # 金融  # openai  # ai  # 工具  # 人工智能 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： AI大模型火了！科技巨头纷纷加入，多地政策加码加速落地  WHEE网页地址入口  贫穷让我预训练  北京公司实施AI技术，推行4.5天工作制，抵制996文化，提升员工工作幸福感  日本学校探索引入 AI 和无人机：提高安保效率，节省劳动力  烟台大学学生首次在全国大学生无人机航拍竞赛中获奖  华为小艺AI助手将实现强大的大模型能力  如布科技发布新产品AI口袋学习机S12  PHP和OpenCV库：如何实现人脸识别  利用AI探索抗体“钥匙”、加速药物研发——访百图生科团队  全国青少年无人机大赛重庆市选拔赛开赛 1252名中小学生参加  复盘MWC上海：AI大模型时代到来 通信网络将会怎样改变？  提高开发效率：AmazonCodeWhisperer与Amazon Glue的集成和生成式AI的应用  从数据中心到发电站：人工智能对能源使用的影响  WPS AI 官网上线：可申请体验官资格，支持 Windows、安卓端下载  英伟达推出 L40S GPU，AI 推理性能超过 A100 约 1.2 倍  给小朋友最好的科技礼物：乐天派桌面机器人  Meta Connect 2025已确定时间为9月27-28，主题涵盖Quest 3与AI技术  苹果式 AI 哲学：不着一字，处处落子  京东 AI 大模型官宣 7 月 13 日发布，还有重磅合作  印象笔记开放旗下“印象 AI”，可一键生成思维导图、写文章等  五项人工智能尚未能够实现的任务  家电行业观察：AI加持下，全屋智能将成为智能家电未来？  人工智能即将进入Windows：企业准备好安全策略设置了吗?  科技有狠活｜时光修复师 ：用AI让昨日重现  AI框架生态峰会本周开幕 华为昇腾“朋友圈”再聚首 全球首个全模态大模型将登场  速途网络成立“人工智能专家委员会”5位中美博士加盟  网友自制 AI 版《流浪地球 3》预告片，登上 CCTV6  生成式AI引路产业加速来袭，微美全息探索“AIGC+虚拟人”融合应用  图像生成过程中遭「截胡」：稳定扩散的失败案例受四大因素影响  苹果AR头显商标与华为撞车，在中国或改名  社区里，孩子们体验“机器人竞技”  AYANEO AIR 1S 掌机发布：R7 7840U，预订价 4699 元起  人形机器人概念集体爆发，能买吗？  LinkedIn 推出生成式 AI 辅助撰写帖文功能，将向所有用户开放  原小米 9 号员工李明打造全球首款 AI 安卓桌面机器人  世界人工智能大会（WAIC 2025）点燃魔都，博尔捷数字科技携前沿技术产品亮相  DreamAvatar数字人使用教程  消息称字节机器人团队已有约50人，计划年底扩充到上百人  2025年的网络分区：人工智能和自动化如何改变事物  插画师对AI绘画软件的态度是怎样的？  到中国科技馆体验“一滴油的奇妙旅行”，线上元宇宙展厅同步开启  谷歌AudioPaLM实现「文本+音频」双模态解决，说听两用大模型  鹅厂机器狗抢起真狗「饭碗」！会撒欢儿做游戏，遛人也贼6  谷歌旗下 DeepMind 开发出 RoboCat AI 模型，能控制多种机器人执行一系列任务  普林斯顿大学推出 Infinigen AI 模型，生成真实自然环境 3D 场景  美的推出 AI 双视精准避障的自动集尘扫拖机器人 V12，售价仅为2999元  DreamAvatar数字人在哪里下载  人工智能如何与智能家居集成  业内领先 四川大学华西第四医院甲状腺乳腺外科成功进入手术机器人时代