OpenAI宣布组建新团队 以控制“超级智能”人工智能

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

7月6日消息，美国当地时间周三，人工智能初创公司OpenAI宣布其正组建一个新的团队，以开发引导和控制“超级智能”（“superintelligent”）人工智能系统的方法。这个团队由OpenAI首席科学家、联合创始人伊利亚·苏斯克维尔(Ilya Sutskever)领导。

在博客文章中，苏斯克维尔和OpenAI协调团队的负责人简·莱克（Jan Leike）预测，智能超过人类的人工智能将在十年内出现。他们警告称，这种人工智能不一定对人类抱有仁慈之心，因此有必要研究控制和限制它的方法。

苏斯克维尔和莱克写道：“目前，我们还没有任何解决方案可以用来操纵或控制潜在的超级智能人工智能，并防止它失控。我们目前调整人工智能的技术，比如从人类反馈中强化学习，依赖于人类监督人工智能的能力。但人类将无法可靠地监督比我们聪明得多的人工智能系统。”

为了在“超级智能对齐”（Superintelligence Alignment）领域取得进展，OpenAI正在创建新的超级对齐团队，由苏斯克维尔和莱克共同领导，该团队将有权使用OpenAI高达20%的算力资源。这个团队将与OpenAI之前的对齐部门科学家和工程师以及公司其他机构的研究人员一起，致力于在未来四年解决控制超智能人工智能的核心技术挑战。

那么，我们如何确保比人类聪明得多的人工智能系统遵循人类的意图? 这需要苏斯克维尔和莱克所描述的“人类级别的自动对齐研究员”帮助。高级目标是使用人类反馈来训练人工智能系统，训练人工智能协助评估其他人工智能系统，并最终构建可以进行对齐研究的人工智能。这里的“对齐研究”指的是确保人工智能系统达到预期的结果，或者不会偏离研究轨道。

OpenAI的假设是，人工智能可以比人类更快、更好地进行对齐研究。

“随着我们在这方面取得进展，我们的人工智能系统可以接管越来越多的对齐工作，并最终构思、实施、研究和开发比我们现在更好的对齐技术，”莱克和他的同事约翰·舒尔曼（John Schulman）、杰弗里·吴（Jeffrey Wu）在之前的一篇博客文章中假设。“它们将与人类共同努力，以确保它们自己的继任者与人类始终保持一致。人类研究人员将越来越多地把精力集中在审查人工智能系统完成的对齐研究上，而不是自己进行这类研究。”

当然，没有任何方法是万无一失的，莱克、舒尔曼以及杰弗里·吴在他们的文章中承认，OpenAI的方法存在许多局限性。他们说，使用人工智能进行评估有可能扩大人工智能中的不一致、偏见或漏洞。结果可能是，对齐问题中最困难的部分可能根本与工程无关。

但苏斯克维尔和莱克认为值得一试。他们写道：“从根本上说，超级智能对齐是一个机器学习问题，我们认为优秀的机器学习专家（即使他们还没有开始研究对齐）对解决这个问题也至关重要。我们计划广泛分享这一努力的成果，并将促进非OpenAI模型的一致性和安全性视为我们工作的重要组成部分。”

以上就是OpenAI宣布组建新团队 以控制“超级智能”人工智能的详细内容，更多请关注其它相关文章！

# 将与  # 南庄seo优化技术  # seo暴富  # 西城网站建设免费咨询热线  # 西湖区营销推广商家  # 项目营销推广结语  # 宜宾全网营销推广定做  # 涟源农业机械网站推广  # seo工作技能  # 襄阳seo优化推广价格  # 盐城网站优化设计  # 人工智能  # 到你  # 得多  # 腾讯  # 太多  # 丰田  # 本田  # 斯克  # 莱克  # 维尔  # OpenAI 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 软通动力多项AI创新产品及应用亮相2025世界人工智能大会  字节团队提出猞猁Lynx模型：多模态LLMs理解认知生成类榜单SoTA  “智能体动作生成技术”现身WAIC：游戏AI技术为机器人科创注入新动力  今年，全球客服中心支出将增长 16.2%，迎接对话式 AI 的浪潮，根据 Gartner 报告  丰田汽车研究院推出生成式人工智能汽车设计工具  人工智能助力林草行业高质量发展  厂商陆续公布AI进展 完美世界游戏展示复合应用AI in GamePlay  AI与5G的强强联合：唤醒数字时代的无尽潜能  MiracleVision视觉大模型功能介绍  DreamAvatar数字人使用教程  25个AI智能体源码现已公开，灵感来自斯坦福的「虚拟小镇」和《西部世界》  基于信息论的校准技术，CML让多模态机器学习更可靠  华为云盘古大模型3.0发布 AI云服务同时上线：200亿亿次性能  Xbox游戏工作室负责人：VR/AR领域的用户规模还不足够  优化系统韧性：故障恢复与监控在RabbitMQ中的应用  当TS遇上AI，会发生什么？  商汤科技：元萝卜 AI 下棋机器人新品发布会 6 月 14 日举行  新华全媒+｜AI：当心，我可能欺骗了你！  奥比中光子公司和斯坦德机器人深度合作，共同推进新一代激光雷达的研发  人工智能自己玩自己  ​日媒：AI高效解析纳斯卡地画  鸿蒙智能座舱的AI大模型革新，引领智能座舱领域的变革吗？  Meta 开源 AI 语言模型 MusicGen，可将文本和旋律转化为完整乐曲  自然语言生成在智能家居设备中的应用  SnapFusion技术大幅提升AI图像生成速度  搭载星火认知大模型 讯飞听见智慧屏开启AI办公新体验  QQ音乐业内率先推出「AI一起听」功能，领取你的AI听歌助手  马斯克：将来机器人比人类多！特斯拉机器人亮相人工智能大会  腾讯自主研发机器狗 Max 升级，可“奔跑跳跃”完成避障动作  WHEE使用教程  AI大模型时代，数据存储新基座助推教科研数智化跃迁  马斯克发推讽刺人工智能，机器学习本质是统计？  读创正式上线“读创AI聊”功能  “木头姐”：特斯拉的人工智能训练——“赢家通吃”的机会  马斯克反讽人工智能AI炒作：“机器学习”本质就是统计  OpenAI高管：AI能创造新的就业机会 但也会淘汰一些  陈根教授：离人形机器人时代还有10年吗？  微盟宣布联合腾讯云共建行业大模型：加快激活AI大模型智能应用  ​布局智能物联新时代,中国移动“5G+物联网”亮相2025 MWC  LinkedIn 推出生成式 AI 辅助撰写帖文功能，将向所有用户开放  微软在德国举办MR研讨会，向女性分享元宇宙潜力  第二届光合组织AI解决方案大赛赛果揭晓  一文读懂自动驾驶的激光雷达与视觉融合感知  全新“AI助手”！讯飞星火助手中心人机协作共创新生态  前特斯拉总监、OpenAI大牛Karpathy：我被自动驾驶分了心，AI智能体才是未来！  首个算网生态体！中国移动元宇宙产业联盟正式成立  特斯拉人形机器人将亮相 预计售价不超过15万元  宇宙探索下一阶段，机器代替人类，AI会在太空探索中取代人类吗？  华为余承东表示：鸿蒙可能拥有强大的人工智能大模型能力  首届全国体育人工智能大会在首都体育学院召开