能抓取玻璃碎片、水下透明物，清华提出通用型透明物体抓取框架，成功率极高

复杂环境下透明物体的感知和抓取是机器人领域和计算机视觉领域公认的难题。近日，来自清华大学深圳国际研究生院的团队与合作者提出了一种视 - 触融合的透明物体抓取框架，该框架基于 RGB 相机和带有触觉感知能力的机械爪 TaTa, 并通过 sim2real 的方式来实现透明物体的抓取位置检测。该框架不仅可以解决玻璃碎片等不规则透明物体的抓取，还可以实现重叠、堆叠、高低不平、沙堆甚至高动态水下透明物体抓取问题。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

图片

透明物体由于其美观、简约等特点而在生活中广泛应用。比如厨房、商店、工厂都能见到他们的身影。虽然透明物体很常见，但对于机器人而言，透明物体的抓取却是一个非常困难的问题。其主要原因有三个：

图片

1、没有自己的纹理属性。透明物体表面的信息随着所在环境的变化而变化，所产生的纹理大都是由于光线折射、反射造成的，这就给透明物体的检测带来了很大的困难。

2、透明数据集的标注相比于普通物体标注具有更大的难度。在实际场景中，人类有时也不容易区分玻璃等透明物体，更不用说对透明物体的图像进行标注。

3、透明物体表面光滑，即使抓取位置存在较小偏差也可能导致抓取任务的失败。

因此，如何利用尽可能少的成本来解决各种复杂场景下的透明物体抓取问题已经成为了透明物体研究领域非常重要的问题。近日，来自清华大学深圳国际研究生院的智能感知与机器人团队提出了一个基于视触融合的透明物体抓取框架，该框架模仿了人在低可见度情况下抓取物体的动作，并利用视触融合来实现透明物体的检测和抓取。该方法不仅具有极高的抓取成功率，还可以适应各种复杂场景下的透明物体抓取。

图片

请查看如下论文链接：https://ieeexplore.ieee.org/document/10175024

论文通讯作者、清华大学深圳国际研究生院丁文伯副教授表示：「机器人在家庭服务领域展现出了巨大的应用价值，但当前的机器人大多聚焦于某一单一领域，通用型机器人抓取模型的提出将会对机器人技术的推广和应用带来巨大的推动作用。虽然我们是以透明物体为研究对象，但该框架可以很轻松的推广到生活中常见物体的抓取任务中。」

论文通讯作者、清华大学深圳国际研究生院刘厚德研究员表示：「家庭场景中的非结构化环境对机器人的实际应用带来了极大的挑战，我们将视觉与触觉进行融合感知，进一步模拟了人类与外界交互时的感知过程，为复杂场景下机器人应用的稳定性提供了多方面的保障。除了将视觉与触觉的融合，我们提出的框架也可同样推广到听觉等更多的模态。」

研究现状

透明物体的抓取是一项具有挑战性的任务，在抓取过程中除了需要检测物体的位置外，还应考虑抓取位置和角度。目前对于透明物体的抓取，大部分的工作是在具有简单背景的平面上进行的，但在实际生活中，大部分的场景都不会像我们的实验环境那么理想。一些特殊场景，比如玻璃碎片、堆积、重叠、起伏、沙子和水下场景，都是比较有挑战性的。

• 首先，玻璃碎片是一种没有固定模型的物体，由于其随机多变的形状对抓取网络和抓取工具的通用性提出了很高的要求。
• 其次，起伏的平面的透明物体抓取也具有一定的挑战性。如下图所示，一方面，透明物体的深度信息很难准确获取，另一方面，起伏的场景有一些阴影、重叠和反射区，这给透明物体的检测带来了更多的挑战。
• 第三，由于水和透明物体的光学特性相似，水下场景中的透明物体抓取也是一个挑战。即使使用深度相机，透明物体在水中也无法准确的检测，在不同方向的光线的照射下情况会变得更糟。 

图片

算法设计

图片

抓取算法设计如图所示，为了实现透明物体的抓取，我们分别提出了透明物体抓取位置检测算法、触觉信息提取算法和视 - 触融合分类算法。为了降低数据集的标注成本，我们采用 Blender 制作了一个多背景透明物体抓取合成数据集 SimTrans12K，其中包含 12000 幅合成图像和 160 幅真实图像。除了数据集，我们还针对透明物体的独特的光学属性提出了一种 Gaussian-Mask 标注方法。由于我们采用 Jamming gripper 作为执行器，我们为其提出了一个专门的抓取网络 TGCNN，该网络在合成数据集训练之后就可以得到不错的检测效果。

抓取框架

网易人工智能

网易数帆多媒体智能生产力平台

233 查看详情

我们将上述算法进行了整合，以完成不同场景下的透明物体抓取，这构成了我们视触融合框架的上层抓取策略。我们将一个抓取任务分解为三个子任务，即物体分类、抓取位置检测和抓取高度检测。每个子任务都可以由视觉、触觉或视触融合来完成。

与人类抓取时的行为类似，当视觉可以直接获得物体的精确位置时，我们可以控制手直接到达物体并完成抓取，如下图（A）所示。当视觉不能准确获得物体的位置信息时，在利用视觉估计物体的位置之后，我们会用手部的触觉感知功能慢慢调整抓取位置，直到接触到物体并达到合适的抓取位置，如下图 (B) 所示。对于视觉受限情况下的物体抓取，如下图 (C) 所示，我们将利用手部丰富的触觉神经在目标可能存在的范围内进行搜索，直到与物体发生接触，这虽然效率很低，但却是解决这些特殊场景下物体抓取的有效方法。

图片

受人类抓取策略的启发，我们将透明物体的抓取任务分为三种类型：具有复杂背景的平面、不规则场景和视觉无法检测的场景，如下图所示。在第一种类型中，视觉发挥着关键性的作用，我们将这种场景下的抓取方式定义为视觉优先的抓取方法。在第二种类型中，视觉和触觉可以协同工作，我们将这种场景下的抓取方式定义为视觉 - 触觉抓取。而在最后一种类型中，视觉可能失效，触觉在任务中成为主导，我们将这种场景下的抓取方式定义触觉优先的抓取方法。

图片

视觉优先的抓取方法流程如下图所示，首先利用 TGCNN 获取抓取位置和高度，之后利用触觉信息抓取位置校准，最后利用视 - 触融合算法进行分类。视 - 触觉抓取则是在之前的基础上加入了 THS module，该模块可以利用触觉来获取物体的高度。触觉优先的抓取方法又加入了 TPE modul，该模块可以利用触觉来获取透明物体的位置。

实验验证

为了验证我们提出框架及算法的有效性，我们进行了大量的验证实验。

首先，为了测试我们提出的透明物体数据集、注释方法和抓取位置检测网络的有效性，我们进行了合成数据检测实验和不同背景和亮度下的透明物体抓取位置检测实验。其次，为了验证视觉 - 触觉融合抓取框架的有效性，我们设计了透明物体分类抓取实验和透明碎片抓取实验。第三，我们设计了在不规则和视觉受限的场景中的透明物体抓取实验，以测试加入 THS 模块和 TPE 模块后框架的有效性。

总结

为了解决检测、抓取和分类透明物体的挑战性问题，该研究提出了一个基于合成数据集的视觉 - 触觉融合框架。首先，使用 Blender 模拟引擎来渲染合成数据集，而不是手动注释的数据集。

此外，使用 Gaussian-Mask 代替了传统的二进制标注法，使抓取位置的生成更加准确。为了实现对透明物体的抓取位置检测，作者提出了一种名为 TGCNN 的算法，并进行了多次对比实验，结果表明，即使只用合成数据集进行训练，该算法也能在不同的背景和照明条件下实现良好的检测。

考虑到视觉检测的局限性造成的抓取困难，该研究提出了一种与软抓手 TaTa 相结合的触觉校准方法，通过用触觉信息调整抓取位置来提高抓取成功率。与纯视觉抓取相比，该方法提高了 36.7％的抓取成功率。

为了解决复杂场景中透明物体的分类问题，该研究提出了一种基于视觉 - 触觉融合的透明物体分类方法，该方法与仅基于视觉的分类相比，准确率提高了 39.1％。

此外，为了实现在不规则和视觉无法检测的场景中的透明物体抓取，该研究提出了 THS 和 TPE 模块，它们可以弥补在没有视觉信息的情况下的透明物体抓取问题。研究者系统地设计了大量的实验，验证了所提出的框架在各种叠加、重叠、起伏、沙地、水下场景等复杂场景中的有效性。该研究认为，所提出的框架还可以应用于低能见度环境下的物体检测，如烟雾和浑浊的水下，触觉感知可以弥补视觉检测的不足，并通过视觉 - 触觉融合提高分类精度。

作者简介

视触融合透明物体抓取项目的指导老师是丁文伯，他目前在清华大学深圳国际研究生院担任副教授，领导智能感知与机器人研究小组。他的研究兴趣主要包括信号处理、机器学习、可穿戴设备、柔性人机交互与机器感知。此前他本科和博士毕业于清华大学的电子工程系，并在佐治亚理工学院担任博士后，师从王中林院士。他曾获清华大学特等奖金、第 47 届日内瓦国际发明展金奖、IEEE Scott Helt 纪念奖、中国电子学会自然科学二等奖等众多奖项，已在 Nature Communications、Science Advances、Energy and Environmental Science、Advanced Energy Materials、IEEE TRO/RAL 等领域权威期刊发表论文 70 余篇，谷歌学术引用 6000 余次，授权中国和美国专利 10 余项。担任国际信号处理权威期刊 Digital Signal Processing 的副编辑、IEEE JSTSP 机器人感知专刊的首席客座编辑，以及 IEEE 信号处理协会 Applied Signal Processing Systems Technical Committee Member。

课题组主页：http://ssr-group.net/。

从左到右: Shoujie Li,Haixin Yu,Houde Liu

论文的共同一作分别是 Shoujie Li (清华大学博士生在读)，Haixin Yu (清华大学硕士生在读)，通讯作者为 Wenbo Ding、Houde Liu，其他作者还包括 Linqi Ye (上海大学)、 Chongkun Xia (清华大学)、Xueqian Wang (清华大学)、 Xiao-Ping Zhang (清华大学)。其中，Shoujie Li 主要研究方向为机器人抓取、触觉感知以及深度学习，以第一作者在 Soft Robotics、TRO、RAL、ICRA、IROS 等机器人和控制权威期刊和会议发表论文多篇，授权发明专利 10 余项，获省部级竞赛奖励 10 项，相关研究成果以第一作者入选 “ICRA 2025 Outstanding Mechanisms and Design Paper Finalists”，曾获清华大学未来学者奖学金、国家奖学金等荣誉。

以上就是能抓取玻璃碎片、水下透明物，清华提出通用型透明物体抓取框架，成功率极高的详细内容，更多请关注其它相关文章！

# 如下图  # 网站seo优化师  # 广告营销推广文案朋友圈  # 洛龙区seo招聘  # 汕头市b2b全网营销推广代理商  # 龙江网站建设流程  # 江西省网站推广优化  # 邢台区域seo推广公司  # 营销推广照片  # 惠州网站建设方案项目书  # 北京网站优化营商环境  # 深圳  # ai  # 网易  # 开源  # 所示  # 极高  # 清华  # 提出了  # 清华大学  # 水下  # design  # 机器人 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： AI大模型，将为智慧城市带来哪些新变化？  烟台大学学生首次在全国大学生无人机航拍竞赛中获奖  赋能选题探索：AI助手在经济学专业中的应用指南  第 66 届格莱美奖规定，AI 作品将无法获得评奖资格  《爱康未来之夜嘉宾官宣，携手共赴AI未来》  如何利用AI工具写好本科论文：科技助你一臂之力  华为联合合作伙伴 共同发布昇腾AI大模型训推一体化解决方案  微软Bing聊天机器人电脑端即将支持语音提问  随时随地，追踪每个像素，连遮挡都不怕的「追踪一切」视频算法来了  “世界上最像人的机器人”接入 Stable Diffusion ，现场完成作画  国宝级文物“铜兽驮跪坐人顶尊铜像”完成模拟拼接，腾讯AI立功  鸿蒙生态带来了哪些新的流量可能性，包括AI、服务分发和原生智能等方面？  “具身智能”引爆机器人产业，看绝影Lite3/X20四足机器人有何特别之处？  微软在 Build 大会上宣布的新 Microsoft Store AI Hub 现已开始推出  谷歌AudioPaLM实现「文本+音频」双模态解决，说听两用大模型  苹果推出全新沉浸式 AR 体验应用“Deep Field”  “五年内人类程序员将消失”预言引争议，AI真的那么强大了吗？  人工智能行业急缺人 AI人才年薪能达近42万元  鸿蒙4即将支持大规模AI模型  WHEE安装教程  微软新出热乎论文：Transformer扩展到10亿token  “踩油门，也要会踩刹车” 互联网企业高管谈人工智能发展  美踏控股推出创新人工智能大数据模型“心乐舞河”：虚拟人音舞社交的新体验  英伟达CEO宣称生成式AI已迎来“划时代时刻”  速途网络成立“人工智能专家委员会”5位中美博士加盟  2025 WAIC｜美团无人机发布第四代新机型  百度举办AIGC创作沙龙，现场传授AI绘画“咒语”技巧  生成式AI爆发，亚马逊云科技持续专注创新，助力企业数字化转型  AI拉动PCB发展|行业发现  超级智能到底是什么？  小米创始人雷军将揭示小米AI在年度演讲中的最新进展  独家视角：首次展示有人与无人协同打击的7000米高空察打一体无人机  新华社联合北大发布AI大模型评测：安全可靠成重点，360智脑表现优异  抛媚眼给瞎子看？微软、谷歌的AI广告被广告主抵制  搭载星火认知大模型 讯飞听见智慧屏开启AI办公新体验  ​布局智能物联新时代,中国移动“5G+物联网”亮相2025 MWC  实践J*a开发，构建高性能的MongoDB数据迁移工具  iPhone两秒出图，目前已知的最快移动端Stable Diffusion模型来了  靠游戏更靠AI 英伟达成唯一首季度两位数增长的公司  网易加速行业AI大模型应用，将覆盖100多个应用场景  百度创始人、董事长兼首席执行官李彦宏：AI原生应用比大模型数量更重要  苹果AIGC专利：可通过语音指令生成AR/VR虚拟场景  苹果头显降临，AI虚拟人的救星还是流星？  曝索尼在开发新头显设备：游戏中使用AR技术  0代码微调大模型火了，只需5步，成本低至150块  13万个注释神经元，5300万个突触，普林斯顿大学等发布首个完整「成年果蝇」大脑连接组  真全息产品，亮相深圳文博会——dipal数伴拓展元宇宙非沉浸式体验  财联社首档运用虚拟人技术播报栏目《AI半小时》今晚上线！敬请期待  亚太地区 70% 的企业高管正探索生成式 AI 应用或已经进行投资  为了避免人工智能可能带来的灾难，我们要向核安全学习