设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

吉娃娃or松饼难题被解决!IDEA研究院新模型打通文本视觉Prompt

发布时间: 2024-04-01 14:24:06 来源: 量子位

连黑客帝国的子弹都能数清楚7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

还记得黑客帝国经典的子弹时间吗?7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

IDEA研究院最新检测模型T-Rex2,可以齐刷刷给全部识别出来~7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

吉娃娃or松饼难题被解决!IDEA研究院新模型打通文本视觉Prompt

而面对难倒一众大模型「吉娃娃or松饼」的难题,它只需被投喂一张吉娃娃的照片,就能瞬间迎刃而解。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

吉娃娃or松饼难题被解决!IDEA研究院新模型打通文本视觉Prompt

此前,也是同样的团队,推出了基于视觉提示的检测模型T-Rex。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

如今,他们将视觉和文本提示融合,相互弥补各自的缺陷,实现了更强的目标检测能力。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

并且与多目标跟踪模型结合后,各种视频检测任务也不在话下。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

吉娃娃or松饼难题被解决!IDEA研究院新模型打通文本视觉Prompt

来看新研究到底说了什么。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

打通文本和视觉提示

在开集目标检测领域,尽管文本提示受到一定的青睐,但也存在一定的局限性。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

比如长尾数据短缺。稀有或者全新的物体类别的数据稀缺可能会削弱其学习效率。还有描述上的局限性,对于一些难以用语言描绘的对象,因受限于无法精确描述,也会削弱效果。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

而视觉提示提供了更直观且直接的对象表示方法,但在捕捉常见对象的概念时效果就会很差。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

T-Rex2通过对比学习在单个模型中整合两种提示,因此接受多种格式的输入,包括文本提示、视觉提示以及两者的组合。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

吉娃娃or松饼难题被解决!IDEA研究院新模型打通文本视觉Prompt

在不同场景中,它可以通过在两种提示方式之间切换来处理。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

因此,它大致有三种工作模式:7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

文本提示模式、交互式视觉提示模式、通用视觉提示模式。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

吉娃娃or松饼难题被解决!IDEA研究院新模型打通文本视觉Prompt

以通用视觉提示模式为例,用户可以通过向模型提供任意数量的示例图片,来自定义特定对象的视觉嵌入,然后使用这个嵌入来检测任意图像中的对象。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

也就是不需要用户与模型直接互动,就能完成检测任务。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

最终在在四个学术基准测试集 COCO, LVIS, ODinW, 和Roboflow100 上取得了 Zero-Shot SOTA的性能。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

吉娃娃or松饼难题被解决!IDEA研究院新模型打通文本视觉Prompt

开箱即用诸多领域

无需重新训练或微调,T-Rex2即可检测模型在训练阶段从未见过的物体。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

该模型不仅可应用于包括计数在内的所有检测类任务,还为智能交互标注领域提供新的解决方案。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

吉娃娃or松饼难题被解决!IDEA研究院新模型打通文本视觉Prompt

除此之外,结合现有的多目标跟踪模型( 如ByteTrack ),T-Rex2还可用于视频检测任务。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

吉娃娃or松饼难题被解决!IDEA研究院新模型打通文本视觉Prompt

事实上,这种跨图检测能力,让目标检测技术在生产生活中可以真正开始广泛应用。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

比如工业生产流水线器件检测,交通航运领域的船舶、飞机检测,农业领域的农作物、果蔬检测,生物医学领域的细胞、组织检测,物流领域的货物检测,环境领域的野生动物监测等。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

现在,T-Rex2让通用物体检测又迈出了新的一步。7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

试玩链接:7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
https://deepdataspace.com/playground/ivp7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
T-Rex2 API:https://github.com/IDEA-Research/T-Rex7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
论文链接:7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
https://arxiv.org/abs/2403.146107Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

— 完 —7Up速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

记者3月18日从安徽明天氢能科技股份有限公司(以下简称明天氢能)获悉,国家电网近日向明天氢能及董事长王朝云分别授予科学技术进步奖一等奖,获奖项目为“大规模氢电一体化站关键技术、核心装备及   诺贝尔化学奖获得者阿龙・切哈诺沃:做研究保持好奇心很重要  中新网宁波3月17日电(林波)对于学生而言,如何找到研究的信心和价值,让他们有继续下去的动力?  “做研究保持好奇心很重要。”3月17日,2004年诺贝尔化学 据阿根廷布宜诺斯艾利斯经济新闻网报道,一项国际研究发现,阿尔茨海默病的早期症状可能表现在视力上。研究显示,即便眼科检查结果正常,但阅读、估计距离和触及物体的困难都是可能揭示阿尔茨海默病 记者3月20日从中国科学技术大学获悉,该校郭光灿院士团队在量子态分辨研究中取得重要进展:他们在最小资源消耗的量子态分辨问题中首次提出了全局最优自适应策略,并发展了自适应集体测量实验技术, 3月20日,在2024全球游戏开发者大会(GDC)上,腾讯发布了自研游戏AI引擎——GiiNEX。基于生成式AI和决策AI技术,GiiNEX将为游戏全生命周期提供丰富的AI解决方案。据悉,借助大模型等生成式AI 2024年2月,OpenAI公司推出了文生视频人工智能(AI)模型Sora。OpenAI展示了Sora利用少量简短文字提示即可创建逼真视频的能力,并提供了包括一位女士在闪烁着霓虹灯的东京街道漫步,以及一只狗在两个 。

本文链接:吉娃娃or松饼难题被解决!IDEA研究院新模型打通文本视觉Prompthttp://www.sushuapos.com/show-2-4433-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 一款手游有400+个AI角色!腾讯游戏新系统炸场GDC:训练成本大减90%

下一篇: GPT4单项仅7.1分,揭露大模型写代码三大短板,最新基准测试来了

热门资讯

推荐资讯

  • 日榜
  • 周榜
  • 月榜