news 2026/7/16 15:35:16

OneThinker大模型实现视频跟踪:从单帧目标框到多模态推理统一

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
OneThinker大模型实现视频跟踪:从单帧目标框到多模态推理统一

文章介绍OneThinker这一多模态推理通用模型,打破图像与视频界限,可同时处理图像和视频,完成问答、定位、跟踪、分割等十多项复杂任务。该模型在31个基准测试中表现优异,具有跨任务知识迁移和零样本泛化能力。研究团队已开源全部代码、模型和数据,为开发者提供探索多模态AI的基础。


给定第一帧的目标框,大模型实现跟踪任务

视觉理解正在走向大一统,就是一个模型充当多面手,可以完成多个基础任务!之前文章中介绍的 SAM3 希望一个模型搞定视觉识别,Rex-Omini则是在一个模型中能支持十余种视觉任务!

另外受大语言模型中推理成功的启发,一系列工作趋势旨在将“思维链”能力引入视觉领域,使其能够在不同的视觉任务中进行推理。

但当下的推理模型通常设计为仅处理单一任务,并且只能单独在图像或视频上运行,这种割裂极大地限制了它们的实际通用性。

面向视频与图像的一体化推理模型

那么再进一步,结合上述两个基础模型特性,从输入和输出角度,我们能否训练一个一体化的多模态推理通用模型,能够同时处理图像和视频,并完成问答、定位、跟踪、分割等十多项复杂任务?

今天给大家介绍来自港中文和美团的最新研究:一个统一的多模态推理通用模型,它打破了图片与视频的界限,能够处理广泛的视觉推理任务。所有代码、模型和数据均已开源。

# PaperOneThinker: All-in-one Reasoning Model for Image and Video# 论文https://arxiv.org/pdf/2512.03043# 代码https://github.com/tulerfeng/OneThinker# 模型https://huggingface.co/OneThink

一、视觉领域的专业推理模型?

Vision-R1 擅长分析静态图像,目标是增强多模态大语言模型的推理能力,回答关于图片内容的各种复杂问题。在广泛使用的MathVista基准测试上达到了73.5%的准确率,仅比领先的推理模型OpenAI O1低0.4%。

直接应用强化学习训练面临一个根本问题:缺乏高质量的多模态推理数据。利用现有 MLLM 和 DeepSeek-R1,通过模态桥接和数据过滤,获得了20万条高质量多模态思维链数据。

Video-R1 也是港中文的工作,专注于视频理解,首次系统性地将基于规则的强化学习范式引入视频推理领域,能够对视频内容进行深度推理。

在多个视频推理基准测试中表现卓越,特别是在视频空间推理基准VSI-bench上达到了37.1%的准确率,甚至超越了商业专有模型GPT-4o。

Seg-R1 专门负责图像分割任务,使用强化学习增强大型多模态模型的像素级理解和推理能力,引入了一个解耦的推理-分割框架。

采用基于 GRPO 的强化学习来生成明确的思维链推理和位置提示,模型以前景分割图像-掩码对为基础,让LMM能够以“下一个词元”的方式生成点和边界框提示,这些提示随后用于指导SAM2产生分割掩码。

现实世界不按上述专业模型划分,比如一个自动驾驶系统需要同时理解静态图像(识别路标)、分析动态视频(预测车辆轨迹)、进行视觉语言交互(理解乘客指令)并执行精细分割(识别道路边界)。

二、AI大一统的全能模型

面对这些挑战,研究团队提出了一个大胆设想:为什么不训练一个真正的“全能选手”,能够在一个模型中处理各种基本视觉任务

OneThinker在 10 项基本视觉任务的 31 个基准测试中表现出色,同时展现了跨任务知识迁移和有希望的零样本泛化能力。

在图像问答任务中,准确率达到70.6%;在数学推理任务中,准确率达到64.3%;在物体跟踪任务中,性能指标达到84.4;在视频分割任务中,综合得分为54.9。

OneThinker构建了包含 60 万个样本的训练数据集,涵盖所有任务类型。还利用模型标注了34万条高质量的“思维链”数据,让AI学会一步步思考。

具体的,能看图说话:理解图片内容,回答问题

视频解读:分析动态画面,追踪变化

精准定位:在图像或视频中找到任意指定物体

智能分割:精确区分不同区域

自然描述:用语言描述看到的内容

在未来的家用机器人上,你只需要说:“帮我把桌上那个红色的杯子拿过来”,机器人就能理解你的指令(语言理解),找到桌子(定位),识别红色杯子(检测),并规划取物路径(推理与执行)。

​最后

我在一线科技企业深耕十二载,见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事,早已在效率与薪资上形成代际优势,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。

我整理出这套 AI 大模型突围资料包:

  • ✅AI大模型学习路线图
  • ✅Agent行业报告
  • ✅100集大模型视频教程
  • ✅大模型书籍PDF
  • ✅DeepSeek教程
  • ✅AI产品经理入门资料

完整的大模型学习和面试资料已经上传带到CSDN的官方了,有需要的朋友可以扫描下方二维码免费领取【保证100%免费】👇👇
​​

为什么说现在普通人就业/升职加薪的首选是AI大模型?

人工智能技术的爆发式增长,正以不可逆转之势重塑就业市场版图。从DeepSeek等国产大模型引发的科技圈热议,到全国两会关于AI产业发展的政策聚焦,再到招聘会上排起的长队,AI的热度已从技术领域渗透到就业市场的每一个角落。


智联招聘的最新数据给出了最直观的印证:2025年2月,AI领域求职人数同比增幅突破200%,远超其他行业平均水平;整个人工智能行业的求职增速达到33.4%,位居各行业榜首,其中人工智能工程师岗位的求职热度更是飙升69.6%。

AI产业的快速扩张,也让人才供需矛盾愈发突出。麦肯锡报告明确预测,到2030年中国AI专业人才需求将达600万人,人才缺口可能高达400万人,这一缺口不仅存在于核心技术领域,更蔓延至产业应用的各个环节。

​​

资料包有什么?

①从入门到精通的全套视频教程⑤⑥

包含提示词工程、RAG、Agent等技术点

② AI大模型学习路线图(还有视频解说)

全过程AI大模型学习路线

③学习电子书籍和技术文档

市面上的大模型书籍确实太多了,这些是我精选出来的

④各大厂大模型面试题目详解

⑤ 这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理,鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位,在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利,同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。

所有的视频教程由智泊AI老师录制,且资料与智泊AI共享,相互补充。这份学习大礼包应该算是现在最全面的大模型学习资料了。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。


智泊AI始终秉持着“让每个人平等享受到优质教育资源”的育人理念‌,通过动态追踪大模型开发、数据标注伦理等前沿技术趋势‌,构建起"前沿课程+智能实训+精准就业"的高效培养体系。

课堂上不光教理论,还带着学员做了十多个真实项目。学员要亲自上手搞数据清洗、模型调优这些硬核操作,把课本知识变成真本事‌!

​​​​

如果说你是以下人群中的其中一类,都可以来智泊AI学习人工智能,找到高薪工作,一次小小的“投资”换来的是终身受益!

应届毕业生‌:无工作经验但想要系统学习AI大模型技术,期待通过实战项目掌握核心技术。

零基础转型‌:非技术背景但关注AI应用场景,计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能 ‌突破瓶颈:传统开发者(Java/前端等)学习Transformer架构与LangChain框架,向AI全栈工程师转型‌。

👉获取方式:

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓**

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/14 18:33:32

当券商成立互联网分公司,面向长尾客户的“智能化总攻”开始了

近期,又一家头部券商宣布成立互联网分公司,在业内激起不小波澜。有人质疑这是“新瓶装旧酒”,但真正洞察行业演进的人会明白:这并非简单回归,而是一场面向AI时代客户经营体系的重构。 十年前,互联网分公司的…

作者头像 李华
网站建设 2026/7/16 14:17:19

13. 搜索引擎-ES-ES集群

文章目录前言一、搭建ES集群1.1 创建ES集群1.2 集群状态监控1.3创建索引库二、集群脑裂问题2.1.集群职责划分2.2.脑裂问题三、集群分布式存储3.1.分片存储测试3.2.分片存储原理四、集群分布式查询五、集群故障转移前言 ES集群‌ 一、搭建ES集群 1.1 创建ES集群 部署es集群可…

作者头像 李华
网站建设 2026/7/15 21:17:01

LobeChat能否接入实时翻译插件?多语言交流解决方案

LobeChat能否接入实时翻译插件?多语言交流解决方案 在跨国团队协作日益频繁的今天,一个中国工程师与德国同事讨论技术方案时,可能正依赖AI助手做实时沟通桥梁;一位留学生在查阅英文论文时,希望对话模型能直接用母语解释…

作者头像 李华
网站建设 2026/7/15 22:21:18

15. 实时数据-SpringBoot集成WebSocket

文章目录 前言一、添加依赖(Maven)二、配置 WebSocket1. 创建 WebSocket 配置类2. 实现 WebSocket 处理器 三、前端测试(HTML JS)四、启动类(标准 Spring Boot 启动类)五、可选:使用 STOMP ove…

作者头像 李华
网站建设 2026/7/16 9:57:31

30、FreeBSD 图形界面配置与 KDE 桌面环境使用指南

FreeBSD 图形界面配置与 KDE 桌面环境使用指南 1. X Window 系统配置 X Window 系统为 FreeBSD 提供了类似于 Windows 的图形用户界面。它与窗口管理器协同工作,为用户打造一个高效的工作环境。 1.1 关键配置文件与程序 XF86Config :这是控制 X Window 系统各种属性的文本…

作者头像 李华
网站建设 2026/7/15 5:33:22

项目中绝对位置和相对位置的具体应用解析

这个通常用于有外部库或者文件输入时,使用相对路径可避免代码复制到别的PC端没法使用的情况基础概念:路径分隔符的作用​在文件系统中,路径用于定位文件或目录的位置。反斜杠 \ 是 Windows 系统中的路径分隔符,而正斜杠 / 通常用于…

作者头像 李华