36氪 - 科技频道 03月28日 15:32
AI大模型看手相,图片视频加持深度思考,阿里QVQ-Max“神了神了”
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

阿里推出首个视觉推理大模型QVQ-Max,该模型能够深度分析图像和视频内容。用户上传图片或视频后,QVQ-Max能进行手相分析、风景识别、数学推理等多种任务。通过实验验证,QVQ-Max在MathVision等基准测试中表现出色,具备强大的图片解析、信息分析和推理能力,还能进行创意生成,如插画设计和短视频脚本创作。目前,QVQ-Max已开放免费体验。

🧐 **深度视觉推理能力:** QVQ-Max能深度理解图像和视频内容,例如识别手掌纹路进行手相分析、区分西湖四季风景,并解答数学题目,甚至能为手绘视频生成字幕,展现其强大的视觉理解能力。

🚀 **多模态任务处理:** QVQ-Max不仅能处理静态图像,还能分析视频内容,将其与文字结合,进行推理和创作。例如,它可以分析抽象视频内容,并给出理解和解释。

💡 **三大核心能力:** QVQ-Max具备强大的图片解析能力,能识别复杂图表和日常照片的关键元素;能够结合背景知识进行信息分析和推理,例如推导几何题答案;还能进行创意生成,如插画设计、短视频脚本创作等。

✅ **MathVision测试表现:** 在MathVision基准测试中,通过调整模型thinking的最大长度,QVQ-Max的准确率持续提升,证明其在复杂多模态数学问题上的优异表现。

阿里又发了个有意思的大模型——

QVQ-Max,第一版视觉推理模型,对任意图像或视频都可以进行深度思考。

举个有趣的例子

,上传一张你的手掌,再点击Thinking,QVQ-Max就可以给你看手相

可以看到,在深度思考过后,QVQ-Max就开始逐步分析手掌上的线条和其他特征。

包括心线、头线、生命线等主要线条的分析,以及戒指手指上的金戒指的象征意义。

这还只是一个比较有娱乐性的例子。

如果你一口气给QVQ-Max“喂”多张图片,它也可以进行深度思考:

这两张图片描绘了哪些风景?它们之间的关系是什么?

在一顿思考过后,QVQ-Max准确地识别出两张图联系——都是西湖的风景,但一张是春夏时节,另一张是冬季。

再如数学推理,同样是给它“喂”一张图即可,连提问都省了:

在思考之后,QVQ-Max是找到了数字们之间的规律,并最终给出了正确答案:10。

以及直接上传一个手绘简笔画视频,并附上一句:

分析视频,将视觉内容与文字结合,并为视频中的镜头创建生动有趣的字幕。

最终,QVQ-Max依旧是稳稳地完成了任务。

网友们看罢,也是麻溜地去试了试。

不过这一次,QVQ-Max有点小翻车——路飞是认对了,但这个乔巴……

以及啊,这两天被OpenAI GPT-4o图像生成带火的吉卜力,网友们也是跟上了:

那么QVQ-Max的图像视频深度思考实力到底如何,我们这就亲手尝试一番。

实测QVQ-Max

首先,我们还是来测试一下QVQ-Max看图解数学题的能力。

题目是这样的:

然后我们提问:

这道题的答案是多少?

在深度思考过后,QVQ-Max不仅精准识别出了手写的题目,而且给出了正确答案:2。

刚才Qwen官方给出了看手相的例子,这次我们再来“喂”下这张图:

问题是这样的:

这是什么?

嗯,是比较全面地介绍了星盘。

接下来,我们再来测试一下视频推理,例子就用Anthropic最新发布的一个:

若是刨去视频里的背景音,单是看内容,还是比较抽象的。

对此,QVQ-Max给出的理解是:

从观察到推理

除了效果之外,虽然Qwen团队没有公布相关论文,但对于背后的技术亮点,团队还是简单的介绍了一番。

首先,团队在MathVision这个benchmark(汇集各类困难多模态数学)上进行了一番测试:

结果表明,通过调整模型thinking的最大长度,模型在MathVision上的准确率也会持续提升。

除此之外,团队还总结了QVQ-Max的三大能力特点。

包括对图片的解析能力非常强,无论是复杂的图表还是日常生活中随手拍的照片,它都能快速识别出关键元素。比如,它可以告诉你一张照片里有哪些物品、有什么文字标识,甚至还能指出一些你可能忽略的小细节。

仅仅识别出图片里的内容还不够,QVQ-Max还能进一步分析这些信息,并结合背景知识得出结论。

例如,在一道几何题中,它可以根据题目附带的图形推导出答案;在一段视频里,它能根据画面内容推测出接下来可能发生的情节。

除了分析和推理,QVQ-Max还能做一些有趣的事情,比如帮你设计插画、生成短视频脚本,甚至根据你的需求创作角色扮演的内容。

如果你上传一幅草稿,它可能会帮你完善成一幅完整的作品;上传一个日常照片,它可以化身犀利的评论家,占卜师。

值得注意的是,QVQ-Max是免费可用的哦,感兴趣的朋友快去试试吧~

体验地址:https://chat.qwen.ai

参考链接:

[1]https://qwenlm.github.io/zh/blog/qvq-max-preview/

[2]https://x.com/Alibaba_Qwen/status/1905342260100956210

本文来自微信公众号 “量子位”(ID:QbitAI),作者:金磊,36氪经授权发布。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

QVQ-Max 视觉推理 大模型 AI 阿里
相关文章