
刚刚,个名为claude-real-video的开源花式宣称:能让任何大讲话模子都‘不雅看’。
这个花式莫得稽查新的模子,也莫得复杂的视觉理框架。它的star数目高潮速率超越快!
AI在分析YouTube时,是简直把“看”了遍吗?
关于个几十分钟的来说,要是把每帧都发送给模子,不仅Token资本,何况远远出了模子能够处置的落魄文长度。
因此,论是Claude、ChatGPT,已经Gemini,在濒临个聚积时,它们多依赖的是字幕,而不是着实久了画面。
也即是说,模子听到了声息,却莫得着实看到画面。
那么这个花式是若何作念到的?
中枢想路:不是抽帧多,而是抽帧智慧
claude-real-video的想路并不复杂。它莫得试图让Claude去播放,而是在土产货先完成次“久了预处置”。
悉数过程约莫如下:先用yt-dlp或土产货文献拿到源,再用ffmpeg作念场景检测、索要关节帧、图片去重,同期用Whisper(或者自带字幕)生成笔墨转录。后包成frames/(关节帧图片)、transcript.txt(转录文本)、MANIFEST.txt(清单文献)三样东西。
后,把这些文献起交给Claude/ChatGPT/Gemini,它们并不是径直读取,而是在同落魄文中同期阅读:字幕、每个场景的关节帧图片、每张图片对应的时期轴信息。
这么来兰州锚索钢绞线,它获取的信息远比单纯依赖字幕丰富得多。
拆解花式五大亮点,每步都在省Token
传统的抽帧式频频是固定频率。举例:每秒抽张。要是个PPT页面停留了30秒,就会得到30张险些交流的图片。但这么既花费Token,也莫得任何价值。
而claude-real-video使用的是SceneDetection(场景检测)。
唯有当画面着实发生变化时,才保存新的关节帧。
在主页,还有个案例:相同是58秒的片断:固定1fps采样率=58帧。claude-real-video保留了内容不同的26帧,grid将它们包成3个探讨表。少的token,却莫得遗漏任何信息。
二个亮点:自动删除访佛图片
模子莫得要反复阅读交流画面。因此,花式还加入了图片去重机制:通过滑动窗口比拟相邻图片的相似度,只保留着实发生变化的内容。
举例:100张图片,终可能只留住30张。关于Claude来说,久了果险些莫得变化,但Token破钞却大幅着落。
三个亮点:让画面和字幕着实对应起来
花式还会生成个MANIFEST文献。把每张关节帧对应的时期戳,锚索和每段字幕的时期戳关联起来。这么模子濒临的不再是堆狼籍的图片,而是能了了知谈“某句话说出口的时候,画面上适值是哪张图”。
四个亮点:关节帧并不等于
新版块新增了个很智慧的筹划:“关节帧并不等于兰州锚索钢绞线。”
因为单张图片只可反应某个时刻,好多算作、动画、UI变化,都发生在连气儿几帧之间。
于是,花式很快又出了新的Grid:它会把连气儿的9张关节帧拼成张图片。让模子次读到段连气儿的画面序列,而不是散的静态截图。这么作念还有个出奇平正,本来前边提到的26张关节帧,不错逾越压缩成3张图,Token破钞又降了截。
五个亮点:不仅仅归来,而是带着指标去分析
在0.3.0版块里,还加入了个新参数why,不错在敕令行里径直告诉器具‘你为什么要看这段’,比如:
crv"https://youtu.be/..."--why"findthepricingstrategy"--kb~/notes
配套的还有个kb参数,会把分析后果保存到你我方的学问库(notes文献夹)里,并按日历定名,这么后果就不会跟着crv-out目次被算帐而隐匿。
费版除外,还有个付费的crvPro
还有点,claude-real-video开源费的这部分,作念的是“让模子看到”,也即是前边说的场景抽帧、去重、拼图、时期轴对都。花式主页同期也在广个次付费(19好意思元)的crvPro,主“让模子看懂”:比如识别镜头运镜式(固定机位/摇镜/拉/手捏)、统计编订节拍,以及生成份画面除外的“感知时期轴”,记载纯看画面断不出来的信息,比如手势、情态、口吻变化、热枕、非语音的声息事件,再配份面向短创作家的分析讲述等。
网友:应该去掉花式名字里的Claude!
关于这个开源器具,网友的批驳大多分两种。
种是赞同花式的想路:
“这看起来很酷,然则应该去掉名字里的Claude。”
“我认为这比单纯的LLM关系运用有效。”
也有网友对这个花式的些时代面刻薄疑问:
“我使用ffmpeg场景检测的训戒是它很不踏实。它巧合有,但非可靠。”
写在后
畴昔,咱们总但愿恭候模子原生搭救长的输入。
而这个花式提供了另种阶梯:不是升模子,而是升落魄文。
模子汲取到的信息,被提前组织成了适久了的状貌。将来,论是、网页、代码仓库,已经长文档,咱们粗略都不需要恭候模子“原生搭救”。
只须能够把信息组织成模子容易久了的落魄文,相同能够获取接近原生智商的果。
诸君大佬认为这个花式若何样?见谅在批驳区共享不雅点!天津市瑞通预应力钢绞线有限公司相关词条:罐体保温 塑料挤出设备 钢绞线 超细玻璃棉板 万能胶
1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定,并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方,并积极配合修改。
3.凡用户访问本网页,均表示默认详情页的描述兰州锚索钢绞线,不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》,以此来变相勒索商家索要赔偿的违法恶意行为。