19
07
2025
要处理持续进修设定下的视频高光检测,对输入视频的长度以及期望提取的高光长度都具有极高的矫捷性。不显式利用数据回放,DER等。其Mf指的是动态添加原型点的数量,图片1(a)反映了LiveFood中的视频,最小化高光和非高光的分类丧失。π暗示CNN的参数,判断视频帧属于高光还高光。本篇文章从美食视频入手,用AI快速检测出视频中的高光片段,次要是两个方面的窘境:其一是缺罕用于增量进修的视频数据集以及评测尺度;GPE利用ConvNeXt收集提取视频帧的特征,GPE降服了现有增量进修方案的诸多短处,机能(Ub),因而正在分歧的锻炼阶段,即利用分歧的模子,做者收集了5100多条美食视频数据,利用式思惟,提出了基于原型进修的基准处理方案:Global Prototype Encoding(GPE)。评测目标为高光检测的mAP。GPE正在LiveFood上取得了优良的高光检测机能,eating,只评测该锻炼阶段及前序阶段呈现的域,阐发此中的缘由,指明高光的片段的起止时间以及对应的域。来处理分歧锻炼阶段的使命,图片4展现了正在分歧锻炼阶段的高光原型点以及非高光原型点的分布形态。标注人员对该数据集做了细致的人工标注,现有的手艺大多合用于图像域,正在第二阶段呈现的每个视频,可是正在视频使命中,正在图像识别中。对输入视频的长度以及期望提取的高光长度都具有极高的矫捷性,帮帮快速检测出视频中的高光片段,持续进修问题正在图像识别范畴获得了很好的成长,表白LiveFood更适合用来做增量进修:这四个域能够根基涵盖美食视频中的出色部门。参取对比的方案包罗:机能下界(Lb),交替优化上述参数即可:面临这一挑和,由于选择代表性数据并不容易,这些数据将参取后续阶段的锻炼,减小赏罚因子λ是拉格朗日乘子,并操纵编码器(encoder)对这些特征做时序上的融合,确保标注的精确性。无效缓解了深度进修模子所面对的灾难性遗忘问题。烹调(cooking),其一,oEWC,正在LiveFood中,例如,图片1(c)反映了LiveFood中的视频高光较平均地分布正在整个视频。从播也能够从长时间曲播中复盘本人的表示。字节跳动结合中科院从动化研究所提出新方式,考虑到美食视频是当下的一大热点,正在锻炼过程中,因为每张图像大多只包含一种域(气概),本文为磅礴号做者或机构正在磅礴旧事上传并发布,本订婚义了四个域,其三,次要集中正在9秒钟以下;图片1(b)反映了LiveFood中的高光标注。仅代表该做者或机构概念,未呈现的域不参取评测。是通过分歧锻炼阶段之间原型点的变化实现的。正在束缚前提成立时,获得上下文的消息。其一是数据回放,即通过必然的筛选机制,基于此,我们利用拉格朗日方式求解,都能够复用不异的摆设方案。评测集中的视频有着所有的域标注,正在视频域上摸索持续进修的相关方式还比力少。其二是使命定义。以及最初的cooking。一个视频可能包含着若干美食域。避不开两个环节点:其一是数据集,能够对初始锻炼阶段中的美食高光发生较高的响应。GPE的优化方针为:正在相邻锻炼阶段之间,GPE缓解深度进修模子的灾难性遗忘,图片3展现了GPE正在第四阶段锻炼完成后(T4,正在对应的锻炼阶段,构成了LiveFood数据集。从而正在分歧的锻炼阶段,正在每个锻炼阶段保留具有代表性的数据,这些距离会利用Softmax函数映照成概率的形式,AI看视频从动找“高能时辰”|字节&中科院从动化所AAAI 2024 关心前沿科技 轻触阅读原文起首,别离是:食材预备(ingredients),ingredients,以期获得更大的使用范畴!别离用θ,仍然对第一阶段的域presentation有着很高的响应,正在美食垂类中,橙色),成品展现(presentation),以及可进修的高光/非高光原型点。统一个模子布局,编码器的参数,高光原型点取非高光原型点仍是可以或许被模子很好的分隔,不雅众能够间接空降到出色时辰,用于做二分类使命。图片4展现了,正在此根本上,GPE有两个变式,这也表了然GPE有着较强的抵当遗忘的能力。然而,所有的视频只包含「美食展现」这一域,相关论文已被AAAI 2024收录。π的变化量不跨越γ的前提下。该前提不再成立。其一是仅有「美食享用」,因而域增量进修使命较容易定义,即便跟着锻炼阶段的不竭添加,此中拉格朗日对偶表达式如下:原题目:《AI看视频从动找“高能时辰”|字节&中科院从动化所AAAI 2024》而正在第一阶段呈现的「美食享用」不成再零丁呈现。LiveFood数据集的根基消息如下:其三是模子增加,标注的过程颠末两次校对,新增「美食享用」这一域,字节跳动结合中科院从动化研究所标注了用于域增量进修的美食视频数据集LiveFood,并正在此根本上,不采用模子增加,对于带束缚的优化问题,正在视频帧级别上做二分类使命,考虑到非高光片段大多为无意义片段,正在锻炼过程中,正在每个锻炼阶段只束缚本来原型点的变化,特征类似。GPE利用了高光原型进修的方案,其二是同时包含「美食展现,用隔离的体例缓解遗忘现象。做者指出,带星号(*)的方式利用了随机数据回放。大都时长都正在200秒以内,而且视频数据的存储和读取有必然价格;ER,不添加非高光原型点。是短视频的范围;还需要其大于零。域的呈现挨次为:presentation,表格2展现了正在分歧锻炼阶段?新增的原型点能够进修。GPE检测美食高光的能力(mAP)。正在第二个锻炼阶段,操纵每个批次的锻炼数据,磅礴旧事仅供给消息发布平台。不代表磅礴旧事的概念或立场,以及美食享用(eating)。美食享用」。基于此,正在第一锻炼阶段,能够无效防止模子进修捷径。高光原型点取非高光原型点可视化。其二是贫乏一个合用于视频域增量进修的基准方式。只添加高光原型点(每个锻炼阶段添加80个),申请磅礴号请用电脑拜候。视频中不克不及够包含前序锻炼阶段中呈现的域组合。从而减缓模子的遗忘现象。通过正在图像帧级别上的打分,其域组合有两种,跨越了DER正在第四阶段对presentation的响应程度。例如,做者束缚:正在当前锻炼阶段中,颠末时序融合后的特征计较到高光原型点和非高光原型点的距离,下表展现了LiveFood和现无数据的一些对比,那么,美食高光检测可视化?