聊天讲解01_标题摘要与引言

← 返回教程合集

来源:papers/iVc/DCVC_讲解资源/来源/聊天讲解01_标题摘要与引言.md · 原始 Markdown

这份 :codex-file-citation{path="E:/Projects/papers/iVc/deep-contextual-video-compression.bib" purpose="source"} 对应 《Deep Contextual Video Compression》(DCVC,NeurIPS 2021),作者是 Jiahao Li、Bin Li、Yan Lu,来自微软亚洲研究院。论文官方页面

按项目的精读规则,本轮从标题开始,读到引言第 2 段,对应 :codex-file-citation{path="E:/Projects/papers/iVc/Li_Deep_Contextual_Video_Compression_NeurIPS_2021_paper.pdf" purpose="source"} 第 1 页。摘要来自你提供的 .bib,可以完整呈现;网络获取的正文采用短摘录、逐段释义与推导。

本轮最重要的问题是:已经编码了残差,为什么还需要条件编码?

一、标题怎么理解

Deep Contextual Video Compression 可以译为“深度上下文视频压缩”。

这里的 context(上下文),指压缩当前帧时能够利用的辅助信息。比如,上一帧已经解码,里面哪些信息能帮助表示当前帧?

作者希望让网络学习一种适合压缩的上下文表示。标题中的 contextual,正是这篇论文的核心。

二、Abstract:原文与翻译

Most of the existing neural video compression methods adopt the predictive coding framework, which first generates the predicted frame and then encodes its residue with the current frame. However, as for compression ratio, predictive coding is only a sub-optimal solution as it uses simple subtraction operation to remove the redundancy across frames. In this paper, we propose a deep contextual video compression framework to enable a paradigm shift from predictive coding to conditional coding. In particular, we try to answer the following questions: how to define, use, and learn condition under a deep video compression framework. To tap the potential of conditional coding, we propose using feature domain context as condition. This enables us to leverage the high dimension context to carry rich information to both the encoder and the decoder, which helps reconstruct the high-frequency contents for higher video quality. Our framework is also extensible, in which the condition can be flexibly designed. Experiments show that our method can significantly outperform the previous state-of-the-art (SOTA) deep video compression methods. When compared with x265 using veryslow preset, we can achieve 26.0% bitrate saving for 1080P standard test videos.

中文翻译:

现有的大多数神经视频压缩方法采用预测编码框架:先生成预测帧,再编码当前帧与预测帧之间的残差。然而,从压缩率来看,预测编码只是次优方案,因为它仅通过简单的减法操作消除帧间冗余。本文提出深度上下文视频压缩框架,以实现从预测编码到条件编码的范式转变。具体而言,我们试图回答以下问题:在深度视频压缩框架中,如何定义条件、使用条件以及学习条件?为挖掘条件编码的潜力,我们提出将特征域上下文作为条件。这样可以利用高维上下文向编码器和解码器传递丰富的信息,帮助重建高频内容,从而获得更高的视频质量。我们的框架还具有可扩展性,能够灵活设计条件。实验表明,该方法能够显著优于此前最先进的深度视频压缩方法。对于 1080P 标准测试视频,相比采用 veryslow 预设的 x265,我们可以节省 26.0% 的码率。

深入讲解:

摘要提出了三个相互关联的问题:

问题 实际要解决什么
如何定义条件? 用什么信息帮助压缩当前帧?
如何使用条件? 条件参与编码、重建的哪些环节?
如何学习条件? 怎样训练网络,获得真正有助于压缩的信息?

特征域上下文(feature domain context),可以先理解为网络提取的多通道表示。它有机会同时表达边缘、纹理等多种线索,提供比一张 RGB 预测图更灵活的信息。

“高频内容”是空间变化较快的内容,例如细密纹理和清晰边缘。高维特征能否改善这些内容的重建,目前仍是作者主张,后面要检查对应的设计和实验证据。

摘要中的 26.0% 是特定测试条件下报告的码率节省。质量指标、编码配置和平均方式,我们将在实验部分核对。

三、Introduction 第 1 段:神经网络替换了什么?

英文短摘录:

“merely replaced by neural networks”

译为:“仅仅被神经网络替代。”

段落释义: 作者把传统视频编码和许多当时的神经方法归纳为先预测、再编码残差的框架。虽然模块实现发生变化,处理当前帧的基本方式仍然延续。

下面是帮助理解的补充示意:

r_t=x_t-\tilde{x}_t, \qquad \hat{x}_t=\tilde{x}_t+\hat{r}_t.

其中:

  • x_t:真实的当前帧。
  • \tilde{x}_t:预测帧。
  • r_t:残差。
  • \hat{r}_t:解码得到的重建残差。
  • \hat{x}_t:最终重建帧。

例如,预测像素值为 100,真实值为 103,只需要编码差异 3。预测已经解释了大量内容,这是残差编码有效的直觉。

作者想强调的是:替换模块和改变框架,是两个层次的设计。 即使预测器、编码器都换成神经网络,整个系统仍可能保留“相减后编码、解码后相加”的结构。

这里还有一个后续必须检查的条件:编码端和解码端需要生成相同的预测信息。 否则,解码器无法正确恢复当前帧。

四、Introduction 第 2 段:熵不等式究竟说明什么?

段落释义: 作者承认残差编码有效,但认为条件编码能够进一步利用相关性,并用下面的熵不等式支撑研究动机。段末提出使用可学习的自编码器探索视频相关性。

原文给出的公式没有独立编号:

H(x_t-\tilde{x}_t)\geq H(x_t\mid\tilde{x}_t).

H 表示香农熵。直观地说:

  • 左边:不再利用预测帧作为条件时,残差还有多少不确定性。
  • 右边:已经知道预测帧之后,当前帧还剩多少不确定性。

关键是:减法本身并不丢失信息。

以下是补充推导,不是论文原文。

令当前信号为 X,预测信息为 P,残差为:

R=X-P.

先考虑离散随机变量、有限熵,以及减法之后没有截断等不可逆操作的情形。

第 1 步:给定预测信息,原信号与残差可以互相恢复。

当 P=p 已知时:

R=X-p,\qquad X=R+p.

于是:

\Pr(R=r\mid P=p)=\Pr(X=r+p\mid P=p).

两者只是取值的编号不同,概率没有变化,因此:

H(R\mid P=p)=H(X\mid P=p).

对所有 p 取平均:

H(R\mid P)=H(X\mid P).

第 2 步:忽略条件,可能增加不确定性。

互信息满足:

I(R;P)=H(R)-H(R\mid P)\geq0.

代入上面的等式:

\boxed{ H(X-P)=H(X\mid P)+I(X-P;P) \geq H(X\mid P) }

因此,两边的差距,恰好是残差与预测信息之间仍然存在的互信息。

当残差与预测信息独立时,互信息为零,不等式取等号。条件编码并不必然严格优于残差的无条件编码。

一个数值例子

下面是自行构造的教学例子,三种情况构成全部概率分布:

预测值 P 当前值 X 残差 R 概率
50 50 0 1/2
100 99 −1 1/4
100 101 1 1/4

忽略预测值时,残差的熵为:

H(R) =-\frac12\log_2\frac12 -2\cdot\frac14\log_2\frac14 =1.5\ \text{bit}.

利用预测值时:

  • P=50:残差必定为 0,没有不确定性。
  • P=100:残差为等概率的 −1 或 1,有 1 bit 不确定性。

所以:

H(R\mid P) =\frac12\cdot0+\frac12\cdot1 =0.5\ \text{bit}.

残差数值没有改变,但知道它出现在哪种预测条件下,就能使用更准确的概率分布。

这里比较的是平均熵;不意味着每个像素可以单独用半个二进制位表示。

这条公式的解释边界

【独立分析】需要特别注意两点。

第一,如果残差编码器也充分利用同一个条件 P,理想情况下同样有:

H(R\mid P)=H(X\mid P).

因此,这条不等式不能单独证明所有残差架构都存在不可消除的劣势。它为更充分的条件建模提供动机,具体框架是否更好,还需要方法和实验支持。

第二,这是抽象的熵比较。实际有损视频压缩还涉及量化、重建失真、概率模型误差和辅助信息开销,理论差距不能直接当作实际码率收益。

传统视频编码也使用上下文,例如 CABAC 会根据上下文组织概率估计。因此,不能把引言的简化描述理解为传统编码完全没有条件建模。Fraunhofer HHI 的 CABAC 技术说明

需要补充前置知识时,可以读 MIT 6.441 讲义第 1、2 章的熵与互信息内容。

本轮进度: 已读完标题、作者与机构、摘要、引言第 1—2 段,并完成熵不等式的推导。下一轮从第 2 页 Figure 1、图注和引言第 3 段开始,具体看条件如何定义、使用和学习。

本轮逐段讲解 · 阅读进度记录