3

即时通讯音视频开发(二):视频编解码之数字视频介绍

 2 years ago
source link: http://yunxin.163.com/blog/zhuan-im3-2/
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

即时通讯应用中的实时音视频技术,几乎是IM开发中的最后一道高墙。原因在于:实时音视频技术 = 音视频处理技术 + 网络传输技术 的横向技术应用集合体,而公共互联网不是为了实时通信设计的。

本文主要讲解实时音视频技术中视频技术的数字视频知识。

1. 什么是图像?什么是视频?

图像:
是人对视觉感知的物质再现。三维自然场景的对象包括:深度,纹理和亮度信息。二维图像:纹理和亮度信息。

即时通讯音视频开发(二):视频编解码之数字视频介绍_1.png

视频:
连续的图像。视频由多幅图像构成,包含对象的运动信息,又称为运动图像。

即时通讯音视频开发(二):视频编解码之数字视频介绍_2.png

2. 何为数字视频?

数字视频可以理解为自然场景空间和时间的数字采样表示。

空间采样的主要技术指标为:解析度(Resolution)
即时通讯音视频开发(二):视频编解码之数字视频介绍_4.png

时间采样的主要技术指标为:帧率(帧/秒)
即时通讯音视频开发(二):视频编解码之数字视频介绍_3.png

3. 数字视频系统的构成和运行原理

  • 采集:照相机,摄像机。
  • 处理:编解码器,传输设备
  • 显示:显示器。

即时通讯音视频开发(二):视频编解码之数字视频介绍_5.png

5. 人类视觉系统HVS

HVS的构成:

即时通讯音视频开发(二):视频编解码之数字视频介绍_6.png

HVS特点:

  • 对高频信息不敏感
  • 对高对比度更敏感
  • 对亮度信息比色度信息更敏感
  • 对运动的信息更敏感

即时通讯音视频开发(二):视频编解码之数字视频介绍_7.png

6. 针对HVS的特点,数字视频系统的设计应该考虑哪些因素?

  • 丢弃高频信息,只编码低频信息
  • 提高边缘信息的主观质量
  • 降低色度的解析度
  • 对感兴趣区域(Region of Interesting,ROI)进行特殊处理

即时通讯音视频开发(二):视频编解码之数字视频介绍_8.png

7. 什么是RGB色彩空间?

三原色分别是红(R),绿(G),蓝(B)。任何颜色都可以通过按一定比例混合三原色产生。

RGB色度空间:

  • 由RGB三原色组成
  • 广泛用于BMP,TIFF,PPM等
  • 每个色度成分通常用8bit表示[0,255]

即时通讯音视频开发(二):视频编解码之数字视频介绍_9.png

8. 什么是YUV色彩空间?

YUV色彩空间是指,Y:亮度分量,UV:两个色度分量。YUV能更好的反映HVS特点。

9. RGB如何转化到YUV空间?

亮度分量Y与三原色有如下关系:
即时通讯音视频开发(二):视频编解码之数字视频介绍_x.png

经过大量实验后ITU-R给出了:
即时通讯音视频开发(二):视频编解码之数字视频介绍_x1.png

即时通讯音视频开发(二):视频编解码之数字视频介绍_x2.png

即时通讯音视频开发(二):视频编解码之数字视频介绍_x3.png

即时通讯音视频开发(二):视频编解码之数字视频介绍_x4.png

主流的编解码标准的压缩对象都是YUV图像。

10. 何为YUV图像分量采样?

YUV图像可以根据HVS的特点,对色度进行分量采样,可以降低视频数据量。

根据亮度和色度分量的采样比率,YUV图像通常有以下几种分量方式:

即时通讯音视频开发(二):视频编解码之数字视频介绍_y1.png

11. 通用的YUV图像格式有哪些?

根据YUV图像的亮度、分辨率定义了如下图像格式:

即时通讯音视频开发(二):视频编解码之数字视频介绍_y2.png

12. 如何理解帧和场图像?

一帧图像包括两场——顶场,底场:

即时通讯音视频开发(二):视频编解码之数字视频介绍_y3.png

即时通讯音视频开发(二):视频编解码之数字视频介绍_y4.png

13. 逐行与隔行图像

逐行图像是指:一帧图像的两场在同一时间得到,ttop=tbot。
隔行图像是指:一帧图像的两场在不同时间得到, ttop≠tbot。

即时通讯音视频开发(二):视频编解码之数字视频介绍_y5.png

(原文链接:http://www.cnblogs.com/xkfz007/archive/2012/08/12/2613690.html)

 来源:即时通讯网 – 即时通讯开发者社区!

了解网易云信,来自网易核心架构的通信与视频云服务。


网易云信(NeteaseYunXin)是集网易18年IM以及音视频技术打造的PaaS服务产品,来自网易核心技术架构的通信与视频云服务,稳定易用且功能全面,致力于提供全球领先的技术能力和场景化解决方案。开发者通过集成客户端SDK和云端OPEN API,即可快速实现包含IM、音视频通话、直播、点播、互动白板、短信等功能


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK