ffmpeg未整理好，有时间整理下

v  容器(Container)

v  容器就是一种文件(封装)格式，比如flv、mkv、ts、mp4、rmvb、avi等。包含下面5种流以及文件头信息。

v  流(Stream)

v  是一种视频数据信息的传输方式，5种流：音频，视频，字幕，附件，数据。

v  帧(Frame)  代表一幅静止的图像，分为I帧，P帧，B帧。

v  编解码器(Codec)

v  是对视频进行压缩或者解压缩，CODEC =CODE（编码） +DECODE（解码）

v  复用/解复用(mux/demux)

v  把不同的流按照某种容器的规则放入容器，这种行为叫做复用(mux)

把不同的流从某种容器中解析出来，这种行为叫做解复用(demux)

v  码率和帧率是视频文件的最重要的基本特征，对于他们的特有设置会决定视频质量。如果我们知道码率和时长那么可以很容易计算出输出文件的大小。

v  帧率：帧率也叫帧频率，帧率是视频文件中每一秒的帧数，肉眼想看到连续移动图像至少需要15帧。

v  码率：比特率(也叫码率，数据率)是一个确定整体视频/音频质量的参数，秒为单位处理的字节数，码率和视频质量成正比，在视频文件中中比特率用bps来表达。

转码流程

v  FFmpeg的名称来自MPEG视频编码标准，前面的“FF”代表“Fast Forward”，FFmpeg是一套可以用来音视频采集、音视频格式转换，编码解码，视频截图，加水印等的开源计算机程序。可以轻易地实现多种视频格式之间的相互转换。

v  FFmpeg的用户有Google，Facebook，Youtube，VLC,优酷，爱奇艺，土豆，Mplayer，射手播放器，暴风影音，KMPlayer，QQ影音，格式工厂，狸窝视频转换器，暴风转码等。

v  FFmpeg的开发是基于Linux操作系统，但是可以在大多数操作系统中编译和使用。(在vs2010中编译不了，因为vs2010支持的是C89(不支持C99) ，ffmpeg使用的是C99，vs2013/2015可以编译)

v  FFmpeg一共包含8个库：

v  1、avcodec：编解码（最重要的库）。

v  2、avformat：封装格式处理。

v  3、avfilter：滤镜特效处理。

v  4、avdevice：各种设备的输入输出。

v  5、avutil：工具库（大部分库都需要这个库的支持）。

v  6、postproc：后加工。

v  7、swresample：音频采样数据格式转换。

v  8、swscale：视频像素数据格式转换

v  FFmpeg一共包含四个主要程序：

v  1、ffmpeg：是一个命令行工具，用来对视音频文件转换格式，也支持对电视卡实时编码；

ffmpeg -i input.flv -c:v libx264 -c:a libfaac -b:v 800k -b:a 100k -r 25                          -ar 48000 -s 1280x720 -f flv out.flv

v  2、ffsever：是一个HTTP多媒体实时广播流服务器，支持时光平移

v  3、ffplay：是一个简单的播放器，使用ffmpeg 库解析和解码，通过SDL显示；

ffplay input.avi

该命令将播放当前文件夹下

的input.avi文件

v  4、ffprobe：探测分析视音频文件

ffprobe -i input -print_format json -show_format -show_streams -show_frames

v  官网：

v  http://ffmpeg.org/

v  http://ffmpeg.org/download.html

v  https://ffmpeg.zeranoe.com/builds/

v  Linux下编译很简单 ./configure && make && make install

v  Windows下使用MinGW的gcc toolchain进行编译，没有pdb，无法进行调试

v  Windows下可以使用vs2013/2015版本编译

v  configure的时候可以指定配置，开启或关闭一些选项，启用外部的编解码库等

./configure --enable-shared --enable-version3 --enable-gpl --enable-nonfree --enable-libfdk_aac --enable-libmp3lame --enable-zlib --enable-libspeex --enable-libx264 --prefix=/usr/lib/buildwin64ffmpeg

学习研究ffmpeg推荐在linux下，编译调试都方便(试了vs2015也不错，有个老外有个开源工程都集成好了)。

v  可用的bit流 ：ffmpeg –bsfs

v  可用的编解码器：ffmpeg –codecs

v  可用的解码器：ffmpeg –decoders

v  可用的编码器：ffmpeg –encoders

v  可用的过滤器：ffmpeg –filters

v  可用的视频格式：ffmpeg –formats

v  可用的声道布局：ffmpeg –layouts

v  可用的license：ffmpeg –L

v  可用的像素格式：ffmpeg –pix_fmts

v  可用的协议：ffmpeg -protocals

v  改变视频的分辨率   -s 1280x720

v  改变视频的帧率       -r 15

v  改变音频的采样率   -ar  44100

v  改变视音频的码率   -b:v 1000k -b:a 80k

v  设置输出格式          -f flv(mpegts/hls/mp4)

v  设置视音频编码格式  -c:v libx264 –c:a libfaac

v  指定视音频不转码  -c copy -c:a copy –c:v copy

v  设置处理开始时间 -ss HH:MM:SS

v  设置处理结束时间 -to HH:MM:SS

v  不要视频或者音频 –vn –an

v  设置关键帧间隔

-force_key_frames "expr:gte(t,n_forced*1)"

ffmpeg截取视频

v  ffmpeg -i %s -ss %02d:%02d:%02d -to %02d:%02d:%02d  -c copy -f %s %s -y

v  示例：

ffmpeg –i input.flv –ss 00:10:00 –to 00:20:00 –c copy –f flv jiequ.flv –y

v  说明：

v  -i 指定输入

v  -ss 指定截取的开始时间

v  -to指定截取的结束时间

v  可以用两种方式指定时间，一种是用时分秒指定、中间用冒号分离HH:MM:SS，另一种是直接用秒数指定

v  –c copy即音视频编码采用直接复制的方式，不进行转码

v  -f flv 指定输出格式为flv，这里的flv可以替换为mp4，ts，hls等，后面接着输出文件名

v  -y即如果文件存在，直接覆盖写

ffmpeg合并视频

v  把文件名都输出到一个文件，如下放到join.txt，格式是file+空格+文件名+换行+……

v  ffmpeg -f concat -i %s -c copy -f %s %s –y

v  示例：

v  ffmpeg -f concat -i join.txt -c copy -f flv join.flv –y

v  注：只适用于相同编解码参数音视频的合并(不同的得转码可以用filter合并)

ffmpeg转封装

v  ffmpeg -i %s -c copy -f %s %s -y

v  示例：ffmpeg -i input.flv -c copy -f mp4 output.mp4 -y

这个比较简单,直接指定不转码，输出格式和文件名就好了。

v  其中转hls有一些额外的参数可供选择

v  -hls_time 指定切片时长，默认值为2

v  -hls_list_size 指定m3u8中ts切片数量的最大值，点播可以配置一个很大的数(最大可配值INT_MAX)，即都保存，直播可以酌情配置

v  -hls_segment_filename 指定ts切片的名字

v  示例：

v  ffmpeg -i input.flv -c copy -hls_time 10 -hls_list_size 10000000 -hls_segment_filename hongyun_%d.ts -f hls hongyun.m3u8

ffmpeg转码

v  ffmpeg -i %s -c:v %s -c:a %s -ar %s -b:v %s -b:a %s -f %s %s -y

v  示例：

v  ffmpeg -i input.flv -c:v h264 -c:a libmp3lame -ar 44100 -b:v 1000k -b:a 80k -f flv output.flv –y

v  说明：

v  -c:v指定视频编码格式

v  -c:a指定音频编码格式

v  -ar 指定音频采样率

v  -b:v 指定视频码率

v  -b:a 指定音频码率

v  注：转换过程中可能会遇到一些问题，ffmpeg会给出提示信息，我们可以根据提示信息进行进一步转码

v

v  这种情况我们加上 -bsf:v h264_mp4toannexb 应该就可以了

ffmpeg 混屏（画中画）

 

v  ffmpeg混屏主要用到的filter中视频相关的有scale、pad、overlay；音频相关的是amix

v  ffmpeg -i rtmp://10.111.22.210/live/livestream6  -i xx.flv -i rtmp://10.111.22.210/live/livestream5 -i rtmp://10.121.22.210/live/livestream7 -filter_complex "[0:v]scale=300:200,pad=600:400:0:0[left];[1:v]scale=300:200[right];[left][right]overlay=300:0[up];[2:v]scale=300:200[down]; [up][down]overlay=0:200[downleft];[3:v]scale=300:200[downright];[downleft][downright]overlay=300:200;amix=inputs=4" -c:v h264 -c:a libfaac -f flv rtmp://192.168.11.168/live/livestream

v  命令中首先指定了4路输入；然后按一下步骤进行操作：

v  1.指定第一路流的视频([0:v])作为输入，进行比例变换(scale=300:200)、并填充视频(pad=600:400:0:0),输出为[left]；

v  2.指定第二路流的视频([1:v])为输入进行比例变换(scale=300:200)，输出为[right];

v  3.把[right]叠加到[left]上([left][right]overlay)，并指定位置，坐标为(300:0）,输出为[up]；

v  4.指定第三路流的视频([2:v]) 为输入进行比例变换(scale=300:200),输出为[down]；

v  5. 把[down] 叠加到[up] 上([up][down]overlay)并指定位置，坐标为(0:200),输出为 [downleft]；

v  6.指定第四路流的视频([3:v])为输入进行比例变换(scale=300:200)，输出为[downright];

v  7. 把[downright]叠加到[downleft]上([downleft][downright]overlay) 并指定位置,坐标为(300:200),这里我们不指定输出了(当然也可以指定)，因为滤镜链如果没有指定输入或输出，则默认使用前面的滤镜链的输出为输入，并输出给后面的滤镜链做输入。

v  8. amix=inputs=4，对音频进行混流，这里我们指定混4路音频

ffmpeg中很多框架都是基于函数指针，有点类似于C++的基类，有几个重要的结构体，下面介绍下

几个重要的结构体

 

v  AVFormatContext 封装格式上下文结构体，也是统领全局的结构体，保存了视频文件封装格式相关信息。

v  AVInputFormat 每种作为输入的封装格式（例如FLV, MKV, MP4, AVI）对应一个该结构体。

v  AVOutputFormat  每种作为输出的封装格式（例如FLV, MKV, MP4, AVI）对应一个该结构体。

v  AVStream  视频文件中每个视频（音频）流对应一个该结构体。

v  AVCodecContext 编码器上下文结构体，保存了视频（音频）编解码相关信息。

v  AVCodec 每种视频（音频）编解码器(例如H.264解码器)对应一个该结构体。

v  AVPacket  存储一帧压缩编码数据。

v  AVFrame   存储一帧解码后像素（采样）数据。

v  AVIOContext    管理输入输出数据的结构体

AVFormatContext

 

v  AVFormatContext中几个重要的成员

v  struct AVInputFormat *iformat; 输入的封装格式(Demuxing only)

v  struct AVOutputFormat *oformat;输入的封装格式(Muxing only)

v  unsigned int nb_streams; 输入/出视频的AVStream 个数

v  AVStream **streams; 输入/出视频的AVStream []数组

v  duration ：输入视频的时长（以微秒为单位）（ Demuxing only ）

v  bit_rate ：输入视频的码率。

AVInputFormat

 

v  AVInputFormat中几个重要的成员

v   const char *name; 封装格式名称

v  const char *long_name ；封装格式的长名称

v  const char *extensions; 封装格式的扩展名

v  一些封装格式处理的接口函数。

v  int (*read_probe)(AVProbeData *);

v  int (*read_header)(struct AVFormatContext *);

v  int (*read_packet)(struct AVFormatContext *, AVPacket *pkt);

v  int (*read_close)(struct AVFormatContext *);

v  int (*read_seek)(struct AVFormatContext *, int stream_index, int64_t timestamp, int flags);

AVInputFormat例子

 

v  AVInputFormat ff_flv_demuxer = {

.name           = "flv",

.long_name      = NULL_IF_CONFIG_SMALL("FLV (Flash Video)"),

.priv_data_size = sizeof(FLVContext),

.read_probe     = flv_probe,

.read_header    = flv_read_header,

.read_packet    = flv_read_packet,

.read_seek      = flv_read_seek,

.read_close     = flv_read_close,

.extensions     = "flv",

.priv_class     = &flv_class,

};

AVOutputFormat

 

v  AVOutputFormat中几个重要的成员

v   const char *name; 封装格式名称

v  const char *long_name ；封装格式的长名称

v  const char *extensions; 封装格式的扩展名

v  一些封装格式处理的接口函数。

v  int (*write_header)(struct AVFormatContext *);

v  int (*write_packet)(struct AVFormatContext *, AVPacket *pkt);

v  int (*write_trailer)(struct AVFormatContext *);

AVOutputFormat例子

 

v  AVOutputFormat ff_flv_muxer = {

.name           = "flv",

.long_name      = NULL_IF_CONFIG_SMALL("FLV (Flash Video)"),

.mime_type      = "video/x-flv",

.extensions     = "flv",

.priv_data_size = sizeof(FLVContext),

.audio_codec    = CONFIG_LIBMP3LAME ? AV_CODEC_ID_MP3 : AV_CODEC_ID_ADPCM_SWF,

.video_codec    = AV_CODEC_ID_FLV1,

.write_header   = flv_write_header,

.write_packet   = flv_write_packet,

.write_trailer  = flv_write_trailer,

.codec_tag      = (const AVCodecTag* const []) {                         flv_video_codec_ids, flv_audio_codec_ids, 0},

.flags          = AVFMT_GLOBALHEADER | AVFMT_VARIABLE_FPS |

AVFMT_TS_NONSTRICT,

.priv_class     = &flv_muxer_class,

};

AVStream

 

v  AVStream中几个重要的成员

v  int index;    /**< stream index in AVFormatContext */

v  int id;

v  AVCodecContext *codec; 该流对应的AVCodecContext

v   AVRational time_base; 该流的时基

v  AVRational r_frame_rate; 该流的帧率

AVCodecContext

 

v  AVCodecContext中几个重要的成员

v  const struct AVCodec  *codec;  编解码器的AVCodec

v  int width, height;  图像的宽高（只针对视频）

v  enum AVPixelFormat pix_fmt; 像素格式（只针对视频）

v  int sample_rate;   采样率（只针对音频）

v  int channels;   声道数（只针对音频）

v  enum AVSampleFormat sample_fmt; 采样格式（只针对音频）

AVCodec

 

v  AVCodec中几个重要的成员

v  const char *name;  编解码器名称

v  const char *long_name;  编解码器长名称

v  enum AVMediaType type;  编解码器类型

v   enum AVCodecID id;  编解码器ID

v   一些编解码的接口函数

v   int (*init)(AVCodecContext *);

v   int (*encode2)(AVCodecContext *avctx, AVPacket *avpkt, const AVFrame *frame, int *got_packet_ptr);

v   int (*decode)(AVCodecContext *, void *outdata, int *outdata_size, AVPacket *avpkt);

v   int (*close)(AVCodecContext *);

AVCodec例子

 

v  AVCodec ff_h264_decoder = {

.name                  = "h264",

.long_name             = NULL_IF_CONFIG_SMALL("H.264 / AVC / MPEG-4 AVC / MPEG-4 part 10"),

.type                  = AVMEDIA_TYPE_VIDEO,

.id                    = AV_CODEC_ID_H264,

.priv_data_size        = sizeof(H264Context),

.init                  = ff_h264_decode_init,

.close                 = h264_decode_end,

.decode                = h264_decode_frame,

.profiles              = NULL_IF_CONFIG_SMALL(ff_h264_profiles),

.priv_class            = &h264_class,

};

v  AVCodec ff_libx264_encoder = {

.name             = "libx264",

.long_name        = NULL_IF_CONFIG_SMALL("libx264 H.264 / AVC / MPEG-4 AVC / MPEG-4 part 10"),

.type             = AVMEDIA_TYPE_VIDEO,

.id               = AV_CODEC_ID_H264,

.priv_data_size   = sizeof(X264Context),

.init             = X264_init,

.encode2          = X264_frame,

.close            = X264_close,

.capabilities     = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_AUTO_THREADS,

.priv_class       = &x264_class,

.defaults         = x264_defaults,

.init_static_data = X264_init_static,

.caps_internal    = FF_CODEC_CAP_INIT_THREADSAFE |

FF_CODEC_CAP_INIT_CLEANUP,

};

AVPacket

 

v  AVPacket中几个重要的成员

v  int64_t pts;  显示时间戳

v  int64_t dts;  解码时间戳

v  uint8_t *data;  压缩编码数据

v  int   size;  压缩编码数据大小

v  int   stream_index; 所属的AVStream

v  int   flags; 1关键帧

AVFrame

 

v  AVFrame中几个重要的成员

v   uint8_t *data[AV_NUM_DATA_POINTERS]; 解码后的图像像素数据（音频采样数据）。

v  int linesize[AV_NUM_DATA_POINTERS]; 对视频来说是图像中一行像素的大小；对音频来说是整个音

v  频帧的大小。

v  int width, height; 图像的宽高（只针对视频）。

v  int key_frame; 是否为关键帧（只针对视频） 。

v  enum AVPictureType pict_type; 帧类型（只针对视频） 。例如I，P，B。

AVIOContext

v  AVIOContext中几个重要的成员

v      unsigned char *buffer;   /**< Start of the buffer. */

v      int buffer_size;        /**< Maximum buffer size */

v      unsigned char *buf_ptr; /**< Current position in the buffer */

v      unsigned char *buf_end; /**< End of the data, may be less than buffer+buffer_size if the read function returned less data than requested, e.g. for streams where no more data has been received yet. */

v      void *opaque;           /**< A private pointer, passed to the read/write/seek/...  functions. */

v      int (*read_packet)(void *opaque, uint8_t *buf, int buf_size);

v      int (*write_packet)(void *opaque, uint8_t *buf, int buf_size);

v      int64_t (*seek)(void *opaque, int64_t offset, int whence);

v      int64_t pos;            /**< position in the file of the current buffer */

v  AVIOContext中几个重要的成员

v  在解码的情况下，buffer用于存储ffmpeg读入的数据。例如打开一个视频文件的时候，先把数据从硬盘读入buffer，然后在送给解码器用于解码。

v  其中opaque指向了URLContext。

v  typedef struct URLContext {

v      const AVClass *av_class;    /**< information for av_log(). Set by url_open(). */

v      const struct URLProtocol *prot;

v      void *priv_data;

v      char *filename;             /**< specified URL */

v      int flags;

v      ……

v  } URLContext;

URLProtocol

 

v  typedef struct URLProtocol {

v      const char *name;

v      int     (*url_open)( URLContext *h, const char *url, int flags);

v      int     (*url_open2)(URLContext *h, const char *url, int flags, AVDictionary **options);

v      int     (*url_accept)(URLContext *s, URLContext **c);

v      int     (*url_handshake)(URLContext *c);

v      int     (*url_read)( URLContext *h, unsigned char *buf, int size);

v      int     (*url_write)(URLContext *h, const unsigned char *buf, int size);

v      int64_t (*url_seek)( URLContext *h, int64_t pos, int whence);

v      int     (*url_close)(URLContext *h);

v      int (*url_read_pause)(URLContext *h, int pause);

v      int64_t (*url_read_seek)(URLContext *h, int stream_index,

v                               int64_t timestamp, int flags);

v      int (*url_get_file_handle)(URLContext *h);

v      int (*url_get_multi_file_handle)(URLContext *h, int **handles,

v                                       int *numhandles);

v      int (*url_shutdown)(URLContext *h, int flags);

v      …..

v  } URLProtocol;

URLProtocol例子

v  const URLProtocol ff_file_protocol = {

v      .name                = "file",

v      .url_open            = file_open,

v      .url_read            = file_read,

v      .url_write           = file_write,

v      .url_seek            = file_seek,

v      .url_close           = file_close,

v      .url_get_file_handle = file_get_handle,

v      .url_check           = file_check,

v      .url_delete          = file_delete,

v      .url_move            = file_move,

v      .priv_data_size      = sizeof(FileContext),

v      .priv_data_class     = &file_class,

v      .url_open_dir        = file_open_dir,

v      .url_read_dir        = file_read_dir,

v      .url_close_dir       = file_close_dir,

v      .default_whitelist   = "file,crypto"

v  };

const URLProtocol ff_tcp_protocol = {

.name                = "tcp",

.url_open            = tcp_open,

.url_accept          = tcp_accept,

.url_read            = tcp_read,

.url_write           = tcp_write,

.url_close           = tcp_close,

.url_get_file_handle = tcp_get_file_handle,

.url_shutdown        = tcp_shutdown,

.priv_data_size      = sizeof(TCPContext),

.flags               = URL_PROTOCOL_FLAG_NETWORK,

.priv_data_class     = &tcp_class,

};

基本流程

ffmpeg.c转码大概流程

v  比较不错的资源

官网：http://ffmpeg.org/

官网文档：http://ffmpeg.org/documentation.html

官网wiki : https://trac.ffmpeg.org/wiki

雷霄骅(leixiaohua1020)的专栏(一个广院工科生的视音频技术笔记)：http://blog.csdn.net/leixiaohua1020

其他资源。。。

最后，缅怀雷博，感谢雷博！！！