Android平台原生音视频编解码MediaCodec介绍-51CTO.COM

MediaCodec介绍

MediaCodec是Android平台上的一个多媒体编解码器，它可以用于对音频和视频进行编解码。通过MediaCodec，开发者可以直接访问底层的编解码器，实现更高效的音视频处理。同时，MediaCodec也支持硬件加速，可以利用设备的硬件资源来提高编解码的性能。MediaCodec主要应用于以下几个方面：

音视频编解码：MediaCodec可以对音频和视频进行硬件加速的编解码处理，可以实现高效的音视频处理和播放。
多媒体格式支持：支持常见的音视频格式，包括H.264、AAC、MP3等，可以进行解码和编码操作。
硬件加速：利用设备的硬件加速功能，可以提高音视频处理的效率和性能。
实时处理：支持实时的音视频处理，适用于实时通信、直播等场景。
自定义处理：可以通过MediaCodec进行自定义的音视频处理，如滤镜、特效等操作。

MediaCodec在Android平台上提供了强大的音视频编解码功能，可以用于多媒体应用的开发和优化。

MediaCodec编解码流程

MediaCodec的编解码流程包括创建对象、配置参数、启动、处理输入数据、处理输出数据以及停止和释放资源等步骤。

图片

创建MediaCodec对象：首先需要创建一个MediaCodec对象，指定要进行的编解码类型（如音频编码、音频解码、视频编码、视频解码）以及相应的参数。
配置MediaFormat：针对要编解码的数据流，需要配置相应的MediaFormat，包括音视频数据的格式、编解码器的参数等。
配置输入缓冲区：对于编码操作，需要配置输入缓冲区，将原始的音视频数据填充到输入缓冲区中；对于解码操作，需要配置输出缓冲区，用于接收解码后的音视频数据。
启动MediaCodec：配置完成后，可以启动MediaCodec，开始进行编解码操作。
处理输入数据：对于编码操作，将原始的音视频数据传入输入缓冲区；对于解码操作，将编码后的音视频数据传入输入缓冲区。
处理输出数据：对于编码操作，从输出缓冲区获取编码后的音视频数据；对于解码操作，从输出缓冲区获取解码后的音视频数据。
停止和释放资源：编解码操作完成后，需要停止MediaCodec，并释放相关资源。

各个阶段对应的 API 如下：

// 获取可用的输入缓冲区的索引
public int dequeueInputBuffer (long timeoutUs)
// 获取输入缓冲区
public ByteBuffer getInputBuffer(int index)
// 将填满数据的inputBuffer提交到编码队列
public final void queueInputBuffer(int index,int offset, int size, long presentationTimeUs, int flags)
// 获取已成功编解码的输出缓冲区的索引
public final int dequeueOutputBuffer(BufferInfo info, long timeoutUs)
// 获取输出缓冲区
public ByteBuffer getOutputBuffer(int index)
// 释放输出缓冲区
public final void releaseOutputBuffer(int index, boolean render)

MediaCodec生命周期

图片

创建：通过MediaCodec.createDecoderByType()或MediaCodec.createEncoderByType()方法创建一个MediaCodec实例。
配置：设置MediaFormat以及其他参数，如音视频流的格式、编解码器的参数等。
启动：调用MediaCodec的start()方法启动编解码器。
编解码：通过输入缓冲区向编解码器输入数据，然后从输出缓冲区获取编解码后的数据。
停止：调用MediaCodec的stop()方法停止编解码器。
释放资源：调用MediaCodec的release()方法释放编解码器所占用的资源。

在实际使用中，可以根据需要重复配置、启动、编解码和停止的步骤，直到不再需要使用MediaCodec时再释放资源。

MediaCodec使用

import android.media.MediaCodec;
import android.media.MediaCodecInfo;
import android.media.MediaFormat;
import android.os.Bundle;
import android.support.v7.app.AppCompatActivity;
import android.view.Surface;
import android.widget.VideoView;

import java.io.IOException;
import java.nio.ByteBuffer;

public class MainActivity extends AppCompatActivity {
    private MediaCodec mediaCodec;
    private Surface surface;

    @Override
    protected void onCreate(Bundle savedInstanceState) {
        super.onCreate(savedInstanceState);
        setContentView(R.layout.activity_main);

        VideoView videoView = findViewById(R.id.videoView);
        surface = videoView.getHolder().getSurface();

        try {
            // 创建一个MediaCodec实例
            mediaCodec = MediaCodec.createDecoderByType("video/avc");
            // 配置MediaFormat
            MediaFormat format = MediaFormat.createVideoFormat("video/avc", 1920, 1080);
            // 配置解码器
            mediaCodec.configure(format, surface, null, 0);
            // 启动解码器
            mediaCodec.start();
        } catch (IOException e) {
            e.printStackTrace();
        }
    }

    private void decodeFrame(byte[] data) {
        int inputBufferIndex = mediaCodec.dequeueInputBuffer(-1);
        if (inputBufferIndex >= 0) {
            ByteBuffer inputBuffer = mediaCodec.getInputBuffer(inputBufferIndex);
            inputBuffer.clear();
            inputBuffer.put(data);
            mediaCodec.queueInputBuffer(inputBufferIndex, 0, data.length, 0, 0);
        }
        // 从解码器中获取解码后的数据
        MediaCodec.BufferInfo bufferInfo = new MediaCodec.BufferInfo();
        int outputBufferIndex = mediaCodec.dequeueOutputBuffer(bufferInfo, 0);
        while (outputBufferIndex >= 0) {
            // 处理解码后的数据
            mediaCodec.releaseOutputBuffer(outputBufferIndex, true);
            outputBufferIndex = mediaCodec.dequeueOutputBuffer(bufferInfo, 0);
        }
    }

    @Override
    protected void onDestroy() {
        super.onDestroy();
        // 停止解码器
        if (mediaCodec != null) {
            mediaCodec.stop();
            mediaCodec.release();
        }
    }
}

示例代码使用MediaCodec来解码视频流，并将解码后的视频渲染到Surface上。在示例中，我们创建了一个MediaCodec对象，配置了视频格式和Surface，然后开始解码视频帧。在decodeFrame方法中，我们将视频帧数据传递给解码器进行解码，并将解码后的数据渲染到Surface上。最后，在Activity销毁时释放MediaCodec资源。