前言
今天给老铁们介绍Camera2相机开发流程详解;
Android 5.0对拍照API进行了全新的设计，新增了全新设计的Camera 2 API，这些API不仅大幅提高了Android系统拍照的功能，还能支持RAW照片输出，甚至允许程序调整相机的对焦模式、曝光模式、快门等;
一、Camera2架构介绍
Camera2引用了管道的概念将安卓设备和摄像头之间联通起来，系统向摄像头发送 Capture 请求，而摄像头会返回 CameraMetadata。这一切建立在一个叫作 CameraCaptureSession 的会话中;
架构在核心参与类角色有：CameraManager、CameraDevice、CameraCharacteristics、CameraRequest与CameraRequest.Builder、CameraCaptureSession以及CaptureResult;
1、CameraManager
位于android.hardware.camera2.CameraManager下，也是Android 21(5.0)添加的，和其他系统服务一样通过 Context.getSystemService(CameraManager.class ) 或者Context.getSystemService(Context.CAMERA_SERVICE) 来完成初始化，主要用于管理系统摄像头：
- 通过getCameraIdList()方法获取Android设备的摄像头列表;
- getCameraCharacteristics(String cameraId)获取摄像头的详细参数和支持的功能;
2、CameraDevice
- CameraDevice是Camera2中抽象出来的一个对象，直接与系统硬件摄像头相联系;
- 即摄像头功能可被分为limit 和full 两个级别，当摄像头处于limited 级别时候，此时Camera2和早期的Camera功能差不多，除此之外在Camera2架构中，CameraDevice还承担其他重要任务：
- 通过CameraDevice.StateCallback监听摄像头的状态(主要包括onOpened、onClosed、onDisconnected、onErro四种状态);
- 管理CameraCaptureSession，-通过方法createCaptureSession()方法和createReprocessableCaptureSession()方法创建会话 ，通常会在CameraDevice.StateCallback中调用对应方法创建预览会话;
- 管理CaptureRequest，主要包括通过createCaptureRequest(int templateType)创建捕获请求，在需要预览、拍照、再次预览的时候都需要通过创建请求来完成;
3、CameraCaptureSession
- 系统向摄像头发送 Capture 请求，而摄像头会返回 CameraMetadata，这一切都是在由对应的CameraDevice创建的CameraCaptureSession 会话完成，当程序需要预览、拍照、再次预览时，都需要先通过会话;
- CameraCaptureSession的有很多重要回调：
- 管理CameraCaptureSession.StateCallback状态回调，用于接收有关CameraCaptureSession状态的更新的回调对象;
- 管理CameraCaptureSession.CaptureCallback捕获回调，用于接收捕获请求状态的回调，当请求触发捕获已启动时;捕获完成时;在捕获图像时发生错误的情况下;都会触发该回调对应的方法;
- 通过调用方法capture()提交捕获图像请求即拍照，其中该请求定义了捕获单个图像的所有参数，包括传感器，镜头，闪光灯和后处理参数，每一次请求的结果将产生一个CaptureResult，可以为一个或多个Surface生成新的帧，然后通过CaptureRequest.Builder的addTarget(Surface)方法附着到对应的Surface上显示;
- 通过调用方法setRepeatingRequest()请求不断重复捕获图像，即实现预览;
- 通过方法调用stopRepeating()实现停止捕获图像，即停止预览;
4、CameraCharacteristics
描述Cameradevice属性的对象，可以使用CameraManager通过getCameraCharacteristics(String cameraId)进行查询;
5、CameraRequest和CameraRequest.Builder
CameraRequest代表了一次捕获请求，而CameraRequest.Builder用于描述捕获图片的各种参数设置，包含捕获硬件(传感器，镜头，闪存)，对焦模式、曝光模式，处理流水线，控制算法和输出缓冲区的配置，然后传递到对应的会话中进行设置，CameraRequest.Builder则负责生成CameraRequest对象。当程序调用setRepeatingRequest()方法进行预览时，或调用capture()方法进行拍照时，都需要传入CameraRequest参数。CameraRequest可以通过CameraRequest.Builder来进行初始化，通过调用createCaptureRequest来获得;
6、CaptureResult
CaptureRequest描述是从图像传感器捕获单个图像的结果的子集的对象，当CaptureRequest被处理之后由CameraDevice生成;
7、Camera2 主要角色之间的联系
CameraManager处于顶层管理位置负责检测获取所有摄像头及其特性和传入指定的CameraDevice.StateCallback回调打开指定摄像头，CameraDevice是负责管理抽象对象，包括监听Camera 的状态回调CameraDevice.StateCallback、创建CameraCaptureSession和CameraRequest;
二、Camera2 相机开发流程详解
1、申请权限
- <uses-permission android:name="android.permission.CAMERA" />
- <uses-permission android:name="android.permission.WRITE_EXTERNAL_STORAGE" />
2、在xml布局文件中定义一个TextureView
- <TextureView
- android:id="@+id/textureView"
- android:layout_width="match_parent"
- android:layout_height="match_parent" />
3、创建一个CameraHelper类，并给TextureView对象添加回调函数
- class Camera2Helper(val mActivity: Activity, private val mTextureView: TextureView) {
- companion object {
- const val PREVIEW_WIDTH = 720 //预览的宽度
- const val PREVIEW_HEIGHT = 1280 //预览的高度
- const val SAVE_WIDTH = 720 //保存图片的宽度
- const val SAVE_HEIGHT = 1280 //保存图片的高度
- }
- private lateinit var mCameraManager: CameraManager
- private var mImageReader: ImageReader? = null
- private var mCameraDevice: CameraDevice? = null
- private var mCameraCaptureSession: CameraCaptureSession? = null
- private var mCameraId = "0"
- private lateinit var mCameraCharacteristics: CameraCharacteristics
- private var mCameraSensorOrientation = 0 //摄像头方向
- private var mCameraFacing = CameraCharacteristics.LENS_FACING_BACK //默认使用后置摄像头
- private val mDisplayRotation = mActivity.windowManager.defaultDisplay.rotation //手机方向
- private var canTakePic = true //是否可以拍照
- private var canExchangeCamera = false //是否可以切换摄像头
- private var mCameraHandler: Handler
- private val handlerThread = HandlerThread("CameraThread")
- private var mPreviewSize = Size(PREVIEW_WIDTH, PREVIEW_HEIGHT) //预览大小
- private var mSavePicSize = Size(SAVE_WIDTH, SAVE_HEIGHT) //保存图片大小
- init {
- handlerThread.start()
- mCameraHandler = Handler(handlerThread.looper)
- mTextureView.surfaceTextureListener = object : TextureView.SurfaceTextureListener {
- override fun onSurfaceTextureSizeChanged(surface: SurfaceTexture?, width: Int, height: Int) {
- }
- override fun onSurfaceTextureUpdated(surface: SurfaceTexture?) {
- }
- override fun onSurfaceTextureDestroyed(surface: SurfaceTexture?): Boolean {
- releaseCamera()
- return true
- }
- override fun onSurfaceTextureAvailable(surface: SurfaceTexture?, width: Int, height: Int) {
- initCameraInfo()
- }
- }
- }
- }
- 打开相机和创建会话等都是耗时操作，所以我们启动一个HandlerThread在子线程中来处理;
- 有两个关于尺寸的变量，一个是预览尺寸(在屏幕上显示)，一个是保存图片的尺寸(保存到sd卡中图片的尺寸);
- 有两个方向，一个是手机方向(如果是竖屏应用的话此方向为0)，另一个是摄像头方向(一般来说，前置摄像头方向为270，后置摄像头方向为90);
4、初始化相关参数
- /**
- * 初始化
- */
- private fun initCameraInfo() {
- mCameraManager = mActivity.getSystemService(Context.CAMERA_SERVICE) as CameraManager
- val cameraIdList = mCameraManager.cameraIdList
- if (cameraIdList.isEmpty()) {
- mActivity.toast("没有可用相机")
- return
- }
- for (id in cameraIdList) {
- val cameraCharacteristics = mCameraManager.getCameraCharacteristics(id)
- val facing = cameraCharacteristics.get(CameraCharacteristics.LENS_FACING)
- if (facing == mCameraFacing) {
- mCameraId = id
- mCameraCharacteristics = cameraCharacteristics
- }
- log("设备中的摄像头 $id")
- }
- val supportLevel = mCameraCharacteristics.get(CameraCharacteristics.INFO_SUPPORTED_HARDWARE_LEVEL)
- if (supportLevel == CameraCharacteristics.INFO_SUPPORTED_HARDWARE_LEVEL_LEGACY) {
- mActivity.toast("相机硬件不支持新特性")
- }
- //获取摄像头方向
- mCameraSensorOrientation = mCameraCharacteristics.get(CameraCharacteristics.SENSOR_ORIENTATION)
- //获取StreamConfigurationMap，它是管理摄像头支持的所有输出格式和尺寸
- val configurationMap = mCameraCharacteristics.get(CameraCharacteristics.SCALER_STREAM_CONFIGURATION_MAP)
- val savePicSize = configurationMap.getOutputSizes(ImageFormat.JPEG) //保存照片尺寸
- val previewSize = configurationMap.getOutputSizes(SurfaceTexture::class.java) //预览尺寸
- val exchange = exchangeWidthAndHeight(mDisplayRotation, mCameraSensorOrientation)
- mSavePicSize = getBestSize(
- if (exchange) mSavePicSize.height else mSavePicSize.width,
- if (exchange) mSavePicSize.width else mSavePicSize.height,
- if (exchange) mSavePicSize.height else mSavePicSize.width,
- if (exchange) mSavePicSize.width else mSavePicSize.height,
- savePicSize.toList())
- mPreviewSize = getBestSize(
- if (exchange) mPreviewSize.height else mPreviewSize.width,
- if (exchange) mPreviewSize.width else mPreviewSize.height,
- if (exchange) mTextureView.height else mTextureView.width,
- if (exchange) mTextureView.width else mTextureView.height,
- previewSize.toList())
- mTextureView.surfaceTexture.setDefaultBufferSize(mPreviewSize.width, mPreviewSize.height)
- log("预览最优尺寸 ：${mPreviewSize.width} * ${mPreviewSize.height}, 比例 ${mPreviewSize.width.toFloat() / mPreviewSize.height}")
- log("保存图片最优尺寸 ：${mSavePicSize.width} * ${mSavePicSize.height}, 比例 ${mSavePicSize.width.toFloat() / mSavePicSize.height}")
- //根据预览的尺寸大小调整TextureView的大小，保证画面不被拉伸
- val orientation = mActivity.resources.configuration.orientation
- if (orientation == Configuration.ORIENTATION_LANDSCAPE)
- mTextureView.setAspectRatio(mPreviewSize.width, mPreviewSize.height)
- else
- mTextureView.setAspectRatio(mPreviewSize.height, mPreviewSize.width)
- mImageReader = ImageReader.newInstance(mPreviewSize.width, mPreviewSize.height, ImageFormat.JPEG, 1)
- mImageReader?.setOnImageAvailableListener(onImageAvailableListener, mCameraHandler)
- if (openFaceDetect)
- initFaceDetect()
- openCamera()
- }
- /**
- * 根据提供的屏幕方向 [displayRotation] 和相机方向 [sensorOrientation] 返回是否需要交换宽高
- */
- private fun exchangeWidthAndHeight(displayRotation: Int, sensorOrientation: Int): Boolean {
- var exchange = false
- when (displayRotation) {
- Surface.ROTATION_0, Surface.ROTATION_180 ->
- if (sensorOrientation == 90 || sensorOrientation == 270) {
- exchange = true
- }
- Surface.ROTATION_90, Surface.ROTATION_270 ->
- if (sensorOrientation == 0 || sensorOrientation == 180) {
- exchange = true
- }
- else -> log("Display rotation is invalid: $displayRotation")
- }
- log("屏幕方向 $displayRotation")
- log("相机方向 $sensorOrientation")
- return exchange
- }
- /**
- *
- * 根据提供的参数值返回与指定宽高相等或最接近的尺寸
- *
- * @param targetWidth 目标宽度
- * @param targetHeight 目标高度
- * @param maxWidth 最大宽度(即TextureView的宽度)
- * @param maxHeight 最大高度(即TextureView的高度)
- * @param sizeList 支持的Size列表
- *
- * @return 返回与指定宽高相等或最接近的尺寸
- *
- */
- private fun getBestSize(targetWidth: Int, targetHeight: Int, maxWidth: Int, maxHeight: Int, sizeList: List<Size>): Size {
- val bigEnough = ArrayList<Size>() //比指定宽高大的Size列表
- val notBigEnough = ArrayList<Size>() //比指定宽高小的Size列表
- for (size in sizeList) {
- //宽<=最大宽度 && 高<=最大高度 && 宽高比 == 目标值宽高比
- if (size.width <= maxWidth && size.height <= maxHeight
- && size.width == size.height * targetWidth / targetHeight) {
- if (size.width >= targetWidth && size.height >= targetHeight)
- bigEnough.add(size)
- else
- notBigEnough.add(size)
- }
- log("系统支持的尺寸: ${size.width} * ${size.height} , 比例 ：${size.width.toFloat() / size.height}")
- }
- log("最大尺寸 ：$maxWidth * $maxHeight, 比例 ：${targetWidth.toFloat() / targetHeight}")
- log("目标尺寸 ：$targetWidth * $targetHeight, 比例 ：${targetWidth.toFloat() / targetHeight}")
- //选择bigEnough中最小的值 或 notBigEnough中最大的值
- return when {
- bigEnough.size > 0 -> Collections.min(bigEnough, CompareSizesByArea())
- notBigEnough.size > 0 -> Collections.max(notBigEnough, CompareSizesByArea())
- else -> sizeList[0]
- }
- }
- 首先，通过mActivity.getSystemService(Context.CAMERA_SERVICE) as CameraManager 获取到 CameraManager 实例;
- 通过循环遍历设备中可用的相机，通过 mCameraManager.getCameraCharacteristics(id) 获取到相机的各种信息;
- mCameraCharacteristics.get(CameraCharacteristics.SENSOR_ORIENTATION) 获取到相机传感器的方向;
- 通过 configurationMap.getOutputSizes(ImageFormat.JPEG) 和 configurationMap.getOutputSizes(SurfaceTexture::class.java) 获取到相机支持的预览尺寸和保存图片的尺寸;
- exchangeWidthAndHeight(displayRotation: Int, sensorOrientation: Int)方法的作用是根据屏幕方向和摄像头方向确定是否需要交换宽高;
- 通过 getBestSize() 方法获取到最优的宽和高。根据传入的 目标宽高值、最大宽高值(即屏幕大小)和 相机支持的尺寸列表，从相机支持的尺寸列表中得到一个最优值;
- 通过mTextureView.surfaceTexture.setDefaultBufferSize() 方法用来设置TextureView的预览尺寸;
- 创建一个ImageReader对象，并设置回调函数;
- 在onImageAvailableListener中处理得到的图像数据;
5、打开相机
- /**
- * 打开相机
- */
- private fun openCamera() {
- if (ContextCompat.checkSelfPermission(mActivity, Manifest.permission.CAMERA) != PackageManager.PERMISSION_GRANTED) {
- mActivity.toast("没有相机权限！")
- return
- }
- mCameraManager.openCamera(mCameraId, object : CameraDevice.StateCallback() {
- override fun onOpened(camera: CameraDevice) {
- log("onOpened")
- mCameraDevice = camera
- createCaptureSession(camera)
- }
- override fun onDisconnected(camera: CameraDevice) {
- log("onDisconnected")
- }
- override fun onError(camera: CameraDevice, error: Int) {
- log("onError $error")
- mActivity.toast("打开相机失败！$error")
- }
- }, mCameraHandler)
- }
6、创建预览会话
- /**
- * 创建预览会话
- */
- private fun createCaptureSession(cameraDevice: CameraDevice) {
- val captureRequestBuilder = cameraDevice.createCaptureRequest(CameraDevice.TEMPLATE_PREVIEW)
- val surface = Surface(mTextureView.surfaceTexture)
- captureRequestBuilder.addTarget(surface) // 将CaptureRequest的构建器与Surface对象绑定在一起
- captureRequestBuilder.set(CaptureRequest.CONTROL_AE_MODE, CaptureRequest.CONTROL_AE_MODE_ON_AUTO_FLASH) // 闪光灯
- captureRequestBuilder.set(CaptureRequest.CONTROL_AF_MODE, CaptureRequest.CONTROL_AF_MODE_CONTINUOUS_PICTURE) // 自动对焦
- // 为相机预览，创建一个CameraCaptureSession对象
- cameraDevice.createCaptureSession(arrayListOf(surface, mImageReader?.surface), object : CameraCaptureSession.StateCallback() {
- override fun onConfigureFailed(session: CameraCaptureSession?) {
- mActivity.toast("开启预览会话失败！")
- }
- override fun onConfigured(session: CameraCaptureSession) {
- mCameraCaptureSession = session
- session.setRepeatingRequest(captureRequestBuilder.build(), mCaptureCallBack, mCameraHandler)
- }
- }, mCameraHandler)
- }
- private val mCaptureCallBack = object : CameraCaptureSession.CaptureCallback() {
- override fun onCaptureCompleted(session: CameraCaptureSession, request: CaptureRequest?, result: TotalCaptureResult) {
- super.onCaptureCompleted(session, request, result)
- canExchangeCamera = true
- canTakePic = true
- }
- override fun onCaptureFailed(session: CameraCaptureSession?, request: CaptureRequest?, failure: CaptureFailure?) {
- super.onCaptureFailed(session, request, failure)
- log("onCaptureFailed")
- mActivity.toast("开启预览失败！")
- }
- }
- 通过cameraDevice.createCaptureRequest(CameraDevice.TEMPLATE_PREVIEW) 创建一个用于预览的Builder对象;
- 为该Builder对象添加一个Surface对象，并设置各种相关参数;
- 通过cameraDevice.createCaptureSession创建一个会话，第一个参数中传了一个 surface 和 mImageReader?.surface。这表明了这次会话的图像数据的输出到这两个对象;
- 当会话创建成功时，通过 session.setRepeatingRequest(captureRequestBuilder.build(), mCaptureCallBack, mCameraHandler) 发起预览请求;
7、拍照、保存
- /**
- * 拍照
- */
- fun takePic() {
- if (mCameraDevice == null || !mTextureView.isAvailable || !canTakePic) return
- mCameraDevice?.apply {
- val captureRequestBuilder = createCaptureRequest(CameraDevice.TEMPLATE_STILL_CAPTURE)
- captureRequestBuilder.addTarget(mImageReader?.surface)
- captureRequestBuilder.set(CaptureRequest.CONTROL_AF_MODE, CaptureRequest.CONTROL_AF_MODE_CONTINUOUS_PICTURE) // 自动对焦
- captureRequestBuilder.set(CaptureRequest.CONTROL_AE_MODE, CaptureRequest.CONTROL_AE_MODE_ON_AUTO_FLASH) // 闪光灯
- captureRequestBuilder.set(CaptureRequest.JPEG_ORIENTATION, mCameraSensorOrientation) //根据摄像头方向对保存的照片进行旋转，使其为"自然方向"
- mCameraCaptureSession?.capture(captureRequestBuilder.build(), null, mCameraHandler)
- ?: mActivity.toast("拍照异常！")
- }
- }
- private val onImageAvailableListener = OnImageAvailableListener {
- val image = it.acquireNextImage()
- val byteBuffer = image.planes[0].buffer
- val byteArray = ByteArray(byteBuffer.remaining())
- byteBuffer.get(byteArray)
- it.close()
- BitmapUtils.savePic(byteArray, mCameraSensorOrientation == 270, { savedPath, time ->
- mActivity.runOnUiThread {
- mActivity.toast("图片保存成功！保存路径：$savedPath 耗时：$time")
- }
- }, { msg ->
- mActivity.runOnUiThread {
- mActivity.toast("图片保存失败！$msg")
- }
- })
- }
- 通过createCaptureRequest(CameraDevice.TEMPLATE_STILL_CAPTURE) 创建一个拍照请求的Builder对象;
- 然后设置各种参数。注意，captureRequestBuilder.set(CaptureRequest.JPEG_ORIENTATION, mCameraSensorOrientation)用来设置保存照片的旋转方向。如果不设置的话，保存的照片不是"自然方向";
- 拍照的结果是在 OnImageAvailableListener 对象中得到的;
- 通过 acquireNextImage() 方法获取到一个Image对象，然后通过 image.planes[0].buffer 得到 byteBuffer，将这个 byteBuffer 转换成 byteArray ;
- 这个 byteArray 就是拍照所得到的图像数据。然后就可以把这个 byteArray 保存成图片到手机存储中;
8、 释放相机及线程
- fun releaseCamera() {
- mCameraCaptureSession?.close()
- mCameraCaptureSession = null
- mCameraDevice?.close()
- mCameraDevice = null
- mImageReader?.close()
- mImageReader = null
- canExchangeCamera = false
- }
- fun releaseThread() {
- handlerThread.quitSafely()
- }
总结
Camera2 API和旧的Camera API区别很大, 刚开始用可能会很不习惯, 但Camera2有很多优势, 提供了非常多的参数供我们控制;
一起学习加油老铁们;
