沂源县建设局网站,电子商务网站策划书布局设计,网站活动打造,网站建设中+网页代码效果图(1080P处理)因为摄像头开启自动曝光#xff0c;画面变动时#xff0c;亮度变化导致扣像在转动时如上。这个demo主要测试二点#xff0c;一是测试ndk camera集成效果,二是本项目对接外部实现的vulkan层是否方便#xff0c;用于以后移植GPUImage里的实现。我简化了在an…效果图(1080P处理)因为摄像头开启自动曝光画面变动时亮度变化导致扣像在转动时如上。这个demo主要测试二点一是测试ndk camera集成效果,二是本项目对接外部实现的vulkan层是否方便用于以后移植GPUImage里的实现。我简化了在android下vulkan与opengles纹理互通里的处理,没有vulkan窗口与交换链这些逻辑只用到vulkan compute shader计算管线得到结果然后交换给opengl里的纹理。NDK Camera集成主要参考 NdkCamera Sample的实现然后封装成满足Aoce定义设备接口。说下遇到的坑。AIMAGE_FORMAT_YUV_420_888 可能是YUV420P,也可能是NV12,需要在AImageReader_ImageListener里拿到image通过AImage_getPlanePixelStride里的UV的plan是否为1来判断是否为YUV420P,或者看data[u]-data[y]1来看是否为NV12.具体可以看getVideoFrame的实现。AImageReader_new里的maxImages比较重要,简单理解为预先申请几张图,这个值越大,显示越平滑。AImageReader_new如果不开线程,则图像处理加到这个线程里,导致读取图像变慢。打开线程处理,我用的Redmi K10 pro,可以读40003000,在AImageReader_ImageListener回调不做特殊处理,如下错误。首先是Unable to acquire a lockedBuffer, very likely client tries to lock more than.可以看到,运行四次后报的,就是我设的maxImages,通过比对代码逻辑,应该是AImageReader_new读四次后,我还没处理完一桢,没有AImage_delete,也就读不了数据了.然后检查 AImageReader_acquireNextImage 这个状态,不对不读,然后继续引发读取不可用内存问题,分析应该是处理数据的乱序线程AImage_delete可能释放别的处理线程上的image,然后处理图像线程上加上lock_guard(mutex),不会引发问题,但是会导致每maxImages卡一下,可以理解,读的线程快,处理的慢,后面想了下,直接让thread.join,图片读取很大时慢(比不开线程要快很多,40003000快二倍多,平均45ms),但是平滑的,暂时先这样,后面看能不能直接拿AImage的harderbuffer去处理,让处理速度追上读取速度。Chroma Key如上所说项目对接外部实现的vulkan层是否方便在这重新生成一个模块aoce_vulkan_extra在这我选择UE4 Matting里的逻辑来测试因为这个逻辑非常简单也算让我对手机的性能有个初步的了解。首先把相关逻辑整理下UE4上有相关节点看下实现整理成glsl compute shader实现。#version 450// https://www.unrealengine.com/en-US/tech-blog/setting-up-a-chroma-key-material-in-ue4layout (local_size_x 16, local_size_y 16) in;// gl_WorkGroupSizelayout (binding 0, rgba8) uniform readonly image2D inTex;layout (binding 1, rgba8) uniform image2D outTex;layout (std140, binding 2) uniform UBO {// 0.2 控制亮度的强度系数float lumaMask;float chromaColorX;float chromaColorY;float chromaColorZ;// 用环境光补受蓝绿幕影响的像素(简单理解扣像结果要放入的环境光的颜色)float ambientScale;float ambientColorX;float ambientColorY;float ambientColorZ;// 0.4float alphaCutoffMin;// 0.5float alphaCutoffMax;float alphaExponent;// 0.8float despillCuttofMax;float despillExponent;} ubo;const float PI 3.1415926;vec3 extractColor(vec3 color,float lumaMask){float luma dot(color,vec3(1.0f));// 亮度指数float colorMask exp(-luma*2*PI/lumaMask);// color*(1-colorMask)color*lumacolor mix(color,vec3(luma),colorMask);// 生成基于亮度的饱和度图return color / dot(color,vec3(2.0));}void main(){ivec2 uv ivec2(gl_GlobalInvocationID.xy);ivec2 size imageSize(outTex);if(uv.x size.x || uv.y size.y){return;}vec3 inputColor imageLoad(inTex,uv).rgb;vec3 chromaColor vec3(ubo.chromaColorX,ubo.chromaColorY,ubo.chromaColorZ);vec3 ambientColor vec3(ubo.ambientColorX,ubo.ambientColorY,ubo.ambientColorZ);vec3 color1 extractColor(chromaColor,ubo.lumaMask);vec3 color2 extractColor(inputColor,ubo.lumaMask);vec3 subColor color1 - color2;float diffSize length(subColor);float minClamp diffSize-ubo.alphaCutoffMin;float dist ubo.alphaCutoffMax - ubo.alphaCutoffMin;// 扣像alphafloat alpha clamp(pow(max(minClamp/dist,0),ubo.alphaExponent),0.0,1.0);// 受扣像背景影响的颜色alphafloat inputClamp ubo.despillCuttofMax - ubo.alphaCutoffMin;float despillAlpha 1.0f- clamp(pow(max(minClamp/inputClamp,0),ubo.despillExponent),0.0,1.0);// 亮度系数vec3 lumaFactor vec3(0.3f,0.59f,0.11f);// 添加环境光收益vec3 dcolor inputColor*lumaFactor*ambientColor*ubo.ambientScale*despillAlpha;// 去除扣像背景dcolor - inputColor*chromaColor*despillAlpha;dcolor inputColor;// 为了显示查看效果,后面屏蔽dcolor inputColor*alpha ambientColor*(1.0-alpha);imageStore(outTex,uv,vec4(dcolor,alpha));}这里面代码最后倒数第二句实现混合背景时去掉在这只是为了显示查看效果。然后引用aoce_vulkan里给的基类VkLayer根据接口完成本身具体实现相关VkChromKeyLayer的实现可以说是非常简单至少我认为达到我想要的方便。还是一样先说遇到的坑开始在glsl中的UBO,我特意把一个float,vec3放一起,想当然的认为是按照vec4排列,这里注意,vec3不管前后接什么,大部分结构定义下都至少占vec4所以后面为了和C结构align一样全部用float.层启用/不启用会导致整个运算graph重置一般情况下运算线程与结果输出线程不在一起在重置时运算线程相关资源会重新生成而此时输出线程还在使用相关资源就会导致device lost错误,在这使用VkEvent用来表示是否在资源重置中。然后就是与android UI层对接android的UI没怎么用过丑也就先这样吧。
