正在上传图片(0/1)

【渲染】使用姿态球反解飞机姿态,将平飞视频渲染回 FPV 视角

 33
手机看帖 54 2647
之前处理 Mini3 Pro 钻桥洞素材的时候,发现姿态球的录屏效果还不错。

当时就设想用姿态球数据反算飞机姿态,进而可以渲染特殊视角。这次终于渲染成功,特来分享。

【原理】

Mini3 Pro 云台默认模式为四平八稳的水平模式,相当于摄影机视野与外界地面保持水平,如下图所示:
云台视角,地面水平
录屏中虽然视野水平,但姿态球左倾,提示飞机实则左翼下压右翼上扬(如图),处于左转弯的状态中。

此时若切换 FPV 视角,即要求摄像机视野与机舱保持水平,则应按如下方式进行旋转变换:
FPV视角,机舱水平
此时姿态球液面修正回水平,飞机相对于摄像机姿态水平,于是就有了整个外部世界向右倾斜的效果,正所谓 FPV.


【操作】

有了以上的原理分析,接下来就是繁琐的图像处理+编程解算。

首先是 ffmpeg 抽帧获得全部的视频帧,一分多钟总计 1950 帧:
原视频抽帧
之后上 Photoshop 批处理,图像裁剪获得姿态球区域,对比增强+二值化处理,获得清晰的姿态球二值图:
姿态球截取
之后就是霍夫变换检测直线了,需要检测出姿态球液面线的位置和角度。
期初偷懒,直接用 MATLAB::hough 进行直线检测,结果效果很差,有些不清晰的帧甚至没法可靠检测到姿态球液面。

一不做二不休,重新编写基于黑白能量分布的类霍夫变换,角度分辨率±0.5°:
类霍夫变换代码,MATLAB
我这破 i5 本算了一整夜(实际也懒得优化算法了,优化的时间,不如丢给电脑慢慢算)。一张姿态球图片的变换结果长这样:
某帧的类霍夫变换
图中红色最深的点,就对应姿态球的液面直线。
这个最红点的坐标,就是液面直线的方程参数。有了直线方程,也就有了直线的位置、倾斜角度等一众数据。

在二值图上画个红色直线预览一下,确认姿态球直线识别准确:
姿态球液面检测结果(红)
【效果】

至此,已经有了每帧的姿态球数据。理论上可以同时反解飞机俯仰(Pitch)、横滚(Roll)姿态。
但实际上 Pitch 修正涉及图像透视变换,实在太费心神。这里仅进行 Roll 轴修正,图片简单旋转即可。

把每一帧按照姿态参数进行旋转,再拼接回视频,终于会 FPV 特有的歪头了,不错不错:
渲染得 FPV 歪头效果
对照一下原始帧(上),歪头带来的 FPV 体验拉满:
原视频(上) vs FPV歪头(下)
视频对比(上半为Mini3P原始录屏,下半为渲染所得):
原视频(上) vs FPV歪头(下)
【成品】

最后给出成片(按理说该去渲染TF摄影的,但我觉着录屏更像FPV该有的样子,就偷懒渲染这个吧):
基于姿态反解的 FPV 歪头渲染成品
最后给 DJI 提个建议:
要是能在视频的录制字幕里边,记录机身(或云台) Yaw/Pitch/Roll 轴数据,好多图像识别的步骤都能给省下来了。
印象中早期的摄影记录是有这些数据的,后来可能出于某些考虑拿掉了。DJI 若实在觉着臃肿,做个开关给用户选择保存哪些数据也不错。

------------------------------------------------------------------------------------------------------------------

以上,使用姿态球反解飞机姿态,将平飞视频渲染回FPV视角,获得了额外的刺激加成。

最后祝大家永不炸鸡!

评论
上传
你需要登录之后才能回帖    登录 | 注册
不会飞的mini3  DJI Mini 3认证用户 2023-9-11 2#
看不懂
厉害呀,小姐姐
17Wing E飞行员  Air 2s认证用户 2023-9-11 5#
自编程序来后期处理,深度玩家,敬㑉
横滚效果可利用云台FPV模式,其它轴的效果还得提取姿态球数据来渲染。
楼主  DJI RS 3 Pro认证用户 2023-9-11 6#
<div class="quote"><blockquote><a class="nopicture" rel="noopener" href="https://bbs.dji.com/forum.php?mod=redirect&amp;goto=findpost&amp;pid=5009217&amp;ptid=353702" target="_blank"><span class="customName">17联队E飞行员</span><span class="customShow">Osmo Action 3 标准套装</span><span class="customTime">9-11 22:06</span></a>
<span class="customSpan">自编程序来后期处理,深度玩家,敬㑉
横滚效果可利用云台FPV模式,其它轴的效果还得提取姿态球数据来渲染。</span></blockquote></div>感谢支持!

录制素材的时候还是用了云台模式,主要求个运镜顺畅;

等闲下来把 Pitch 数据渲染进去,看能不能做出植保机那种完全没云台的抖动效果。
楼主  DJI RS 3 Pro认证用户 2023-9-11 7#
<div class="quote"><blockquote><a class="nopicture" rel="noopener" href="https://bbs.dji.com/forum.php?mod=redirect&amp;goto=findpost&amp;pid=5008691&amp;ptid=353702" target="_blank"><span class="customName">独行的眼镜</span><span class="customShow"></span><span class="customTime">9-11 13:29</span></a>
<span class="customSpan">厉害呀,小姐姐</span></blockquote></div>感谢支持! : )
厉害
厉害了,佩服
哇 这里发现大佬 厉害厉害
慷慨解囊
大槑  DJI Mavic 3认证用户 2023-9-14 12#
如何录屏
楼主  DJI RS 3 Pro认证用户 2023-9-14 14#
<div class="quote"><blockquote><a class="nopicture" rel="noopener" href="https://bbs.dji.com/forum.php?mod=redirect&amp;goto=findpost&amp;pid=5013573&amp;ptid=353702" target="_blank"><span class="customName">大槑</span><span class="customShow">DJI Mavic 3</span><span class="customTime">9-14 17:39</span></a>
<span class="customSpan">如何录屏</span></blockquote></div>带屏控顶端下滑两次,菜单里就有录屏。
楼主  DJI RS 3 Pro认证用户 2023-9-14 15#
<div class="quote"><blockquote><a class="nopicture" rel="noopener" href="https://bbs.dji.com/forum.php?mod=redirect&amp;goto=findpost&amp;pid=5013497&amp;ptid=353702" target="_blank"><span class="customName">震惊的鸡蛋</span><span class="customShow">DJI Mini 3 Pro(带屏遥控器)</span><span class="customTime">9-14 16:00</span></a>
<span class="customSpan">哇 这里发现大佬 厉害厉害</span></blockquote></div>感谢支持!
啪叽贡  Goggles 2认证用户 2023-9-14 16#
<div class="quote"><blockquote><a class="nopicture" rel="noopener" href="https://bbs.dji.com/forum.php?mod=redirect&goto=findpost&pid=5013580&ptid=353702" target="_blank"><span class="customName">T-3486784401</span><span class="customShow">Osmo Action 4</span><span class="customTime">9-14 17:58</span></a>
<span class="customSpan">感谢支持!</span></blockquote></div>软件大佬+首页大佬
1122333   2023-9-14 18#
666666666666666
DJI 未来无所不能  DJI OM 4 SE认证用户 2023-9-14 19#
厉害
坤哥98   2023-9-15 21#
饼干  DJI Mavic 3认证用户 2023-9-15 23#
厉害
yanran090266  Mavic 2 Pro认证用户 2023-9-15 24#
       好的。
Mr.Yuan  Osmo Mobile 6认证用户 2023-9-15 25#
追求极致,点赞
<div class="quote"><blockquote><a class="nopicture" rel="noopener" href="https://bbs.dji.com/forum.php?mod=redirect&goto=findpost&pid=5014549&ptid=353702" target="_blank"><span class="customName">BlanderLee</span><span class="customShow">DJI Mini 3 Pro(带屏遥控器)</span><span class="customTime">9-15 09:20</span></a>
<span class="customSpan"></span></blockquote></div>我同款
<div class="quote"><blockquote><a class="nopicture" rel="noopener" href="https://bbs.dji.com/forum.php?mod=redirect&goto=findpost&pid=5013573&ptid=353702" target="_blank"><span class="customName">大槑</span><span class="customShow">DJI Mavic 3</span><span class="customTime">9-14 17:39</span></a>
<span class="customSpan">如何录屏</span></blockquote></div>带屏顶端下滑×2
妈的大疆看有随心换的用户能推卸就推卸,姿态模式炸鸡了被狗养的滴滴代驾捡走主要责任是大疆责任五五开4g模块我自己承担还不同意真的恶心
zaaa  DJI Mini 3 Pro 带屏遥控器认证用户 2023-9-15 29#
问下代码用那个语言编的
四川-老朋友  DJI Mavic 3 Pro认证用户 2023-9-15 30#
楼主  DJI RS 3 Pro认证用户 2023-9-15 31#
<div class="quote"><blockquote><a class="nopicture" rel="noopener" href="https://bbs.dji.com/forum.php?mod=redirect&amp;goto=findpost&amp;pid=5014904&amp;ptid=353702" target="_blank"><span class="customName">你干嘛嗨嗨哟</span><span class="customShow">DJI Mini 3 Pro(带屏遥控器)</span><span class="customTime">9-15 13:45</span></a>
<span class="customSpan">问下代码用那个语言编的</span></blockquote></div>MATLAB 脚本
无敌暴龙勇士   2023-9-15 32#
太厉害了
董翀  X5S认证用户 2023-9-15 33#
这个厉害
lLIOP  DJI Mini 2 SE认证用户 2023-9-16 34#
刚刚
lLIOP  DJI Mini 2 SE认证用户 2023-9-16 35#
55444644464545
fansb77222f4  DJI Avata 进阶套装认证用户 2023-9-16 36#
<div class="quote"><blockquote><a class="nopicture" rel="noopener" href="https://bbs.dji.com/forum.php?mod=redirect&goto=findpost&pid=5014876&ptid=353702" target="_blank"><span class="customName">djiuser_6r6U8O2</span><span class="customShow"></span><span class="customTime">9-15 13:08</span></a>
<span class="customSpan">妈的大疆看有随心换的用户能推卸就推卸,姿态模式炸鸡了被狗养的滴滴代驾捡走主要责任是大疆责任五五开4g模块我自己承担还不同意真的恶心</span></blockquote></div>额额额额额额额
rzjiarui  Osmo Mobile 5认证用户 2023-9-17 38#
虽然不懂,但还是给你点赞
12下一页
取消 点赞 评论
分享至:
回复:
上传
取消 评论
快速回复 返回顶部 返回列表