是更多技术圈的最新想法。请点击右上角~
从小小脑不发达,四肢不协调的疼痛,普通人真的体会不到。
。。每当提到跳舞,小辣椒想象中的自己,哪怕是跟着 《 最炫民族风 》的节奏都抖得帅气异常——
但实际上,跳出来是这样。。。
以及这样。。。
嗯?啊?我明明每个 beat 都在点子上的啊。。。
就在最近,来自加州大学伯克利分校的研究团队研究出了一个新算法,能让人人都变身舞蹈界的杨丽萍。
Everybody Dance Now
怎么操作?
首先,准备一个范本舞蹈作为源视频,就先随便选段儿火星哥的 “ 短腿舞 ” 吧。。。
然后,再传入一段儿普通人随意晃动的视频,作为用于修改的目标视频。
在接收到指令后,Everybody Dance now 算法会将源视频中人物的动作完全复刻到目标视频中。
不过,刁钻的差友可能会怀疑是火星哥舞蹈难度系数不,动作幅度不够大所以复刻过程比较简单。
那就再来段儿芭蕾吧,对舞者控制、力量、协调性的要求都更高,复刻难度看上去比 “ 短腿舞 ” 更大了。
说真的,算法的处理结果竟然还挺让人惊喜。。。
动作同步毫无压力,从头到手,再到脚部动作几乎都跟源视频保持了一致。
要说有什么不足,可能就是气质这个东西,真没法儿复制,源视频和目标视频中的舞者的仪态差异不小。 “ 天鹅颈 ” 看来真的只能靠练出来了。。。
效果我们都看到了,现在来说说 Everybody dance now 的动作学习是怎么办到的。。。
大家应该注意到两个视频之间有一个火柴人的动画了吧?它就是真个算法的关键 —— GAN 对抗网络。
算法先分别对源视频和目标视频中人物的动作进行解析,然后将动作以身体关键点的形式简化成火柴人动画,再把两个火柴人的动作一帧一帧对应修改。
这个过程中,两个火柴人的动作经过了无数次映射学习,就像是女生在教男朋友怎么才能给自己拍一张好看的风景照一样。。。
男朋友拍照给女生看,女生提出反馈意见给男朋友修改学习,从而磨合,直至男友的水平和女生的欣赏力达到一致。
除了身体姿势的学习,算法还把人物的身体分为了肩部以上和肩部以下两个板块,肩部以上的面部表情复刻也采用了同样的算法进行复刻。
emmmmm,虽然细节效果有点一言难尽。。。
其实要是仔细看,不只是目标视频中人物的面部出现了消融的现象,身体在动的时候也有相似的部分部位丢失和模糊化,算法目前还做不到完全的精准复刻。
目前,Everybody dance now 还没有被运用到实际的场景中,也还没有被开源出来。
不过因为这套 GAN 的学习方式省去了 3D 建模的复杂流程,一旦成熟很可能会有效提升游戏、动画动效的制作效率。
至于更小一点儿的使用场景嘛,这套算法用在抖音、微视上可能会火。
想想还有点小期待。
图片、资料来源:
1. Everybody Dance Now 论文:
2. 《 UC 伯克利超酷研究:舞痴和舞王之间,只差一个神经网络》,量子位
3. 《 到底什么是生成式对抗网络 GAN ?》,微软亚洲研究院
4. Dance,gi
“ 不用短腿也能跳火星哥的短腿舞 ”