OVRLipSyncをベースに、リミテッドアニメっぽいリップシンクを実現するためのライブラリです。
- Windows 10 Version 1709 Build 16299.371
- OVRLipSync Version 1.28.0
- Unity 2018.1.0f2
Assets/Examples/Scenes/AniLipSync.unity にサンプルシーンがあります。マイクでしゃべると唇のモデルがリップシンクで動きます。
実行前にOVRLipSyncのインポートが必要です。
- OVRLipSyncをインポート
- AniLipSync.unitypackage をインポート
Assets/Oculus/LipSync/Prefabs/LipSyncInterfaceプレハブをシーンに配置Assets/AniLipSync/Prefabs/AniLipSyncプレハブをシーンに配置AniLipSyncGameObjectのAnimMorphTargetの各プロパティをインスペクタで編集（とくにSkinned Mesh RendererとViseme To Blend Shapeは変更が必要です）
aa, E, ih, oh, ou のそれぞれの音素へ遷移する際に、BlendShapeの重みを時間をかけて変化させるためのカーブです。
例えば、黙っている状態から aa の音素を検知した場合、Element 0 のカーブに従って時々刻々とBlendShapeの重みを変化させます。aa の状態で ih の音素を検知した場合、Element 2 のカーブに従います。
徐々に重みを増やすことで、ゆるやかに口の形が変化するような表現が可能です。
Transition Curveの縦軸の値に倍率をかけます。
Transition Curveの縦軸を 0.0 ～ 1.0 の範囲にしておいて 100 の倍率をかけることで、カーブ編集時の煩雑な操作を省略できます。
この値より小さな音素の重みを無視します。
小さなノイズ等で口が開いてしまう現象を回避できます。
1秒間にBlendShapeの重みを更新する頻度の設定です。
リミテッドアニメ風の効果を得ることができます。
唇のBlendShapeを持ったSkinnedMeshRendererを指定してください。
aa, E, ih, oh, ouの順でBlendShapeのIndexを指定してください。
OVRLipSyncのSmooth amountの値を設定できます。
- 声を入力してから口が動くまでに遅延があります。配信ソフトや動画編集ソフトを使用して音声を250msほど遅延させるとタイミングが合うでしょう。
LowLatencyLipSyncContextはOVRLipSyncより後に実行する必要があります。AniLipSync.unitypackageのインポートで自動的に設定されますが、スクリプトのみをコピーする際はScript Execution Orderによる設定が必要です。
本リポジトリに上がっている部分はMIT Licenseです。LICENSEファイルを参照してください。クレジットを記載することで、営利・非営利を問わず利用いただけます。
OVRLipSyncのライセンスについては、Oculus社のサイトを参照してください。