Skip to content

About

No description, website, or topics provided.

Resources

Stars

1 star

Watchers

0 watching

Forks

Repository files navigation

女性VTuberアバター検証

オリジナルの女性アニメキャラクターを、顔・まばたき・口の動きに連動させる検証用プロジェクトです。

まず動きを見る

進め方

別の画像から同じ方式で作る場合は VTuber作成スキル を使えます。共通の動き・画像別マスク・Colab・回帰検査・別PCへの引継ぎを一式にしています。任意画像での無調整の品質は未検証で、画像ごとに確認・修正する初版です。

別PCで再開する場合は 開発引継ぎ を最初に読んでください。調整ナレッジ に原因・調整箇所・再発時の確認方法を、検証記録 に証跡と未検証事項を保存しています。

OBS・TikTok接続とPCの目安 に、最新PSD・設定・動作コードの組合せをまとめています。2026-10-01版は眉の表示幅を2倍にし、顔追跡の奥行きからうなずきを取得します。更新後はカメラをオンにして「正面を記録」を取り直してください。素材名は base-speaking-v2 のままですが、両方の調整ファイルを適用するセットアップが最新です。

  1. ColabでSee-throughを使い、透過立ち絵からレイヤーPSDを作る。
  2. 自宅Windows PCでAnime2.5DRigを起動し、PSDを読み込んで顔・目・口の割り当てを確認する。
  3. OBSのブラウザソースから取り込み、OBS仮想カメラをTikTok LIVE Studioで選ぶ。
  4. 同じ立ち絵を512×512 RGBA PNGにして、EasyVtuberのTHA3と比較する。

会社PCにはPython環境・モデル・OBSプラグインをインストールしません。画像分解はColab、自宅のカメラ・マイク・OBS連携は自宅で検証します。

Colab

作業中のノートブック

ノートブックの閲覧には所有者のGoogleアカウントが必要です。Drive全体のマウントやGitHubトークンの保存は不要です。GPUはL4、Pythonは3.12のランタイムを使います。

再実行用ノートブックをColabで開く。コードのみを保存しており、ログイン情報・実行出力は含みません。Colabの一時ディスクは永続保存ではないため、結果ZIPをダウンロードして保管してください。

自宅で起動する

前提: Windows 11、Git、Python 3、Webカメラ・マイク、OBSが自宅PCにあること。リポジトリをダウンロードしたフォルダでPowerShellを開きます。

./scripts/setup-anime25d.ps1
./scripts/start-anime25d.ps1

ブラウザで http://127.0.0.1:8000/ を開き、avatars/base-speaking-v2.psd と avatars/base-speaking-v2.rig.json を読み込みます。セットアップは固定版に patches/motion-v2.json と patches/face-tracking-v5.json を適用し、元ソースを保管します。既存の別変更は上書きしません。旧セットアップから更新する場合は、新規フォルダへ最新版を展開してください。カメラ・マイクは必要なときに許可します。

OBSにブラウザソースを追加し、URLを http://127.0.0.1:8000/?obs=1 にします。取り込みを確認してからOBS仮想カメラを開始し、TikTok LIVE Studio側で選択します。

詳しい測定項目とEasyVtuberの準備は 自宅での検証手順 を参照してください。

検証状態

現行は上半身全体の一律回転を廃止し、腰側を抑えた肩・胸の変形と、左右向き・傾き・上下向きに対する胴体の遅れを加えました。瞳の再開眼時の伸縮演出は除去。髪は毛束の長さ・根元・前後で反応を分け、停止後の跳ね返りを抑えています。両脇の紫色の垂れ布は前身頃から表示上のマスクで分け、腕・袖の後ろへ描画します。元PSDの画素・レイヤー数は保持しています。仕組みと限界は 調整ナレッジ を参照してください。

改良版ではimagegenで開き口を制作し、Colabで独立レイヤーに配置しました。元の20レイヤーの画素を保持した21レイヤーPSDです。頭感度は標準1.6へ、顔の左右の描画量は約1.9倍、上下は約1.6倍、傾きは2倍へ広げました。呼吸に合わせた肩・頭の上下動と横揺れも加えています(本人の呼吸を測る機能ではなく自動演出)。顔・体にはなめらかな追従を加え、目・口は別の速さで反応します。左右の目の連動を標準でオフにし、ウィンクに対応します。首は上側を顔、下側を肩へ追従させ、金色の襟縁に沿って衣装を前後へ分け、筒状の襟の内側へ入るよう修正しました。衣装の位置と元画像・PSDの画素は変更していません。

改良プレビューで開き口・閉じ口を認識し、左右の手動ポーズを確認しました。生成スクリプトと適用スクリプトはColabでruff・mypy strictに合格。固定版のソース検証・再適用・別変更の拒否・JavaScript構文検査に合格し、GitHub Actionsで公式NodeテストとPagesへの公開が成功しています。音素別の口形、カメラ・実音声での同期、OBS・TikTok出力は未検証です。

2026-09-30にColab L4 / Python 3.12でSee-throughのPSD生成に成功しました。所要時間741.05秒(モデルの初回ダウンロード・20秒間隔の完了確認を含む)。20レイヤーのPSDを生成し、左右パーツ12件の名前だけをAnime2.5DRig互換に変更しています。変更前後の合成画像が同一であることを確認しました。

初版では公式ブラウザデモで白目・瞳・まつ毛・眉・髪の認識と自動動作を確認し、1280×1280 / 30fps設定の150フレームをWebMへ保存しました。動画の設定値を自宅での動作FPSとはみなしません。初版の閉じ目・閉じ口はデモが自動生成した汎用差分です。

prepare-tha3.py と normalize-psd.py はColabでruff・mypy strictに合格。PowerShellスクリプトは構文検査済みです。自宅のRTX 4070でのFPS、顔追跡、口同期、OBS・TikTokへの出力は未測定です。Codex Cloudの専用環境はまだ作成していません。

ライセンス

使用ソフトとモデル を参照してください。公開コードのライセンスとモデル重みの条件は分けて扱います。THA4・v4_student・InsightFaceモデルは使用しません。

About

No description, website, or topics provided.

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages