ソースコードを覗いた訳ではないので

私も詳しい事は分からないのですが、

ずっと使っていることで分かった事があります。

 

MinimaxH3は

Subject(動画内の目的人物、モノ)として

入力画像と音声を明確に紐づけしても

AIはしっかりと記憶しておらず、

シーンが進むにつれて忘れ、キャラを見失う。

 

では検証実験をどうぞ。

 

 

*

■ウマ娘小劇場第4話から

 

ニコニコ動画で公開し、Sunoの規約変更で削除した

ウマ娘小劇場第4話で検証しました。

観てくれた方(感謝ドキドキ)は覚えているかも?

 

▽シーン1

 

MinimaxH3に

 「各キャラの頭に名前を書け」

と指示しています。

Re:サトノレイナス

So:ソダシ

Ye:メイケイエール

Ub:ユーバーレーベン

完璧に紐づけが機能していますね。

 

このシーンではサトノレイナスの台詞がありますが、

ちゃんとサトノレイナスだけが喋ります。

何回やってもサトノレイナスの台詞をサトノレイナスが喋りますね。

 

 

▽シーン2

 

はい、ユーバーレーベンが行方不明になりました(苦笑)

Shot7の文字に名前が隠れた、という訳じゃありません。

認識しているときはShot7に重なって”Ub”と表示されます。

 

ここではソダシの台詞がありますが、

”So”とソダシを認識できているので

ソダシだけが喋り、紐づけはギリギリ機能しています。

 

ソダシが認識できてない場合、

サトノレイナスかメイケイエールが喋ります。

 

 

▽シーン3

 

はい、もーダメです(苦笑)

 

ユーバーレーベンを探そうとしたのか、

でも分からなくて、せっかく分別できていた

ソダシとメイケイエールの二人を”Ub”にしました(笑)

しかも本来のユーバーレーベン(左端青色髪)は

相変わらず認識すらされてない。

 

ここはメイケイエールの台詞があって、

たまたまメイケイエールだけが喋ったのですが、

既に見失っているので偶然に過ぎません。

 

むしろサトノレイナスがメイケイエールの声で喋ることが多いです。

 

 

▽シーン4

 

ここではソダシの台詞があるのですが、

既にソダシを見失っているので、

サトノレイナスにその役目が渡り、

ソダシの声で喋っています(苦笑)

 

ソダシを見失った以上、

AIが主体的と見ているサトノレイナスに

役割が回ったのです。

※サトノレイナスだけは最初から最期まで見失っていない。

 

このシーン4では、ほぼ100%の確率で

サトノレイナスがソダシの台詞を喋ります。

 

※追記:認識できていても?

 

▽シーン4B:上記シーン4と同じ

 

呪文でキャラ説明を更に詳細に追記すると、

画像レベルでは判別できたのです。

 

本来はソダシを認識したのでソダシの台詞をソダシが喋る筈ですが、

AIが判断する”主体(Subject)”が強すぎて、

サトノレイナスがソダシの声で喋ります…(汗)

 

※追記2:主体をソダシだと指定すると?

 

AIが主体をサトノレイナスとしているので

ソダシが台詞を喋れないのであれば、

 「このシーンのメインはソダシである」

と明記すれば、ソダシが喋るはずです。

 

▽シーン6:上記シーン4,4Bと同じ

 

はい、やっとソダシが喋りました…はぁ(ため息)

 

なるほどね、喋らせたいキャラに「主体である」と

書いておくことで、AIの見ている主体を上書きできるんだね。

 

※MinimaxH3を使っている人向け:上記シーンサンプル呪文

 実際は英語で、改行はなく、#で区切った説明もありません。

Shot 9 AT 00:09.000: Shot 8から続き。# 時間指定とShot間継続を指示。

 

画面左上部に"Shot9"の文字を書け。 # デバッグ用表示

 

# キャラクターの位置関係と簡単な説明

橙色髪の(Satono Reinas)は画面右端に立って

白髪の(Sodashi)の右隣に寄りかかっている。

白髪の(Sodashi)は茶髪の(Meikei Yell)の右隣に寄りかかっている。

茶髪の(Meikei Yell)は青髪の(Uberleben)の右隣に寄りかかっている。

青髪の(Uberleben)は左側の窓に寄りかかっている。

 

# デバッグ用表示

(Satono Reinas)の頭に"Re"の文字を書け。

(Sodashi)の頭に"So"の文字を書け。

(Meikei Yell)の頭に"Ye"の文字を書け。

(Uberleben)の頭に"Ub"の文字を書け。

 

(Uberleben)、(Meikei Yell)、(Sodashi)は皆困った表情をしている。

 

# MinimaxH3の主体(メイン)を上書きで指示する。

このシーンでのメインは白髪の(Sodashi)である。

 

# 以下の台詞を明確にソダシが喋る様になる。

白髪の(Sodashi)が<d>"狭い!狭いってば~"</d>と困った声色で話す。

▽蛇足~シーン7:上記シーン6、4,4Bと同じ

 

ユーバーレーベンを含めて全キャラが完璧に認識できてます。

 

ただ、この状態でも、サトノレイナスの主体度は強くて

ソダシが最後の台詞をきちんと喋るのは、

三十数回に1回あるか、ないかみたいです。

 

いずれにしても、キャラを混乱して他のキャラの台詞を喋る、

というよりは、この主体度によるものと考えた方が良さそう。

 

 

*

■

 

第4話には完成動画がありますが、

動画生成で一度たりとも最期の台詞を

ソダシ自身が喋ってません(苦笑)

 

どうしたかって?

 

自分で描いて修正したんですよ!(笑)

 

サトノレイナスも口パクしてましたけど、

隣のソダシの口パクを描いたんです!

無理くりにソダシが喋っている様にしただけ。

 

余談なのですが、キャラの頭に名前を書かせると、

な・ぜ・か、キャラの紐付けの寿命が少しだけ伸びます。

そういうタスクを与える事でAIが再確認しているのかな?

 

とは言っても紐付けは定義から離れれば離れるほどに

(シーンが進むごとに)AIが忘れていくので…(苦笑)

 

 

●付録

 

ネットからMinimaxH3で悩んで辿り着いた人向けです。

 

まずはMinimaxH3のトークンについて。

※トークンとはAIに入力するプロンプトや画像などを処理する単位で

 出力を生成する処理単位でもあります。(情報量)

📊 トークン数の目安

項目 トークン数 概要
推奨されるトークン数
(処理効率の最適目安)
平均 約4,000 トークン 内部の最適化機構(H3-Context-IR)が、長大な入力情報を構造化・圧縮してベースモデルに引き渡す際の推奨かつ平均的な処理サイズです。
受け入れる最大トークン数
(コンテキスト窓)
最大 約10万 トークン 複数の画像、動画、音声、および詳細なテキスト指示(カメラワークやセリフ、役割の指定など)をそのまま流し込める、実質的なコンテキストの上限となります。

💡 長文プロンプト利用時のポイント

MiniMax H3は、前段の解析機能である H3-Context-IR(Context Information Retrieval)によって、ユーザーが入力した大量のテキストやマルチモーダル素材(場所、人物、動き、時間、音などの関係性)を一度解析し、ベースモデルが理解しやすい約4,000トークンの中間表現へと自動でスマートに圧縮します。 [1]

そのため、10万トークン規模の非常に長い指示や、多くの参考素材を詰め込んでも破綻しにくい設計になっていますが、最も追従性が高くコストや処理速度のバランスが良いのは、圧縮後の基準となる「4,000トークン前後」に収まるような具体的な指示内容です。 [1]

もしAPIを介して利用する場合は、この H3-Context-IR によるトークン処理に対して「入力100万トークンあたり $0.90 / 出力100万トークンあたり $3.60」の従量課金が発生するため、長すぎるプロンプトはコスト面にも影響する点だけ留意しておくと安心です。 [1]

要するに、

 10万トークンが最大処理量

で、

 AI内部で処理して4000トークンに収められる

と効率が良い、というわけ。

 

続いて、上記検証動画でのトークンの計算(AI説明)

📊 内部トークン消費の概算内訳

1. 生成する出力動画(11秒 / 960x544)

  • 計算式: (960 ÷ 32) × (544 ÷ 32) × 7フレーム × 11秒
  • 消費トークン数: 約 39,270 トークン
  • 解説: MiniMax H3では、生成する動画そのものが最大のコンテキストを消費します。11秒という長さが、全体の約8〜9割のトークンを占めています。 [1, 2]

2. テキストプロンプト

  • 消費トークン数: 約 1,000 トークン
  • 解説: ユーザーご指定の文字通り、1,000トークンがそのまま加算されます。

3. 入力画像(計8枚)

  • 640x896 (2枚) / 1280x1808 (2枚) / 608x352 (4枚)
  • 消費トークン数: 約 2,000 〜 4,000 トークン
  • 解説: 画像は解像度そのままではなく、内部のVision Encoderによって特定の中間サイズ(パッチ)にリサイズ・最適化されてからトークン化されます。そのため、1280x1808のような巨大な画像であっても破滅的なトークン数にはならず、1枚あたり数百トークン程度に圧縮されます。 [1, 2]

4. 音声ファイル(3ファイル:計16秒)

  • 2秒 + 6秒 + 8秒 = 16秒
  • 消費トークン数: 約 500 〜 1,000 トークン
  • 解説: 音声(AAC)は波形データとしてトークン化されますが、映像データに比べて情報密度が非常に低いため、トークン消費量はわずかです。 [1, 2]

📉 合計のコンテキスト消費量

すべてを合算すると、約 43,000 〜 45,000 トークン前後(誤差を含めても5万トークン以下)となります。
これはMiniMax H3の最大上限である「10万トークン」の半分以下であり、モデルが本来持っている推奨目安(圧縮後4,000トークンにするための、圧縮前の入力許容量) としても、非常に健全で破綻しにくい理想的なワークフローが組めている状態です。

要するに、制限があるトークンは

入力される動画があるときは入力でも膨れ上がりますが、

主に出力される動画の幅高さのサイズと長さで大量に消費されます。

 

なので、プロンプトで多少長い説明をタラタラ書こうが、

トークン消費量としては微々たるものなので、

どんどん書いても構わない、という事になります。

 

ただ…書けば書くほど、AIが混乱する危険もありますので…。

不必要な描写は、混乱の元なのですよ。

必要な描写は丁寧に、細かく。

不必要な描写は徹底的に省く。

 

こちらもどうぞ!

前記事

 

 

●おまけ

 

▽今回使用したワークフロー(手順書)の概要

 

参考になるかな…?

 

シーン説明1と2を日英翻訳

↓

人物設定を日英翻訳し、

シーン説明1か2を加える

(セレクタノードで選択)

↓

登場人物画像・音声読込、

場面設定用画像読込

↓

動画サイズ設定(960x544)

↓

高速化ノードを繋いだ

MinimaxH3本体で生成

↓

(総トークン計算)

(処理に影響しない)

↓

動画の画像を縮小(608x352)

↓

標準の動画生成(内部表現)

↓

動画の鮮鋭化とFPS倍化

↓

FFmpegによるFPS1/2化、

MP3等設定し動画生成、保存

 

-AR

 

 

MicrosoftのVisual Studio(以下VS)は様々なソフトウェア開発を

これ一つで可能にする統合環境です。

 

無償でも使えますし(有償部分は知らない…)、

AIを触るうえで導入もやむなしとなったので

インストールしていたのですが…。

 

なにこの謎の行動…。

Cドライブになにしてるの…?

 

こんなにずっと100%使用とか怖いよ。

 

PCがハングアップ寸前じゃん…。

ネット通信や他のドライブの処理まで

遅延させる理由は??

 

起動直後にCドライブにアクセスがあるのは

まぁ分からなくもない。

VSだけが原因じゃないしね。

 

VSインストールした後はしばらくの間、

ライブラリをバックグランドでDLもしゃーなし。

 

でもいつまでもなにしてんの…??

もうインストールしてから随分経ったし、

普段はエディタとして使うくらいしかしてないのに???

 

起動直後ではなくても、操作中に突然起こる、

Cドライブの大量アクセスの理由は????

しかもそれが終わってもCドライブの容量に変化ないとか

逆に怖すぎる。

 

正直、AIやってなかったら、

こんなの使いたくない…。

※AIツールの中にはVSによるコンパイル必須がある…。

 

 

*

■

 

Microsoftさん、大量に何かCドライブにアクセスする場合は

都度都度、事前にユーザーに許可を求めて?

何やってるのか不安になるよ?

 

「これからライブラリの最新チェックと

 更新を行います。よろしいですか?」

とかさ。

 

それに付随してちゃんと表にウィンドウ立てて?

経過をプログレスバーで表示してさ。

 

いくらでもやりようがあるでしょ?

裏でコソコソと重たい処理をやって欲しくない時ってあるよ。

 

そもそも更新が理由の場合、

更新することで既存の開発中のソフトに

不具合がでる場合が多いのに勝手にやっちゃダメでしょ。

 

Windows本体のアプデでも色々とやらかすのに

VSでもやらかすとか、目も当てらんないよ…。

※最近のWindowsアプデでPowerDirectorに支障がでました…。

 

 

-AR

まずはこちらを。

 

 

国産なのが嬉しいです!

そして早速試す私でした(笑)

 

 

*

■Google翻訳の問題

 

で、私のAIでの制作で起きてる問題。

  • Google翻訳は翻訳ブレと意訳が過ぎる。

現在は呪文(プロンプト)の簡単な訂正程度なら

そのまま頭の中で英訳してやっていますが、

流石に長文や難しい英訳はできないので、

Google翻訳に頼っています。

 

ところが…前述した様に、

翻訳ブレ:同じ文章なのに異なる翻訳をする。

意  訳:賢すぎて逆に困る。

という事が起きてます。

 

呪文の制作に「日本語←→英語」を何度も繰り返す作業では

これは最悪です。

そのうち元の呪文と全然違う意味になる危険があるからね。

 

よし、せっかく日本産AIなんだし、

PLaMo3を使ってみよう!

 

 

*

■出来ました

 

まぁもう途中の専門的過ぎる苦労話をしたところで

誰にも分かってもらえないので割愛します(苦笑)

疲れて書くのが面倒くさいだけとも言う。

 

▽ComfyUIの画面(真ん中が自作ノード)

 

簡単に言うと、PLaMo3の翻訳サーバーを立ててまして、

そこに「これ翻訳して♥」と原文を渡しますと、

Google翻訳と同様に、翻訳文が返ってくるのですよ。

 

PLaMo3は中々、気の利いた翻訳をしてくれるみたいで、

上記の様にタグとか一般的に日本語にしない語句も認識してます。

これは呪文書きにとってはありがたい!

ごめんなさい、たまたまみたいです…。

 

まだバグが残ってて、最大トークン数(呪文や翻訳文の処理単位)が

2048以上にできないのですが、まぁ後日何とかします。

 

因みに、翻訳サーバーは Bionic で立てていますよ。

 

PLaMo3しか入れてないし、PLaMo3は翻訳専用だから

何もできないんだけどね…。

 

 

*

■

 

実は PLaMo3はスマホでも使える一番軽い

”plamo-3-translate-0.8b”を使っているのですが、

思っていたよりもVRAMを喰うんですよ…。

学習データが1.7GBなんです。

※翻訳サーバーはもっと軽いGGUFを入れてるので約0.5GBくらい

 

私が普段遣いしている MinimaxH3 は

VRAM容量いっぱいまで使うので、

これだとCPUにも生成を振り分ける様にしないと

VRAMメモリオーバーになっちゃう。

CPUに呪文解析を任せると、処理が重くなるんだよね…。

GPUに比べたらCPUなんか激遅なんだもの(処理時間百倍くらい差がある…)。

 

そして…台詞は翻訳して欲しくない(苦笑)

台詞が出てくる度にやり変えて、

MinimaxH3に送る直前に全ての呪文を結合する必要もある。

 

うーん…これ実用になるのかな…?

 

※追記:

MinimaxH3の台詞タグ(※注)を認識して、台詞を翻訳しない様にしました!

2048トークンまでの制限バグも解除!

これでVRAM消費の問題だけになりました(それもオフロードで大丈夫みたい)。

※注:MinimaxH3では <d>"(台詞)"</d> を台詞として定義している。

 

▽PLaMo3専用&MinimaxH3台詞タグ対応版

 

※トークン数について

PLaMo3(Bionicサーバー)では実行すると

標準出力に原文、翻訳文のトークン数が表示されます。

[INFO] HTTP Request: POST http://localhost:1235/v1/completions "HTTP/1.1 200 OK"
Prompt tokens: 529
Completions tokens: 541

Promptが原文、Completionsが翻訳文のトークン数なので、

この場合に必要な総トークン数は 529+541=1,070って事になります。

思ったよりも消費が多いんだね。

 

※この自作ノードが対応している言語

PLaMo3公式がテストした14ヶ国語にのみ対応。

別にPLaMo3が対応している53カ国語に全対応してもいいんだけど、

私には必要無かったので…。

 

 

思った以上に便利!!

もう手放せない!

 

※追記2:

日本語と英語が混在していると、

一部が未翻訳になる場合があるね…。

突然、大量の未翻訳をする時もある。

AIも混乱しちゃうのかな。

 

因みに、「MinimaxH3台詞」ボタンを付けたので、

台詞も翻訳して欲しいとき便利。

やる気はしないけど、14ヶ国語に対応の動画が作れます(笑)

 

 

-AR