SLM。DirectMLでハマった話 Phi-3-visionとDirectML

オラ。

Unknown provider type: dml

ってエラーを吐く場合。Microsoft.ML.OnnxRuntimeGenAI.DirectMLだけにする。

Microsoft.ML.OnnxRuntimeGenAIがいると、これはcpu版。なんか混乱するらしい。

シンプルにするのであればnugetパッケージは

    <PackageReference Include="Microsoft.AI.DirectML" Version="1.15.2" />
    <PackageReference Include="Microsoft.ML.OnnxRuntime.DirectML" Version="1.19.2" />
    <PackageReference Include="Microsoft.ML.OnnxRuntimeGenAI.DirectML" Version="0.4.0" />

これだけでいいらしい。

cpu版にしたかったら、

    <PackageReference Include="Microsoft.ML.OnnxRuntimeGenAI.DirectML" Version="0.4.0" />

とする。

アディオス