Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

AArch64のmacOS版で、INTRA Thread Countのデフォルトが1になっているらしい? #888

Open
1 of 3 tasks
qryxip opened this issue Dec 8, 2024 · 0 comments
Open
1 of 3 tasks

Comments

@qryxip
Copy link
Member

qryxip commented Dec 8, 2024

不具合の内容

現象・ログ

 Exception: Failed to run inference on model: intra op thread pool must have at least one thread for RunAsync

https://github.com/qryxip/voicevox_core/actions/runs/12220063778

使われているのは、onnxruntime-builderの/onnxruntime-osx-arm64-1.17.3.tgzのはずです。

https://github.com/VOICEVOX/ort/blob/09a9fe1619c1561efafc02f68f0bda4aad879771/ort-sys/dist.txt#L1

再現手順

期待動作

VOICEVOXのバージョン

OSの種類/ディストリ/バージョン

  • Windows
  • macOS
  • Linux

その他

@qryxip qryxip added the バグ label Dec 8, 2024
qryxip added a commit that referenced this issue Dec 9, 2024
非同期APIにおける推論に`ort::Session::run_async`を使うようにする。これに
より、推論がキャンセル可能になる。

#888 の影響を受け推論が失敗するので、CIを通すため、Python APIのテストと
exampleについては(すべてのプラットフォームで)
`cpu_num_threads=max(multiprocessing.cpu_cout(), 2)`とする。

Resolves: #687
Refs: VOICEVOX/ort#11
BREAKING-CHANGE: 非同期APIにおいて、INTRA Thread Countが`1`だと推論がすべてエラーになる。
See-also: https://docs.rs/ort/2.0.0-rc.4/ort/struct.Session.html#method.run_async
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Projects
None yet
Development

No branches or pull requests

1 participant