CUDA 11.8.0, cuDNN 8.9.2に更新

[aoirint]

内容

先に #696 のマージが必要です（CIストレージ容量確保のため）。

Ubuntu 22.04のDockerイメージ提供 （ #660 (comment) ）を経緯として、CUDA 11.xで最新のCUDA 11.8に更新します。ついでにcuDNNをCUDA 11.xと互換性がある最新のcuDNN 8.9.2に更新します。

• CI Linuxバイナリビルド: CUDA 11.8.0、cuDNN 8.9.2に更新（旧: CUDA 11.6.2, cuDNN 8.4.1）
• CI Windowsバイナリビルド: CUDA 11.8.0、cuDNN 8.9.2に更新（旧: CUDA 11.6.2, cuDNN 8.4.1）
• CI Dockerビルド: CUDA 11.8.0に更新（旧: CUDA 11.6.2）
• Makefile: Dockerローカルビルド用のベースイメージをCUDA 11.8.0に更新
  • Ubuntu 18.04用のターゲットが Docker イメージをリリース時にテストするように追加 & ubuntu18 をベースとしたイメージのサポートを終了 #650 で削除漏れていましたが、別PRで削除します
• ライセンス: CUDA 11.8に更新（差分なし）
• ライセンス: cuDNN 8.9.2に更新（軽微な差分あり）
• 動作テスト用ビルド: https://github.com/aoirint/voicevox_engine/releases/tag/0.15.0-aoirint.14 （ バイナリビルドCI: 7zとVVPPが同時にCIストレージ容量を消費しないようにする #696 の差分が含まれています）

docker pull aoirint/voicevox_engine:nvidia-ubuntu20.04-0.15.0-aoirint.14
docker run --rm --gpus all -p '127.0.0.1:50021:50021' aoirint/voicevox_engine:nvidia-ubuntu20.04-0.15.0-aoirint.14

cuDNNのダウンロードURLについて

これまで使っていたURLではcuDNN 8.8.0以上のアーカイブが配布されていなかったため、URLを変更しました。通常のダウンロードURL（https://developer.nvidia.com/downloads/compute/cudnn/secure/*）はNVIDIAアカウントでの認証が必要ですが、以下のURLでは認証を要求されないため、CIで利用できます。

• 旧: https://developer.download.nvidia.com/compute/redist/cudnn/
• 新: https://developer.download.nvidia.com/compute/cudnn/redist/

CUDA・ONNXRuntimeの互換性について

CUDAはマイナーバージョン（CUDA 11.x）で後方互換性があります。
CUDA 11.xは、LinuxではNVIDIAドライバ 450.80.02以上、WindowsではNVIDIAドライバ 452.39以上で動作します。

• https://docs.nvidia.com/deploy/cuda-compatibility/#minor-version-compatibility

ONNXRuntime 1.13.1はCUDA 11.6でビルドされていますが、CUDAの後方互換性から、CUDA 11.xで動くことが想定されています。

Official ONNX Runtime GPU packages are now built with CUDA version 11.6 instead of 11.4, but should still be backwards compatible with 11.4

• https://github.com/microsoft/onnxruntime/releases/tag/v1.13.1

Note: Because of CUDA Minor Version Compatibility, Onnx Runtime built with CUDA 11.4 should be compatible with any CUDA 11.x version. Please reference Nvidia CUDA Minor Version Compatibility.

• https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html#requirements

（参考）CUDA・cuDNNライセンスファイルの更新について

ダウンロードしたWindows用exeファイルから7-zipで抽出しています。

wget 'https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda_11.8.0_522.06_windows.exe'
7z x 'cuda_11.8.0_522.06_windows.exe' 'cuda_documentation/Doc/EULA.txt'

wget 'https://developer.download.nvidia.com/compute/cudnn/redist/cudnn/windows-x86_64/cudnn-windows-x86_64-8.9.2.26_cuda11-archive.zip'
7z x 'cudnn-windows-x86_64-8.9.2.26_cuda11-archive.zip' 'cudnn-windows-x86_64-8.9.2.26_cuda11-archive/LICENSE'

関連 Issue

• ref: Windows CUDA 版エンジンに同梱の cuDNN が ONNX Runtime 1.13 がサポートしている対応バージョンと異なる #602
• ref: Docker イメージ ubuntu22 サポート追加 #660

スクリーンショット・動画など

その他

[github-actions]

Coverage Result

Resultを開く

Name	Stmts	Miss	Cover
voicevox_engine/init.py	2	1
voicevox_engine/acoustic_feature_extractor.py	75	0
voicevox_engine/dev/synthesis_engine/init.py	3	1
voicevox_engine/dev/synthesis_engine/mock.py	36	2
voicevox_engine/downloadable_library.py	93	5
voicevox_engine/full_context_label.py	162	3
voicevox_engine/kana_parser.py	86	1
voicevox_engine/metas/Metas.py	33	0
voicevox_engine/metas/MetasStore.py	29	14
voicevox_engine/metas/init.py	2	0
voicevox_engine/model.py	160	9
voicevox_engine/mora_list.py	5	0
voicevox_engine/part_of_speech_data.py	5	0
voicevox_engine/preset/Preset.py	12	0
voicevox_engine/preset/PresetError.py	3	1
voicevox_engine/preset/PresetManager.py	81	2
voicevox_engine/preset/init.py	4	0
voicevox_engine/setting/Setting.py	11	0
voicevox_engine/setting/SettingLoader.py	19	0
voicevox_engine/setting/init.py	3	0
voicevox_engine/synthesis_engine/init.py	5	0
voicevox_engine/synthesis_engine/core_wrapper.py	201	159
voicevox_engine/synthesis_engine/make_synthesis_engines.py	57	49
voicevox_engine/synthesis_engine/synthesis_engine.py	130	11
voicevox_engine/synthesis_engine/synthesis_engine_base.py	67	9
voicevox_engine/user_dict.py	144	11
voicevox_engine/utility/init.py	5	0
voicevox_engine/utility/connect_base64_waves.py	37	0
voicevox_engine/utility/core_version_utility.py	9	2
voicevox_engine/utility/mutex_utility.py	11	1
voicevox_engine/utility/path_utility.py	26	8
TOTAL	1516	289

[Hiroshiba]

今コアが使っているonnxruntimeがたしかバージョン1.14で、それがCUDA 11.6だったりします。
https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html#requirements

基本バージョンが上がったほうが良い気がしますが、実際どうなんでしょう･･･？

[aoirint]

• CUDA 11.8.0, cuDNN 8.9.2に更新 #695
• バイナリビルドCI: 7zとVVPPが同時にCIストレージ容量を消費しないようにする #696
• CI: バイナリビルド成果物の構成時に共有ライブラリの実体をmvするように変更 #700
• build.ymlでGNU版のsedとsplitをenvに入れて明示的に実行 #702

をすべて含めたビルドを作ってみました。CUDA 11.8, cuDNN 8.9.2になっています。

• https://github.com/aoirint/voicevox_engine/releases/tag/0.15.0-aoirint.21
• Linux CUDA版をGoogle Colaboratoryで実行したログ: https://gist.github.com/aoirint/8d1bc862a339ea1b4e16184acdb45bed/30666e4ab637eb3f60422098a04e57ddb3f13965

Linux CUDA版で動作確認ができたため、Ready for reviewにしておきます。

基本バージョンが上がったほうが良い気がしますが、実際どうなんでしょう･･･？

趣旨はUbuntu 22.04のDockerイメージの提供をできるようにすることなので、互換性に問題があればCUDA 11.7までに留めるのを探るのもいいと思います！

[Hiroshiba]

LGTM！！

１箇所コンフリクトが起こっていたので解決お願いします･･･！

[y-chan]

LGTM！ヒホさんが一点コメントしている点以外は特に問題ないと思いました！

[Hiroshiba]

提案とプルリクエストありがとうございます！！
マージします！