Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

can I build the engine from a local model. #18

Open
yyyanyy opened this issue Feb 7, 2023 · 9 comments
Open

can I build the engine from a local model. #18

yyyanyy opened this issue Feb 7, 2023 · 9 comments

Comments

@yyyanyy
Copy link

yyyanyy commented Feb 7, 2023

I had download some model that is not shared on the huggingface, so can I build the engine from a local model?

@ddPn08
Copy link
Owner

ddPn08 commented Feb 7, 2023

If the model is diffusers format, local ones can also be used.

@kotaro5487
Copy link

どのようにすれば良いでしょうか…?
modelIDにローカスのパスを入力しても動きません
SnapCrab_NoName_2023-2-9_19-46-45_No-00

@ddPn08
Copy link
Owner

ddPn08 commented Feb 9, 2023

@koukei46124 ターミナルのログ見せてもらえますか?

@kotaro5487
Copy link

SnapCrab_NoName_2023-2-9_20-4-3_No-00
SnapCrab_NoName_2023-2-9_20-4-11_No-00
SnapCrab_NoName_2023-2-9_20-4-58_No-00

@kotaro5487
Copy link

kotaro5487 commented Feb 9, 2023

こんな感じです
kohyaさんのスクリプトで変換しています。

@ddPn08
Copy link
Owner

ddPn08 commented Feb 9, 2023

これはdockerコンテナ内だからですね。基本的にdockerコンテナ内からwindowsのフォルダすべてにはアクセスできません(パスの形式もwindowsの物は使えないです。)
たとえばdocker-compose.ymlを

version: '3.9'
services:
  lsmith:
    build:
      context: .
      dockerfile: ./docker/Dockerfile.lite
    ports:
      - 8000:8000
    volumes:
      - ./docker-data/models:/app/models
      - ./docker-data/outputs:/app/outputs
      - ./docker-data/diffusers:/diffusers
    environment:
      - COMMANDLINE_ARGS=--skip-build-frontend
      - UVICORN_ARGS=--host 0.0.0.0
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

とすることでwindows上の./docker-data/diffusersがDockerコンテナ内の/diffusersにリンクします。

@kotaro5487
Copy link

ああ、なるほど…!
了解しました!

@kotaro5487
Copy link

一応ご報告

  • ./docker-data/diffusers:/diffusers
    で作って、../diffusers/suityan5とパスを入れたところ、変換後にモデルが保存されませんでした。
    フォルダの生成名がおかしくなっていたので、それが原因ではないかと思われます。

  • ./docker-data/diffusers:/app/diffusers
    で再作成して、diffusers/suityan5
    とパスを入れればうまくいきました。
    絶対パスで指定すればうまくいくのかもしれませんが、appの下に作った方が無難なようです。

@Daniel-Kelvich
Copy link

Have the same problem

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

4 participants