Skip to content

Latest commit

 

History

History
65 lines (55 loc) · 1.81 KB

README.md

File metadata and controls

65 lines (55 loc) · 1.81 KB

PPDiffusers推理部署

PPDiffusers基于Paddle Inference,提供了以下重点扩散模型的部署方案:

  • ControlNet
  • IP-Adapter-SD15
  • IP-Adapter-SDXL
  • SD15
  • SDXL

V100性能数据

模型 Paddle Deploy TensorRT / ips Torch Dynamic / ips
IP-Adapter-SD15 text2img 18.30 18.18
IP-Adapter-SD15 img2img 18.11 17.87
IP-Adapter-SD15 inpaint 17.93 17.44
IP-Adapter-SDXL text2img 12.01 11.47
IP-Adapter-SDXL img2img 12.00 10.95
IP-Adapter-SDXL inpaint 11.67 10.79
SD15 text2img 19.68 18.27
SD15 img2img 19.68 17.90
SD15 inpaint 19.44 17.56
SDXL text2img 13.91 11.50
SDXL img2img 13.86 11.60
SDXL inpaint 13.45 11.28

Note: 测试环境或配置为Paddle 3.0 beta版本,V100 32G单卡,FP16。 推理参数为Image Width = 512, Image Height = 512, Num Inference Steps = 50。

A100性能数据

模型 Paddle Deploy TensorRT / ips Torch Dynamic / ips
IP-Adapter-SD15 text2img 38.52 32.75
IP-Adapter-SD15 img2img 37.91 32.50
IP-Adapter-SD15 inpaint 37.80 31.78
IP-Adapter-SDXL text2img 22.88 17.26
IP-Adapter-SDXL img2img 22.79 17.24
IP-Adapter-SDXL inpaint 22.30 17.06
SD15 text2img 47.22 33.74
SD15 img2img 46.59 32.96
SD15 inpaint 46.05 32.14
SDXL text2img 31.98 17.73
SDXL img2img 31.80 17.40
SDXL inpaint 30.58 16.98

Note: 测试环境或配置为Paddle 3.0 beta版本,A100 80G单卡,FP16。 推理参数为Image Width = 512, Image Height = 512, Num Inference Steps = 50。