文档地址:
https://inference.readthedocs.io/zh-cn/latest/getting_started/installation.html
安装
pip install xinference
启动
xinference-local --host 127.0.0.1 --port 9997
#0.0.0.0在windows下不支持
#xinference-local --host 0.0.0.0 --port 9997
访问
http://localhost:9997/