微博上看到DeepSeek的报告,尝试想本地部署
百度,bing 后,深感英文太差,找个翻译帮助;
1、找到网址 how-to-run-locally
https://github.com/deepseek-ai/DeepSeek-V3?tab=readme-ov-file#6-how-to-run-locally
2、按步骤Clone
git clone https://github.com/deepseek-ai/DeepSeek-V3.git
cd DeepSeek-V3/inference pip install -r requirements.txtr
报错,
然后,再百度,原因为triton 只支持linux,要支持Windows ,只能再下
pip install cmake pip install triton-2.0.0-cp310-cp310-win_amd64.whl
继续报错
各种百度,貌似和python版本有关,找到有一个虽然有报警,但仍能进行的版本;
pip install https://huggingface.co/madbuda/triton-windows-builds/resolve/main/triton-2.1.0-cp311-cp311-win_amd64.whl
阿弥陀佛,一边装 ,一边写备忘.....
好像是超时,come again