DeepSeek 多模态大模型 Janus-Pro 本地部署教程
下载模型仓库git clone https://github.com/deepseek-ai/Janus.git国内下载仓库失败时,可以使用以下代理:
git clone https://github.moeyy.xyz/https://github.com/deepseek-ai/Janus.git准备 Conda 3.12 虚拟环境
conda create --name deepseek7B python=3.12
conda activate deepseek7BJanus 安装基础依赖
cd Janus
# 安装基础依赖
pip install -e .
# 安装 gradio ui 界面
pip install gradio
# 启动带有gradio的ui界面,同时下载14GB+的大模型
python demo/app_januspro.py启动成功后,在浏览器里输入:http://127.0.0.1:7860,即可访问 Gradio 页面。
下载模型时,如果你的服务器无法访问模型地址 huggingface.co,则可以用 modelscope
使用 modelscope 下载模型
官网:https://modelscope.cn/
pip install modelscope
modelscope download --model deepseek-ai/Janus-Pro-7B默认模型会下载到~/.cache/modelscope/hub目录下,指定 local_dir 可以选择本地下载路径
modelscope download --model deepseek-ai/Janus-Pro-7B --local_dir 'path/to/dir'打开./demo/app_januspro.py 文件,并在15行处,修改为当前本地模型下载地址路径
接着就可以启动服务:python demo/app_januspro.py
修改 gradio 地址或端口
打开./demo/app_januspro.py 文件,在244行处,进行修改
在这里设置 server_name='0.0.0.0' 以便从任何 IP 访问
demo.launch(share=True, server_name='0.0.0.0', server_port=7860)
来源:程序园用户自行投稿发布,如果侵权,请联系站长删除
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!
页:
[1]