Google 开源了 Gemma 大模型,有 7B 和 2B 两个版本,7B 模型的能力已经是开源模型中的领先水平。Gemma 可以轻松的在本地部署运行,如果你的显存在 8G 以上,可以体验 7B 版本,8G 以下的话可以试试 2B 版本。
部署过程如下:
1、使用 ollama 运行 Gemma 模型
2、使用 Chatbox 作为 UI 客户端
1、安装 ollama 打开网页 https://ollama.com/ 下载程序后直接安装。安装完成后,本机cmd执行命令:
ollama -V
正确显示版本号即为安装成功。
2、运行 Gemma
ollama 网页顶部导航中有一个 “Models” 链接,点击。选择“gemma” 链接,https://ollama.com/library/gemma,进入模型页面。
然后将命令复制到CMD中进行下载就行,显示下面就是安装成功了
3、安装 Chatbox
https://chatboxai.app/zh 下载安装,然后进行配置,直接选就行,有默认选项
然后就可以使用了。