Gemma 3 本地部署

本地部署 Gemma 3 大模型 （安装方法和deepseek差不多）

Gemma 3 被谷歌称为目前最强的开源视觉模型之一。 该模型支持超过35种语言，能够分析文本、图像和短视频。值得注意的是，Gemma 3 的视觉编码器经过升级，支持高分辨率和非方形图像，并引入了 ShieldGemma 2 图像安全分类器，用于过滤被分类为性暗示、危险或暴力的内容。这些特性使得 Gemma 3 成为当前最强大的开源视觉模型之一。

使用 Ollama 本地部署（Windows）

  1. 访问 Ollama 官网 下载安装包
  2. 双击运行安装程序，安装软件后
  • 打开Windows11的终端（终端管理员）
  • 打开方式：“开始”菜单“右键”可以看到选项，用“终端管理员”模式运行。
  1. 启动终端并验证安装：
    1
    ollama --version

安装 Gemma 3

  1. 在 Ollama 的官网左上角点击“ Models ”
  2. 在搜索框内输入“Gemma 3”
  3. 在中间位置左边是“模型的版本”以及需要的“GPU的显存”（注意这里不是内存，是显卡的显存），右边是安装命令（默认是7b模型，这个一般够用了）
    1
    2
    3
    4
    5
    # 选择适合自己的一条命令安装
    ollama run gemma3:1b
    ollama run gemma3:4b
    ollama run gemma3:12b
    ollama run gemma3:27b
  4. 在刚才打开的“终端”中运行上述命令，等待拉取模型！一段时间后，就可以对话了！