windows系统如何将基座大模型私有化部署

1.windows10系统 

安装npm、node、   git 最新版本  

安装vmware虚拟机  内存8GB以上   双核4线程

2.vmware虚拟机 安装ubuntu系统 22.04版本

3.进入ubuntu系统

 3.1 安装Ollama 基座大模型工具

在命令行中执行  curl -fsSL https://ollama.com/install.sh | sh

 浏览器打开   http://localhost:11434/     验证Ollama安装是否成功

3.2 配置Ollama环境变量(可以任何ip地址访问)

vim /etc/systemd/system/ollama.service

[Unit]
Description=Ollama Service
After=network-online.target
 
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
 
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
 
[Inst