在 Linux 系统上安装 Miniconda、安装 Xinference，并设置 Xinference 开机自启动
一、安装 Miniconda1. 下载 Miniconda 安装脚本
x86_64 架构：
cd ~
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.shARM 架构（如树莓派或 Apple Silicon 的 Linux 虚拟机）：
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-aarch64.sh2. 运行安装脚本
bash Miniconda3-latest-Linux-x86_64.sh
[*]按回车阅读许可协议（可按 q 跳过）。
[*]输入 yes 接受协议。
[*]安装路径默认为 ~/miniconda3，直接回车即可。
[*]是否初始化 conda？输入 yes（这样会自动配置 PATH）。
3. 重新加载 shell 配置
source ~/.bashrc 如果你用的是 zsh，则 source ~/.zshrc
验证安装：
conda --version
python --version4. 配置清华镜像（加速下载）
清华镜像站提供了 Conda 和 pip 的国内加速源。
[*]添加 Conda 清华镜像（推荐使用 .condarc 配置文件）
运行以下命令生成配置文件：
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/# 可选
# 设置搜索时显示通道地址
conda config --set show_channel_urls yes注意：不要添加 defaults 通道的清华镜像，因为清华已将 main 和 free 分开。
[*]（可选）禁用默认的 Anaconda 通道（避免回源）
conda config --remove channels defaults
[*]查看当前配置
conda config --show channels你应该看到类似：
channels:
- https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
- https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
- https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
- https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/二、安装 Xinference
1. 创建并激活 conda 环境
conda create -n xinference python=3.11 -y
conda activate xinference重点：Python最新版本推荐3.11，不然会有各种报错
[*]如果后续用 pip，也可以配置 pip 清华源：pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
2. 安装 Xinference
首先安装以下依赖非常重要！！（最容易报错，提前解决）：
# 从 conda-forge 安装 pynini（自动解决 OpenFST 依赖）
conda install -c conda-forge pyninipip install Cython可选（通常不需要，可以跳过）：先用 conda 安装部分依赖：
# 安装 PyTorch（根据你的 CUDA 版本选择）
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia
# 安装其他可能的依赖（可选）
conda install -c conda-forge sentencepiece protobuf使用 pip 安装最新版：
pip install "xinference" 表示安装所有可选依赖（包括 GPU 支持、多模态模型等）。如果你只需要基础功能，可以只运行 pip install xinference。
可以加上镜像加速，比如：pip install "xinference" -i https://pypi.doubanio.com/simple
3. 验证安装
xinference --help如果输出帮助信息，说明安装成功。
三、设置 Xinference 开机自启动
1. 创建 systemd 服务文件
sudo vim /etc/systemd/system/xinference.service粘贴以下内容（请根据你的用户名和路径修改）：
Description=Xinference Service
After=network.target
Type=simple
User=你的实际用户名
Group=你的实际用户名
WorkingDirectory=/home/你的实际用户名
ExecStart=/bin/bash -c 'source /home/你的实际用户名/miniconda3/etc/profile.d/conda.sh && conda activate xin_env && xinference-local --host 0.0.0.0 --port 9997'
Restart=always
RestartSec=10
WantedBy=multi-user.target说明：
[*]--host 0.0.0.0 允许外部访问（如需仅本地访问，改为 127.0.0.1）。
[*]--port 9997 是默认端口，可按需修改。
[*]确保路径 /home/你的实际用户名/miniconda3/envs/xinference/bin/xinference-local 存在。可通过 which xinference-local 查看实际路径。
2. 重载 systemd 配置
sudo systemctl daemon-reexec
sudo systemctl daemon-reload3. 启用并启动服务
sudo systemctl enable xinference.service # 开机自启
sudo systemctl start xinference.service # 立即启动4. 检查服务状态
sudo systemctl status xinference.service如果看到 active (running)，说明服务已正常运行。
5. 查看日志（排错用）
journalctl -u xinference.service -f四、访问 Xinference Web UI
默认情况下，Xinference 会启动一个 Web 管理界面。
在浏览器中访问：
http://<你的服务器IP>:9997例如：http://192.168.1.100:9997
五、可选：配置防火墙（如启用）
如果你使用的是 ufw：
sudo ufw allow 9997/tcp如果是云服务器（如 AWS、阿里云），记得在安全组中开放 9997 端口。
六、常见问题
Q1: 启动失败，提示找不到命令？
[*]检查 ExecStart 路径是否正确，使用 which xinference-local 确认。
[*]确保 conda 环境已正确创建并安装了 xinference。
Q2: 如何停止服务？
sudo systemctl stop xinference.serviceQ3: 如何更新 Xinference？
conda activate xinference
pip install --upgrade xinference
sudo systemctl restart xinference.serviceQ4: 报错信息：
error: command 'g++' failed: No such file or directory
...
error: command 'gcc' failed: No such file or directory这两个包（pyworld 和 cdifflib）都包含 C/C++ 扩展，需要本地编译。
解决方法：
Ubuntu/Debian：
sudo apt update && sudo apt install build-essentialCentOS/RHEL/Fedora：
[*]CentOS/RHEL:
sudo yum groupinstall "Development Tools"
[*]Fedora:
sudo dnf groupinstall "Development Tools"
使用的是 Conda 环境 也可以尝试安装编译器：
conda install -c conda-forge gcc gxx_linux-64注意：有些 Conda 环境仍依赖系统级编译器，建议优先用系统包管理器安装 build-essential。
总结
[*]安装 Miniconda → 提供 Python 环境管理。
[*]创建 conda 环境并安装 Xinference。
[*]使用 systemd 创建开机自启服务。
[*]访问 Web UI 管理模型。
按照以上步骤，你就可以在 Linux 上稳定运行 Xinference 并实现自动启动。
提示：部署具体模型，可通过 Web UI 或命令行加载。
来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！ 感谢分享 谢谢分享，辛苦了
页:
[1]