Dockerfile

# 使用官方的Python 3.10镜像作为基础
FROM python:3.10-slim

# --- 核心修正点在这里 ---
# 在做任何事之前，先把所有编译和构建可能用到的工具一次性全部安装好
# gcc: C语言编译器 (最关键的“锤子”)
# g++: C++语言编译器 (另一个重要的“锤子”)
# build-essential: 包含了make等一系列基础构建工具
# cmake: 另一个重要的构建系统
RUN apt-get update && apt-get install -y gcc g++ build-essential cmake

# 设置工作目录
WORKDIR /app

# 设置环境变量，强制llama-cpp-python在安装时进行编译
ENV CMAKE_ARGS="-DLLAMA_CUBLAS=OFF"
ENV FORCE_CMAKE=1

# 将requirements.txt复制到工作目录中
COPY requirements.txt .

# 安装所有依赖库
# 我们现在工具齐全，这次安装必将成功
RUN pip install --no-cache-dir -r requirements.txt

# 将我们的API程序代码复制到工作目录中
COPY main.py .

# 暴露程序将要运行的端口
EXPOSE 7860

# 定义启动命令：使用uvicorn运行我们的FastAPI应用
CMD ["uvicorn", "main:app", "--host", "0.0.0.0", "--port", "7860"]
#