Dockerfile

# NVIDIAのCUDAランタイムイメージをベースにする (Ubuntu 22.04)
FROM nvidia/cuda:11.8.0-cudnn8-runtime-ubuntu22.04

# 作業ディレクトリを設定
WORKDIR /app

# 必要なパッケージをインストール
RUN apt-get update && \
    apt-get install -y --no-install-recommends \
    software-properties-common && \
    add-apt-repository ppa:deadsnakes/ppa && \
    apt-get update && \
    apt-get install -y --no-install-recommends \
    python3.10 \
    python3-pip \
    python3.10-venv \
    curl \
    git && \
    apt-get clean && rm -rf /var/lib/apt/lists/*

# Pythonのシンボリックリンクを作成
RUN ln -s /usr/bin/python3.10 /usr/bin/python

# Pythonパッケージをインストール
RUN pip install --upgrade pip
RUN pip install --upgrade \
    vllm>=0.6.4.post1 \
    mistral_common>=1.5.0 \
    huggingface_hub
RUN pip install gradio matplotlib

# Hugging Faceのキャッシュディレクトリを設定
ENV HF_HOME=/app/.cache/huggingface

# 書き込み可能なディレクトリを作成
RUN mkdir -p /app/.config/matplotlib && chmod -R 777 /app/.config

# 環境変数 MPLCONFIGDIR を設定
ENV MPLCONFIGDIR=/app/.config/matplotlib

# NVIDIA GPUの設定 (CUDAの自動検出)
ENV NVIDIA_VISIBLE_DEVICES all
ENV NVIDIA_DRIVER_CAPABILITIES compute,utility

# アプリケーションコードをコンテナ内にコピー
COPY app.py /app/app.py

# アプリケーション実行コマンド
CMD ["python", "app.py"]