metadata
license: mit
环境安装
Python 基本环境
- 使用以下命令安装所需的 Python 库:
pip install -r requirements.txt
WhisperCPP 安装
- 克隆 WhisperCPP 仓库并初始化子模块:
git clone --recurse-submodules https://github.com/absadiki/pywhispercpp.git
- 切换到特定的提交版本:
git checkout d43237bd75076615349004270a721e3ebe1deabb
- 安装 WhisperCPP,确保启用 CoreML 支持:
WHISPER_COREML=1 python setup.py install
Llama-cpp-python 安装
- 克隆 Llama-cpp-python 仓库并初始化子模块:
git clone --recurse-submodules https://github.com/abetlen/llama-cpp-python.git
- 切换到特定的提交版本:
cd llama-cpp-python && git checkout 0580cf273debf4a7f2efcdfd5ef092ff5cedf9b0 && cd vendor/llama.cpp && git checkout ecebbd292d741ac084cf248146b2cfb17002aa1d
- 使用以下命令安装 Llama-cpp-python,确保启用 Metal 支持:
CMAKE_ARGS="-DGGML_METAL=on" pip install .
运行
- 运行命令
python main.py启动应用程序。- 打开浏览器并访问
http://localhost:9191/以使用该应用。