基于llama-cpp-python直接通过llama.cpp运行GGUF大模型
python3版本：3.14.5
首先，需要安装：
pip3 install -r requirements.txt
然后直接运行即可：
python3 src/index.py
MIT License
Copyright (c) zxl20070701 走一步，再走一步
rapid-start/llama-cpp-python-examples
Folders and files
| Name | Name | Last commit date | ||
|---|---|---|---|---|