跳转到主要内容

环境要求

  • Windows 10/11 x64
  • Python 3.10+
  • 可选:支持 CUDA 的 NVIDIA GPU

安装

python -m venv .venv
\.venv\Scripts\Activate.ps1
pip install nexaai

快速测试

from nexaai import LLM, ModelConfig
llm = LLM.from_(model="NexaAI/Qwen3-0.6B-GGUF", config=ModelConfig())
print(llm.generate("Hello", None).text)