跳转到主要内容

环境要求

  • macOS 13+
  • Python 3.10+
  • 建议使用 Apple Silicon(M1/M2/M3)

安装

python3 -m venv .venv
source .venv/bin/activate
pip install 'nexaai[mlx]'

快速测试

from nexaai import LLM, ModelConfig
llm = LLM.from_(model="NexaAI/Qwen3-1.7B-4bit-MLX", config=ModelConfig())
for t in llm.generate_stream("Hello", None):
    print(t, end="")