AirLLM 空气大模型推理
AirLLM 通过分层流式加载，让 70B 乃至 671B 大模型在单张 4GB 显存显卡上推理，无需量化、蒸馏或剪枝，并支持小显存微调。
Jupyter Notebook
37k
3.8k
Python
LLM
AI
推理
显存优化
微调