端侧优化

通过量化、剪枝等技术使大模型能在本地硬件高效运行