一条命令跑本地大模型
把模型下载、量化、推理服务打包成一条命令,Mac 上跑 7B 到 70B 都很顺。隐私敏感场景的标准答案。
收录信息由编辑整理,功能与价格可能随官方调整,请以官网为准。 发现错误可以在 这里反馈。