Mac跑大模型提速:本地AI工具Ollama接入苹果MLX框架

智观行业
9小时前发布

IT之家 4 月 1 日消息,科技媒体 Ars Technica 昨日(3 月 31 日)发布博文,报道称本地 AI 工具 Ollama 发布 0.19 预览版,全面接入苹果 MLX 机器学习框架,提升苹果 Mac 运行本地大模型速度。

本次更新深度优化统一内存的使用效率,改进缓存性能,并新增支持 NVFP4 模型压缩格式,并针对部分模型专项优化,大幅降低其在 Mac 运行时的内存占用。

对于最新搭载 M5 芯片的 Mac 设备,Ollama 还可以直接调用神经网络加速器,进一步提升每秒生成词元(token)数与首词响应速度。

该功能目前仅在 Ollama 预览版中提供,模型方面,首批仅支持阿里巴巴开源的 350 亿参数 Qwen3.5 模型;硬件门槛上,该功能需要至少 32GB 的统一内存。

对于用户而言,升级该预览版后,在使用 OpenClaw“龙虾”等私人助手、运行 Claude Code 和 Codex 等编程智能体工具时,本地 AI 模型能加快响应速度,进一步改善使用体验版。

IT之家注:MLX 是专为 Apple 芯片打造的开源阵列框架,能够高效地执行机器学习任务,并支持用户使用 Python 和 Swift 直接在设备上运行大型语言模型。这个高性能机器学习框架针对 Apple 芯片进行了优化,可以在 CPU 和 GPU 上快速完成数值计算和机器学习任务。


联系信息


邮箱:xiaosea2@163.com

电话:15733175200

企查查:15733175200

天眼查:15733175200

黄页88:15733175200

顺企网:15733175200

阿里巴巴:15733175200

网址:https://zizun.niushi.cc

© 版权声明
THE END
喜欢就支持一下吧
点赞 0 分享 收藏
评论
所有页面的评论已关闭