Topic
#machine-learning
按主题聚合的新闻视图。
Topic Feed
主题:machine-learning
共 4 条
使用MLX在macOS上实现Gemma 4音频转录
西蒙·威尔森分享了一个使用MLX和Gemma 4 E2B模型在macOS上直接转录音频的完整示例。该示例包含一个10.28 GB模型,并提供了真实音频输入输出的演示。

Safetensors 加入 PyTorch 基金会,推动机器学习模型安全存储
Safetensors 是一种用于存储机器学习模型权重的安全高效格式,现已正式加入 PyTorch 基金会,并由 Linux 基金会托管。这一举措确保了无厂商偏好的治理结构,同时保留了原有的 API 和格式。

Ollama新增MLX支持,让Mac本地运行大模型更快
Ollama新增了对苹果MLX框架的实验性支持,并引入NVFP4模型压缩格式,显著提升了Apple Silicon Mac上本地大语言模型(LLM)的性能。

模型量化与浮点表示的交互式指南
萨姆·罗斯发布了一篇交互式文章,用清晰的视觉和工具解释了大型语言模型中的量化和二进制浮点表示。文中引入了“异常值”概念——罕见但至关重要的权重,在量化过程中必须保留以维持模型准确性。