Topic
#machine-learning
按主题聚合的新闻视图。
Topic Feed
主题:machine-learning
共 5 条

DiScoFormer统一密度与评分估计
AllenAI 提出了 DiScoFormer,这是一种 transformer 模型,只需一次前向传播就能从一组数据点中同时估计密度和 score。文章称,该模型可以跨不同分布工作,利用交叉注意力在任意位置查询,并且能够在推理时借助无标签的一致性损失进行自适应。
使用MLX在macOS上实现Gemma 4音频转录
西蒙·威尔森分享了一个使用MLX和Gemma 4 E2B模型在macOS上直接转录音频的完整示例。该示例包含一个10.28 GB模型,并提供了真实音频输入输出的演示。

Safetensors 加入 PyTorch 基金会,推动机器学习模型安全存储
Safetensors 是一种用于存储机器学习模型权重的安全高效格式,现已正式加入 PyTorch 基金会,并由 Linux 基金会托管。这一举措确保了无厂商偏好的治理结构,同时保留了原有的 API 和格式。

Ollama新增MLX支持,让Mac本地运行大模型更快
Ollama新增了对苹果MLX框架的实验性支持,并引入NVFP4模型压缩格式,显著提升了Apple Silicon Mac上本地大语言模型(LLM)的性能。

模型量化与浮点表示的交互式指南
萨姆·罗斯发布了一篇交互式文章,用清晰的视觉和工具解释了大型语言模型中的量化和二进制浮点表示。文中引入了“异常值”概念——罕见但至关重要的权重,在量化过程中必须保留以维持模型准确性。