#machine-learning

Simon Willison·3月27日 00:21 UTC

模型量化与浮点表示的交互式指南

萨姆·罗斯发布了一篇交互式文章，用清晰的视觉和工具解释了大型语言模型中的量化和二进制浮点表示。文中引入了“异常值”概念——罕见但至关重要的权重，在量化过程中必须保留以维持模型准确性。