标量量化 Uniform（Scalar Quantization Uniform：SQ4 / SQ8 Uniform）

sq8_uniform 与 sq4_uniform 与 sq8 / sq4 类似，是标量量化 器，但它们学习的是全局唯一的 [min, max] 范围，对所有维度都使用同一 份缩放参数。这一权衡——逐维自适应能力略弱，但解码路径更简单——换来了 显著更快的 SIMD 距离计算（l2 与 ip），并保持更紧凑的码布局。

实现：src/quantization/scalar_quantization/sq8_uniform_quantizer.cpp、 src/quantization/scalar_quantization/sq4_uniform_quantizer.cpp。

为什么快：距离计算停留在整数域

这是在条件允许时优先选用 sq*_uniform 而非 sq* 的核心原因。由于每个 维度共享同一对 (min, max)，仿射解码 x = min + code · (max - min) / (2^b - 1) 对所有坐标都使用相同的 scale 与 offset。这在热路径上带来三点收益：

• query 用同一份全局 (min, max) 只编码一次，存入 uint8（或打包的 半字节）缓冲，见 ProcessQueryImpl （src/quantization/scalar_quantization/sq8_uniform_quantizer.cpp:179）。
• base 向量的 code 从不解码回 fp32。kernel SQ8UniformComputeCodesIP(uint8_t* q, uint8_t* x, dim) / SQ4UniformComputeCodesIP(...) 把两个操作数都按原始整数 code 读入， 在 uint8 / 打包半字节通道上直接用 AVX-512 / AMX（ARM 上为 NEON）做 点积，一次处理一个 cache line。内层循环里没有任何逐元素的 fp 反量化。
• 共享的 scale 与 offset 在整数累加完成之后对每对向量只补偿一次， 即可还原 fp 距离。某些度量需要的额外项（每向量的 norm 或 sum）也在 循环外加上，参见 sq8_uniform_quantizer.cpp:200 的 trailing metadata 说明以及 SQ8UniformComputeCodesIPBatch 批量 kernel。

而在逐维的 sq* 量化器里，每个坐标都有自己的 (min_i, max_i)，kernel 要么在循环内乘以逐维 scale 表，要么先把至少一边的操作数解码回 fp。 省掉这一步，就是 uniform 变种在同等召回下显著更快的根本原因。

何时使用

• HGraph / IVF / Pyramid 的热路径。 当瓶颈在基础量化器距离计算时， 在相近召回下，sq8_uniform / sq4_uniform 几乎总是比对应的非 uniform 变种更快。
• 维度间取值范围相近的数据。 归一化嵌入（cosine），或已通过 量化变换 链路（如 "rom, sq8_uniform" 或 "fht, sq8_uniform"）旋转过的向量，都是理想 输入。
• 作为 tq 链路的末端量化器。 最常见的链路是 "pca, rom, sq8_uniform"，参考示例 501。

SQ4 uniform 与 SQ8 uniform 对比

参数

sq8_uniform 没有量化器专属的 JSON 参数。

在 HGraph 上，sq4_uniform_trunc_rate 作为顶层 key 暴露，并被映射到 嵌套的量化参数中（src/algorithm/hgraph.cpp:409-416）。

{
    "dtype": "float32",
    "metric_type": "l2",
    "dim": 128,
    "index_param": {
        "base_quantization_type": "sq4_uniform",
        "sq4_uniform_trunc_rate": 0.05,
        "max_degree": 32,
        "ef_construction": 300,
        "use_reorder": true,
        "precise_quantization_type": "fp32"
    }
}

若需 8 位变种，把 "base_quantization_type" 设为 "sq8_uniform" 并去掉 trunc_rate key 即可。

训练

设置了 NEED_TRAIN。训练在所有维度上估计单一的 [min, max] （sq4_uniform 时可附加截断）。Build 会内部完成训练。

度量兼容性

l2、ip、cosine——全部支持。cosine 会先归一化再量化，这也使得 uniform 缩放在该度量下接近最优。

uniform 与非 uniform 之间如何选

• 数据已归一化（cosine 或预归一化 l2）→ 选 uniform。
• 数据各维度取值范围差异极大（如混合特征块）→ 先尝试非 uniform 的 sq*，或在旋转变换后再用 uniform（"rom, sq*_uniform"）。
• 吞吐比最后一点点召回更重要 → uniform。

相关页面

• 标量量化（SQ4 / SQ8）
• 量化变换
• 量化总览