ArchiveSearchRSS
大海捞针(needle-in-a-haystack)这类评测已经饱和了,但它测的其实是检索,不是推理。
从 KV cache 中丢掉第一个 token,模型质量的下降远超它的语义信息量所能解释的程度。