https://zhangge.dev/tags/ Recent content in Tags on Ge Zhang · 技术笔记 https://zhangge.dev/images/site-card.png https://zhangge.dev/images/site-card.png Hugo zh-CN 2026 Ge Zhang Tue, 11 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/awq/ Tue, 11 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/awq/ https://zhangge.dev/tags/int4/ Tue, 11 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/int4/ https://zhangge.dev/tags/llm-inference/ Tue, 11 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/llm-inference/ https://zhangge.dev/tags/ptq/ Tue, 11 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/ptq/ https://zhangge.dev/tags/w4a16/ Tue, 11 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/w4a16/ https://zhangge.dev/tags/%E6%A8%A1%E5%9E%8B%E9%87%8F%E5%8C%96/ Tue, 11 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/%E6%A8%A1%E5%9E%8B%E9%87%8F%E5%8C%96/ https://zhangge.dev/tags/%E6%A8%A1%E5%9E%8B%E6%8E%A8%E7%90%86/ Tue, 11 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/%E6%A8%A1%E5%9E%8B%E6%8E%A8%E7%90%86/ https://zhangge.dev/tags/hessian/ Mon, 10 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/hessian/ https://zhangge.dev/tags/optimal-brain-surgeon/ Mon, 10 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/optimal-brain-surgeon/ https://zhangge.dev/tags/%E6%A8%A1%E5%9E%8B%E5%89%AA%E6%9E%9D/ Mon, 10 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/%E6%A8%A1%E5%9E%8B%E5%89%AA%E6%9E%9D/ https://zhangge.dev/tags/%E6%A8%A1%E5%9E%8B%E5%8E%8B%E7%BC%A9/ Mon, 10 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/%E6%A8%A1%E5%9E%8B%E5%8E%8B%E7%BC%A9/ https://zhangge.dev/tags/%E5%93%88%E5%B8%8C%E8%A1%A8/ Sat, 08 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/%E5%93%88%E5%B8%8C%E8%A1%A8/ https://zhangge.dev/tags/%E6%95%B0%E7%BB%84/ Sat, 08 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/%E6%95%B0%E7%BB%84/ https://zhangge.dev/tags/%E7%AE%97%E6%B3%95%E9%A2%98/ Sat, 08 Aug 2026 00:00:00 +0000 https://zhangge.dev/tags/%E7%AE%97%E6%B3%95%E9%A2%98/ https://zhangge.dev/tags/optimal-brain-damage/ Wed, 29 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/optimal-brain-damage/ https://zhangge.dev/tags/int8/ Tue, 28 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/int8/ https://zhangge.dev/tags/qat/ Tue, 28 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/qat/ https://zhangge.dev/tags/%E9%87%8F%E5%8C%96%E7%B2%92%E5%BA%A6/ Tue, 28 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E9%87%8F%E5%8C%96%E7%B2%92%E5%BA%A6/ https://zhangge.dev/tags/config.json/ Fri, 24 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/config.json/ https://zhangge.dev/tags/kv-cache/ Fri, 24 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/kv-cache/ https://zhangge.dev/tags/llama-2/ Fri, 24 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/llama-2/ https://zhangge.dev/tags/ai-%E5%9F%BA%E7%A1%80/ Thu, 23 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/ai-%E5%9F%BA%E7%A1%80/ https://zhangge.dev/tags/cross-attention/ Thu, 23 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/cross-attention/ https://zhangge.dev/tags/decoder-only/ Thu, 23 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/decoder-only/ https://zhangge.dev/tags/encoder-decoder/ Thu, 23 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/encoder-decoder/ https://zhangge.dev/tags/self-attention/ Thu, 23 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/self-attention/ https://zhangge.dev/tags/transformer/ Thu, 23 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/transformer/ https://zhangge.dev/tags/%E5%8F%8D%E5%90%91%E4%BC%A0%E6%92%AD/ Thu, 23 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E5%8F%8D%E5%90%91%E4%BC%A0%E6%92%AD/ https://zhangge.dev/tags/%E6%95%B0%E5%AD%A6%E7%9F%A5%E8%AF%86/ Thu, 23 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E6%95%B0%E5%AD%A6%E7%9F%A5%E8%AF%86/ https://zhangge.dev/tags/%E5%BE%AE%E7%A7%AF%E5%88%86/ Thu, 23 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E5%BE%AE%E7%A7%AF%E5%88%86/ https://zhangge.dev/tags/%E7%BA%BF%E6%80%A7%E4%BB%A3%E6%95%B0/ Thu, 23 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E7%BA%BF%E6%80%A7%E4%BB%A3%E6%95%B0/ https://zhangge.dev/tags/%E9%9B%85%E5%8F%AF%E6%AF%94%E7%9F%A9%E9%98%B5/ Thu, 23 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E9%9B%85%E5%8F%AF%E6%AF%94%E7%9F%A9%E9%98%B5/ https://zhangge.dev/tags/%E5%9B%A0%E6%9E%9C%E6%8E%A9%E7%A0%81/ Thu, 23 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E5%9B%A0%E6%9E%9C%E6%8E%A9%E7%A0%81/ https://zhangge.dev/tags/feed-forward/ Tue, 21 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/feed-forward/ https://zhangge.dev/tags/ffn/ Tue, 21 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/ffn/ https://zhangge.dev/tags/swiglu/ Tue, 21 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/swiglu/ https://zhangge.dev/tags/add--norm/ Mon, 20 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/add--norm/ https://zhangge.dev/tags/flashattention/ Mon, 20 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/flashattention/ https://zhangge.dev/tags/layernorm/ Mon, 20 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/layernorm/ https://zhangge.dev/tags/online-softmax/ Mon, 20 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/online-softmax/ https://zhangge.dev/tags/softmax/ Mon, 20 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/softmax/ https://zhangge.dev/tags/%E6%AE%8B%E5%B7%AE%E8%BF%9E%E6%8E%A5/ Mon, 20 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E6%AE%8B%E5%B7%AE%E8%BF%9E%E6%8E%A5/ https://zhangge.dev/tags/%E6%95%B0%E5%80%BC%E7%A8%B3%E5%AE%9A%E6%80%A7/ Mon, 20 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E6%95%B0%E5%80%BC%E7%A8%B3%E5%AE%9A%E6%80%A7/ https://zhangge.dev/tags/attention/ Fri, 17 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/attention/ https://zhangge.dev/tags/rope/ Fri, 17 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/rope/ https://zhangge.dev/tags/%E4%BD%8D%E7%BD%AE%E7%BC%96%E7%A0%81/ Fri, 17 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E4%BD%8D%E7%BD%AE%E7%BC%96%E7%A0%81/ https://zhangge.dev/tags/%E5%87%BD%E6%95%B0%E9%80%BC%E8%BF%91/ Thu, 16 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E5%87%BD%E6%95%B0%E9%80%BC%E8%BF%91/ https://zhangge.dev/tags/%E6%B3%B0%E5%8B%92%E5%85%AC%E5%BC%8F/ Thu, 16 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E6%B3%B0%E5%8B%92%E5%85%AC%E5%BC%8F/ https://zhangge.dev/tags/bpe/ Wed, 15 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/bpe/ https://zhangge.dev/tags/dflash/ Wed, 15 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/dflash/ https://zhangge.dev/tags/eagle-3/ Wed, 15 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/eagle-3/ https://zhangge.dev/tags/llm/ Wed, 15 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/llm/ https://zhangge.dev/tags/tokenizer/ Wed, 15 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/tokenizer/ https://zhangge.dev/tags/unigram/ Wed, 15 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/unigram/ https://zhangge.dev/tags/wordpiece/ Wed, 15 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/wordpiece/ https://zhangge.dev/tags/%E6%8A%95%E6%9C%BA%E8%A7%A3%E7%A0%81/ Wed, 15 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E6%8A%95%E6%9C%BA%E8%A7%A3%E7%A0%81/ https://zhangge.dev/tags/lru/ Tue, 14 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/lru/ https://zhangge.dev/tags/n-%E7%9A%87%E5%90%8E/ Tue, 14 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/n-%E7%9A%87%E5%90%8E/ https://zhangge.dev/tags/token-recycling/ Tue, 14 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/token-recycling/ https://zhangge.dev/tags/%E4%BA%8C%E5%8F%89%E6%90%9C%E7%B4%A2%E6%A0%91/ Tue, 14 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E4%BA%8C%E5%8F%89%E6%90%9C%E7%B4%A2%E6%A0%91/ https://zhangge.dev/tags/%E5%9B%9E%E6%BA%AF/ Tue, 14 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E5%9B%9E%E6%BA%AF/ https://zhangge.dev/tags/%E5%8F%8C%E5%90%91%E9%93%BE%E8%A1%A8/ Tue, 14 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E5%8F%8C%E5%90%91%E9%93%BE%E8%A1%A8/ https://zhangge.dev/tags/%E6%8E%A8%E7%90%86%E5%8A%A0%E9%80%9F/ Tue, 14 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E6%8E%A8%E7%90%86%E5%8A%A0%E9%80%9F/ https://zhangge.dev/tags/%E4%B8%AD%E5%BA%8F%E9%81%8D%E5%8E%86/ Tue, 14 Jul 2026 00:00:00 +0000 https://zhangge.dev/tags/%E4%B8%AD%E5%BA%8F%E9%81%8D%E5%8E%86/