https://datafox.tw/tags/information-theory/Recent content in Information Theory on datafox.twhttps://datafox.tw/images/Open_graph_image.pnghttps://datafox.tw/images/Open_graph_image.pngHugo -- 0.146.0zh-twThu, 21 May 2026 00:00:00 +0000https://datafox.tw/posts/decoder-only-vs-seq2seq-information-theory/Thu, 21 May 2026 00:00:00 +0000https://datafox.tw/posts/decoder-only-vs-seq2seq-information-theory/跟上一篇相關，但是這裡從從資訊理論、KL 散度與有損壓縮的底層數學出發，拆解模型湧現能力的真實由來。