一文了解Transformer全貌（图解Transformer）
Sep 26, 2025 · 网上有关Transformer原理的介绍很多，在本文中我们将尽量模型简化，让普通读者也能轻松理解。 1. Transformer整体结构 在机器翻译中，Transformer可以将一种语言翻译成 …
如何从浅入深理解 Transformer？ - 知乎
Transformer升级之路：1、Sinusoidal位置编码追根溯源 Transformer升级之路：2、博采众长的旋转式位置编码 猛猿：Transformer学习笔记一：Positional Encoding（位置编码） 解密旋转位 …
如何最简单、通俗地理解Transformer？ - 知乎
Transformer最开始应用于NLP领域的机器翻译任务，但是它的通用性很好，除了NLP领域的其他任务，经过变体，还可以用于视觉领域，如ViT（Vision Transformer）。 这些特点 …
为什么 2024 年以后 MMDiT 模块成为了大规模文生视频或者文生 …
而且对于纯transformer架构，文本tokens和图像tokens拼接在一起也是很自然且容易的事情（UNet的图像是2D特征，而文本是1D特征）。 而且，SD3的技术报告中其实也对不同的架构 …
Transformer - Attention is all you need - 知乎
《Attention Is All You Need》是Google在2017年提出的一篇将Attention思想发挥到极致的论文。该论文提出的Transformer模型，基于encoder-decoder架构，抛弃了传统的RNN、CNN模 …
深入理解Transformer中的位置编码：
旋转位置嵌入——图片来自 [6] Transformer的核心组件之一是嵌入（embeddings）。你可能会问：为什么？因为Transformer的自注意力机制是置换不变的（permutation-invariant）；它会计 …
CNN，Transformer，MLP 三大架构的特点是什么？ - 知乎
CNN擅长处理图像数据，具有强大的特征提取能力；Transformer通过自注意力机制实现了高效的并行计算，适用于处理序列数据；而MLP则以其强大的表达能力和泛化能力，在多种类型的机 …
大模型面试：八股文+题目整理 - 知乎
NLP、算法、大模型、Python编程 在 Transformer 出现之前，序列建模主要依赖循环神经网络（RNN）及其改进版本 LSTM 和 GRU，它们通过递归结构逐步处理序列，适用于语言建模、 …
VAE、GAN 这种生成模型和 transformer 有什么区别？ - 知乎
想认识Transformer以及最火的GPT结构，请移步以下一个答主认为比较清晰易懂的解答： 不妨让我们一起聚焦当下火热的生成式AI的内核——强大的生成模型，看看这种生成和Transformer …
你对下一代Transformer架构的预测是什么？ - 知乎
2. 引入随机化（Randomized Transformer） Transformer巨大的规模使得不管训练还是推理都极具挑战。 然而，很少有人知道的是，引入随机化矩阵算法可以减少Transformer需要的FLOPs。 …