赛尔译文 | 从头开始了解Transformer - JOYK Joy of Geek, Geek News, Link all geek

作者：Peter Bloem

原文：TRANSFORMERS FROM SCRATCH

链接：http://www.peterbloem.nl/blog/transformers

代码：https://github.com/pbloem/former

译者：哈工大SCIR 徐啸，顾宇轩

编者按：自2017年提出以来，Transformer在众多自然语言处理问题中取得了非常好的效果。它不但训练速度更快，而且更适合建模长距离依赖关系，因此大有取代循环或卷积神经网络，一统自然语言处理的深度模型江湖之势。我们（赛尔公众号）曾于去年底翻译了哈佛大学Alexander Rush教授撰写的《Transformer注解及PyTorch实现》一文，并获得了广泛关注。近期，来自荷兰阿姆斯特丹大学的Peter Bloem博士发表博文，从零基础开始，深入浅出的介绍了Transformer模型，并配以PyTorch的代码实现。我非常喜欢其中对Self-attention（Transformer的核心组件）工作基本原理进行解释的例子。此外，该文还介绍了最新的Transformer-XL、Sparse Transformer等模型，以及基于Transformer的BERT和GPT-2等预训练模型。我们将其翻译为中文，希望能帮助各位对Transformer感兴趣，并想了解其最新进展的读者。

——哈工大SCIR公众号主编车万翔教授

Transformer 是一种非常令人兴奋的机器学习架构。目前已经有许多优秀的Transformer教程 (例如[1,2])，但在最近几年中，Transformer 大多变得更简单，让我们能更直接地解释最新的Transformer架构是如何工作的。 这篇文章试图在不受一些历史包袱的影响下直接解释最新Transformer是如何工作的，以及其为什么有效。

本文假设读者对于神经网络和反向传播有基本的了解。如果你想要了解，这篇讲座( https://youtu.be/g2lziWxf_9Q )可以提供神经网络的基础知识，同时这篇( https://youtu.be/VZwrbIBNzzA )将解释如何把这些原理应用于现代深度学习系统。

编者注：关于神经网络和反向传播的基础知识，推荐阅读赛尔译文《神经网络与深度学习》连载。

读者需要了解Pytorch的工作原理 ( https://pytorch.org/tutorials/beginner/deep_learning_60min_blitz.html )来理解编程示例，但也可以放心地跳过这些示例。

Self-attention

任何Transformer架构的基本操作就是 self-attention 。

我们将在后面解释“self-attention”这个名称的来源，现在不需要纠结于此。

Self-attention是一个序列到序列的操作：一组向量输入，一组向量输出。让我们用 FVBnUvZ.jpg!web 表示输入向量，对应的输出向量 6rMZ3eq.jpg!web 。所有的向量都有相同的维度 k 。

为了产生输出向量 iEjIzyU.jpg!web ，self-attention操作仅对 所有输入向量进行加权平均

2E7ZRf6.png!web

其中 j 是对整个序列的索引，并且其权重总和为 1 。权重 zIZrume.jpg!web 不是正常的神经网络中的参数，而是从和推导出的函数。这个函数最简单的选项是点积：

VBJb6bQ.png!web

注意，是与当前输出向量位置相同的输入向量。对于下一个输出向量，我们使用一系列全新的点积操作，以及不同的加权和。

点积给出的值在负无穷和正无穷之间，因此我们应用softmax将值映射到 [0,1]并确保它们在整个序列中总和为 1 ：

6zAFZrf.png!web

这就是self-attention的基本操作。

rYB7rin.png!web

基于self-attention的可视化表示。注意未标示出对权重的softmax操作。

完整的Transformer需要一些其他的成分，我们将在之后讨论，但这是基本的操作。更重要的是，这是整个架构中唯一在向量之间传播信息的操作。Transformer中的其余每项操作均应用于输入序列中的各个向量，而不会在向量之间进行交互。

理解为什么self-attention有效

尽管self-attention很简单，但它为何有效并非显而易见。让我们先看看电影推荐任务的标准方法来建立一些直觉。

假设你经营一家电影租赁公司并且有一些电影和一些用户。你希望向你的用户推荐他们可能喜欢的电影。

解决这个问题的一种方法是为电影建立人工特征，例如电影中有多少浪漫成分，以及多少动作成分，然后为用户设计相应的特征：他们喜欢浪漫电影的程度以及他们喜欢动作电影的程度。这样两个特征向量之间的点积将提供电影属性与用户喜好的匹配程度的分数。

aE7niqF.png!web

如果特征的符号与用户和电影相匹配 — 电影是浪漫的并且用户喜欢浪漫或者电影是不浪漫的并且用户讨厌浪漫 — 那么该特征得到的点积是一个正值。如果符号不匹配 — 电影是浪漫的并且用户讨厌浪漫，反之亦然 — 相应的值是负的。

此外，特征的 数值大小 表明该特征应该对总分有多大贡献：电影可能有点浪漫但是不够明显，或者用户可能是不喜欢浪漫但又有点矛盾。

当然，收集这些特征是不切实际的。对数百万部电影的数据库进行标注是非常昂贵的，并且用喜好程度来标注每一个用户几乎是不可能的。

相反，我们让电影特征和用户特征成为模型的参数。然后，我们向用户询问少量他们喜欢的电影，并优化用户特征和电影特征，使它们的点积与已知喜欢的产品相匹配。

即使我们没有告诉模型各个特征的意义，但实际上，经过训练后，这些特征实际上反映了有关电影内容的有意义的信息。

qIZf22R.png!web

前两个从基本矩阵分解模型中学到的特征。该模型无法访问有关电影内容的任何信息，只有用户喜欢的内容。注意，电影从浅显的到深奥的水平排列，从主流到古怪垂直排列。详见[4]。

有关推荐系统的更多详细信息，请参阅本讲座( https://youtu.be/L2mJ4o7F434 )。目前，这足以解释点积如何帮助我们表示对象及其关系。

这是self-attention工作的基本原理。假设我们面对的是一系列单词。为了应用self-attention，我们简单地给词表中的每个单词 t 分配一个嵌入向量 (我们需要学习的值)。这是所谓的序列模型中的嵌入层，它将单词序列从

得到向量序列

iuMRVn6.png!web

如果我们将该序列输入self-attention层，输出则为另外一列向量

，其中 qmemiyQ.jpg!web 是第一个序列中所有嵌入向量的加权和，由它们的点积(归一化)与 uQRzUzQ.jpg!web 加权。

由于我们正在学习中的值应该是什么，两个词有多“相关”是完全由任务决定的。在大多数情况下，定冠词( the )与句子中其他词的解释不太相关；因此，我们可能会最终得到一个包含所有其他单词的低的或负的点积值的嵌入 buMZf2E.jpg!web 。另一方面，要解释这句话中的步行( walks )意义，找出谁在走路是非常有帮助的。这可能是由名词表达的，所以对于像猫( cat )这样的名词和像步行( walks )这样的动词，我们可能会学习嵌入 uQRzUzQ.jpg!web 和 FZNBjmM.jpg!web ，使它们具有高的正的点积值。

这是self-attention背后的基本直觉。点积表示输入序列中两个向量的由学习任务定义的“相关”程度，并且输出向量是整个输入序列的加权和，其权重由这些点积确定。

在我们继续之前，以下对于序列到序列的操作不常见的特性值得注意：

模型中(目前)没有参数。基本的self-attention实际上完全取决于产生输入序列的任何机制。上游机制，如嵌入层，通过学习特定点积的表示来驱动self-attention(尽管我们稍后会添加一些参数)。
Self-attention将其输入视为一个集合，而不是序列。如果我们置换输入序列，输出序列将完全相同，除了置换之外（即self-attention是 置换等变 的）。当我们构建完整的Transformer时，我们会稍微减弱这一性质，但是self-attention本身实际上忽略了输入的顺序性质。

Pytorch实现: 基本的self-attention

正如费曼所说，我不能创造我不理解的东西。随着我们的进展，我们将构建一个简单的Transformer。因此首先需要在Pytorch中实现这个基本的self-attention操作。

我们应该做的第一件事就是弄清楚如何在矩阵乘法中表达self-attention。简单地循环所有向量以计算权重和输出过于缓慢。

我们将维数为 k 的 t 个向量的输入表示为 t * k 的矩阵 X 。包括一个minibatch维度 b ，得到一个大小为 ( b, t, k ) 的输入张量。

所有原始点积的集合 V3iYjm3.jpg!web 形成一个矩阵，我们可以通过简单地将矩阵 X 乘上它自己的转置来得到：

import torch
import torch.nn.functional as F

# assume we have some tensor x with size (b, t, k)
x = ...

raw_weights = torch.bmm(x, x.transpose(1, 2))
# - torch.bmm is a batched matrix multiplication. It 
#   applies matrix multiplication over batches of 
#   matrices.

然后，为了将原始权重 V3iYjm3.jpg!web 转换为总和为 1 的正值，我们使用按行操作的softmax：

weights = F.softmax(raw_weights, dim=2)

最后，为了计算输出序列，我们只需将权重矩阵乘以 X 。这产生一批大小为 (b, t, e) 的输出矩阵 Y ，其行是对矩阵 X 的行的加权和。

y = torch.bmm(weights, x)

以上就是通过两个矩阵乘法和一个softmax实现的self-attention。

额外技巧

最新的Transformer中实际使用的self-attention依赖的三个额外技巧。

1) 查询、键和值

每个输入向量在self-attention中以三种不同的方式使用：

与其余每个向量进行比较以确定其自身输出的权重
将其与其余每个向量进行比较，以确定第 j 个向量输出的权重
在确定了权重之后被用作加权和的一部分来计算每个输出向量

这些角色通常称为 查询(Query) 、 键(Key) 和 值(Value) （我们将在后面解释这些名称的来源）。在我们到目前为止看到的基本self-attention中，每个输入向量必须扮演所有三个角色。通过对原始输入向量应用线性变换，我们能更轻松地为每个角色推导出新的向量。换句话说，我们添加三个 k * k 的权重矩阵 eEvMven.jpg!web 并计算每个的三个线性变换，用于self-attention的三个不同部分：

EjuuUnu.jpg!web

zuUvIfi.jpg!web

这为self-attention层提供了一些可控参数，并允许它修改传入的向量以适应它们必须扮演的三个角色。

qaUbmaR.png!web

查询、键和值与self-attention的流程图

2) 缩放点积

Softmax函数对非常大的输入值会很敏感。这会导致梯度消失，并减慢学习速度，甚至使其完全停止。由于点积的平均值随着嵌入向量维度 k 的增长而增长，所以将点积的值减小一点有助于防止softmax函数的输入变得过大：

VFFb22R.png!web

为什么是 2Aneqa7.jpg!web ？假设有一个值全为 c 的 k 维向量，它的欧几里德长度是 RBV3ayB.jpg!web 。因此，我们除以随着维度增加而使向量均值增长的倍率。

3) Multi-head attention

最后，我们必须考虑到一个词对不同的邻居有不同的意思。考虑以下示例。

iIJbQvN.png!web

我们看到单词 gave 和句子中的不同部分有不同的关系。 mary 表示谁正在做给予这件事，而 roses 表示正在被给予的东西， susan 则表示接受者是谁。

在一个简单的self-attention操作中，所有这些信息只被求和到一起。如果 susan 给了 Mary 玫瑰花，输出的向量 Q3mu6bM.jpg!web 会是相同的，即使含义已经改变了。

我们可以通过结合几种有不同矩阵 Jvqimyy.jpg!web 的self-attention机制（用 r 来作为索引）来使其具有更强的辨别能力。这些不同的self-attention机制被称为 attention heads。

对于输入，每个attention head产生不同的输出向量。我们将它们连接起来，并通过线性变换将它们的维度变回 k 。

Pytorch实现: 完整的self-attention

现在让我们实现一个详尽的self-attention模块。我们将它打包成Pytorch模块，以便以后重用。

import torch
from torch import nn
import torch.nn.functional as F

class SelfAttention(nn.Module):
def __init__(self, k, heads=8):
    super().__init__()
    self.k, self.heads = k, heads

267fU3r.png!web

将三个attention heads组合成一个矩阵（和queries相乘）

我们将h个attention heads视为三个矩阵 Jvqimyy.jpg!web 的h个独立的集合，但实际上将所有heads组合成三个 k * hk 矩阵更有效，这样我们就可以通过一个乘法计算所有查询、键和值。

    # These compute the queries, keys and values for all 
# heads (as a single concatenated vector)
    self.tokeys    = nn.Linear(k, k * heads, bias=False)
    self.toqueries = nn.Linear(k, k * heads, bias=False)
    self.tovalues  = nn.Linear(k, k * heads, bias=False)

# This unifies the outputs of the different heads into 
# a single k-vector
    self.unifyheads = nn.Linear(heads * k, k)

我们现在可以实现self-attention的计算（模块的前向功能）。首先，我们计算查询、键和值：

  def forward(self, x):
    b, t, k = x.size()
    h = self.heads

    queries = self.toqueries(x).view(b, t, h, k)
    keys    = self.tokeys(x)   .view(b, t, h, k)
    values  = self.tovalues(x) .view(b, t, h, k)

每个线性模块的输出具有大小 (b，t，h * k) ，我们简单地重塑为 (b，t，h，k) 给每个head自己的维度。

接下来，我们需要计算点积。这与每个head的操作相同，因此我们将head折叠到batch的维度中。这确保我们可以像以前一样使用 torch.bmm() ，并且键、查询和值的整个集合将被视为稍微大一些的batch。

由于head和batch的维度不是彼此相邻，我们需要在重塑之前进行转置。（这很昂贵，但似乎是不可避免的。）

    # - fold heads into the batch dimension
    keys = keys.transpose(1, 2).contiguous().view(b * h, t, k)
    queries = queries.transpose(1, 2).contiguous().view(b * h, t, k)
    values = values.transpose(1, 2).contiguous().view(b * h, t, k)

之前点积可以在单个矩阵乘法中计算，但现在在查询和键之间进行。

在此之前，我们需要将点积的缩放移动 2Aneqa7.jpg!web ，而现在需要将键和查询在相乘之前各自按 6ZVjUjz.jpg!web 进行缩放。这样可以为较长的序列节省内存。

    queries = queries / (k ** (1/4))
    keys    = keys / (k ** (1/4))

# - get dot product of queries and keys, and scale
    dot = torch.bmm(queries, keys.transpose(1, 2))
# - dot has size (b*h, t, t) containing raw weights

    dot = F.softmax(dot, dim=2) 
# - dot now contains row-wise normalized weights

我们将self-attention应用于值，从而得到每个attention head的输出。

    # apply the self attention to the values
    out = torch.bmm(dot, values).view(b, h, t, k)

为了统一attention head，我们再次进行转置，使head的维度和嵌入的维度彼此相邻，并重新形成维度为 kh 的拼接向量。之后，我们通过unifyheads层将它们投影回 k 维。

    # swap h, t back, unify heads
    out = out.transpose(1, 2).contiguous().view(b, t, h * k)
return self.unifyheads(out)

现在我们理解了multi-head和scaled dot-product self-attention。你可以在这里( https://github.com/pbloem/former/blob/b438731ceeaf6c468f8b961bb07c2adde3b54a9f/former/modules.py#L10 )查看完整的实现。

构建transformers

Transformer不只是一个self-attention层，它是一个架构。目前Transformer的定义还不清楚，但在这里我们将使用以下定义：

任何用于处理连接单元集 ( connected units ) 的体系结构——例如序列中的标记或图像中的像素——单元之间的唯一交互是通过self-attention。

与其他机制 (例如卷积) 一样，已经出现了或多或少的标准方法，用于如何将self-attention层构建到更大的网络中。第一步是将self-attention包装成一个我们可以重复使用的块。

Transformer块 (block)

关于如何构建基本的Transformer存在一些变化，但大多数结构大致如下：

eeqaUjE.png!web

也就是说，这一模块依次应用：self-attention层，层归一化（layer normalization）层，前馈层（一个独立地应用于每个向量的 MLP 层），以及另一个归一化层。在归一化之前，在两者之间添加残差连接（Residual connections）。各种组件的顺序不是一成不变的；重要的是将self-attention与本地前馈相结合，并添加归一化和残差连接。

归一化和残差连接是用于帮助深度神经网络训练更快，更准确的标准技巧。归一化层仅作用于嵌入维度。

下面是Transformer在pytorch中的样子

class TransformerBlock(nn.Module):
def __init__(self, k, heads):
    super().__init__()

    self.attention = SelfAttention(k, heads=heads)

    self.norm1 = nn.LayerNorm(k)
    self.norm2 = nn.LayerNorm(k)

    self.ff = nn.Sequential(
      nn.Linear(k, 4 * k),
      nn.ReLU(),
      nn.Linear(4 * k, k))

def forward(self, x):
    attended = self.attention(x)
    x = self.norm1(attended + x)

    fedforward = self.ff(x)
return self.norm2(fedforward + x)

我们做了相对随意的选择，使前馈的隐藏层的隐藏层节点数量成为输入和输出节点数量的 4 倍。较小的值也可以起作用，并节省内存，但它应该大于输入/输出层。

分类Transformer

我们可以构建的最简单的Transformer是序列分类器。我们将使用 IMDb 情绪分类数据集：实例是电影评论，被标记为单词序列，并且分类标签是正面 (positive) 和负面 (negative) 的 (指示评论是关于电影的正面还是负面) 。

该架构的核心只是一大堆的Transformer块。我们需要做的就是弄清楚如何为输入序列提供输入，以及如何将最终输出序列转换为一个单一分类。

我们不会在这篇博客文章中讲解处理数据的事情。按照代码中的链接查看数据的加载和准备方式。整个实验可以在这里找到： https://github.com/pbloem/former/blob/master/experiments/classify.py

输出: 生成分类

从序列到序列层构建序列分类器的最常用方法，是将全局平均池化应用于最终的输出序列，并将结果映射为 softmax 处理后的类别向量。

AbyMniN.png!web

一个简单的序列分类 Transformer 的概述。对输出序列求平均以产生表示整个序列的单一向量。该向量被投影到一个向量，向量中的每一个元素对应实际的每一个类别，并且使用 softmax 以生成概率。

输入: 使用位置

我们已经讨论了嵌入层的原理。我们使用它来表示单词。

但是，正如我们已经提到的那样，我们堆叠置换等变层，最终的全局平均池化是置换不变的，因此整个网络也是置换不变的。更简单地说：如果我们打乱句子中的单词，无论我们学习到什么权重，我们都会得到完全相同的分类。显然，我们希望我们最先进的语言模型至少对单词顺序有一些敏感性，因此需要修复这一问题。

解决方案很简单：我们创建一个等长的第二个向量，它表示单词在当前句子中的位置，并将其添加到单词嵌入中。这里有两种选择。

位置嵌入我们只是简单地像创建词嵌入一样，创建了位置的嵌入。就像我们创建嵌入向量 MfyA7nR.jpg!web 和 amiUbiy.jpg!web 一样，我们创建嵌入向量 FJnAnem.jpg!web 和。无论我们期望得到的序列有多长。缺点是我们必须在训练期间知道每个序列的长度，否则相关的位置嵌入不会被训练。好处是它工作得很好，而且很容易实现。

位置编码位置编码的工作方式与嵌入相同，只是我们不学习位置向量，我们只选择一些函数 FryAvav.jpg!web 来将位置映射到实值向量，并且让网络弄清楚如何解释这些编码。好处是，对于精心挑选的函数，网络应该能够处理比训练期间看到的更长的序列（神经网络可能在这些编码上的表现不够好，但至少我们可以检查）。缺点是编码函数的选择是一个复杂的超参数，它使实现变得复杂一点。

为简单起见，我们将在实现中使用位置嵌入。

Pytorch

这是pytorch中的完整文本分类Transformer。

class Transformer(nn.Module):
def __init__(self, k, heads, depth, seq_length, num_tokens, num_classes):
        super().__init__()

        self.num_tokens = num_tokens
        self.token_emb = nn.Embedding(k, num_tokens)
        self.pos_emb = nn.Embedding(k, seq_length)

# The sequence of transformer blocks that does all the 
# heavy lifting
        tblocks = []
for i in range(depth):
            tblocks.append(TransformerBlock(k=k, heads=heads))
        self.tblocks = nn.Sequential(*tblocks)

# Maps the final output sequence to class logits
        self.toprobs = nn.Linear(k, num_classes)

def forward(self, x):
"""
        :param x: A (b, t) tensor of integer values representing 
                  words (in some predetermined vocabulary).
        :return: A (b, c) tensor of log-probabilities over the 
                 classes (where c is the nr. of classes).
        """
# generate token embeddings
        tokens = self.token_emb(x)
        b, t, e = tokens.size()

# generate position embeddings
        positions = torch.arange(t)
        positions = self.pos_emb(positions)[None, :, :].expand(b, t, e)

        x = tokens + positions
        x = self.tblocks(x)

# Average-pool over the t dimension and project to class 
# probabilities
        x = self.toprobs(x.mean(dim=1))
return F.log_softmax(x, dim=1)

在深度为 6 ，最大序列长度为 512 时，该Transformer的精度达到约 85％ ，与RNN模型的结果相比更好，并且训练速度更快。为了看到Transformer真正的近人类的表现，我们需要在更多数据上训练更深入的模式。更多关于如何在以后做到这一点。

文本生成Transformer

我们下一个将尝试的技巧是自回归 (autoregressive) 模型。我们将训练一个字符级 Transformer 来预测序列中的下一个字符。训练制度很简单 (并且比 Transformer 的周期长得多（http://karpathy.github.io/2015/05/21/rnn-effectiveness/） )。我们向序列到序列模型输入一个序列，并且我们要求它预测序列中每个时间点的下一个字符。换句话说，目标输出是向左移动一个字符的相同序列：

ZV7riiZ.png!web

对于 RNN ，这是我们需要做的全部，因为它们无法在输入序列中向前看：输出 i 仅取决于输入 0 到 i 。对Transformer，输出取决于整个输入序列，因此预测下一个字符变得很容易，只需从输入中检索它。

要使用self-attention作为自回归模型，我们需要确保它不能在序列中向前看。我们通过在应用softmax之前，将掩码应用于点积矩阵来实现此目的。该掩码禁用矩阵对角线上方的所有元素。

FbMBb2M.png!web

使用mask的self-attention，确保元素只能处理序列中前面的输入元素。请注意，乘法符号有点误导：我们实际上将屏蔽掉的元素（白色方块）设置为负无穷。

由于我们希望在softmax之后这些元素为零，我们将它们设置为负无穷。下面是 pytorch 中的实现：

dot = torch.bmm(queries, keys.transpose(1, 2))

indices = torch.triu_indices(k, k, offset=0)
dot[:, indices[0], indices[1]] = float('-inf')

dot = F.softmax(dot, dim=2)

在我们像这样阻碍self-attention模块之后，模型不再能够在序列中向前看。

我们在标准 enwik8 数据集上训练 (取自 Hutter 奖（http://prize.hutter1.net/） ) ，其中包含 f6v2YbZ.jpg!web 个来自维基百科文本的字符 (包括标记) 。在训练期间，我们通过从数据中随机抽取子序列来生成多个批次。

我们使用 12 个Transformer块和嵌入维度为 256 的模型训练长度为 256 的序列。在RTX 2080Ti（大约 170K 个大小为 32 的批次）的大约 24 小时训练之后，我们让模型从一个 256 个字符的种子开始生成：对于每个字符，我们为它提供前面的 256 个字符，并查看它为下一个字符（最后一个输出向量）预测的内容。我们从temperature（ https://towardsdatascience.com/how-to-sample-from-language-models-682bceb97277 ）为 0.5 的样本中进行采样，然后移动到下一个字符。

输出像下面这样：

1228X Human & Rousseau. Because many of his stories were originally published in long-forgotten magazines and journals, there are a number of [[anthology|anthologies]] by different collators each containing a different selection. His original books have been considered an anthologie in the [[Middle Ages]], and were likely to be one of the most common in the [[Indian Ocean]] in the [[1st century]]. As a result of his death, the Bible was recognised as a counter-attack by the [[Gospel of Matthew]] (1177-1133), and the [[Saxony|Saxons]] of the [[Isle of Matthew]] (1100-1138), the third was a topic of the [[Saxony|Saxon]] throne, and the [[Roman Empire|Roman]] troops of [[Antiochia]] (1145-1148). The [[Roman Empire|Romans]] resigned in [[1148]] and [[1148]] began to collapse. The [[Saxony|Saxons]] of the [[Battle of Valasander]] reported the y

请注意，这里正确使用了Wikipedia链接标记语法，链接中的文本代表链接的合理主题。最重要的是，请注意有一个粗略的主题一致性；生成的文本在不同地方使用不同的相关术语保持圣经和罗马帝国的主题。虽然这远远不如GPT-2这样的模型的性能，但是相比于RNN模型的优势已经很明显：更快的训练 (类似的RNN模型需要花费很多天训练) 和更好的长期一致性。

如果你很好奇，the Battle of Valasander 似乎是网络的发明。

此时，该模型在验证集上实现每字节 1.343 比特的压缩，这与GPT-2模型 (下面描述) 实现的每字节 0.93 比特的现有技术相差不太远。

设计注意事项

为了理解为什么Transformer以这种方式设置，这有助于理解其中的基本设计注意事项。Transformer的主要目的是克服之前最先进的RNN架构 (通常是LSTM或GRU) 的问题。展开后（ https://colah.github.io/posts/2015-08-Understanding-LSTMs/ ），RNN看起来像这样：

22qmue7.png!web

这里最大的弱点是循环连接。虽然这允许信息沿着序列传播，但这也意味着我们无法在时间步骤 i 计算单元，直到我们在时间步长 i-1 计算单元。将此与 1D 卷积进行对比：

mimYR3B.png!web

在该模型中，每个输出向量可以与其他每个输出向量并行计算。这使得卷积更快。然而，卷积的缺点在于它们在模拟远程依赖方面受到严重限制。在一个卷积层中，只有相距比卷积核大小更小的单词才能相互交互。为了更长的依赖性，我们需要堆叠许多卷积。

Transformer试图吸收两者的优点。它们可以对输入序列的整个范围建立依赖关系，就像它们彼此相邻的单词一样容易 (事实上，没有位置向量，它们甚至无法区分) 。然而，这里没有循环连接，因此可以以非常有效的前馈方式计算整个模型。

Transformer设计的其余部分主要基于一个考虑因素：深度。大多数选择都来自于训练大量Transformer块的愿望。注意，例如Transformer中只有两个位置出现非线性：self-attention中的softmax和前馈层中的ReLU。模型的其余部分完全由线性变换组成，完美地保留了梯度。

我认为层归一化也是非线性的，但这是一个实际上有助于保持梯度在向下传播回网络时，保持稳定的非线性。

历史包袱

如果你已经读过其他Transformer的介绍，你可能已经注意到它们包含了我跳过的一些内容。我认为这些都不是理解最新的Transformer的必要条件。然而，它们有助于理解一些术语和一些关于最新的Transformer的文章。

为什么称作self-attention?

在首次提出self-attention之前，序列模型主要包括堆叠在一起的循环网络或卷积。实验表明有些时候通过添加注意力机制能够提升模型性能：引入了一个中间机制而不是将前一层的输出序列直接输送到下一层。

一般机制如下。我们将输入称为值 (value) 。一些 (可训练的) 机制为每个值分配一个键 (key) 。然后，对于每个输出，一些其他机制指定一个查询 (query) 。

这些名称源自键值存储的数据结构。在这种情况下，我们希望我们存储中只有一个项目具有与查询匹配的密钥，该查询在执行查询时返回。注意力是一个更宽松的版本：对于任一查询而言，存储中的每个键都在某种程度上与该查询相关。我们返回所有键与该查询匹配程度的结果并且进行加权求和。

self-attention 的重大突破是，注意力本身就是一个足够强大的机制来完成所有的学习。正如作者所说， Attention is all you need（ https://arxiv.org/abs/1706.03762 ）。键、查询和值都是相同的向量（具有轻微的线性变换）。它们关注自己，堆叠这种self-attention提供了足够的非线性和表示能力来学习非常复杂的函数。

最初的Transformer: 编码器和解码器

但作者并没有免除当代序列建模的所有复杂性。过去，序列到序列模型的标准结构是编码器 - 解码器架构，使用教师强制(teacher forcing) （https://blog.keras.io/a-ten-minute-introduction-to-sequence-to-sequence-learning-in-keras.html）。

jqUjIbU.png!web

编码器获取输入序列并将其映射到表示整个序列的单个潜在向量。然后将该向量传递给解码器，解码器将其取出到所需的目标序列 (例如，另一种语言的同一句话) 。

教师强制指的是也允许解码器访问输入句子的技术，但是是以自回归方式。也就是说，解码器基于潜在向量和它已经生成的单词生成逐字输出语句。这消除了潜在表示的一些压力：解码器可以使用逐字逐句采样来处理句法和语法等低级结构，并使用潜在向量来捕获更高级别的语义结构。理想情况下，使用相同的潜在向量解码两次将给出两个具有相同含义的不同句子。

在后来的Transformer中，如BERT和GPT-2，完全省去了编码器/解码器配置。发现一堆简单的Transformer块足以在许多基于序列的任务中实现现有技术水平。

这有时被称为decoder-only Transformer (用于自回归模型) 或encoder-only Transformer (用于没有掩码的模型) 。

更进一步

训练Transformer的一大瓶颈是self-attention的点积矩阵。对于序列长度t ，这是包含个元素的密集矩阵。在标准的 32 位精度下，当 t = 1000 时，一批 16 个这样的矩阵占用大约 250Mb 的内存。由于我们每次self-attention的操作至少需要四次 (在softmax之前和之后，加上它们的梯度) ，这使得我们在标准 12Gb GPU中最多使用 12 个Transformer层。在实践中，我们能用的更少，因为输入和输出也占用了大量内存 (尽管点积占主导地位) 。

然而，文献中报道的模型包含的序列长度超过 12000 ，具有 48 层Transformer（ https://openai.com/blog/sparse-transformer/ ），使用密集点积矩阵。当然，这些模型在集群上进行训练，但仍然需要单个GPU来执行单个前向/后向传播。我们如何将这些巨大的Transformer装入 12Gb 的内存中？有三个主要技巧：

半精度在现代GPU和TPU上，张量计算可以在 16 位浮点张量上有效地完成。这并不像将张量的 dtype 设置为 torch.float16 那么简单。对于网络的某些部分，如损失，需要 32 位精度。但是现有的库（ https://github.com/NVIDIA/apex ）可以相对轻松地处理大部分内容。实际上，这会使你的有效内存加倍。

梯度积累对于大型模型，我们可能只能在单个实例上执行前向/后向传播。批量大小为 1 时不太能进行稳定的学习。幸运的是，我们可以在更大的批次中为每个实例执行单个前进/后退，并简单地加和我们得到的梯度 (这是多变量链规则的结果（https://youtu.be/VZwrbIBNzzA?t=1562） ) 。当我们处理完该批次时，执行单步的梯度下降，并将梯度归零。在Pytorch中，这很容易：你觉得你的训练循环中的 optimizer.zero_grad() 调用似乎是多余的吗？如果你不进行该调用，新的梯度会被简单地添加到旧梯度中。

设置梯度检查点如果你的模型太大，即使单个前进/后退内存也会溢出，你可以为了内存效率权衡更多的计算。在梯度检查点中，将模型分成几个部分。对于每个部分，可以单独向前/向后计算梯度，而不保留其余部分的中间值。Pytorch有特殊的设置梯度检查点的功能（ https://pytorch.org/docs/stable/checkpoint.html ）。

有关如何执行此操作的详细信息，请参阅此博客帖子( https://medium.com/huggingface/training-larger-batches-practical-tips-on-1-gpu-multi-gpu-distributed-setups-ec88c3e51255 )。

结论

几十年来，Transformer可能是最简单的机器学习架构。如果还没有关注它们的话，现在你有充分的理由了。

首先， 当前的性能限制纯粹是在硬件中 。与卷积或LSTMs不同，当前对它们能力的限制完全取决于我们可以在GPU内存中放置的模型有多大以及我们可以在一段可靠的时间内推送多少数据。我毫不怀疑，我们最终会达到更多层次和更多数据不再有用的程度，但目前似乎还有远未达到。

其次， Transformer非常通用 。到目前为止，Transformer在语言建模方面以及图像和音乐分析方面取得了巨大成功，但其普遍性还有待探索。基本的Transformer是一种set-to-set的模型。只要你的数据是一组单位，就可以应用Transformer。你可以通过添加位置嵌入或通过修改注意力矩阵的结构 (使其稀疏或掩盖部分) 来添加任何有关数据的额外信息（例如局部结构）。

这在多模态学习中特别有用。我们可以轻松地将标题图像组合成一组像素和字符，并设计一些巧妙的嵌入和稀疏结构，以帮助模型找出如何组合和对齐两者。如果将我们领域的全部知识结合到相关结构中，如多模态知识图 (如[3]中所讨论的) ，就可以使用简单的Transformer块在多模态单元之间传播信息，并将使它们与稀疏结构对齐，从而控制哪些单元直接相互作用。

到目前为止，Transformer仍然主要被视为语言模型。我希望在不久后，我们会看到它们在其他领域被更多的采用，不仅仅是为了提高性能，而是为了简化现有模型，并允许从业者更直观地控制模型的归纳偏差。

参考文献

[1] The illustrated transformer. Jay Allamar.

[2] The annotated transformer. Alexander Rush.

[3] The knowledge graph as the default data model for learning on heterogeneous knowledge. Xander Wilcke, Peter Bloem, Victor de Boer.

[4] Matrix factorization techniques for recommender systems. Yehuda Koren et al.

延伸阅读

本期责任编辑：张伟男

本期编辑：顾宇轩

本文转载自公众号：哈工大SCIR，作者哈工大SCIR

推荐阅读

AINLP年度阅读收藏清单

清华THUNLP多标签分类论文笔记：基于类别属性的注意力机制解决标签不均衡和标签相似问题

“原子”因果常识图谱

Transformer详解《attention is all your need》论文笔记

征稿启示| 让更多的NLPer看到你的文章

AINLP-DBC GPU 云服务器租用平台建立，价格足够便宜

我们建了一个免费的知识星球：AINLP芝麻街，欢迎来玩，期待一个高质量的NLP问答社区

关于AINLP

AINLP 是一个有趣有AI的自然语言处理社区，专注于 AI、NLP、机器学习、深度学习、推荐算法等相关技术的分享，主题包括文本摘要、智能问答、聊天机器人、机器翻译、自动生成、知识图谱、预训练模型、推荐系统、计算广告、招聘信息、求职经验分享等，欢迎关注！加技术交流群请添加AINLP君微信(id：AINLP2)，备注工作/研究方向+加群目的。

qIR3Abr.jpg!web

赛尔译文 | 从头开始了解Transformer