学习SAM模型的时候第一次看见了nn.Embedding函数以前接触CV比较多很少学习词嵌入方面的找了一些资料一开始也不是很理解多看了两遍后突然顿悟特此记录。

SAM中PromptEncoder中运用nn.Embedding

point_embeddings

range(self.num_point_embeddings)]torch.nn.Embedding官方页面

torch.nn.Embedding介绍

关于词嵌入这篇文章讲的挺清楚的相比于One-hot编码Embedding方式更方便计算例如在“就在江湖之上”整个词典中要编码“江湖”两个字One-hot编码需要

{[length,

。

在运用Embedding方式编码的词典时只需要词的索引下图例子中

“江湖”——[2,

torch.nn.Embedding(num_embeddings,

embedding_dim,

填充索引在padding_idx处的嵌入向量在训练过程中没有更新即它是一个固定的“pad”。

对于新构造的Embedding在padding_idx处的嵌入向量将默认为全零但可以更新为另一个值以用作填充向量。

{Input(∗)}

LongTensor为任意size的张量包含要提取的所有词索引。

{Output(∗,

grad_fnEmbeddingBackward0)家人们发现了什么输入

{x}

nn.Embedding相当于是一本词典本例中词典中一共有10个词

{X_0}

注意此时存在一个问题词索引是不能超出词典的最大容量的即本例中输入

{x}

如上所示在未定义时nn.Embedding的自动初始化权重满足

{N(0,1)}

分布此外nn.Embedding的权重也可以通过from_pretrained来自定义

import

nn.Embedding.from_pretrained(weight)

torch.LongTensor([1,

padding_idx可用于指定词典中哪一个索引的词填充为0。

import

grad_fnEmbeddingBackward0)词典中被padding_idx标定后的词嵌入向量可被重新定义

import

torch.no_grad():embedding.weight[padding_idx]

torch.tensor([1.1,