论文：
　　Self-Attentive Speaker Embeddings for Text-Independent Speaker Verification
思想：
　　本文主要是对x-vector的统计池化结构进行改进，引入self-attention机制，得到带权重的均值和标准方差，这样一方面可以学习时序特征的重要性，另一方面可以有效降低噪声和静音等干扰，因而取得了比之x-vector更好的效果

模型：本文模型大体采用x-vector结构，只是对统计池化层部分，引入了self-attention机制，将之前等权重的均值计算，优化为带self-attention权重的均值，得到句子级别的编码

帧级别的TDNN:模型的前几层采用TDNN结构来提取输入序列帧级别的特征表达，TDNN结构实质上就是DNN结构,只不过输入为历史帧、当前帧和未来帧之间的拼接，并且采用BN进行归一化，激活为ReLU

self-attention:self-attention是一种非循环的注意力机制，常用于基于transformer的e2e语音识别任务；一般，self-attention由multi-head attention和feed-forward network串接而成，并且引入skip-connection保证训练稳定；

其中，H＝{h₁,h₂,…,h_T},H尺寸为d_h*T,W1尺寸为d_h*d_a,g()代表激活函数，W₂尺寸为d_a*d_r，这样A尺寸为T*d_r

A的每一列代表一个权重向量，不同的列代表self-attention中不同head学习不同的说话人区分性特征，E为权重均值

句子级别的DNN：self-attention后接两层DNN，学习具有区分性的说话人编码
PLDA：将不同的说话人编码中心化，LDA降维并长度归一化后进行PLDA计算，即计算两个说话人编码属于同一说话人和不同说话人似然的比值，得到相似度得分

训练：

数据集

训练集

　　　　　　Switchboard 2 Phase 1, 2, 3 and Switchboard Cellular：2.6k speakers 28k utts

　　　　　　NIST SREs data from 2004 to 2010 along with Mixer 6: 4.4k speakers 63k utts

　　　　　　数据增强：MUSAN噪声(babble, music, noise), and 模拟混响reverb

验证集：SRE16，enroll segments 60s；test segments 10～60s

模型参数

输入特征：包含上下文的115维特征
帧级别DNN：4*TDNN layer(512节点)＋1*TDNN layer(1500节点)
self-attention:da=500
句子级别DNN：2*DNN(512)
LDA: 512->150

实验：

基于self-attention的x-vector能够提升说话人验证效果；增加self-attention的head个数有助于学到更多更具区分性的说话人特征；从实验效果来看，带权重均值＋标准差能够更好的结果

从DCF曲线来看，self-attention相比x-vector能够降低错误接受率和错误拒绝率；增加head个数或采用mean+stddev有助于进一步降低错误接受率和错误拒绝率

test segments越长时，包含说话人信息越多，相应的说话人确认效果越好

结论：
　　本文提出了基于self-attention的x-vector结构，将之前的等权重的均值转化为带权重的均值向量，并且通过增加head个数可以使模型学到更多具有说话人区分性的特征；在文本无关说话人验证任务实验中，该方法取得了比x-vector更好的效果。
Reference:
[1]http://speak.clsp.jhu.edu/uploads/publications/papers/1048_pdf.pdf(TDNN)
[2]http://www.danielpovey.com/files/2018_interspeech_xvector_attention.pdf(本文)