人工智能完整词典
从输入中派生的三个矩阵,用于注意力机制:Query用于查询,Key用于匹配,Value包含要提取的信息。
一种注意力机制,使用单层神经网络计算兼容性分数,当查询和键的维度不同时特别有效。