[问题/Issue] 章节2.1：简短问题描述 / Chapter2.1: attention函数没有问题。但是2.1.4小节的那一行代码中attention函数的输入参数感觉有问题

[anliu2465-png]

1. 遇到问题的章节 / Affected Chapter

Chapter2.1

2. 具体问题描述 / Problem Description

在2.1.4 自注意力小节，代码部分为什么是attention(x,x,x)呢？我的理解是：这里QKV矩阵的输入X尽管相同，但是权重矩阵不同W_Q、W_K、W_V。而且attention函数的输入参数不是QKV矩阵吗，怎么到这里成了输入是x了？

3. 问题重现材料 / Reproduction Materials

# attention 为上文定义的注意力计算函数
attention(x, x, x)

attention(XW_Q,XW_K,XW_V)
···

### 确认事项 / Verification

- [x] 此问题未在过往Issue中被报告过 / This issue hasn't been reported before

[JX446]

这里应该是强调最原始的输入矩阵是同一个,然后经过权重矩阵才分别变换成Q, K, V矩阵.

[anliu2465-png]

@JX446 谢谢。我已明白。

[itwangxw]

来找这个问题，感谢

[sunguangnan]

希望作者能够修改这行示例代码, 初学者阅读到此处时很容易造成误解

[JX446]

示例代码实际上没问题,因为权重变换确实是嵌入在attention模块里的,这里的attention应该是指一整个模块,包括权重变换的过程.而不是特指attention的计算公式.

[jryxxx]

示例代码实际上没问题,因为权重变换确实是嵌入在attention模块里的,这里的attention应该是指一整个模块,包括权重变换的过程.而不是特指attention的计算公式.

但是在上文的 attention 示例函数中并没有权重变换，所以还是会造成一些误解的

# attention 为上文定义的注意力计算函数
attention(x, x, x)