-
Notifications
You must be signed in to change notification settings - Fork 1.7k
Open
Labels
documentationImprovements or additions to documentationImprovements or additions to documentation
Description
1. 遇到问题的章节 / Affected Chapter
教程开头
2. 具体问题描述 / Problem Description
可以加一个附录,标明文档里出现的各种缩写的含义等等...
3. 问题重现材料 / Reproduction Materials
像这样...... 方便小白查阅
M
- MASK: 掩码特殊标记,用于 MLM 等任务。
- Megatron-LM: 大模型分布式训练框架(张量并行等)。
- MLM: Masked Language Model(掩码语言模型)- 遮蔽预测 token。
- MLP: Multi-Layer Perceptron - 多层感知机/前馈网络。
- MP: Model Parallel(模型并行)。
- MQA: Multi-Query Attention - 多头共享单组 KV,降显存/通信。
- MT: Machine Translation(机器翻译)。
- MultiNLI: Multi-Genre Natural Language Inference - 跨域自然语言推理数据集。
N
- N-gram: 基于马尔可夫假设的统计语言模型。
- NER: Named Entity Recognition(命名实体识别)。
- NLG: Natural Language Generation(自然语言生成)。
- NLU: Natural Language Understanding(自然语言理解)。
- NLP: Natural Language Processing(自然语言处理)。
- NNLM: Neural Network Language Model(神经网络语言模型)。
- NSP: Next Sentence Prediction(下一句预测)。
确认事项 / Verification
- 此问题未在过往Issue中被报告过 / This issue hasn't been reported before
Metadata
Metadata
Assignees
Labels
documentationImprovements or additions to documentationImprovements or additions to documentation