Q:这是RoFormer: Enhanced Transformer with Rotary Position Embedding中的一段话，其中方程1为什么q k v的位置编码用不用的表示，m和n不应该是相同的吗 A:
如果选择了cosine学习率调度策略但发现学习率在逐渐增大，而不是逐渐减小，可能存在以下几个原因： 热身期设置：在使用余弦学习率调度器时，通常会有一个热身期（warmup period），在热身期内学习率会从较小值逐渐增加到初始学习率值。热身期结束后，学习率才会开始按照余弦曲线逐渐减小。 调度器的错
