简介：近期，看到各大公众号都在报道FlashAttention3（报道1，报道2，报道3，报道4），心想，这么牛的东西我要是能领悟其精髓，说不定也能创造厉害的东西出来，所以这个FlashAttention系列有必要好好研读一番。