竟然悄悄发布了2.0版本

level 11

sealed_ss 楼主

2.0版本发布了，大概看了一下，新版本实现了一个更快速的transformer，然后增加了torch compile，升级了cuda到11.8，有兴趣的吧友可以使用了

2023年03月16日 14点03分 1

level 4

咋实现的更快的transformer的呀

2023年03月16日 18点03分 2

sealed_ss

torch.nn.functional.scaled_dot_product_attention()

2023年03月17日 01点03分