南充无粘预应力钢绞线 腾讯混元 AI Infra 中枢本事开源, 理迷糊提高 30

该算子库声称基于坐褥环境痛点，禁受CUDA和CuTe从构建南充无粘预应力钢绞线，通过详细化工程架构、微架构度适配及辅导致化等，缩短底层算子缔造门槛，将核默算子能面对硬件峰值，杀青了能冲破。

▲HPC-Ops算子库架构图南充无粘预应力钢绞线

在着实场景下，基于HPC-Ops，混元模子理QPM提高30，DeepSeek模子QPM提高17。同期，在单算子能面，HPC-Ops杀青Attention比拟FlashInfer/FlashAttention提高2.22倍；GroupGEMM比拟DeepGEMM提高1.88倍；FusedMoE比拟TensorRT-LLM提高1.49倍。

在翌日的发展缱绻中南充无粘预应力钢绞线，钢绞线HPC-Ops将握续耕大模子理能的冲破向：

面，将研发寥落Attention算子，针对管理长高下文大模子的内存与算力瓶颈；

另面，会拓展丰富的量化战术，遮盖4bit/8bit混精度等大批化案，跨越均衡理速率与模子精度；

此外，算子库还将布局狡计-通讯协同化的内核，通过融多GPU间的狡计逻辑与通讯经由，大幅缩短散布式理场景下的通讯支拨，为大限制大模子的部署提供底层支握。

IT之附HPC-Ops开源地址如下：南充无粘预应力钢绞线