免责声明:金色财经所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(jinse.com.cn) 举报
    09月29日,星期二 16:14 grade
    英伟达实验室:用内核设计智能体优化Kimi线性注意力,提速达2.96倍

    金色财经报道,9月27日,据NVIDIA Labs博客《KDA²》,其内核设计智能体(KDAgent)已能自主优化Moonshot AI的Kimi Delta Attention(KDAttn)算子。在英伟达B300、8,192 tokens下,相对官方FlashKDA基线:TIRx版几何平均加速2.96倍、CAKE-PTX版2.94倍、CuTe-DSL版2.85倍;同时新内核将8k tokens最终状态的相对误差由FlashKDA的3.45%降至0.22%(CuTe)与0.29%(TIRx),约为其十分之一。内核已开源。

    发表评论
    0/140
    发布评论
    评论
    • 寻求报道
    • 金色财经中国版App下载
      金色财经APP
      iOS & Android
    • 加入社群
      Telegram
    • 意见反馈
    • 返回顶部
    • 返回底部