免责声明:金色财经所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(jinse.com.cn) 举报
    07月19日,星期日 23:29 grade
    光电融合芯片有望让Token成本降50% 国产算力集群或成降本关键

    金色财经报道,7月19日,当前,随着AI智能体在各行业的应用深入,Token的调用量一直保持着高速增长态势。未来如何能让算力成本进一步下降,成为各方发力的重点。业内人士介绍,他们正通过算力平台来协调多个主流大模型的使用,综合降低词元成本。同时,还在全国范围加快大规模算力集群的建设。而国产算力芯片支撑的超大规模算力集群,被业内视作是下一步降本的关键。此外,未来三五年内,光芯片等更前沿的新技术落地,也有望成为降低算力成本的另一探索方向。“光电融合的芯片相比电芯片的话,核心在于它的计算延迟更低、功耗也会更低。每单位Token成本会相应下降50%,甚至更多。”(金十)

    发表评论
    0/140
    发布评论
    评论
    • 寻求报道
    • 金色财经中国版App下载
      金色财经APP
      iOS & Android
    • 加入社群
      Telegram
    • 意见反馈
    • 返回顶部
    • 返回底部