www.misssav.com

 

www.misssav.com

🕚www.misssav.com🕛     

对于“大模型开始价格战”的说法,谭待认为,大模型市场仍在发展初期,远远没到激烈竞争的阶段。“池塘有多大,鱼就有多大,现在整个池塘还在培养的过程。”

谭待进一步解释说,豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片,这里有不同的负载,可以把不同任务混合在一起,互相错峰,通过智能调度把它们的利用率都跑得很高,就能极大地提升资源利用率,实现整体成本的优化。

其次是工程上的优化。大模型的调用量越大,优化推理成本的空间也越大。以前的模型都是单机推理,大模型用的是分布式推理。所以如果能把各种各样的底层算力用得更好,推理成本就会大大降低。

www.misssav.com5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎总裁谭待在接受媒体采访时,谈到了大模型的定价策略。

另外以字节内部业务为例,飞书的主要流量高峰在工作时间,抖音在下班后休闲时间的流量更高,这些不同业务的大模型推理,也能根据业务特点错峰使用,就可以降低成本。

豆包大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这条路。”

🕜(撰稿:芜湖)

本文来自网友发表,不代表本网站观点和立场,如存在侵权问题,请与本网站联系。未经本平台授权,严禁转载!
展开
支持楼主

92人支持

阅读原文 阅读 2351 回复 8
举报
    全部评论
    • 默认
    • 最新
    • 楼主
    • 傲远🕝 LV9 六年级
      2楼
      已有近60城取消首套房贷利率下限 桂林最新官宣 当地银行或即将行动🕞
      05-28   来自蚌埠
      4 回复
    • 🕟耀电 LV2 大学四年级
      3楼
      广发银行发布2023年年度报告,高质量发展稳中有进🕠
      05-26   来自淮南
      6 回复
    • 集罗铭🕡 LV2 幼儿园
      4楼
      油价早报:国际油价下跌🕢
      05-28   来自马鞍山
      2 回复
    • 灵感潮流 LV3 大学三年级
      5楼
      美元兑俄罗斯卢布下跌1.23%,报92.15🕣
      05-27   来自淮北
      1 回复
    • 爱辉🕤🕥 LV3 大学三年级
      6楼
      多家银行公告 这类存款产品买不到了?🕦
      05-28   来自铜陵
      3 回复
    • 动感之美 LV5 大学四年级
      7楼
      中国银行业协会联合全国工商联共同发布《2024“助微计划”倡议书》🕧
      05-27   来自安庆
      回复
    你的热评
    游客
    发表评论
    最热圈子
    • #转型金融标准缺位 高碳企业逐“绿”难#

      精致之美

      8
    • #人民银行上海总部:住户存款定期化趋势有所减弱#

      拓维高

      4
    • #住房限购政策逐步退出市场,仅北上广深、杭州天津西安海南等地还在执行限购#

      数据

      7
    • #胡锡进:今天又大涨12422元,总亏损降到4.2万元

      缘建

      2
    热点推荐

    安装应用

    随时随地关注www.misssav.com

    Sitemap