♮扌喿辶畐三部曲♯
豆包大模型的价格优势离不开前期的使用经验以及技术的“加持”。在技术上,豆包使用了非常多的优化手段来降低成本,例如在不同负载的推理下进行混合调度来降低成本。
据悉,字节跳动基于豆包大模型打造了AI对话助手“豆包”、AI应用开发平台“扣子”、互动娱乐应用“猫箱”,以及星绘、即梦等AI创作工具,并把大模型接入抖音、番茄小说、飞书、巨量引擎等50余个业务上,用以提升效率和优化产品体验。
扌喿辶畐三部曲大的使用量,才能打磨出好模型,也能大幅降低模型推理的单位成本;成本下降则会吸引更多的企业使用。不出意外,豆包大模型靠低价及大使用量,将迎来“滚雪球”式优势。
一直以来,不少传统企业也想用大模型进行业务管理及创新,但市面上模型种类众多、厂商众多,难以准确地做出选择。再加上算力成本、数据成本,缺乏人才和经验,这些陈伟企业AI创新面临的难点。
谭待表示,大模型技术变革的“马拉松”才刚刚起跑,市场还在非常早期阶段。豆包大模型的超低定价,并不是要打价格战,而是希望推动大模型应用更加广泛的落地开花。
豆包大模型不仅仅是一个有多模态能力的模型家族,其价格更让行业震惊。豆包主力模型的推理输入价格只有0.0008元/千Tokens,0.8厘就能处理1500多个汉字。而市面上同规格模型的定价一般为0.12元/千Tokens,是豆包模型价格的150倍。
招商银行、海底捞火锅、超级猩猩、猎聘等企业,已在“扣子”上搭建了智能体。复旦大学、浙江大学等名校也为课程和实验搭建AI“助教”。“豆包”上已有超过800万个智能体被创建,月度活跃用户达到2600万。这些使用量都为豆包大模型提供了宝贵的打磨经验。
“技术发展能够大幅优化大模型的推理成本,使用大模型的客户越多,成本优化空间就越大。”谭待相信,更便宜的大模型,会让更多创新想法得到实践,最终受益的将是整个行业。(完)
如果形象点描述,根据火山引擎公布的价格计算,1元钱就能买到豆包主力模型的125万Tokens,大约是200万个汉字,相当于三本《三国演义》。
火山引擎总裁谭待表示,大模型从以分计价到以厘计价,将助力企业以更低成本加速业务创新。“今天很多客户都想去做大模型的尝试,但因为创新的事情风险很高,特别是AI领域,面临很多不确定性,我们必须要把试错的成本降得非常低,才能够让大家广泛地用起来。”
而火山引擎提供全栈模型服务,让企业AI应用更容易落地。最新升级的火山方舟MaaS平台,不仅提供了搜索插件、内容插件和知识库插件,还集成了AI应用开发平台“扣子”专业版,将大模型的基础能力转化为学习、工作的生产力。
如今,越来越多的企业选择和豆包大模型合作,火山引擎算法团队也将为豆包大模型的企业客户提供支持,分享字节业务的AI实践经验,与客户共同探索企业场景的大模型应用落地。
“大的使用量,才能打磨出好模型,也能大幅降低模型推理的单位成本。”谭待表示,豆包大模型正成为国内使用量最大、应用场景最丰富的大模型之一,目前日均处理1200亿Tokens文本,生成3000万张图片。
♰(撰稿:遵化)餐厅的打包盒、外卖盒,别再放微波炉加热了!
05-15 赛宇♼
世界是个巨大的“中餐厅”
05-14 韦光迅♽
强迫孩子们互相举报后,老师消失在了课堂里....
05-15 时嘉♾
来四个领导只有三杯咖啡怎么办,AI说……
05-13 艾奥诺♿
这么用冲牙器,细菌、霉菌都要谢谢你
05-15 迎同⚀
胆小慎入:把人全身的神经都抽出来,会得到什么?
05-13 鞋之舞⚁
不谈学习的时候,儿子厉害得让我感到陌生
05-13 之风⚂
希格斯逝世,他是“上帝粒子”背后的科学巨人
05-15 曼格美h
「洞见」为什么以前的孩子天天挨打,却不容易出现心理问题?答案太扎心
05-15 小星期风采a
「央视新闻」早啊!新闻来了〔2023.09.01〕
05-14 惠诺悦⚃