九游体育娱乐网

在大谈话模子富贵发展的今天，AI 应用落地已成为产业界柔柔的要点。在硅星东谈主首届 AI 创造者大会（ACC 2024）"重构基础设施：更盛开的架构与更贤达的 Token "设施中，硅星东谈主分析师周一笑与百度智能云应用平台部总司理黄锋就大模子应用开采平台、企业落地执行等话题张开潜入对话。行为百度智能云千帆 AppBuilder 的持重东谈主，黄锋共享了平台配置教会与企业应用不雅察。

以下为对话实录整理：

周一笑：我刚才不才面查两个数据，在百度指数和 Google Trends 上，我查了两组要津字，第一组是 AI 或者大模子相干的要津词，第二组是 AI 应用或者是大模子应用相干的要津词，畴昔十二月的走势，会发现第一组基本是捏平的情况，第二组从本年启动会看到有一个显然在往上走的趋势，这其实也阐发民众越来越柔柔 AI 应用落地相干的话题了。百度一直在敕令民众卷应用，不要卷模子，我们今天也邀请到百度智能云应用平台部总司理黄锋总来跟民众一皆聊一聊，对于落地应用的话题。

第一个问题，千帆 AppBuilder 企业级大模子应用开采平台的中枢功能是什么？和其他 AI 应用开采平台的相反点在那边？

黄锋：百度智能云通盘这个词大模子 To B、To G 是通过千帆平台对外输出的，千帆平台里有两个用具，千帆 ModelBuilder 和千帆 AppBuilder。千帆 ModelBuilder 是作念大模子开采的，千帆 AppBuilder 是作念大模子应用开采的，我我方在百度主要持重 AppBuilder 这个居品。本年作念大模子应用开采、Agent 开采的平台棋布星陈绝裁夺。对于百度而言，从六七月份之后，我们对外讲都是讲企业级的定位。企业级和民众拿用具去学习去玩一玩是有一丈差九尺的。百度智能云畴昔十年，劳动了许多互联网客户，还有传统政企的客户，我们更了解企业客户对于平台的条件，比喻说成果、效力、性能、富厚可靠、盛开性、动态扩缩容、可调可配等等问题。我合计若是莫得这些点，平台开采出来的 Agent 是很难着实落地使用的。是以我们居品定位是企业级大模子应用开采平台。

周一笑：百度从最早搜索到其后 AI，履历了 AI 的几波波澜，这种穿越周期的教会，对于你们作念平台型的居品有匡助是什么？能不成用一些具体的居品决策和细节来讲一讲？

黄锋：百度作念这样的平台跟别的公司如故不一样。我合计在百度而言，最大的上风在于通盘这个词公司都是在 AI 计谋上黑白常坚忍的。我们有文心系列多样尺寸的模子，有作念大模子开采的千帆 ModelBuilder 这样的平台。包括算力纳管上头我们有百舸平台。有好多客户需要的是好意思满的决议，在用具链层面上是不错借力的。

第二点是在百度里面，旧年厂长就条件我们通盘的居品都要重构，包括网盘、文库、搜索、文小言等等好多居品，其实在基于大模子作念重构，它们自然也需要用具上的撑捏。我们除了对外输出除外，撑捏里面的业务，也在很猛进度上帮我们更快的打磨了居品的用具链的成果、性能、模糊等等才调。这样的才调再对外输出，减少了中间打磨的时期。里面业务线的条件黑白常高的，对于大模子的富厚，以及大模子到底在应用层面怎么落地，他们的想法是跑得比拟快的。

周一笑：里面用好了，再拿出去劳动客户。

黄锋：是这个逻辑。

周一笑：刚才聊了一些念念路上的问题，回到应用开采这件事情上。传统的 AI 应用开采和当前的大模子应用开采，两者的分辨是什么？这对于作念平台的挑战是什么？

黄锋：我 14 年加入百度，从 16 年启动作念 AI 交易化，可是阿谁时候是小模子时期 AI 的交易化，其实一直到大模子爆发之前，我我方的感受是无论 CV 谈话，如故传统的小模子，它是有价值的。它也能解决客户的好多业务问题，但它最大的问题在于泛化才调不够。是以你的定制本钱就会很高，比喻说前几年，我作念过工业动力行业一些 CV 应用的场景。

举例面向安全坐褥，训一个安全帽识别的模子，想达到相称高的准确率是很难的，其中有环境、角度等等身分。因此要想落地，参预到委用上定开调优的本钱相称高，总体来说要么只可劳动有钱的大客户，边界起不来。要么你铺开了，本钱降不下去，利润就起不来。

这个时期其实都是这样的，其他的这些友商你去看它的利润率，在小模子时期都是不太好过。我合计大模子来了之后，最大的更正便是它的通用性，泛化才调比小模子时期强太多了。

可是在大模子时期，怎么让作念应用开采门槛或然降得更低，成果或然作念得更好，或然让着实的价值委用终末的委用设施本钱降得更低，如故在尝试的经由中。今天而言，还莫得明确的谜底。但这照旧是一个明晰可见的发展趋势。

周一笑：从现存斗殴到的企业客户当中有什么不雅察不错和民众共享的？

黄锋：前些年我们有一些大的花式的委用，应用的定开由伙伴来委用。可是有好多客户的花式，伙伴搞不定，还需要原厂的东谈主去调优。但畴昔一年多交易化经由中，伙伴能处理的花式比例大幅度增多，独一我们把调优的教会按序论去输出给伙伴，他们基本都能处理。这一迹象已与畴昔小模子时期有所不同。

周一笑：问一个相干的问题，亦然民众都柔柔的一个点。你们斗殴的客户在大模子预算占 IT 总预算的比例上有什么变化吗？能反应这个趋势吗？

黄锋：还黑白常显然的。从旧年 3 月 16 日百度发布文心一言之后，我天天就跟各界客户、调和伙伴、政府诱惑、媒体在交流。旧年我的感叹，民众都仅仅聊，并莫得着实立项用钱去作念，可是从旧年 Q4 启动，这个势头显然发生了变化。一直到本年出现显然的爆发。市面上也有一些分析，本年上半年通盘这个词市集上头立项金额和数目远超旧年的，本年还有两个月，我我方感受到着实企业自得用钱立项去作念，这黑白常显然的。

周一笑：其实预算反应了企业的意思意思进度，终末想问企业骨子落地相干的问题，从你们不雅察来看，这一波企业骨子应用当中，大模子更多是替代上一波 AI 的场景，比如说客服，如故新的场景多小数？

黄锋：我合计两者都有，像客服、内搜，小模子时期也都有，仅仅大模子来了之后，它的意图富厚才调，归纳追想的才调会更强，我合计这是一波技能升级带来的旧市集的替换。更多爆发出来的是新场景，本来根本儿作念不了，当前能作念了。比喻说我们看到的试题理解、法律盘问助手，像当前 AI 手机额外火等等，因为我们作念平台，是以看到百行万企新的场景如故好多的。我们也经常会碰到一些，根本儿想不到的客户会拿大模子来干这个事儿。

周一笑：有莫得比拟独特念念的案例不错跟民众共享一下。

黄锋：有一个群体叫 ASD，他可能很难富厚常东谈主对话，可是大脑的联想力很丰富，这样的孩子对于图片的富厚，包括他我方画画的才调很强，可是抒发的才调比拟弱。是以有一个开采者用我们的平台搭了一个责任流，比如说小孩画了一张图，大东谈主很难富厚他想抒发什么，不错拍照让大模子富厚背后的兴味。大东谈主再说一句话，通过大模子文生图，再把图片给孩子看。这样就把图行为一种信拒却互的序论去跟小孩一样。

这样的场景我我方细则想不到，可是我们的开采者有一个公益组织，专门去匡助这样的孩子，他们就有这样的创意。他们也不是学筹画机相干专科的，借助我们的平台很容易把这个居品搭出来，况且确乎是有效的。我们用这样的平台或然把开采门槛镌汰，让更多东谈主发扬他们的创意，创造不同的 Agent 出来，我合计这个事儿蛮有道理。

周一笑：确乎挺独特念念的，它相称于跟孩子用图像来交流。终末亦然和落地相干的问题，当前企业落地有两个旅途，第一种是在垂直行业，可能我方罕有据作念一些垂直的模子。第二种是基于基础大模子来作念二次开采。从你们视角来看，若是企业要选拔的话，会给一些什么提出呢？

黄锋：当先一条路是平直用通用的基模去作念，第二是在通用的基模上加上我方的数据作念一个模子，这两条路不突破。作念一个行业大模子这件事情，不是每个场景都是必须的，况且门槛如故相称高的。当先你得有相应的语料，况且你得有东谈主果真懂，果真能训一个模式出来，这里的调优教会，对东谈主的才调条件如故很高的。我们也在匡助大型国内头部的国央企在作念访佛的事。

有些行业的常识是很垂的，比如法律、医疗等等，它是有必要作念我方的行业模子。可是有一些行业私有的常识莫得那么多，莫得必要非要去作念行业大模子，平直从基模就不错获得比拟好的成果。能训行业大模子，在今天而言如故门槛相对比拟高的事儿。

周一笑：是以更多的是需要依靠我们这样的平台去作念模子应用，不错这样富厚吗？

黄锋：对，我们追想过一些应用落地的范式。最简单的是我方写 Prompt，调 Prompt 会更好的发扬模子的才调。若是这样成果不睬想，不错在某些场景下尝试 RAG 或 Agent，再不行的话，不错作念一些 SFT 行为进阶按序。这些选拔与具体场景高度相干，要津是明确应用缱绻，选拔最高效的时势来解决问题，而不消一味追求通盘高精尖的技能。

技能自己如故劳动于最终创造出来的应用价值。包括模子的选拔也不是都用最佳的模子，够用就行，解决问题就好，毕竟本钱和效力都是要商酌的问题。

周一笑：这其实亦然百度智能云包括作念 ModelBuilder、AppBuilder，不同场景劳动针对不同的企业。相称感谢黄锋总针对企业落地的共享。

黄锋：迎接民繁多多试用我们的千帆 AppBuilder 的平台九游体育娱乐网，谢谢民众！