AI与科技出海生态平台

专访北京灵奥科技CEO厉启鹏:如何做好大模型与业务数据的优势结合?

作为大规模AI应用的关键基础组件,大模型中间件不仅通过数据连接、模型管理、接口集成和安全保障等手段帮助企业解决数据难题,更作为连接大模型与应用之间的桥梁和管道,为企业实现AI应用落地提供了关键支持。

迎数据挑战,一展创新应用

在北京灵奥科技(Vanus)CEO厉启鹏看来,解决好数据问题是大规模AI应用落地的首要任务之一。企业需要投入足够的资源和精力来投入于此,从而为大模型的有效应用和企业业务落地打下坚实的基础。

北京灵奥科技(Vanus)CEO厉启鹏

事实上,目前行业企业所面对的数据问题体现四个主要方面:

首先,模型需要深入理解企业多样化的业务数据,但数据的类型繁多、格式杂乱且来源无法统一;其次,业务数据随着企业运营实时变化,模型需不断学习不同来源的、持续变化的业务信息;

第三,数据隐私和大模型使用的安全合规是企业业务不能触碰的红线。企业既要让模型理解好数据,又需要做到安全合规;最后,不同大语言模型由于训练数据来源不同,侧重点有差异,导致模型会存在偏见。企业需要评估不同模型的能力以及为不同业务场景选择合适的模型。

为此,Vanus将大模型优势和业务数据无缝结合,帮助企业解决数据桎梏。其先后推出了Vanus Connect、Vanus AI和VanChat三款SaaS产品,累计服务全球30,000+用户。目前,其已经获得靖亚资本、PNP等机构的多轮融资,成为资本与科技领域日渐受到关注的企业明星。

在神经网络层,Vanus Connect可以连接企业不同的数据源,实时感知企业业务事件的变化,并推送给神经中枢,然后接收神经中枢的指令去做执行。

在神经中枢层,Vanus AI结合知识库(向量数据库)和大模型,帮助企业做业务的决策。

而VanChat是基于Vanus AI专门为Shopify店主打造的销售类AI Agent((Shopify是一站式SaaS模式的电商服务平台,为电商卖家提供搭建网店的技术和模版,管理全渠道的营销、售卖、支付、物流等服务),它既是Shopify店铺的销售机器人,也是消费者的AI购物助手,可以帮助电商企业将网站访客转化成付费用户。

“Vanus可将大模型优势和企业数据无缝结合,提供Claude 3等多模型选择,实现商品数据自动同步,包括商品数据自动更新、Shopify数据自动接入等,还可与网站、钉钉、飞书、企业微信等第三方应用无缝集成,助力企业灵活定制机器人,自定义聊天风格、欢迎词、外感颜色等等。” 厉启鹏如是说。

众所周知,目前云生态伙伴深化与大型云服务商的合作已成为重要战略选择之一。后者不仅能够为前者提供强大的计算和存储能力、灵活的服务方案、高可用的架构、全球化的网络支持以及安全合规的保障,同时更能进一步有效降低云生态伙伴的运营成本、提升业务灵活性和创新能力。

据悉,Vanus整体平台正是基于亚马逊云科技而构建,其利用亚马逊云科技的基础云服务、大语言模型、数据存储三类云服务,为企业构建AI Agent平台,现已服务全球数万家用户。亚马逊云科技为Vanus提供的显著优势体现在:

弹性可扩展:利用Amazon Elastic Kubernetes Service(Amazon EKS)基于网络流量的弹性扩展能力,Vanus AI构建的Agent可以根据用户业务流量平滑弹性伸缩。帮助企业平均成本降低30%,性价比提高20%。

提高系统可用性:通过Amazon DocumentDB原生的3可用区、6副本的设计,提高可用性和可靠性,可以达到不低于99.99%正常运行时间的服务等级协议(SLA)。

降低回复延时:借助Amazon Simple Storage Service(Amazon S3)及数据库高并发数据查询能力提高大模型上下文加载时间,同时借助亚马逊云科技全球网络节点加速能力,整体将Agent回复系统延时降低40%。

推理能力强:通过Amazon Bedrock提供的Claude模型,为Vanus平台的AI Agent提供非常强的语言理解和逻辑推理能力。

“Vanus整个平台都是基于亚马逊云科技构建的。特别感谢亚马逊云科技为我们带来了确定性,帮助我们构建稳定、强健的数据基座,让我们能够轻松面对用户业务的不确定性。” 厉启鹏表示。

成就行业用户,深化合作基础

基于亚马逊云科技的云上资源优势,Vanus AI成功为国内某ERP企业客服人员完成了AI Copilot的搭建落地。

Vanus利用Amazon S3、数据库等云服务,帮助用户实时从文档、数据库、SaaS软件等多个数据源中抽取数据,构建了统一的企业知识库。借助Amazon Bedrock等服务,为企业客服人员构建AI Copilot,基于全域业务数据实时推理,能够在秒级内为客服人员提供回复建议,大幅缩短了客服响应时间。

现在,客服人员将问题回复时间从分钟级提升至秒级。AI Copilot有效提升了客服团队的工作效率,提高了70%的人效,极大地降低了客服投入的成本。另外,在电商行业,VanChat为南美州某服饰类电商企业提供了其期待已久的AI智能服务能力。

据悉,该电商企业拥有两个Shopify电商独立站,10000+ SKU。客户每天有大量产品、退换货、物流等问题咨询,需要很多客服人员,管理成本高。而且客服人员下班后仍然有很多客户询问,延时回复不仅导致客户满意度下降,因此错失了很多商机。

Vanus通过基于Amazon Bedrock、Amazon S3等云服务为Shopify电商客户构建客服类Agent VanChat,为网站购物者提供7*24小时即时问题回复,为企业节省大量人力资源,提高客户满意度。此外,通过VanChat提供的用户意图识别、产品推荐等功能加速用户产品购买,提升网站的销售额。VanChat为该客户带来快速的营收增长,仅上线首月ROI高达611%;同时,了解用户主要关注的产品以及最近常被提及的问题,提供客户洞察。

“Vanus绝大部分的技术问题,在亚马逊云科技上都能找到答案,找到相关的云产品。这些产品能够增强性能、提升稳定性,为我们提供强有力的支撑。” 厉启鹏表示。众所周知,全球化优势对于云合作伙伴的吸引力逐年升级,其意味着云服务提供商具有覆盖全球范围的数据中心和网络基础设施,在全球范围内提供稳定、高效的云服务。

同时,其能够帮助合作伙伴拓展全球市场、提升本地化服务能力、确保合规安全性、加速创新应用和增长,进而实现共赢发展。因此,云生态伙伴通常会倾向于选择具有全球化优势的云服务商进行合作,以获取更多的业务机会和竞争优势。

Vanus同样也不例外。

“我认为亚马逊云科技是最值得信赖的云服务提供商。作为全球最大的一朵云,它有非常强大的运营经验,能够帮助我们更好地服务分布在不同区域、不同国家的客户。同时,它也是我们首选的一朵云,经过了全球最多用户的打磨,是最安全的云。” 厉启鹏如是说。

据悉,Vanus从成立之初就加入了亚马逊云科技合作伙伴网络(APN)。作为一家初创企业,亚马逊云科技不仅向其推荐客户和合作伙伴等资源,还对持续Vanus对进行技术赋能,从而让后者的生成式AI产品不断深入市场。例如博商出海就是亚马逊帮助Vanus连接的重要合作伙伴,博商出海是一家为出海企业提供“品牌+亚马逊+独立站”三位一体的品牌出海赋能服务公司。

值得一提的是,亚马逊云科技在营销上,通过举办峰会和分享活动为Vanus带来曝光和品牌助力,同时通过引荐合作伙伴扩展业务网络,为Vanus提供更多的产业合作机遇。

厉启鹏总结,亚马逊云科技对于Vanus的合作助力体现在三个重要方面:一是合作基础即云服务能力强大且简单直接,Vanus绝大部分的技术问题,在亚马逊云科技上都能找到答案及相关的云产品;其二,技术服务全面——全方位的技术服务,包含技术方案和架构师等,加速Vanus的产品落地;其三,亚马逊云科技合作伙伴网络(APN)提供全面的推广资源和支持,加速产品进入市场。

 

赞(12)
未经允许不得转载:维端网 » 专访北京灵奥科技CEO厉启鹏:如何做好大模型与业务数据的优势结合?
分享到

AI与科技出海生态平台

联系我们关于维端

登录

找回密码

注册