技术视角看行业SaaS

作者:若宾 蚂蚁数字科技线产业金融技术团队

随着人口红利的逐渐消失,进入了从消费侧转向供给侧的产业互联网方向的发展。一些通过高度数字化和智能化的手段完成产业数字化升级来提升效率和降低成本为核心的SaaS创新应用就起到了重要的作用,成为了新基建和产业升级的重要一环,传统的软件公司也在纷纷向SaaS化转型。这是因为相对于传统的软件交付模式,在成本和效率上SaaS模式是有很大的优势的,这要从SaaS机制的内核机理来分析。本文就企业SaaS涉及到的方方面面结合我们的一些实践和大家做一些探讨。当然SaaS赛道很大,国内整体还处于比较混沌的早期,本文观点仅供参考。

一、IaaS/PaaS/SaaS

XaaS的概念层出不穷,但是基本上可以归类到IaaS(Infrastructue as a Service)、PaaS(latform as a Sercice)和SaaS(Software as a Service)三个层次。

简单来讲,IaaS层是硬件层面的设施,如服务器、存储、网络等打包成共享的资源池进行售卖;PaaS层则提供一系列的软件工具,向下管理好硬件资源,向上提供应用开发需要的一切工具,比如研发、运维、数据库、中间件等平台服务;SaaS是在PaaS基础上开发的各式各样五花八门的应用。越往下就越标准化,技术和产品就越收敛,技术壁垒就越高,到IaaS层基本上就只有少数几家公司能做了;越往上SaaS应用侧越百花齐放,业务模式的重要性就越高。

那么SaaS是不是就是软件上云呢?应该说软件上云是SaaS的必要非充分条件,也就是说云上的应用不一定是SaaS,而不在云上的一定不是SaaS。接下来我们来看一下SaaS的一般本质。

二、SaaS的一般本质

一般大家喜欢往笼统里说,应用系统在部署云上,所以是SaaS系统,其实这是不准确的。阿里云上那么多应用,应该说大部分都不算是。判断一家SaaS公司健康度的几个定性指标:Repeatability、Scalablity and Profitablity缺一不可。只有一个具备盈利能力的,有支持可预期收入的和具备可扩展性的业务模式才是一家真正健康和能够被市场认可的SaaS公司。

首先看收费模式,SaaS一般是订阅收费模式(当然也有按流量收费按效果收费等其它的模式),背后逻辑是有稳定的持续的收入(Repeatability),而不是一次性买断。订阅这个词大家一定不会陌生,小时候我们都订阅过杂志报纸,一般是按一定的频率(星期/月?)来进行付费,所以每次付费就不用很多,而对服务提供方来说有了可预测的持续的现金流。每转化一个客户,我们就埋下了一个长期产生现金流的种子。如果有人要求说你把一年的内容给我全部包含到一本书里面,这样我买一本书就好了,你一定会觉得不可思议。当然有的行业SaaS可以以交易量或者交易额收费,背后其实也是为了一个长期可以Repeatable的目标。这种收费模式决定了每次收费一般不应该特别高,如果一次性收了几百几千万的,基本上这种收入是很难重复的,一般没人愿意每个月付费几百万来购买一个软件,要不然为什么不自己雇团队做呢?

其次SaaS提供的服务对于用户来说和拥有这个软件应该没有本质区别。这话听上去好像有点玄,背后的逻辑是SaaS的服务不能损害客户的服务质量和对安全性的承诺。这就要求技术上要求能够做到系统租户化,确保数据隐私、隔离和安全。站在服务商的视角,我认为SaaS的本质是一种相对高效、可控成本的为客户提供软件服务的一种模式,在现有的技术体系下,基于云平台的交付模式是实现上述目标的必要手段。

当然,在SaaS创业的不同阶段,追求的目标会不太一样。创业初期是要活下去,那么营收就会是最重要的目标了,有了一定的营收支撑后,SaaS产品Repeatability、Scalablity就会变得更加重要,再往后Profitability就会变得更加重要。国内很多SaaS公司会去做一些大型私有化项目:BD/SA可以获得短期GAAP目标,技术可以有很多定制化的开发内容,产品有大量和客户沟通的诉求,大家都可以获得团队发展的机会。唯一可能会不高兴的是CEO/CFO,因为要担心能不能持续发展,能不能满足RSP的目标。所以在做私有化项目的时候,需要评估到底为了什么:为了营收,为了卡位,为了客户关系,还是为了埋下长期合作的种子?如果没有考虑清楚,或者为了这样那样的原因,放弃了做SaaS本该具有的目标,往往就会退回到传统的软件工厂模式,可能短期满足了一些KPI的需求,长远来看可能会消耗公司宝贵的资源,错过市场的最佳时机,是需要特别克制的。

三、SaaS的分类

按照产品的服务行业来分:SaaS分为通用SaaS和行业SaaS。通用SaaS,顾名思义是通用的,跨行业的,比如国外的Salesforce,由于面向的客群更广,因而更有可能成长为巨头。而行业SaaS是解决特定垂直行业的共性问题,比如物流行业的SaaS。做行业SaaS往往需要这个领域很深的持续的积累,一般会是本来就在这些行业里面的技术公司或者软件公司转型做SaaS。

按照SaaS属性来分:分为工具型SaaS和商业型SaaS。早些年,SaaS刚出现的时候,一般说SaaS都是指工具SaaS。工具SaaS是为客户提供一种提高效率的工具,典型的比如CRM。至今为止,比较成功的一般也是工具型SaaS公司。最近些年才出现的商业SaaS是在商业上帮助企业成功,简而言之是帮助企业获取更多的客户和营收,比如帮客户引流、提供金融服务、提供数据智能决策服务等。客户视角一个侧重开源(商业SaaS)一个侧重节流(工具SaaS)。

下图是一些蚂蚁链已经在做的SaaS,可以看到已经覆盖了从行业SaaS到通用SaaS的各个方向。通用SaaS一般倾向于把自己变成工具便于被集成,以点带面打开流量入口;行业SaaS也可以把自己变成一个更复杂的工具集成到企业数字化的整体架构中,毕竟一家稍微大一些的企业也不是一个单独的SaaS就能解决其数字化的需求的。

四、金融SaaS

蚂蚁在金融行业深耕多年,自然会想到做金融的SaaS服务。然而蚂蚁做金融SaaS有其自身的两难境地:一方面,在支付等通用的优势领域,自身已经具备了优秀的平台能力,这些能力本身就是我们的核心技术竞争力,当科技公司自己也是业务一方的时候,既当运动员又当裁判员是不行的。另一方面,集中性的平台模式受到的监管压力越来越大,以SaaS形式技术输出赋能金融客户,似乎成为一个转型的自然选项。那么在矛盾之下,折中的选择自然就是去做那些既不能影响现有平台核心壁垒的,但是又有一定市场前景和规模的SaaS。

目前比较多的是非核心系统的或者需要多方协作的偏数据营销类(如智能投顾、量化交易)、联合风控(如反洗钱、反欺诈、信贷风控)、渠道流量(如融资保险引流)、支付收单(如聚合支付、跨境支付)等场景。应该说这些场景入局者不少,但真正做成规模化有影响力的很少很少。这里面有这些细分的SaaS赛道市场规模有待验证的原因,还有比如在观念上金融机构偏保守,对于SaaS服务模式接受程度依然不高等原因。

那么应当如何破局呢?我认为可以从横向和纵向两个维度来尝试。横向,形成SaaS产品矩阵,突破单一金融SaaS市场空间以及价值单薄的问题。和行业SaaS(接下里会讲)互相承接、交叉引流,形成产业到金融再回到产业的正向闭环。比如贸易→支付→融资→风控SaaS组合,给客户带来更大的价值,增加客户粘性。纵向从单纯的SaaS向SaaS+PaaS甚至SaaS+PaaS+IaaS一站式解决方案延伸,覆盖银行从后端基础设施和数据层、管控层到前端业务层的各个模块。这样做的好处是一旦上了全套,替换成本很高,可以为后续持续的SaaS产品和基于交易的金融服务提供很好的基础。当然市面上大多数SaaS公司是没有PaaS/IaaS能力的,而这也是我们优势的一个方面。

五、行业SaaS

上面的金融SaaS只是行业SaaS的一个方向。行业SaaS对传统行业进行信息化和数字化改造,将各个环节实时打通,降低行业由于上下游信息不对称而导致的效率和交易机会损耗,提升整个行业资源配置效率。行业SaaS由于其与各个行业强相关,碎片化比较严重,单纯的提供SaaS工具基本上很难形成可持续的商业模式。目前的竞争也都在低维度进行竞争,单个企业很难做大,还处于百花齐放的热闹阶段,行业的集中度低,规模效应很难体现。所以如何做大做强,是行业SaaS提供商必须要解决的问题。数科在行业SaaS的探索已经有几年的时间,基于蚂蚁链的行业协作平台也在从最开始的平台模式逐渐向SaaS服务转变。行业SaaS的演进,本质是探求商业底层逻辑的过程。一般离交易越近,SaaS的价值会越大,因为交易会带来叠加的收入,可以产生和汇聚整个链条上高价值的行业数据,有利于实现多元化变现从而达到比一般工具软件更高的商业价值。

以下图区块链供应链金融为例,逐步的由原来的单一化的平台服务逐步演进为可以服务超大企业、大中型企业和中小型企业提供不同解决方案的SaaS平台。针对中小企业的供应链诉求提供公有云标准化SaaS服务,以交易分佣为核心模式,最大限度的给中小企业提供高可靠高性能的可负担的服务;针对一些大中型企业,自身具备强大的内部供应链ERP,也有一定的技术对接能力,对供应链上下游和金融服务有一定的行业定制化的诉求,同时希望借助我们的平台来做联合的运营,这类客户我们以公有云独立租户、低代码和开放平台的形式提供SaaS服务;对于一些超大型的集团公司,由于数据、安全等原因一般只接受私有化交付模式,我们定义出区块链供应链金融的标准流程,同时以API形式开放出我们的核心平台能力和服务,方便企业的ISV来按需集成,通过我们的这些线上化的能力来为他们和我们建立连接。

行业SaaS纯IT交付的模式受到营收和成本的双重压力,在ROI上会有很大挑战。行业SaaS由于其专业性,面向的客户总量是确定的或者说受限的,当你的天花板只有几百几千家客户的时候,即使是订阅续费的模式,其空间也非常有限,往往只能覆盖开发和运维的成本。和业务更贴近,参与业务分润,参与到服务SaaS客户的用户成为行业SaaS的不二选择。

无论是Trusple(Trusple.com)跨境贸易金融服务SaaS平台还是双链通产业金融服务SaaS平台,都采取了产品+服务+运营的模式。给客户提供的不仅仅是SaaS产品,还有联合客户运营、配套技术和金融服务等内容,这样才能从交易中分润,从服务中分成。这种综合服务背后需要平台、机构网络、数据、算法的综合能力的支持。所以,我们理解的行业SaaS远超出给客户提供一套数字化的工具,背后也是需要科技硬核能力的支撑。我们应当充分发挥自己的强项,逐步的建立起技术和业务的壁垒,真正地服务好我们的客户以及我们客户的客户,让行业伙伴成功,让行业生态繁荣,才能在万马千军中脱颖而出。

六、为什么需要APaaS?

从零代码到低代码到定制化,是技术应对多样化的SaaS客户群的选择。背后都需要一层领域核心的通用能力做支撑,这一层称之为APaaS。APaaS(application Platform as a service,应用程序及服务)按照上面的三层XaaS来分是基于SaaS和PaaS之间的2.5层。APaaS的引入是为了解决零代码和低代码快速开发、快速迭代的要求,将一些通用的能力比如权限、界面、功能、数据、流程等进行抽象,目标通过类似配置化的手段来解决一般性中长尾客户千人千面的问题。APaaS就是行业领域的专家系统,领域的知识精华已经被抽象浓缩,非技术人员也可以开发一套商业系统,但主要的用户还是软件开发人员。这里也就衍生出了APaaS和PaaS的主要区别,PaaS主要是在本地完成应用程序开发进行云上部署,APaaS可以支持在云端完成搭建和低代码搭建;PaaS主要是云上通用工具和中间件,而APaaS是在PaaS基础上的行业领域组件和服务。

APaaS本身看上去很美妙,实际推广上却有相当的困难,商业化APaaS本身有很大的阻力,这种阻力会来自公司决策和执行的各个层面。首先对于开发同学来说,基于APaaS来做低代码开发会觉得挑战度太低;对于技术管理层来说也不利于自身团队技术的沉淀和团队的发展规划,也不喜欢;对于业务专家来说,能不能信任这样一个系统,能不能做出相对复杂的应用方案,以及长远来看到底能节省多少成本也是未知数。

那既然这样,为什么还要做呢?核心还是行业SaaS生态发展的内在要求。只有将行业SaaS的通用能力PaaS化,才能实现高效的应对SaaS客户和产品多样化的诉求,也才能快速的将自己的领域能力输出给生态合作伙伴构建起自身的生态。APaaS的目的本质上是更好地支持好业务前端的SaaS而不是自身的商业化。实际上越来越多的SaaS公司如Salesforce、Stripe等都在将自身积累的数据和技术能力以API、SDK等形式开放出来,做集成开发的PaaS/APaaS平台提供给合作伙伴或者客户使用。同时,越来越多的IaaS和PaaS企业向上提供SaaS层的软件,拓展服务的客户和延长服务链条。这种两边延伸使得SaaS和PaaS的界限变得越来越模糊,谁能更好地服务好客户控制好成本谁就会最终胜出。

七、SaaS和区块链

过去几年,我们一直在以区块链为核心底座打造行业协作网络和行业应用并且取得了不错的成绩。那么区块链应用和SaaS是什么关系呢?区块链本身是底层价值存储和流转的基础设施,上面建立的应用一般称为DApp (分布式应用)。按照XaaS三层理论,底层区块链账本是IaaS层,BaaS(Blockchain as a Service)就是PaaS层,上面的DApp就是SaaS层。

以下图的碳矩阵产品为例。核心层以区块链的能力建设双碳行业的区块链协作网络,碳数据和碳资产在网络中可以进行可信的交易和流转。企业碳管理SaaS提供给企业进行碳排放管理和节能减排的工具,产品碳足迹SaaS可以对不同类别的产品全生命周期的碳排放足迹进行管理,认证机构可以基于可信数据完成绿色企业、绿色产品、绿色园区等各种和碳排放相关的认证;碳交易SaaS可以对企业的碳资产进行交易;绿色金融SaaS可以基于绿色的认证提供绿色融资、绿色债券等金融服务。区块链网络将这些SaaS或者分布式的SaaS应用有效地连接起来,将数据和资产可信可控地流转起来。区块链本身具备的数据防篡改和数据隔离等数据安全的手段,可以为用户创造可信的环境,再结合SaaS端侧安全的设计,可以做到端到端的可信。区块链让普通的SaaS成为可信的SaaS,让单个企业的SaaS有机的结合成为解决行业问题的行业协作的SaaS,升级了传统意义上的SaaS的维度,也拓展和丰富了SaaS的内涵。

企业一般不是孤立存在的,其内部的系统或多或少都已经存在。除非你是私有化交付项目,SaaS系统将不可避免的和企业现有系统进行交互和连接。即使是如上图所描述的碳矩阵SaaS系统,也需要获取企业的生产经营数据,需要和现有系统进行对接。在这个问题上,其实有多种对接方式可以选择,而我们之前也是有过一些经验教训的。之前我们的区块链的应用平台和银行内部系统进行对接的时候,穿透了从应用层到业务层到数据层的对接,这样对接就会变得很重,推动起来很困难。现在我们更倾向于通过这种行业SaaS间的数据和API的轻量化交互,通过区块链和隐私计算等手段来实现数据和资产的流转。还是上面的例子,企业通过碳账户SaaS获取绿色项目认证,通过银行进行融资,自身的碳排放余额还可以通过交易所进行交易,而这一切能够线上化发生的前提是数据和交易过程的可信。

八、行业SaaS技术路径

技术在SaaS的不同阶段都是SaaS成败的几个关键因素之一。在SaaS的早期验证阶段快速验证和交付显然是最重要的能力。无论是定制化也好,还是基于一些现成的PaaS平台来开发也好。在业务的规模化推广阶段,提炼和抽象行业共性需求,形成行业解决方案和标准核心产品,通过标准化和PaaS化来降本提效。充分运用数据和AI的能力,构建企业画像,建立客户反馈机制和精准营销能力,以数据智能推动产品持续迭代,多产品矩阵交叉引流,逐步帮助业务建立起网络和数据的业务壁垒。最终,当行业SaaS的APaaS通过能力开放,有了足够多生态合作伙伴之后,就有机会成为事实上的行业标准和行业OS。

九、结束语

经过这几年的尝试,我们深刻的认识到toB的SaaS不会有捷径,客户的积累有一个量变到质变的渐进过程。长坡厚雪,ToB SaaS考验的不仅是技术能力,更考验产品价值和产品力。SaaS时代,产品驱动增长才是可持续的增长,关注产品的价值和用户服务体验,是SaaS的核心基础,我认为SaaS是产品力和技术力双轮驱动,而产品是第一驱动力。

阿里技术
关注 关注
  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
博客
从一个事故中理解 Redis(几乎)所有知识点
10-16 948
从上面的例子可以看出,Redis 的内存几乎被缓冲区占用殆尽。以下是具体的结论:当前内存使用 (used_memory) 已经接近最大内存限制 (maxmemory),即 1.02 GB 接近 1.00 GB 的限制。内存开销 (used_memory_overhead) 很大,主要被客户端普通连接使用(可能是输出缓冲区),而实际的数据仅占用了很少的内存。分配器和 RSS 碎片率 (allocator_frag_ratio 和 mem_fragmentation_ratio) 较低,表明碎片不是问题。
博客
Web 性能优化|了解 HTTP 协议后才能理解的预加载
10-08 899
在性能优化过程中,开发者通常会集中精力在以下几个方面:服务器响应时间(RT)优化、服务端渲染(SSR)与客户端渲染优化、以及静态资源体积的减少。然而,对于许多用户进入网站的第一个页面(如首页),网络开销也是一个不容忽视的问题。由于新用户可能从未与网站建立连接,从 DNS 查询到 TCP 连接,再到下载服务器返回的内容,这些步骤的耗时通常远远超过服务器的响应时间。而多数情况下开发者无法通过代码优化来减少这部分时间消耗。
博客
如何让 Android 的前端页面像 iOS 一样“优雅”?
09-27 1778
总的来说,Android 端对前端 Safe Area 的支持其实就只是简单的把端上的 WindowInsets 中的 DisplayCutout 抛给了前端,只是其实现的方式不太优雅。首先 View 只支持设置一个 OnApplyWindowInsetsListener 监听,这又是个公开方法,指望业务层完全不去碰这个方法是不可能的,也就导致了在实际使用时 safe-area-inset-* 属性总是会"莫名其妙"的失效。
博客
架构设计的悖论,复用是美好的还是邪恶的
09-18 1092
错误的抽象、错误的代码复用,所引发的复杂性无限蔓延,对系统的危害比面条代码强大一百倍。复用与扩展,业务与技术,到底哪些该复用哪些不该复用,好像变成了一个哲学问题。如果说“正确的抽象”是一个 100 分的美丽乌托邦,那面向复杂性隔离的整洁架构,会不会是一个稳定的 80 分。面向复杂性隔离的整洁架构,我好像有了一些新的想法... To Be Continue。
博客
每日必抢小程序下单总结
09-14 532
首先,小程序是没有一个标准化的组织,随着时间推移,各家小程序(微信,支付宝、抖音等)的差异肯定是越来越大,像 Rax 这类的跨端框架需要“抹平”的成本会越来越高。而且抹平一般会采用交集的方式进行抹平,会导致我们无法利用到各个小程序平台的最全能力。跨端框架拥有“Write Once, Run everywhere”的好处,对于 0 到 1 探索阶段的项目比较适合,可以快速铺到各个市场,但是无法适用于每日必抢这类对性能、体验、深入融合各端生态有着高要求的项目,基于此我们还是决定拥抱原生建设下单方案。
博客
大模型推理框架 RTP-LLM 架构解析
09-04 1280
我们首先对 RTP-LLM,该系统由多个层次组成,从最外层的到最内层的AsyncModel,每一层都有特定的职责。
博客
我们写的代码是如何被用户看到的——前端篇
08-30 853
用户在浏览器地址输入 URL 之后发生了什么?这个问题对于我们前端开发者来说简直是典中典了,是前端基础,也是工作面试八股,更是性能优化依据。但本文想分享的重点不是之后发生了什么,而是之前发生了什么,即我们平时码出来的代码经历了哪些步骤处理,成为互联网用户能打开浏览的页面的?我们又是如何合理的更新网页的?前一个问题涉及开发与部署,后一个问题涉及发布。下面我将会从网页入口、开发、部署与发布这 4 方面逐步展开分享。
博客
Java 日常反常识踩坑
08-21 873
本文主要是日常业务开发中自身碰到过跟常识不一致的坑,问题虽然基础,但却可能造成比较大的线上问题。
博客
“JVM” 上的 AOP:Java Agent 实战
08-16 851
说起 AOP 的实现方式,大家可能第一时间想到的是 Spring AOP。Spring AOP 通过封装 Cglib 和 JDK 动态代理的相关逻辑,提供给我们方便的途径来生成动态代理对象,从而轻松实现方法执行前后的切面逻辑。很多常见的日志框架、权限校验框架(Apache Shiro)、RPC 调用框架(Apache Dubbo)的切面逻辑都是通过集成 Spring AOP 来实现的。
博客
深入理解 RDMA 的软硬件交互机制
08-07 1213
随着数据中心的飞速发展,高性能网络不断挑战着带宽与时延的极限,网卡带宽从过去的 10 Gb/s 、25 Gb/s 到如今的 100 Gb/s、200 Gb/s 再到下一代的 400Gb/s 网卡,其发展速度已经远大于 CPU 发展的速度。为了满足高性能网络下的通信需求,阿里云不仅自研了高性能用户态协议栈 (Luna、Solar) ,也大规模使用了 RDMA 技术,以充分利用高性能网络。尤其是在存储和 AI 领域,RDMA 被广泛使用。
博客
测试环境领域到测试环境产品
07-31 368
目前的测试环境实践部分方案是基于当前的现状做了局部最优的选择,并非终态方案。有些在已有的基础上做的升级,有些依赖于架构治理的妥协选择:Stable 环境稳定可靠最核心方案应该是运维等级等同于线上,如与线上一同发布、机器规格、部署策略、操作管控等。这方面能力淘天集团前几年已经完成相关的升级。可观测系统对长尾技术栈需要按部就班的接入,如果所有架构统一,也就无需多余的投入。动态配置产品在分支隔离和使用规范上做到极致,其实也无需配置巡检。
博客
LLM 推理加速:decode 阶段的 Attention 在 GPU 上的优化
07-26 1077
随着大语言模型(Large Language Models,LLMs)在各领域的广泛应用,如何以低成本构建高吞吐、低延迟的推理服务成为了一个紧迫的问题。考虑到 LLM 在 GPU 上推理时参数量和计算量较大以致于单流执行就可以充分利用 GPU 资源,我们可以把 LLM 的推理延时分解到 kernel level,因此,进一步的,不考虑时间占比小的 kernel 计算后,LLM 的延时优化也就相应的分解成 GEMM 和 Attention 的 kernel 优化。
博客
什么?for 循环也会出问题?
07-19 796
初来乍到的笃某不假思索,对方法入参内的列表使用了排序大法,通过实现 compare 接口,对应两个 Detail 的修改时间,便很轻松的获取到了想要的值。
博客
微软最新 WiFi 远程代码执行漏洞(CVE-2024-30078)探究
07-17 1307
从函数的名称 Dt11Translate80211ToEthernetNdisPacket 可以推测,这个函数用于处理 802.11 数据包。802.11 是一种无线局域网的标准,而 WiFi 是 802.11 标准的一种产品实现。用 IDA 反编译函数,发现补丁是增加了一处对数值的比较,如果不满足条件则返回 NDIS_STATUS_INVALID_PACKET(0xc001000),即数据包非法。调用层次图表明,函数会在接收到 802.11 数据包时被调用。
博客
异步日志:性能优化的金钥匙
07-12 1386
前面提到了 Log4j2 的高可扩展性,同时 Log4j2 的性能也是极高的,下面是 Log4j2 官方的 benchmark 数据,仅供参考:Log4j2 之所以性能如此之高,其中一个很重要的原因就是其。
博客
FlinkSQL 开发经验分享
07-03 1570
FlinkSQL 的开发是最方便高效的实时数据需求的实现途径,但是它和离线的 ODPS SQL 开发在底层的机制和原理上还是有很大的区别,根本的区别就在于流和批的处理。如果按照我们已经习惯的离线思维来写 FlinkSQL,就可能会出现一些“离奇”的结果,但是遇到问题并不可怕,要始终相信根本不存在任何“离奇”,所有的问题都是可以追溯到原因的,而在这个探索的过程中,也可以学习到许多知识,所以让我们遇到更多的问题,积累更多的经验,熟练地应用 Flink。
博客
奇怪的缓存一致性问题
06-28 990
为了使各应用职责及整体的架构设计更加清晰,Push 中心整体将后台配置端和前台投放端分别部署在了两个应用中,两个应用需要分别配置数据库连接,分别配置缓存。数据一致性问题是我们在工程实践中经常遇到的一种问题,了解常见的解决方案,可以帮助我们有效解决该问题,更好地满足业务诉求。本文讲了那么多,到底哪种方案更好呢?是不是强一致性就是最优解?其实不存在绝对的“哪种方案更好”,只有最适合当前系统特性和业务需求的方案。
博客
一次压测引发的数据库 CPU 飙升
06-21 1032
一次压测过程中,当数据库的 qps 和 tps 都正常时,如果 cpu 利用率异常的高,应该如何排查?希望通过这篇文章,给你一些启发...
博客
从源码分析 vllm + Ray 的分布式推理流程
06-12 4290
随着 LLM 模型越来越大,单 GPU 已经无法加载一个模型。以 Qwen-14B-Chat 模型为例,模型权重大概 28GB,但是单个 NVIDIA A10 仅有 24GB 显存。如果想要在 A10 上部署 Qwen-14B-Chat 模型,我们需要将模型切分后部署到 2 个 A10 机器上,每个 A10 卡加载一半的模型,这种方式称之为分布式推理。社区涌现了很多支持分布式推理的框架如 vllm、deepspeed-mii,rtp-llm 等。
博客
Master-Worker 架构的灰度发布难题
06-05 1002
Master-Worker 架构是成熟的分布式系统设计模式,具有集中控制、资源利用率高、容错简单等优点。我们数据中心内的几乎所有分布式系统都采用了这样的架构。我们曾经发生过级联故障,造成了整个集群范围的服务中断。这让我们反思到 Master-Worker 架构难以有效的分批灰度发布的问题。本文试图分析其中原因,并尝试提出几种解决方案。防范集群范围的级联故联是分布式系统中的难题。本文提出了三种方法,但它们都有各自的局限。
写文章

热门文章

  • 迄今为止最完整的DDD实践 13628
  • ICML 2022|达摩院多模态模型OFA,实现模态、任务和架构三个统一 10527
  • 与机器对话,阿里达摩院挑战新一代人机对话技术 9115
  • 从业17年,聊聊关于测试这件事 8672
  • 阿里视觉AI的开放平台之路 8508

最新评论

  • 漫谈测试策略

    t_bug: 好文,学习了

  • 从源码分析 vllm + Ray 的分布式推理流程

    软件技术NINI: 由浅入深,简单易懂的把网络编程套接字的知识讲的明明白白,不可多得的好文,赞。感谢博主的分享,期待博主持续带来更多好文

  • 下一个爆款AI应用?视频交互新方式——AR隔空书写的应用探索和实践

    w123456qww: 请问有隔空写字的代码么

  • FlinkSQL 开发经验分享

    CSDN-Ada助手: 推荐 MySQL入门 技能树:https://edu.csdn.net/skill/mysql?utm_source=AI_act_mysql

  • FlinkSQL 开发经验分享

    征途黯然.: 表情包对FlinkSQL开发经验分享的解释非常清晰,文章真的很好。

最新文章

  • 从一个事故中理解 Redis(几乎)所有知识点
  • Web 性能优化|了解 HTTP 协议后才能理解的预加载
  • 如何让 Android 的前端页面像 iOS 一样“优雅”?
2024
10月 2篇
09月 4篇
08月 4篇
07月 6篇
06月 4篇
05月 3篇
04月 4篇
03月 4篇
02月 4篇
01月 6篇
2023年70篇
2022年105篇

目录

目录

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值

深圳坪山网站建设公司宝山区正规网站优化价格临沂网站关键字优化惠州网站综合优化哪家好网站优化大图seo兼职优化网站电商网站seo优化如何做工业区手机网站优化怎样优化网站流程湖北搜索引擎网站优化系统昆山网站优化报价城口网站快速优化武汉科技网站优化网站怎么样才能优化上首页南宁网站页面优化浙江省网站优化推广创新的网站优化惠州网站seo优化推广唐山网站页面优化比较好网站优化费用重庆网站优化seo公司寮步网站优化广州网站排名推广排名优化优化网站排名妙招易速达网站优化公司就属兴田德润市南区网站seo优化排名概念医院网站内链优化新建网站怎么优化成什么样广宁网站搜索引擎优化家居网站SEO优化电话永州网站优化哪家便宜香港通过《维护国家安全条例》两大学生合买彩票中奖一人不认账让美丽中国“从细节出发”19岁小伙救下5人后溺亡 多方发声卫健委通报少年有偿捐血浆16次猝死汪小菲曝离婚始末何赛飞追着代拍打雅江山火三名扑火人员牺牲系谣言男子被猫抓伤后确诊“猫抓病”周杰伦一审败诉网易中国拥有亿元资产的家庭达13.3万户315晚会后胖东来又人满为患了高校汽车撞人致3死16伤 司机系学生张家界的山上“长”满了韩国人?张立群任西安交通大学校长手机成瘾是影响睡眠质量重要因素网友洛杉矶偶遇贾玲“重生之我在北大当嫡校长”单亲妈妈陷入热恋 14岁儿子报警倪萍分享减重40斤方法杨倩无缘巴黎奥运考生莫言也上北大硕士复试名单了许家印被限制高消费奥巴马现身唐宁街 黑色着装引猜测专访95后高颜值猪保姆男孩8年未见母亲被告知被遗忘七年后宇文玥被薅头发捞上岸郑州一火锅店爆改成麻辣烫店西双版纳热带植物园回应蜉蝣大爆发沉迷短剧的人就像掉进了杀猪盘当地回应沈阳致3死车祸车主疑毒驾开除党籍5年后 原水城县长再被查凯特王妃现身!外出购物视频曝光初中生遭15人围殴自卫刺伤3人判无罪事业单位女子向同事水杯投不明物质男子被流浪猫绊倒 投喂者赔24万外国人感慨凌晨的中国很安全路边卖淀粉肠阿姨主动出示声明书胖东来员工每周单休无小长假王树国卸任西安交大校长 师生送别小米汽车超级工厂正式揭幕黑马情侣提车了妈妈回应孩子在校撞护栏坠楼校方回应护栏损坏小学生课间坠楼房客欠租失踪 房东直发愁专家建议不必谈骨泥色变老人退休金被冒领16年 金额超20万西藏招商引资投资者子女可当地高考特朗普无法缴纳4.54亿美元罚金浙江一高校内汽车冲撞行人 多人受伤

深圳坪山网站建设公司 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化