知行合一
Github
顺翔的技术驿站
顺翔的技术驿站
  • README
  • ABOUTME
  • Computer Science
    • 数据结构与算法
      • 位运算以及位图
      • 随机数
      • 递归
      • 经典排序算法
      • 经典查找算法
      • 数组和动态数组
      • 链表
      • 栈和队列
      • 树
      • 哈希表
    • 计算机网络
      • 物理层
      • 数据链路层
      • 网络层
        • TCP
      • 运输层
      • 应用层
      • HTTP
        • HTTPS的原理
        • DNS详解
        • file协议
        • 邮件协议
    • 设计模式
      • 单例模式
      • 建造者模式
      • 原型模式
      • 工厂模式
      • 享元模式
      • 代理模式
      • 装饰者模式
      • 桥接模式
      • 适配器模式
      • 外观模式
      • 组合模式
      • 事件驱动
      • 有限状态机
      • 备忘录模式
      • 模板方法模式
      • 策略模式
      • 迭代器模式
      • 命令模式
      • 解释器模式
    • 加密与解密
      • 数字证书原理
      • cfssl
  • Programming Language
    • 编程语言学习要素
    • Java
      • 集合
        • List
          • ArrayList
          • Vector
          • Stack
          • LinkedList
        • Iterator
        • Set
          • HashSet
          • TreeSet
        • Map
          • HashMap
          • HashTable
          • TreeMap
          • LinkedHashMap
      • 常用API
        • 日期时间处理
        • System
        • Random
        • Arrays
        • Scanner
        • 格式化输出
      • java特性
        • java5特性
        • java8特性
        • java9特性
        • java10特性
        • java11特性
      • 并发编程
        • 线程基础
        • 线程同步:synchronized及其原理
        • 线程同步: volatile
        • 锁机制
        • 锁的分类与对应的Java实现
        • JUC:同步辅助类
        • JUC: AtomicXXX
        • 线程池
        • ThreadLocal详解
      • 测试
        • 使用JMH进行基准测试
      • JVM
        • 强引用、软引用、弱引用、虚引用
        • jvm内存模型
        • jvm优化
        • GC算法与回收器
        • 静态绑定与动态绑定
      • ORM
        • Mybatis
          • IBatis常用操作
      • Web编程
        • Servlet详解(一)
        • Servlet详解(二):request和response对象
        • Servlet详解(三):会话技术与Cookie
        • JSP详解(一):页面构成、EL表达式
        • JSP详解(二):九大内置对象
        • JavaWeb的编码问题
        • Thymeleaf
      • Velocity
      • Java日志框架总结
      • Spring
        • SpringIOC
        • SpringMVC
        • SpringBoot源码
      • 其他
        • Apache Commons Lang使用总结
        • 使用FtpClient进行ftp操作
        • Java PDF操作总结
        • Java使用zip4j进行文件压缩
        • Java解析Excel总结
    • JVM Language
      • Groovy
      • Scala
    • Kotlin
      • 变量和常量
      • 数据类型
        • 基本数据类型
        • 容器类型
        • 函数类型
        • null和null安全
      • 流程控制
      • 包
      • 面向对象
    • Golang
      • 关键字与标识符
      • 变量和常量
      • 数据类型
      • 函数
      • 常用API
        • 时间日期处理
        • 字符串操作
        • 正则表达式
      • 控制语句
      • 包package
      • 面向对象
      • 错误处理
      • 命令行编程
        • Cobra
      • 文件操作
      • 测试
      • 并发编程
        • sync包详解
      • 数据格式与编码
        • 使用encoding包操作xml
        • 使用encoding包操作json
        • 使用magiconair操作properties
        • 使用go-ini操作ini
      • 反射
      • Build Tools
        • Go Module
        • Go Vendor
      • 日志框架
        • zap日志框架
      • Web编程
        • Gin
    • JavaScript
      • 数据类型
      • ECMAScript
        • ECMAScript6
      • NodeJS
    • TypeScript
      • 变量和常量
      • 数据类型
      • 函数
      • 面向对象
      • 泛型
      • Build Tools
        • tsc编译
        • 与webpack整合
    • Python
      • BuildTools
        • requirements.txt
        • Ananconda
    • Swift
      • 变量和常量
    • Script Language
      • Regex
      • BAT
      • Shell
    • Markup Language
      • Markdown
      • Yaml
  • Build Tools
    • CMake
    • Maven
      • 搭建Nexus私服
      • maven使用场景
    • Gradle
  • Version Control
    • Git
      • Git工作流
      • Git分支管理
      • Git Stash
      • Git Commit Message规范
      • .gitttributes文件
    • SVN
  • Distributed
    • 分布式基础理论
      • 互联网架构演变
      • 架构设计思想AKF拆分原则
      • CAP理论
      • BASE理论
    • 一致性
      • 一致性模型
      • 共识算法
        • Paxos
        • Raft
        • ZAB
      • 复制
        • 主从复制
        • Quorum机制
        • Nacos Distro协议
      • 缓存一致性
        • 双写一致性
        • 多级缓存一致性
    • 事务一致性
      • Seata
      • 本地消息表实现方案
      • 关于dpad的事务问题的分析
    • IO
    • RPC协议
    • 序列化
    • Session共享
    • 分布式协调
      • Zookeeper
        • zk集群4节点搭建
    • 服务治理
      • Dubbo分布式治理
    • 分布式ID
      • 分布式ID生成策略总结
    • 分布式锁
    • 应用服务器
      • Tomcat
    • Web服务器
      • Nginx
        • Nginx的基本配置
        • ab接口压力测试工具
        • nginx模块
        • 随机访问页面
        • 替换响应内容
        • 请求限制
        • 访问控制
        • 状态监测
        • nginx应用场景
        • 代理服务
        • 负载均衡
        • 缓存
        • 静态资源服务器和动静分离
        • 附录
      • Kong
    • 缓存中间件
      • Caffeine
      • memcached
      • Redis
        • Centos下安装Redis
        • RatHat下安装Redis
    • 数据库中间件
      • ShardingSphere
      • MyCat2
    • 消息中间件
      • Kafka
      • RocketMQ
  • Microservices
    • 服务发现
      • Nacos注册中心
      • Consul
    • 配置中心
      • Apollo
    • 消息总线
    • 客户端负载均衡
    • 熔断器
    • 服务网关
    • 链路追踪
      • Skywalking
  • Domain-Specific
    • Auth
      • 有关权限设计的思考
      • 认证方式
      • JWT
    • 任务调度
      • QuartzScheduler
      • Elastic-Job
      • XXL-Job
      • PowerJob
    • 工作流
      • BPM
      • Activiti
      • Flowable
    • 规则引擎
      • Drools
  • Architect
    • DDD领域驱动设计
      • 三层架构设计
      • 四层架构设计
    • Cola
    • 代码设计与代码重构
      • 重构改变既有代码设计
      • 枚举规范化
      • 接口幂等
      • 限流
      • 历史与版本
      • 逻辑删除和唯一索引
      • 业务对象设计
    • 单元测试
      • SpringBoot单元测试实践
    • 项目管理
    • APM
      • SkyWalking
      • Arthas
    • 性能优化
      • 接口性能优化
    • 系统设计
      • 流程中台
      • 短信中台
      • 权限中台
        • 智电运维平台组织架构改造二期
  • Database
    • Oracle
      • Docker下安装oracle11g
    • IBM DB2
    • Mysql
      • 安装Mysql
      • 用户与权限管理
      • MySQL的逻辑架构
      • 存储引擎
      • 索引详解
      • MySql的列类型
      • MySql中表和列的设计
      • MySql的SQL详解
      • 锁机制
      • 事务
      • Mysql函数总结
      • MySql存储过程详解
      • MySql触发器详解
      • Mysql视图详解
      • Mysql中Sql语句的执行顺序
      • 配置MySql主从和读写分离
      • MySql的备份策略
      • MySql分库分表解决方案
      • MySql优化总结
      • MySQL实战调优
        • schema与数据类型优化
    • Mongo
  • File System
    • README
    • HDFS
    • FastDFS
    • MinIO
  • Linux
    • 常用的Linux命令
    • vim
    • Linux磁盘管理
    • Linux系统编程
    • RedHat
      • rpm包管理器具体用法
    • Ubuntu
      • Ubuntu下录制屏幕并做成gif图片
      • Ubuntu20.05LiveServe版安装
  • DevOps
    • VM
      • 新建一个新的Linux虚拟机需要配置的东西
      • VMware桥接模式配置centos
      • VMwareFusion配置Nat静态IP
    • Ansible
    • Container
      • Docker
        • Dockerfile详解
        • DockerCompose详解
      • Containerd
    • Kubernetes
      • 安装k8s
        • 使用Minikube安装k8s
        • centos7.x下使用kubeadm安装k8s1.21
        • ubuntu20下使用kubeadm安装k8s1.21
        • centos7.x下使用二进制方式安装k8s1.20
        • 使用DockerDesktop安装K8s(适用M1芯片)
      • 切换容器引擎
      • 使用k8s部署项目的流程
      • 集群维护-备份升级排错
    • Gitlab
      • GitlabCI/CD
    • CI/CD
      • ArgoCD
  • Big-Data
    • Hadoop
    • MapReduce
    • HDFS
  • Front-End
    • Android
      • Log的使用、自定义Log工具类
      • Android倒计时功能实现
      • 解决ViewDrawableLeft左侧图片大小不可控的问题
      • AndroidSQLite基本用法
      • View的生命周期
      • 工具类
      • WebView详解
      • ViewTreeObserver类监听ViewTree
      • 在onCreate中获取控件的宽高等信息的几种方法
      • View的foreground属性
        • MaterialDesign
          • BottomNavigationBar
          • CardView
          • Elevation高度、shadows阴影、clipping裁剪、tint着色
          • TouchFeedbackRipple波纹动画
      • Volley完全解析——使用、源码
      • Android围住神经猫的实现
      • LookLook剖析,架构概述——MVP、Retrofit+RxJava
      • Android性能优化之渲染
    • Browser
      • 浏览器的工作原理
    • HTML
      • DOCTYPE标签、XHTML与HTML的区别
    • CSS
      • CSS的继承性、层叠性、权重
      • CSS浮动float详解(一):标准文档流
      • CSS浮动float详解(二):使用float
      • CSS浮动float详解(三):清除浮动方案
    • Tools Lib
      • JavaScript 文件下载解决方案-download.js
      • js-url 用于url的js开源库
      • jsuri 用于操作url的js开源库
      • window offset
    • React
      • 模块化和组件
      • 组件的三大核心属性
      • 事件处理
      • 表单数据收集
      • 生命周期
      • DOM的diff算法
      • 工程化
        • 脚手架create-react-app
        • 工程结构和模块化
      • 路由
  • Design
    • 产品设计
      • 交互设计
由 GitBook 提供支持
在本页
  • 什么是分布式
  • 分布式和集群的关系
  • 发展历史
  • 计算机的发展历史
  • 分布式架构的发展历史
  • 架构演变
  • 单机计算机的架构->分布式计算机架构
  • 分布式架构演变过程

这有帮助吗?

在GitHub上编辑
  1. Distributed
  2. 分布式基础理论

互联网架构演变

上一页分布式基础理论下一页架构设计思想AKF拆分原则

最后更新于1年前

这有帮助吗?

互联网架构索要解决的主要问题:

  • 高并发

  • 海量数据

什么是分布式

从上图可以看出,要想实现分布式,必须解决两个问题:

  1. 任务分解

  2. 结点通信

分布式和集群的关系

分布式:一个业务拆分为多个子业务,部署在不同的服务器上

集群:同一个业务,部署在多个服务器上

注意:如果将多个子系统部署在同一服务器上,在网络层面来讲,就不能称为分布式

发展历史

计算机的发展历史

  1. 1946年情人节第一台电子数字计算机,在美国宾夕法尼亚大学诞生,可以进行每秒五千次的加法运算,由美国人莫克利发明

  2. 1964年,大型机 IBM SYSTEM/360 被发明,具有超强的计算能力和可靠性。当时通常用于金融、政府。大型主机的出现,引领了软件朝集中式发展

  3. 大型主机后,计算机共有两条发展趋势:

    1. x86 CPU 朝个人PC机发展

    2. RISC CPU 朝小型机发展

大型机时代,软件往集中式发展,成为当时软件架构的主流。

分布式架构的发展历史

  1. PC机的性能不断提升,给分布式提供了条件

  2. 企业开始去 IOE 运动: IBM小型机、Oracle、EMC存储设备

  3. 2013年5月17日,最后一台IBM小型机下线

淘宝大约在08年开始去IOE,将其架构替换为: PC机、MySql、SSD硬盘和Fusion-IO

架构演变

单机计算机的架构->分布式计算机架构

冯诺依曼模型:运算器、控制器、存储器、输入设备、输出设备

计算机架构也可以映射为分布式架构:

  1. 存储器:数据库、缓存

  2. 运算器:业务员逻辑、程序

  3. 控制器:硬负载、软负载

  4. 输入设备/输出设备:用户界面

  5. 数据流/指令流/控制流:RPC调用、消息

分布式架构演变过程

一个公司的架构在一开始一定不是最完美的,也没有一开始就具备高性能、高并发、高可用、安全性等特性,而是随着用户量的增加、业务功能的扩展逐步演变过来的,慢慢的完善的

第一阶段 单应用架构

描述:网站初期,在一台服务器上运行所有的软件,搭建过程效率极高

第二阶段 应用服务器与数据服务器分离

随着负载的提高,单机服务器性能已经无法满足网站的运行,此时可以对将应用服务器与数据服务器分离,既提高了负载能力,又提高了系统的容灾能力

描述:应用服务器与数据服务器完全分离,相互不影响,大大减少网站宕机的风险

第三阶段 应用服务器集群

随着访问量的不断增加,单台应用服务器不再能满足我们的需求,可以通过增加应用服务器的方式对用户请求进行分流,从而提升系统的负载能力

发展到上面的架构,各种问题也就出现:

  1. 用户请求如何转发到具体的应用服务器上

  2. 如果每次访问到服务器不同,如何维护session信息,如何进行session共享

负载问题解决:

  1. 硬件负载均衡器,F5,完善,可以解决session共享的问题,但是比较昂贵

  2. 软负载均衡

Session跨域共享问题解决:

  1. session sticky, 保证请求落在同一台服务器上

  2. session replication, session复制,早期常用的解决方案,每台服务器上都保存session,会造成session网络同步开销,占用空间更大

  3. session集中存储,存储在DB或者缓存(redis)中

  4. cookie ,无需在服务器上保存会话信息,将会话信息保存在cookie中,一般时access_token(userid/token/timstamp),access_token需要进行ip验证,防止access_token被截获,造成安全问题

为了解决上述问题,架构就变成了如下:

第四阶段 数据服务器读写分离

如何提高数据库的性能?如果单纯的部署两台数据库,然后负载到不同的数据库上,一定会造成数据不一致的情况,又因为网站中百分之八十大都是读请求,所以我们可以考虑对数据库进行读写分离。

上面的架构引入了两个新的问题?

  1. 如何进行读写分离?答:mysql提供了master/slave模式

  2. 应用层如何对数据源选择?答:使用第三方数据库中间件,比如mycat

第五阶段 引入搜索引擎

用户频繁的搜索导致度数据库压力继续增大,使用 sql like搜索效率极低,此时开始引入搜索引擎集群,搜索操作都会经过搜索引擎,大大减缓了读库的压力。

问题:搜索引擎索引数据如何同步,是实时增量同步?还是定时全量同步?

第六阶段 引入缓存技术,减缓数据库压力

第七阶段 数据库水平/垂直拆分

用户多,随着数据量的增大,数据库的瓶颈又重新展现出来,此时可以对数据库进行水平拆分和垂直拆分。

  • 垂直拆分:将数据库不同业务数据拆分到不同的数据库中

  • 水平拆分:将同一表中数据拆分到两个甚至更多的数据库中,水平拆分的原因是某些业务数据量已经达到了单个数据库的瓶颈,这时可以采取将表拆分到多个数据库中

第八阶段 应用拆分

当业务越来越大,应用服务器压力越来越大时,工程规模也越来越大,我们可以考虑应用拆分,将业务拆分为多个子系统

上述应用拆分后,虽然进行了模块拆分,但是如果要在交易信息中查询用户信息,并不是通过调用用户模块的功能实现的,而实直接在内部使用sql查询用户信息,所以每个系统都会有查询用户的sql,如果用户表结构发生变化,所有子系统都会进行修改,所以需要对用户进行服务抽离:

file
file
file
file
file
file
file
file
file
file
file
file