学习路线
2023-11-30 22:21:56 5 举报AI智能生成
学习路线
作者其他创作
大纲/内容
健康工作、开心生活
工作中多和领导沟通，让对方知道你现在的困难点，疑惑点这样有利于自己的快速成长 项目遇到阻力也要第一时间表达出来，按时完成是你和领导共同的kpi 你延期了他可能比你还难受，而他不会丢饭碗，你会
确保当前做的事情是有意义的，能给自己不断带来成长的，职场前几年不要太看重钱，能力上去钱很容易就来了
跳出当前所做事情的局限，带着leader的思维去干好你每一年的工作你才有可能加速让自己成为leader
定期给自己定一些小目标，确保目标是正确的，然后拆分目标一件件落实
埋头苦干之前，先抬头看路
职场最重要的几件事
健康开心会加速你的成长
不要碰自己不懂的行业，只知道皮毛不算懂，最好自己从事什么行业，就投资这个行业的头部公司
如果只是投一点点钱玩玩，没必要天天看涨跌或喜或忧的，放那不动，好好工作，最后你会发现还是工作来钱快
因为无知，所以大家不敢重点投资一两家公司，买几个十几个股票的大有人在，因为你还不够了解，如果你足够了解市场和公司的时候就应该只投几家你足够有把我的公司然后等风来。
人生只需要把握一到两次重大的投资 all in进去即可翻身了，几万几千的小打小闹不会改变你的生活，如果没这个认知之前，不如好好工作赚钱买房来的实在，浅显的投资会分散你的精力
投资本身涉及的点不应该局限于眼前，而是未来，行业的未来，公司在这个行业所处的地位，未来几年是否有重大突破，管理层价值观你是否认可等等一系列因素，不要因为你觉得好就买了，这根赌没啥区别
投资最重要的事情
人生把握一到两次重大投资就够了，天天盯着支付宝欢喜交加啥也捞不到
我的学习方法比较简单，北极星目标，给自己定下目标之后，不断拆分 每次完成小目标就离大目标进一步
我之前是大数据团队的我们会和算法有很多合作，我知道算法推荐不断完善模型背后的目的，就是杀死用户的时间
卸载掉哪些信息流软件，他们杀你时间的方式太简单粗暴了
我看书学习的时候会把手机丢很远，其实也不会有什么重要的人和事情找你，不要一直看，真的着急他们会打电话的。
坚持
学习方法
数组+链表
头插
1.7
数组+链表+红黑树
尾插
1.8
LoadFactory 默认0.75
Hash公式跟长度有关
创建一个空数组重新Hash
扩容机制
线程不安全
方便位运算
均匀分布
2的幂次
重写equals必须重写HashCode
HashMap
安全失败
继承了reentranLock
尝试获取锁存在并发竞争 自旋 阻塞
segment分段锁
get高效 volatile修饰 不需要加锁
volatile修饰节点指针
HashEntry
再失败就sync保证
cas失败自旋保证成功
CAS+synchronized
node
ConcurrentHashMap
数组
查找 访问速度快 增删效率低 线程不安全
ArrayList
双向链表
适合插入删除频繁的情况 内部维护了链表的长度
LinkedList
集合
语音
视频
直播
UDP
syn seq
syn ack seq
ack seq
为了防止已失效的连接请求报文段突然又传送到了服务端，因而产生错误。
三次握手
fin ack seq
ack seqfin ack seq
四次挥手
网络会话
文件传输
发送接收邮件
远程登录
场景
如何保证可靠
TCP
HTTP
为啥安全
HTTPS
阻塞等待链接
阻塞等待数据
开线程处理并发
耗资源
BIO
非阻塞IO
epoll
NIO
在报文末尾增加换行符表明一条完整的消息，这样在接收端可以根据这个换行符来判断消息是否完整。将消息分为消息头、消息体。可以在消息头中声明消息的长度，根据这个长度来获取报文（比如 808 协议）。规定好报文长度，不足的空位补齐，取的时候按照长度截取即可。
粘包/拆包
单个进程可监视的fd数量被限制，即能监听端口的大小有限。
对socket进行扫描时是线性扫描，即采用轮询的方法，效率较低：
需要维护一个用来存放大量fd的数据结构，这样会使得用户空间和内核空间在传递该结构时复制开销大
select
大量的fd的数组被整体复制于用户态和内核地址空间之间，而不管这样的复制是不是有意义
poll还有一个特点是“水平触发”，如果报告了fd后，没有被处理，那么下次poll时会再次报告该fd。
poll
没有最大并发连接的限制，能打开的FD的上限远大于1024（1G的内存上能监听约10万个端口）；
效率提升，不是轮询的方式，不会随着FD数目的增加效率下降。
内存拷贝，利用mmap()文件映射内存加速与内核空间的消息传递；即epoll使用mmap减少复制开销。
多路复用
neetty 非异步 阻塞 response trse id 感觉
序列化
基础
Mark Word（存储对象的HashCode，分代年龄和锁标志位信息。）
Klass Point（对象指向它的类元数据的指针，虚拟机通过这个指针来确定这个对象是哪个类的实例。）
EntryList
Owner（会指向持有 Monitor 对象的线程）
WaitSet
Monitor
对象头（Header）
实例数据
对其填充
对象
ACC_SYNCHRONIZED
方法
monitorenter
monitorexit
加减
程序计数器 count
代码块
无锁
mark Word 中有线程信息 cas 比较
偏向锁
复制了一份mark work 叫 Lock record 也是cas尝试改变指针
轻量级
死循环
自旋
重量级
锁膨胀
as-if-serial
happens-before
有序性
内存强制刷新
可见性
单一线程持有
原子性
计数器
可重入性
特性保证
用户态内核态切换
重锁
synchronized是关键字，是JVM层面的底层啥都帮我们做了，而Lock是一个接口，是JDK层面的有丰富的API。synchronized会自动释放锁，而Lock必须手动释放锁。synchronized是不可中断的，Lock可以中断也可以不中断。通过Lock可以知道线程有没有拿到锁，而synchronized不能。synchronized能锁住方法和代码块，而Lock只能锁住代码块。Lock可以使用读锁提高多线程读效率。synchronized是非公平锁，ReentrantLock可以控制是否是公平锁。
锁升级不可逆
劣势
sync 和 Lock的区别
synchronized
内存泄露
session
ThreadLocal
ReadLock
WriteLock
ReentrantReadWriteLock
tryAcquire
acquireQueued
CAS
NonfairSync
hasQueuedPredecessors
如果是当前持有锁的线程 可重入
FairSync
入队 出队
头结点设计
共享和独享的实现
实际应用
cpu开销
AtomicReference
只能保证一个共享变量原子操作
标志位 时间戳
ABA
存在的问题
AbstractQueuedSynchronizer
ReentrantLock
StampedLock
Lock
当CPU写数据时，如果发现操作的变量是共享变量，即在其他CPU中也存在该变量的副本，会发出信号通知其他CPU将该变量的缓存行置为无效状态，因此当其他CPU需要读取这个变量时，发现自己缓存中缓存该变量的缓存行是无效的，那么它就会从内存重新读取
锁bus
总线风暴
volitale会一直嗅探 cas 不断循环无效交互 导致带宽达到峰值
MESI
高速缓存
Java内存模型JMM
处理器嗅探总线
嗅探机制 强制失效
源代码->编译器优化重排序->指令级并行重排序->内存系统重排序->最终执行的指令序列
lock 前缀指令 内存屏障
禁止指令重排序
volatile变量规则：对一个volatile域的写，happens-before于任意后续对这个volatile域的读。
AtomicInteger
跳出死循环
volatile
newFixedThreadPool
SynchronousQueue
newCacheThreadPool
newSIngleTheadExecutor
DelayedWorkQueue
newScheduledThewadPool
newWorkStealingPool
ThreadPoolExecutor
默认没线程等任务来了才调用 除非调用了 预创建线程 一个或者全部
核心线程数
最大线程数
没有执行任务多久会终止 当线程池的线程数大于核心线程才会起作用 调用allowCoreThreadTimeOut会起作用
空闲时间&单位
无界 当心内存溢出
LinkedBlockingQueue
有界队列
加锁保证安全 一直死循环阻塞 队列不满就唤醒
在进行某项业务存储操作时，建议采用offer进行添加，可及时获取boolean进行判断，如用put要考虑阻塞情况（队列的出队操作慢于进队操作），资源占用。
入队
ArrayBlockingQueue
Synchronous
缓冲队列
工厂方法
抛异常
丢弃
重试
丢弃最早提交的
拒绝策略
使用Has表维护线程的引用
使用future获取任务的执行结果
submit
参数意义
商品详情界面
批处理
实际使用
核心线程->队列->最大线程->拒绝策略
执行过程
running
shutdown
stop
所有线程销毁
terminated
有个Volatile的状态码
corePoolSize、maximumPoolSize、largestPoolSize 有意思
运行状态
故障
线程池
JUC
主要可以介绍一下 wait/notify 机制，共享变量的 synchronized 或者 Lock 同步机制等。
CountDownLatch
CyclicBarrier
线程间是怎么进行通信的？
可以从尽量减少临界区范围，使用 ThreadLocal，减少线程切换、使用读写锁或 copyonwrite 等机制这些方面来回答。
ThreadLocal 用来解决什么问题？
ThreadLocal 是如何实现的？可以重点回答 ThreadLocal 不是用来解决多线程共享变量的问题，而是用来解决线程数据隔离
如何尽可能提高多线程并发性能？
可以回答读写锁适合读并发多，写并发少的场景，另外一个解决这种场景的方法是 copyonwrite。
读写锁适用于什么场景？
可以尝试通过锁、信号量、线程通信、阻塞队列等不同方式实现。
如何实现一个生产者与消费者模型？
常见问题
start
sleep休眠超时
线程就绪
线程状态
只有一个构造方法 只会被赋值一次
没有别的方法可以修改 count
countDownLatch
多线程
堆
栈
方法区
本地方法栈
程序计数器
JVM内存模型
加载->验证->准备->解析->初始化->使用->卸载
父类加载 不重复加载
双亲委派原则
类加载机制
Eden/s1/s2
年轻代
老年代
永久代/元空间
根据存活时间
晋升机制
分代回收
对象存活比较多的时候适用
适用场景
提前GC
碎片空间
标记存活对象
清除没有标记的对象
扫描了两次
缺点
标记清除
存活对象少 比较高效
扫描了整个空间（标记存活对象并复制异动）
适合年轻代
适合场景
需要空闲空间
需要复制移动对象
标记复制
没办法解决循环引用的问题
引用计数
标记整理
垃圾回收机制
edan
s1
s2
通过阈值晋升
minor gc
年轻
major gc 等价于 full gc
老年
永久
分代
对cpu资源敏感
无法处理浮动垃圾
基于标记清除算法 大量空间碎片
CMS
分区概念 弱化分代
标记整理算法 不会产生空间碎片 分配大对象不会提前full gc
可以设置预设停顿时间
充分利用cpu 多核条件下 缩短stw
初始标记 stw 从gc root 开始直接可达的对象
可达性分析算法
并发标记 gc root 对对象进行可达性分析 找出存活对象
最终标记
根据用户期待的gc停顿时间指定回收计划
筛选回收
收集步骤
复制一些存活对象到old区s区
回收所有的eden s区
young gc
mixed gc
回收模式
GC模式
G1
g1分区域 每个区域是有老年代概念的 但是收集器以整个区域为单位收集
g1回收后马上合并空闲内存 cms 在stw的时候做
区别
XX:G1HeapRegionSize
复制成活对象到一个区域 暂停所有线程
内存区域设置
垃圾回收器
老年代写满
system。gc
持久代空间不足
full gc
STW
设置堆的最大最小值 -xms -xmx
防止年轻代堆收缩：老年代同理
-XX:newSize设置绝对大小
调整老年和年轻代的比例
主要看是否存在更多持久对象和临时对象
观察一段时间 看峰值老年代如何 不影响gc就加大年轻代
配置好的机器可以用 并发收集算法
每个线程默认会开启1M的堆栈 存放栈帧 调用参数 局部变量 太大了 500k够了
原则 就是减少gc stw
性能调优
jasvism
dump
监控配置 自动dump
FullGC 内存泄露排查
实战
oom种类
逃逸分析
虚拟机栈（栈帧中的本地变量表）中引用的对象方法区中类静态属性引用的对象方法区中常量变量引用的对象本地方法栈中JNI（即一般说的Native方法）引用的对象活跃线程的引用对象
可达性
OOM
线程死锁
锁争用
Java进程消耗CPU过高
JVM调优
Jconsole
Jprofiler
jvisualvm
MAT
JVM性能检测工具
help dump
生产机 dump
mat
jmap
-helpdump
topc -c
top -Hp pid
进制转换
jstack
cat
CPU100%
JVM
单例
工厂
根据不同商家适配
适配器
继承 process 链路执行
责任链
设计模式
源码
invokeBeanFactoryPostProcessors
扫描类
封装beanDefinition对象 各种信息
放到map
遍历map
能不能实例化 需要实例化么 根据信息来
是否单例等等
判断是不是factory bean
单例池 只是一个ConcurrentHashMap而已
正在创建的 容器
验证
得到 class
根据注入模型
默认
推断构造方法
得到构造方法
反射 实例化这个对象
后置处理器合并beanDefinition
判断是否允许 循环依赖
提前暴露bean工厂对象
自动注入
填充属性
执行部分 aware 接口
继续执行部分 aware 接口 生命周期回调方法
完成代理AOP
beanProstprocessor 的前置方法
实例化为bean
放到单例池
销毁
生命周期
单例（singleton）
多例（prototype）
Request
Session
作用域
Bean
属性注入可以破解
三级缓存没自己 因二级之后去加载B了
构造器不行
情况
去单例池拿
判断是不是正在被创建的
判断是否 支持循环依赖
二级缓存 放到 三级缓存
GC
干掉二级缓存
下次再来直接 三级缓存拿 缓存
三级缓存
一级缓存 单例Bean
产生bean 复杂
二级缓存 工厂 产生baen
三级缓存 半成品
缓存 存放
循环依赖
父子容器
采用不同的连接器
共享链接
用AOP 新建立了一个 链接
ThreadLocal 当前事务
前提是 关闭AutoCommit
事务实现原理
实现类
静态代理
调用具体方法的时候调用invokeHandler
java反射机制生成一个代理接口的匿名类
实现接口
JDK动态代理
修改字节码生成子类去处理
asm字节码编辑技术动态创建类 基于classLoad装载
cjlib
动态代理
AOP
IOC
生成一个class对象
加载
文件格式验证
元数据验证
字节码验证
符号引用验证
默认值
static会分配内存
准备
引用等
解析具体类的信息
解析
父类没初始化 先初始化父类
初始化
使用
卸载
过程
main（）
class。forName
ClassLoader。loadClass
加载方式
Appclass Loade
Extention ClassLoader
Bootstrap ClassLoader
类加载器
可以避免重复加载
安全
Spring
String
Hash
set
score
只需要调整前后节点指针
随机层数
还会比较value
不止比较score
成绩
积分
排行榜
zset
分页的坑
List
HyperLogLog
Geo
Pub/Sub
BitMap
键值的底层都是SDS
AOF缓存区
记录本身长度 C需要遍历
空间预支配
惰性空间释放
修改字符减少内存重新分配
C只能保存文本数据 无法保存图片等二进制数据
sds是使用长度去判断
二进制安全
杜绝缓冲区溢出
兼容部分C字符串函数
SDS
保存多个客户端的状态信息
列表订阅发布 慢查询 监视器
链表
数据库 哈希键
Hash表节点
hash冲突用单向链表解决
会逐渐rehash 新的键值对全部放到新的hash表
渐进式 rehash
一个平时用 一个rehash时候用
每个字典带 两个hash表
字典
压缩列表
整数集合
底层
数据结构
Keys
setnx
exprie
常见命令
5分钟一次
冷备
恢复的时候比较快
快照文件生成时间久，消耗cpu
RDB
appendOnly
数据齐全
回复慢文件大
AOF
从节点发送命令主节点做bgsave同时开启buffer
数据初始化
持久化
offset
指令流
主从同步
缓冲区
快照同步
数据同步机制
集群监控
消息通知
故障转移
配置中心
脑裂
哨兵
横向扩容
多主
分片
集群
高可用
加随机值
集群部署
缓存雪崩
互斥锁
热点数据不失效
缓存击穿
布隆过滤器
缓存穿透
延时双删
双写一致性
分布式锁
并发竞争
bigkey命令 找到干掉
Redis 4.0引入了memory usage命令和lazyfree机制
大Key
缓存时间不失效
多级缓存
读写分离
热点key
创建一个定时器
消耗内存
定时删除
可能存在大量key
惰性删除
检查 删除 但是是随机的
定期删除
过期策略
最少使用
LUR
淘汰机制
主从+哨兵+cluster
ecache+Hystrix+降级+熔断+隔离
备用方案
setnx ex
窗口滑动
zset会越来越大
定时push
然后leftpop
空连接异常
blpop
空轮训
问题
令牌
Redis-Cell
原子性有问题
make_space 灌水之前调用漏水 腾出空间 取决于流水速率
漏桶 funnel
redis cell
限流
二级缓存
备份热key 走不同的机器
选择方案
跳跃表
漏桶
scan
扩展
read得读到很多才返回 为0会卡在那 直到新数据来或者链接关闭
写不会阻塞除非缓冲区满了
非阻塞的IO 提供了一个选项 no_blocking 读写都不会阻塞 读多少写多少 取决于内核的套接字字节分配
非阻塞IO也有问题 线程要读数据 读了一点就返回了 线程什么时候知道继续读？写一样
一般都是select解决 但是性能低 现在都是epoll
多路IO复用
Redis
唯一主键
分库分表
没视图概念 都是返回最新的
读未提交
不同的read view
读已提交
用一个read view
可重复度
5.5之前回滚段删了文件也不会变小
没更早的read view删除
回滚日志
事务隔离级别
B+
等值查询
预发跑sql explain
排除 缓存 sql nocache
看一下行数对不对 不对可以用analyze table t 矫正
添加索引 索引不一定是最优的 force index 强制走索引 不建议用
存在回表的情况
主键索引
覆盖索引避免回表，不要*
联合索引 不能无限建 高频场景
最左前缀原则 按照索引定义的字段顺序写sql
合理安排联合索引的顺序
5.6之后 索引下推 减少回表次数
前缀索引
倒序存储
给字符串加索引
redo log满了 修改checkpoint flush到磁盘
要知道磁盘的io能力 设置innodb_io_capacity 设置为磁盘的IOPS fio测试
innodb_io_capacity设置低了 会让innoDB错误估算系统能力 导致脏页累积
buffer pool
系统内存不足淘汰数据页
系统空闲的时候 找间隙刷脏页
MySQL正常关闭，会把内存脏页flush到磁盘
数据库的flush的时机
脏页比例
redolog 写盘速度
机械磁盘的随机io不太行 减少随机io性能大幅提升 设置为 1最好
现在都是ssd了 设置为0就够了 8.0之后默认是0
innodb_flush_neighbors 0
innodb刷盘速度
如果触发隐式转换 那也会走cast函数 会放弃走索引
索引字段不要做函数操作，会破坏索引值的有序性，优化器会放弃走树结构
convert 也是函数所以走不上
字符集不同可能走不上索引
优化流程
聚集索引
减少回表
多扫描一次
非聚集索引
页满了 页分裂 页利用率下降
数据删除 页合并
自增 只追加可以不考虑 也分页
索引长度
索引维护
找到第一个之后 直到朋友不满足的
普通索引
找到第一个不满足的就停止了
唯一索引
包含主键索引值
覆盖索引
安排字段顺序
最左前缀原则
hash
索引空间问题
不需要多个回表 一边遍历 一边判断
5.6之后索引下推
页的概念
change buffer
更新操作来了 如果数据页不在内存 就缓存下来 下次来了 更新 在就直接更新
唯一索引 需要判断 所以 用不到change buffer
唯一索引 判断没冲突插入
普通索引 插入
记录在页内存
数据页读入内存 判断 插入
记录不再页中
数据读是随机IO 成本高
机械硬盘 change buffer 收益大 写多读少 marge
innodb的处理流程
更新
索引选择
索引
版本链 在聚集索引中 有两个隐藏列 trx_id roll_pointer
直接读取最新版本
加锁
每次读取前生成一个
第一次生成一个
Read View
MVCC
全库逻辑备份
全局锁
lock table read/write
MySQL5.5引入 自动添加 读锁不互斥 写锁互斥
MySQL的information_schema 库的 innodb_trx 表 找到对应长事务 kill掉
alter table里面设定等待时间
多个事务之前操作，如果查询的时候修改字段容易让线程池饱满
MDL（metadata lock)
Myisam是不支持表锁的
表锁
需要的时候才加上 并不是马上释放 等事务结束才释放 两阶段锁协议
默认是50s太久 但是如果设置太短会误判 一般采用死锁监测
innodb_lock_wait_timeout
超时时间
innodb_deadlock_detect = on
死锁机制 事务回滚
死锁
关掉死锁会出现大量重试
临时关闭
死锁消耗CPU
更多的机器 开启比较少的线程 消耗就少了
控制并发度
分治
热点行
行锁
间隙锁
lock in share mode
for update
读
写
读写锁
innodb如何加锁
锁
回滚 mvcc
undo log
sync_binlog 可以优化日志写入时机
物理日志 内存操作记录
redo log
组提交机制，可以大幅度降低磁盘的IOPS消耗。
binlog
两段式提交 redo 准备 binglog 提交
log
mvcc影响
count1 *
强制走主
sleep
主备延迟
驱动表
join
bigint
row_id 没设置主键的时候
thread_id
id用完
设置 binlog_group_commit_sync_delay 和 binlog_group_commit_sync_no_delay_count参数，减少binlog的写盘次数。这个方法是基于“额外的故意等待”来实现的，因此可能会增加语句的响应时间，但没有丢失数据的风险。将sync_binlog 设置为大于1的值（比较常见是100~1000）。这样做的风险是，主机掉电时会丢binlog日志。将innodb_flush_log_at_trx_commit设置为2。这样做的风险是，主机掉电的时候会丢数据。
mysql io性能瓶颈
查看空闲忙碌链接
定时断开链接
mysql_reset_connection 恢复链接状态
客户端空闲时间
wait_timeout
show processlist
redolog事务持久化
innodb_flush_log_at_trx_commit
binlog事务持久化
sync_binlog
数据库挂了 show processlist 一千个查询在等待 有个超长sql kill 但是不会引起flush table 周末 优化脚本 analyze 会导致 MySQL 监测到对应的table 做了修改 必须flush close reopen 就不会释放表的占用了
真实故障
MySQL
PG？大数据？云原生？
选举机制
过半机制
预提交 ack 2pc
ZAB协议？
zk节点宕机如何处理？
如何实现分布式一致性
Zookeeper
羊群效应
临时节点顺序
性能没redis高
性能比较高
设置一个失效时间用定时任务去跑
数据库集群 主备同步
搞个死循环排队
可重入设计一个字段累加
用数据库自身的锁就可以了 行锁 索引
select XX for update
记得 提交
宕机数据库也会自动释放锁
排它锁
比其他的更消耗资源
复杂
数据库
互斥
安全性
容错
特点
贪心
动态规划
快排
堆排
二叉树
链表反转
成环
环节点
跳楼梯
算法
内存屏障
指令乱序
分支预测
NUMA
CPU亲和性
扩展知识
然后就swap
会重新加载整个RDB
这个时候做bgsave cow的机制就没了
bgsave之后会做一个emptyDB
CPU彪升
sync遇到了bgsave
重连
大量请求会让值升高 超出阈值断开
master 复制缓存挤压区的时候 有个参数client-output-buffer-limit 默认1M
tps过高的时候
高并发场景下无限同步
预估体量参数动态调整
slave重连对比offset发现空档重新sync
阻塞久了复制缓冲区的数据就被冲掉了，是个队列会踢掉之前的数据
slave做RDB同步的时候会导致TPS过高无法加载
canal 并发修改
es 自动机构建
redis es 深分页
实在没有可以去网上找找 但是得记熟悉
遇到过的坑
并发 多线程
业务亮点
比如我自己之前做的一些中间件改造优化
大数据底层优化 融合改造
技术亮点
一定要有核心亮点
可以是业务上的也可以技术上的
最好让对方看到你在团队视角的视野和格局，而不是局限于一个coder
突出你在项目中做的事情和收获
一定要对你简历上的每一个细节都了如指掌
项目
全局报警
拦截spring事务
分布式事务组件
个人项目
高并发下单
订单生成
设计方案
想去XX
成长受限
薪资
个人原因
渴望大平台
为什么换工作
职业规划
之前的公司你怎么评价
有什么想问我的么？
HR面
学习路线
0 条评论
回复 删除
下一页
