狹義地講,性能是指軟件在盡可能少地占用系統(tǒng)資源的前提下,盡可能高地提高運(yùn)行速度。
談及性能,我們的關(guān)注點(diǎn)不再是軟件或者系統(tǒng)的功能,而是在其實(shí)現(xiàn)功能過(guò)程中所表現(xiàn)出來(lái)的資源效率。
一、池化思想什么是池化?
【資料圖】
簡(jiǎn)單的說(shuō)就是設(shè)置一個(gè)公共對(duì)象池,對(duì)于其中的對(duì)象直接復(fù)用而不再使用新創(chuàng)建的方式。
1、JDK 的包裝類型值緩存池Integer::IntegerCache 整形包裝類緩存
用于 [-128, 127] 之間數(shù)字裝箱操作使用。最大值可以通過(guò) "java.lang.Integer.IntegerCache.high" 設(shè)置。
第一次使用的時(shí)候初始化,其大小可以通過(guò) -XX:AutoBoxCacheMax=
Character::CharacterCache
緩存大小為 size = 127,即存儲(chǔ) [0, 127] 值域的 char 字符。
Long::LongCache
緩存大小 size = -(-128) + 127,即存儲(chǔ) [-128, 127] 值域的 long 值。
Byte::ByteCache
緩存大小 size = -(-128) + 127,即存儲(chǔ) [-128, 127] 值域的 byte 值。
Short::ShortCache
緩存大小 size = -(-128) + 127,即存儲(chǔ) [-128, 127] 值域的 short 值。
2、Netty 內(nèi)存池Netty 支持通過(guò)內(nèi)存池的方式循環(huán)利用 ByteBuf,避免了頻繁的創(chuàng)建,銷毀 ByteBuf 帶來(lái)的資源及性能損耗。
ByteBuf byte 數(shù)據(jù)緩沖區(qū),是NIO編程的主要對(duì)象。高負(fù)載情景下,ByteBuf 內(nèi)存池使用,可以有效降低GC頻率。
PoolArena Netty 的內(nèi)存池實(shí)現(xiàn)類。PoolArena 是由多個(gè)Chunk組成的大塊內(nèi)存區(qū)域,每個(gè) Chunk 由一個(gè)多個(gè) Page 組成。
Chunk:組織管理 Page 的內(nèi)存分配和釋放,Page 被構(gòu)建為二叉樹形式:
PoolSubpage:對(duì)于小于 Page 的內(nèi)存使用,直接在 Page 中完成分配,每個(gè) Page 切分為大小相同的多個(gè)存儲(chǔ)塊兒,存儲(chǔ)塊兒的大小由第一次申請(qǐng)的內(nèi)存塊兒大小決定。
回收:Netty 使用狀態(tài)位標(biāo)識(shí) Chunk 及 Page 內(nèi)存可用性,Chunk 標(biāo)識(shí)二叉樹 Page 節(jié)點(diǎn)使用狀態(tài);Page 標(biāo)識(shí)內(nèi)部?jī)?nèi)存塊兒的使用狀態(tài)。
3、redis 共享對(duì)象池當(dāng)對(duì)象為整數(shù)且值在范圍在[0-9999]時(shí),redis 可以通過(guò)共享對(duì)象的方式來(lái)節(jié)省內(nèi)存。
目前共享對(duì)象池只對(duì)整數(shù)設(shè)置了[0-9999]數(shù)據(jù)共享對(duì)象,一方面整數(shù)對(duì)象池復(fù)用率最大,同時(shí)等值判斷上時(shí)間復(fù)雜度為O(1)。
4、線程池線程的創(chuàng)建和銷毀是一個(gè)非常重量級(jí)的操作,線程復(fù)用是加快服務(wù)響應(yīng)的一個(gè)重要手段。
5、連接池數(shù)據(jù)庫(kù)連接池、Http 連接池等。
基于 TCP 的連接,其連接建立及斷開(kāi)需要經(jīng)過(guò)三次握手及四次揮手的復(fù)雜交互過(guò)程。
... ...二、緩存緩存,即數(shù)據(jù)交換的緩沖區(qū)。通常來(lái)說(shuō),緩存數(shù)據(jù)存放于內(nèi)存,因此擁有極高的數(shù)據(jù)操作效率。
1、數(shù)據(jù)存儲(chǔ)緩存數(shù)據(jù)的持久化存儲(chǔ)一般依靠數(shù)據(jù)庫(kù)、文件系統(tǒng)等存儲(chǔ)介質(zhì)。
直接的數(shù)據(jù)讀取性能支撐有限,一般會(huì)設(shè)置分布式緩存或者本地緩存中間存儲(chǔ)做熱點(diǎn)數(shù)據(jù)響應(yīng)。
2、Mysql 查詢緩存對(duì)于相同查詢語(yǔ)句及相同查詢條件的,Mysql 會(huì)使用首次緩存的結(jié)果進(jìn)行相應(yīng)。
同樣的機(jī)制延伸到目前廣泛使用的 Mybatis、Hibernate ORM 框架等。
3、BufferKafka Buffer、Netty Buffer 等。
提供發(fā)送及接收緩沖區(qū),網(wǎng)絡(luò)數(shù)據(jù)發(fā)送及接收處理不再局限于實(shí)時(shí)??梢酝ㄟ^(guò)設(shè)定積攢一定的量后再去處理,并且或支持 Buffer 內(nèi)容操作。
Mysql InnoDB 的 change buffer。
InnoDB 可以使用它的 change buffer(change buffer 的主要目的是將對(duì)二級(jí)索引的數(shù)據(jù)操作緩存下來(lái),以此減少二級(jí)索引的隨機(jī)IO,并達(dá)到操作合并的效果)來(lái)批量寫二級(jí)索引記錄。
... ...三、內(nèi)存分配內(nèi)存分配觸及底層資源申請(qǐng)及使用,屬于內(nèi)存管理范疇內(nèi)的優(yōu)化。
內(nèi)存分配方面的優(yōu)化主要涉及內(nèi)存分配次數(shù)及內(nèi)存使用率等因素考量。
1、redis SDSSDS 即 Simple Dynamic String, Redis 自定的字符串存儲(chǔ)結(jié)構(gòu)。
Redis 在SDS內(nèi)存配置策略上采用了【空間預(yù)分配】 + 【惰性刪除】相結(jié)合的策略。
空間預(yù)分配:
在一次 SDS 字符擴(kuò)展操作中,擴(kuò)展的空間大小會(huì)大于實(shí)際需要的空間大小。
預(yù)分配空間的大小基于以下規(guī)則計(jì)算:
SDS len<1M:分配len長(zhǎng)度空間作為預(yù)分配空間;
SDS len>=1M:分配1M空間作為預(yù)分配空間;
惰性刪除:
調(diào)整刪除 SDS 中部分?jǐn)?shù)據(jù)時(shí),不會(huì)立刻執(zhí)行內(nèi)存重分配,而是會(huì)保留空出來(lái)內(nèi)存,并更新內(nèi)部 free 屬性。以備將來(lái)有字符擴(kuò)展需求,可以直接使用。
2、Netty 動(dòng)態(tài)緩沖區(qū)分配動(dòng)態(tài)緩沖區(qū)分配器,源碼說(shuō)明:根據(jù)實(shí)時(shí)的反饋動(dòng)態(tài)的增加或者減少預(yù)需的緩沖區(qū)大小。
如果上一次分配的緩沖區(qū)被填滿了,則調(diào)高下一次分配的緩沖區(qū)大小。
如果連續(xù)兩次實(shí)際使用的容量低于分配的緩沖區(qū)大小特定比例,則減小下一次分配的緩沖區(qū)大小。
其它情景,保持分配大小不變。
Netty 的這種“智能化”處理,可以說(shuō)是相當(dāng)有用的:
首先,實(shí)際的應(yīng)用場(chǎng)景千差萬(wàn)別,同一場(chǎng)景下不同時(shí)刻的緩沖區(qū)需求也是實(shí)時(shí)變化(一句話可以是一個(gè)字,也可能是1000個(gè)字),這就需要 Netty 動(dòng)態(tài)調(diào)整緩沖分配大小以適應(yīng)不同的業(yè)務(wù)場(chǎng)景,時(shí)刻場(chǎng)景。
其次,過(guò)大的不必要的內(nèi)存分配,會(huì)導(dǎo)致 Buffer 處理性能下降;過(guò)小的內(nèi)存分配,則會(huì)導(dǎo)致頻繁的分配釋放。這都是一個(gè)優(yōu)良的網(wǎng)絡(luò)框架不應(yīng)該有的。
最后,動(dòng)態(tài)的調(diào)整最直接的好處就是內(nèi)存的的高效使用,一定程度上做到了按需分配。
3、Memcached Slab Allocator基于 Slab Allocator 內(nèi)存分配機(jī)制。一個(gè) slab 包含很多 page,一個(gè) page 包含很多 chunk。