栏目头部广告

MongoDB compact 操作介绍-碎片整理

1、为什么需要 compact操作?

(1)碎片的产生

MongoDB compact 操作介绍-碎片整理(图1)

1、db.collection.insert()    不断插入数据,扩展新的block,文件大小不断增大
2、db.collection.remove() 从集合中删除部分数据,很多block变成free,但物理空间并没有回收
3、db.runCommand({compact:"collection"}) 对集合执行compact,可以立即整理free的碎片空间

(2)compact操作对读写的影响

compact 一个集合,会加集合所在DB的互斥写锁,会导致该DB上所有的读写请求都阻塞;因为 compact 执行的时间可能很长,跟集合的数据量相关,所以强烈建议在业务低峰期执行,避免影响业务。

2、remove与drop的区别

MongoDB 里删除一个集合里所有文档,有两种方式:

(1)db.collection.remove({}, {multi: true}),逐个文档从 btree 里删除,最后所有文档被删除,但文件物理空间不会被回收
(2)db.collection.drop() 删除集合的物理文件,空间立即被回收

总的来说,remove 会产生逻辑的空闲空间,这些空间能立即用于写入新数据,但文件占用的总物理空间不会立即回收;通常只要持续在写入数据,有物理空间碎片问题并不大,不需要去 compact 集合,有的场景,remove 了大量的数据后,后续的写入可能并不多,这时如果想回收空间,就需要显式的调用 compact。

3、compact具体做了什么?

Compact 动作最终由存储引擎 WiredTiger 完成,WiredTiger 在执行 compact 时,会不断将集合文件后面的数据往前面空闲的空间写,然后逐步 truancate 文件回收物理空间。每一轮 compact 前,WT 都会先检查是否符合 comapact 条件。

(1)前面80%的空间里,是否有20%的空闲空间,用于写入文件后面20%的数据
(2)或者前面90%的空间里,是否有10%的空闲空间,用于写入文件后面10%的数据

如果上面都不满足,说明执行compact肯定无法回收10%的物理空间,此时 compact 就回退出。所以有时候遇到对一个大集合进行 compact,compact立马就返回ok,集合的物理空间也没有变化,就是因为 WiredTiger 认为这个集合没有 compact 的必要。

5、预估文档执行compact后能回收多少空间?

The amount of empty space available for reuse by WiredTiger is reflected in the output of db.collection.stats() under the heading wiredTiger.block-manager.file bytes available for reuse.

> use ucloud

# 批量插入数据
> for (var i = 1; i <= 1000000; i++) {
    db.starcto.insert( { x : i , name: "A", name1:"B", name2:"C", name3:"D"} )
}

> db.starcto.count()
1000000

# 删除文档中记录
> for (var i = 1; i <= 500000; i++) {
     db.starcto.remove( { "name": "A"} )
}

# 查看 starcto文档 当前可以回收空间
> db.starcto.stats().wiredTiger["block-manager"]["file bytes available for reuse"]
26173440

6、执行compact操作

# 清理单点MongoDB节点碎片
> use db1
> db.runCommand({compact: "collection1"})

# 在副本集primary上执行需要加 force 选项
> use ucloud
> db.runCommand({compact: "starcto", force: true})
{ "ok" : 1 }

# 查看空间释放情况(26173440 —> 4096)
> db.starcto.stats().wiredTiger["block-manager"]["file bytes available for reuse"]
4096

作者:UStarGao
链接:https://www.starcto.com/mongodb/244.html
来源:MongoDB中文社区db.runCommand()MongoDB官网
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处

UCloud云平台推荐


UCloud新用户专属注册连接

UCloud CDN超值特惠专场

UCloud全球云主机(UHost/VPS)大促页面

UCloud快杰云主机大促页面

文章页广告

随便看看

栏目底部广告
`