![SequoiaDB分布式数据库权威指南](https://wfqqreader-1252317822.image.myqcloud.com/cover/100/43738100/b_43738100.jpg)
3.1.2 Linux的推荐配置
本节将介绍在安装SequoiaDB(巨杉数据库)前,用户应如何调整Linux操作系统的环境配置,以保障操作系统稳定且高效地运行。需要调整的配置包括ulimit、内核参数、transparent_hugepage(挂载参数)和NUMA。
1.调整ulimit
SequoiaDB相关进程以数据库管理用户(安装SequoiaDB时指定,默认为sdbadmin)权限来运行。因此,建议调整数据库管理用户的ulimit配置。可以参照以下2个步骤来完成该配置。
(1)在配置文件/etc/security/limits.conf中进行如下设置:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_52_4.jpg?sign=1739266160-GfpsRkvkjMmDjECwXXEU0lxnMr6ovS9V-0-a6cc47eab709aba7e05918098fe83193)
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_53_1.jpg?sign=1739266160-DYJSxX9O510KwC38ra8PCLF5Qn0Fnnwv-0-0308faaa49f256aad36c85be1278d782)
具体参数说明如下。
● core:在数据库出现故障时,是否产生core文件来进行故障诊断。在生产系统中建议用户关闭此功能。
● data:数据库进程所允许分配的数据内存大小。
● fsize:数据库进程所允许寻址的文件大小。
● rss:数据库进程所允许的最大resident set大小。
● as:数据库进程所允许的最大虚拟内存寻址空间。
● nofile:数据库进程所允许打开的最大文件数。
(2)在配置文件/etc/security/limits.d/90-nproc.conf中进行如下设置:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_53_2.jpg?sign=1739266160-Dn8mBOw4RcFthsjvSiRsbJCE3rl7q4Cw-0-7425b6a7b52c28de92660def011011bb)
其中,参数nproc表示数据库所允许的最大线程数限制。要注意,每台作为数据库服务器的机器都需要配置,而且更改配置后需要重新登录,以确保配置生效。
2.调整内核参数
用户可以参照以下步骤来调整内核参数。
(1)备份系统原始的vm参数:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_53_3.jpg?sign=1739266160-hMMkGeqdLYZCSSgttLPHGyZpJF0U9c4r-0-84c9e327eae81ce8a5ba70d204715de1)
(2)修改文件/etc/sysctl.conf,添加如下内容:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_54_1.jpg?sign=1739266160-KdcyX0CALaDdMAWdACq8siSGAwHcRs2s-0-7ff46b45bc7ca49ddfdbf4167656cb7f)
注意:当数据库可用物理内存不足8GB时无须设置vm.swappiness=0。上述dirty类参数(控制系统的flush进程只采用脏页超时机制刷新脏页,而不采用脏页比例超支刷新脏页)所给的只是建议值,具体参数值可根据实际情况进行设置。如果用户采用SSD(固态磁盘),建议设置vm.dirty_expire_centisecs=1000。
(3)执行如下命令,使配置生效:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_54_2.jpg?sign=1739266160-VzfqE415tjHoe1ANPN4TYtlGMSdySrH5-0-a75289f6bbc70ec894b533b3ca8daf55)
3.调整文件系统的挂载参数
SequoiaDB推荐使用ext4格式的文件系统。同时,建议在/etc/fstab文件中添加noatime挂载参数,以提升文件系统的性能。
下面以块设备/dev/sdb(假设其UUID为993c5bba-494f-44ae-b543-a109f3598777,挂载目录为/data/disk_ssd1)为例,介绍具体操作步骤。如果数据盘需要使用多个块设备,则需要对所有块设备进行设置。
首先,检查目标磁盘的文件系统状态:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_54_3.jpg?sign=1739266160-OJvsEdunzrcO1JJRxqnqVc0gbyu5vfaV-0-89a4857be7c3a876411cd641e8431cd3)
如果输出结果中显示文件系统为ext4格式的,并且挂载参数中包含noatime,则表示已完成设置;如果输出为其他参数,则需要通过后续步骤进行配置。
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_54_4.jpg?sign=1739266160-0Le1dD0zVtM0PBAQrd09YJC8jkeqyrcp-0-1187ae1731b7442580aadaed2bfc2965)
其次,对已挂载的块设备进行设置。如果块设备已创建分区且文件系统为ext4格式的,但其挂载参数不包含noatime,可通过如下操作步骤进行设置。
(1)卸载已挂载的数据盘:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_1.jpg?sign=1739266160-4C3KJSAhC0J9dzg6M720XGM9j7AoKZF0-0-6b57d4fef6a1bca06de77038ee829dbf)
(2)编辑/etc/fstab文件:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_2.jpg?sign=1739266160-PHr5oUMNC7YbtaxwS09L8hQ1Mw1Cwry2-0-8254fd96bdd088bcd83367f289b71e69)
(3)将块设备/dev/sdb的挂载参数调整为如下内容:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_3.jpg?sign=1739266160-m6AXzHVlmmFyaQ2luAAtS932JULL0O6j-0-7484c529e523e607bb07d7faa9ea9617)
(4)挂载块设备:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_4.jpg?sign=1739266160-qKZaPv6GLr3ujGTK9LVKzBm4KGYXilnv-0-334de42facca0e7e4e5f78aed340d30b)
(5)检查挂载参数是否生效:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_5.jpg?sign=1739266160-ndSQvl7UHwzkkaO8Fm5BcQr2kkETZrVE-0-62b71e2610794e58f316ebdd013a6841)
最后对新块设备进行设置。对于新增的块设备,可以进行如下设置。
(1)查看块设备情况:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_6.jpg?sign=1739266160-BQ6KrPhYmGU5XkY7Fg0klqC3LTc6lXV2-0-2b8359eddd235503e4908b7b845ab32d)
(2)创建分区:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_7.jpg?sign=1739266160-y47LtPLRXoKkFBITDLLA7on3TomXjLp3-0-75cc0748c7207e5ff9a10d207a51bfe0)
(3)将文件系统格式化为ext4格式的:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_8.jpg?sign=1739266160-3omtd9q9KZn1BHfQD8k6O25epOZI9bVT-0-70d500ff1696f38283737d64655a5301)
(4)查看数据盘分区的UUID:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_9.jpg?sign=1739266160-CsSCbSZpVEdCdl7s6sKbguhvQ3Cf9ccG-0-fa17645d017cef25fa1864b049b3e998)
输出结果如下:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_10.jpg?sign=1739266160-x36xepCvwUKxgeHMOiYjbV1N6TZqdUOR-0-3a71e4be4b55ca6d2ec064cef56ee996)
(5)创建需要挂载的数据目录:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_1.jpg?sign=1739266160-vLTjw652heUWMcTNBOeRIwsCmn3esjT6-0-8ba25fab23962790599b92ffc3b5b6d8)
(6)编辑/etc/fstab文件:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_2.jpg?sign=1739266160-O316f2NIV9AzcV8COJpVXKluelP9qy3f-0-c60fcf3843c5c46a13d9df48cca1e120)
添加如下内容:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_3.jpg?sign=1739266160-eD8i1AxiDqZHW17YoGITxVjlUSCgiN5Y-0-ac4f0cda02d6c13937a5b7cddb7df72a)
(7)挂载数据盘:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_4.jpg?sign=1739266160-rMqlcpcdWAgMJbMpH4hlaAKZ6BeIgPGE-0-d670a8d08dc880e73a5a841c791cbfa1)
(8)检查挂载参数是否生效:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_5.jpg?sign=1739266160-HTpmuIisgqqWYzRppiuwCjHmo6UIEanb-0-92823061720d2a91e32f8cf7d430c053)
4.关闭transparent_hugepage
具体操作步骤如下。
(1)编辑/etc/rc.local,在第一行#!/bin/sh下添加如下两行:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_6.jpg?sign=1739266160-HCpILpDHBcAJfiQnoqLOqsOOUweq8Ks8-0-f8da911121da09d9f31774e6dc4d378c)
(2)执行如下命令使配置生效:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_7.jpg?sign=1739266160-2Wm9Mweydqz65Qo8lo8vrkjyR5qN8okG-0-ead39a3b9111d5ba2edabb3084da5031)
(3)依次执行如下两条命令,验证关闭操作是否成功:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_8.jpg?sign=1739266160-aNO5rkZ0Y9on2MNdRWvcGRNccqv2Y6CO-0-794784e3c56585216fc6d8ec879176b1)
如果两条命令执行后均显示always madvise [never],则说明关闭操作成功。
5.关闭(禁用)NUMA
Linux操作系统默认情况下会开启NUMA(Non Uniform Memory Access),其优先在进程所在的CPU节点本地进行内存分配。这种内存分配策略的初衷是,让内存更接近需要它的进程。但是,这不利于充分利用系统的物理内存,所以这种内存分配策略不适合数据库这种大规模使用内存的场景,它会导致CPU节点间内存分配得不均衡。比如,当某个CPU节点的内存不足时,NUMA非但不从有充足物理内存的远程节点分配内存,而且还会直接导致“swap”过高。因此,建议用户在使用SequoiaDB时关闭NUMA。
首先我们要检查NUMA的状态,查看是否已关闭NUMA,具体步骤如下。
(1)安装numactl工具:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_1.jpg?sign=1739266160-nAFe9eqDmoWyhtbOn65LilNw5nBTQgbG-0-ee920b0cc511c64cf56bbfe8a57f42d1)
或
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_2.jpg?sign=1739266160-IJYDAb4f1bcl1n1fgFiAXQUhVvBsgriR-0-de33e626cdb5f9e3ec7d50b6cc5847d1)
(2)检查是否已关闭NUMA:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_3.jpg?sign=1739266160-15SsAixRdZKtq8YQ71BUQOEadRKhNQjr-0-d428d7dfe34bab8ac8c043fda1f49f63)
如果输出结果中只有node0,则表示已关闭NUMA;如果有node1等其他节点出现,则表示未关闭NUMA:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_4.jpg?sign=1739266160-PyRZqQiQUiqf3SrkSXSJ9B8uSzEBg6w0-0-4f59dc9dbbe0001a0b4e61894d49c66f)
关闭NUMA的方法有两个:一是通过BIOS(Basic Input Output System)设置来关闭NUMA;二是通过修改gurb的配置文件来关闭NUMA。首选是第一个方法:开机后按快捷键进入BIOS设置界面,关闭NUMA,之后保存设置并重启。不同品牌的主板或服务器,具体操作略有差异,此处不做详述。
对于第二个方法,CentOS、SUSE、Ubuntu的grub配置文件有差异,在同一款Linux的不同版本中也略有不同。
对于CentOS 6/Red Hat 6,关闭NUMA的步骤如下。
(1)修改文件/boot/grub/grub.conf:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_5.jpg?sign=1739266160-6MQxXMLHZY24Q72154rp0g8h1xIafU1L-0-8057983269e00532d6ec5901399a2402)
(2)找到“kernel”引导行(不同版本的内容略有差异,但其开头均有“kernel/vmlinuz-”字样):
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_1.jpg?sign=1739266160-sN60eWnS6RAtP0KqymixaDhkKDmyJ1ah-0-e6525950bd50fec771c4e25ba93a04a9)
(3)在“kernel”引导行的末尾加上空格和“numa=off”:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_2.jpg?sign=1739266160-CIKbnEqdbyseOAhMZ1gpYlIJVei0DyWV-0-446f70b58fac6ffffd4967ac6fe651dc)
要注意的是,如果该配置文件中存在多个“kernel”引导行,则每个引导行都需要进行修改。
(4)重启操作系统:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_3.jpg?sign=1739266160-2Hrm7MchYUB4TVzNYSoQHIgA2GYsPUJz-0-242b52028b184ec5ac2f80608da223e7)
而对于CentOS 7/Red Hat 7/CentOS 8/Red Hat 8/Suse 12/openEuler/中标麒麟/Ubuntu 16/统信UOS等系统,关闭NUMA的步骤如下。
(1)修改文件/etc/default/grub:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_4.jpg?sign=1739266160-uOleQDGXvJYWLT5iyZ5tttdyibuHRdPq-0-b3343761b7769c0908e3f25d3156f8f4)
(2)找到配置项“GRUB_CMDLINE_LINUX”:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_5.jpg?sign=1739266160-vCvpfcAHiptOO36JmfuFXrt9pVINrkPs-0-ae89764387dd33492cd43e657f94c650)
(3)在配置项“GRUB_CMDLINE_LINUX”的最后加上空格和“numa=off”:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_6.jpg?sign=1739266160-4bCcTLPgRSncNgzIxLB29fQjBYt8a1Nl-0-0e1cf1c49c57826ec5c1216610711955)
(4)重新生成grub引导文件。
对于CentOS 7/Red Hat 7/CentOS 8/Red Hat 8,用户需要执行如下命令:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_7.jpg?sign=1739266160-Jz7soyFA8W7t0P0RQcXxcUZx2q8YyUfV-0-0653c61fb921acb892cd2989f228c1d0)
对于Suse12,用户需要执行如下命令:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_8.jpg?sign=1739266160-rHmeKUB2zoOYmECdi93XfOkfbcC1S0kS-0-118c5f7aac7f7383e8eed1dd767cc90e)
对于openEuler/中标麒麟,用户需要执行如下命令:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_9.jpg?sign=1739266160-6lPISm2ZO5GoymbRVuS5XMsvLfC96Crc-0-a83a210554317cc53cef0aad0dc6e3f2)
对于Ubuntu 16/统信UOS,用户需要执行如下命令:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_59_1.jpg?sign=1739266160-pCZlSqatac3Buyb8j3LGx743MLOpMczQ-0-4ea4290118d59b639533fc1c81393fb9)
(5)关闭NUMA后,需要重启操作系统:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_59_2.jpg?sign=1739266160-y0qko2jVpwzbSsTgBfcAn20psPVsE0jC-0-57c30f1ffe4ec31828159cbab8cbf2be)