好得很程序员自学网

<tfoot draggable='sEl'></tfoot>

TCMalloc优化MySQL、Nginx、Redis内存管理

Tcmalloc概述: TCMalloc (Thread-Caching Malloc)与标准glibc库的malloc实现一样的功能,但是TCMalloc在效率和速度效率都比标准malloc高很多。TCMalloc是google-perftools工具中的一个(gperftools四个工具分别是:TCMalloc、heap-checker、heap-profiler和

Tcmalloc概述:

TCMalloc (Thread-Caching Malloc)与标准glibc库的malloc实现一样的功能,但是TCMalloc在效率和速度效率都比标准malloc高很多。TCMalloc是google-perftools工具中的一个(gperftools四个工具分别是:TCMalloc、heap-checker、heap-profiler和cpu-profiler),这个工具是开源的,以源码形式发布。如果觉得自己维护一个内存分配器麻烦的话,可以考虑将TCMalloc静态库连接到你的程序中。使用的时候和glibc中的malloc调用方式一模一样。你需要做的只是把TCMalloc的动态库或者静态库连接进你的程序中,你就可以获得一个高效,快速,安全的内存分配器。

与标准的glibc库的malloc相比,TCMalloc在内存的分配效率和速度要高,可以在高并发的情况下很好的控制内存的使用,提高服务器的性能,降低负载。TCMalloc的实现原理和测试报告请见一篇文章:《TCMalloc:线程缓存的Malloc》


tcmalloc将内存请求分为两类,大对象请求和小对象请求,大对象为>=32K的对象。|
tcmalloc会为每个线程分配线程局部缓冲
对于小对象请求,可以直接从线程局部缓冲区获取,如果线程局部缓冲区没有空闲内存,则从central heap中一次性获取一连串小对象。
tcmalloc对于小内存,按8的整数次倍分配,对于大内存,按4K的整数次倍分配。
这样做有两个好处,一是分配的时候比较快。二是短期的收益比较大,分配的小内存至多浪费7个字节,大内存则4K
当某个线程缓存当缓存中所有对象的总共大小超过2MB的时候,会对他进行垃圾收集。垃圾收集阈值会自动根据线程数量的增加而减少,这样就不会因为程序有大量线程而过度浪费内存。

内存泄露检测
使用Tcmalloc的程序,用valgrind无法检测内存泄露,可以使用 google-perftools 提供的heap checker
使用方法:
export HEAPCHECK=TYPE
TYPE可以为:minimal、normal、strict、draconian

tcmalloc作为可选项已经添加到 《lnmp最新源码一键安装包》

安装libunwind库:
如果系统是64位的需要先安装libunwind库,32位系统则不需要安装。

libunwind库为基于64位CPU和操作系统的程序提供了基本的堆栈辗转开解功能,其中包括用于 输出堆栈跟踪的API用于以编程方式辗转开解堆栈的API以及支持C++异常处理机制的API。

 wget http  ://  download  .  savannah  .  gnu  .  org  /  releases  /  libunwind  /  libunwind  -  1.1  .  tar  .  gz
tar zxf libunwind  -  1.1  .  tar  .  gz
cd libunwind  -  1.1  
CFLAGS  =-  fPIC   ./  configure
make CFLAGS  =-  fPIC
make CFLAGS  =-  fPIC install
cd     

gperftools的安装:

 wget http  ://  gperftools  .  googlecode  .  com  /  files  /  gperftools  -  2.1  .  tar  .  gz
tar xzf gperftools  -  2.1  .  tar  .  gz
cd gperftools  -  2.1  

可以加入参数只编译tcmalloc(./configure –enable-minimal、–disable-cpu-profiler、–disable-heap-profiler、–disable-heap-checker、–disable-debugalloc),64位操作系统不安装libunwind也不会报错,注意生成的库文件是libtcmalloc_minimal.*
64位操作系统,如下

 ./  configure   

32位系统,不需要安装libunwind,但是一定要添加–enable-frame-pointers参数,如下

 ./  configure   --  enable  -  frame  -  pointers   
 make   &&   make install  

编译安装后,输入以下命令:

 echo   '/usr/local/lib'  >  /  etc  /  ld  .  so  .  conf  .  d  /  local  .  conf
ldconfig   #必须执行  

使用TCMalloc优化 MySQL
MySQL 5.1静态编译方法,./configure预编译时假设下面参数

 --  with  -  mysqld  -  ldflags  =-  ltcmalloc  

MySQL 5.5 静态编译方法 ,cmake预编译时加上下面参数

 -  DCMAKE_EXE_LINKER_FLAGS  =  "-ltcmalloc"  -  DWITH_SAFEMALLOC  =  OFF  

采用动态加载

 sed   -  i   's@executing mysqld_safe@executing mysqld_safe\nexport LD_PRELOAD=/usr/local/lib/libtcmalloc.so@'  /  usr  /  local  /  mysql  /  bin  /  mysqld_safe
service mysqld restart  

验证加载tcmalloc在MySQL中是否生效,如下:

 lsof   -  n   |   grep tcmalloc  

使用TCMalloc优化 Nginx
为了使nginx支持google-perftools,需要在安装过程中添加”–with-google_perftools_module”选项重新编译nginx。安装如下:

 cd lnmp  /  src  /  nginx  -  1.4  .  2  
make clean
  ./  configure   --  prefix  =/  usr  /  local  /  nginx   --  user  =  www   --  group  =  www \
  --  with  -  http_stub_status_module   --  with  -  http_ssl_module   --  with  -  http_flv_module \
  --  with  -  http_gzip_static_module   --  with  -  google_perftools_module
make   &&   make install  

为添加线程目录:

 mkdir   /  tmp  /  tcmalloc
chown   -  R www  .  www   /  tmp  /  tcmalloc
vi   /  usr  /  local  /  nginx  /  conf  /  nginx  .  conf   #pid下一行添加  
google_perftools_profiles   /  tmp  /  tcmalloc  ;  

验证tcmalloc是否在 Nginx 中生效

 lsof   -  n   |   grep tcmalloc  

每个线程(work_processes的值)会有一行记录。每个线程文件后面的数字值就是启动的nginx的pid值。

使用TCMalloc优 化 redis
注意: redis -2.4以上自带 jemalloc ,你不需要加任何参数 ,通过zmalloc.c源码中我们可以看到,Redis在编译时,会先判断是否使用tcmalloc,如果是,会用tcmalloc对应的函数替换掉标准的libc中的函数实现。其次会判断jemalloc是否使得,最后如果都没有使用才会用标准的libc中的内存管理函数。所以用tcmalloc优化请谨慎使用,这两着分配器碎片率相差不大,建议用自带jemalloc

 cd lnmp  /  src  /   redis   -  2.6  .  16  
make USE_TCMALLOC  =  yes FORCE_LIBC_MALLOC  =  yes
  /  bin  /  cp src  /{  redis  -  benchmark  ,  redis  -  check  -  aof  ,  redis  -  check  -  dump  ,  redis  -  cli  ,  redis  -  sentinel  ,  redis  -  server  }  /  usr  /  local  /  redis  /  bin  


其他参考:

http://blog.csdn.net/chosen0ne/article/details/9338591

查看更多关于TCMalloc优化MySQL、Nginx、Redis内存管理的详细内容...

  阅读:53次