欢迎光临
我的个人博客网站

Nginx反代MogileFS集群

  上一篇博文我们主要聊了下分布式文件系统MogileFS的组件以及部署使用,回顾请参考https://www.cnblogs.com/qiuhom-1874/p/13677279.html;今天我们主要来聊一下MogileFS的客户端代理,用nginx做反代的相关配置;

  我们知道mogilefs的tracker和客户端通信使用的http协议,客户端和storage通信也是使用http协议;客户端向tracker发送请求获取文件的内容,tracker收到请求后,去数据库中查,把查到的结果返回给客户端,然后客户端再通过tracker返回的结果去请求对应的存储节点,通过这样一个过程客户端就拿到对应文件的内容;从上面描述的过程来看,要想使用mogilefs得有一款智能的客户端,它必须满足能够理解到tracker返回的内容,然后再向存储节点请求对应的文件;其次这个客户端还能通过http协议同tracker和storage交互,也就说我们需要一款能够理解tracker返回的内容的http协议的反代服务器;nginx作为http的方向代理服务器是没有问题,问题在它还需要能够理解到tracker返回的内容,然后去storage上请求对应的文件;我们知道nginx是一款高度模块化的软件,需要什么功能,可以通过模块的方式加入到nginx里;这样一来用nginx来做这个方向代理是最佳人选;默认nginx是不支持反代mogilefs集群,所以我们需要手动去找第三方模块,通过编译的方式让它支持反代mogilefs集群;

  下载nignx源码包和支持反代mogilefs集群的第三方模块

Nginx反代MogileFS集群

  提示:下载nginx的源码包我们直接上官网下载就好;第三方模块源码包去https://www.nginx.com/resources/wiki/modules/找;对于nignx支持mogilefs集群的文档和包下载可以去这个地址上查看和下载http://www.grid.net.ru/nginx/mogilefs.en.html

  安装基本的编译环境包组

[root@node04 ~]# yum groupinstall "Development Tools" -y Loaded plugins: fastestmirror Setting up Group Process Loading mirror speeds from cached hostfile  * base: mirrors.aliyun.com  * extras: mirrors.aliyun.com  * updates: mirrors.aliyun.com base/group_gz                                                                      | 242 kB     00:00      epel/group_gz                                                                      |  74 kB     00:00      Package gcc-4.4.7-23.el6.x86_64 already installed and latest version Package 1:make-3.81-23.el6.x86_64 already installed and latest version Package 1:pkgconfig-0.23-9.1.el6.x86_64 already installed and latest version Package gcc-c++-4.4.7-23.el6.x86_64 already installed and latest version Resolving Dependencies --> Running transaction check ---> Package autoconf.noarch 0:2.63-5.1.el6 will be installed ---> Package automake.noarch 0:1.11.1-4.el6 will be installed ---> Package binutils.x86_64 0:2.20.51.0.2-5.46.el6 will be updated ---> Package binutils.x86_64 0:2.20.51.0.2-5.48.el6_10.1 will be an update ---> Package bison.x86_64 0:2.4.1-5.el6 will be installed ……省略部分内容…… Installed:   autoconf.noarch 0:2.63-5.1.el6                            automake.noarch 0:1.11.1-4.el6                  bison.x86_64 0:2.4.1-5.el6                                byacc.x86_64 0:1.9.20070509-7.el6               cscope.x86_64 0:15.6-7.el6                                ctags.x86_64 0:5.8-2.el6                        cvs.x86_64 0:1.11.23-16.el6                               diffstat.x86_64 0:1.51-2.el6                    doxygen.x86_64 1:1.6.1-6.el6                              elfutils.x86_64 0:0.164-2.el6                   flex.x86_64 0:2.5.35-9.el6                                gcc-gfortran.x86_64 0:4.4.7-23.el6              gettext.x86_64 0:0.17-18.el6                              git.x86_64 0:1.7.1-10.el6_10                    indent.x86_64 0:2.2.10-7.el6                              intltool.noarch 0:0.41.0-1.1.el6                libtool.x86_64 0:2.2.6-15.5.el6                           patch.x86_64 0:2.6-8.el6_9                      patchutils.x86_64 0:0.3.1-3.1.el6                         rcs.x86_64 0:5.7-37.el6                         redhat-rpm-config.noarch 0:9.0.3-51.el6.centos            rpm-build.x86_64 0:4.8.0-59.el6                 subversion.x86_64 0:1.6.11-15.el6_7                       swig.x86_64 0:1.3.40-6.el6                      systemtap.x86_64 0:2.9-9.el6                               Dependency Installed:   alsa-lib.x86_64 0:1.1.0-4.el6                             apr.x86_64 0:1.3.9-5.el6_9.1                     apr-util.x86_64 0:1.3.9-3.el6_0.1                         atk.x86_64 0:1.30.0-1.el6                        avahi-libs.x86_64 0:0.6.25-17.el6                         cairo.x86_64 0:1.8.8-6.el6_6                     cups-libs.x86_64 1:1.4.2-81.el6_10                        fontconfig.x86_64 0:2.8.0-5.el6                  freetype.x86_64 0:2.3.11-19.el6_10                        gdb.x86_64 0:7.2-92.el6                          gdk-pixbuf2.x86_64 0:2.24.1-6.el6_7                       gettext-devel.x86_64 0:0.17-18.el6               gettext-libs.x86_64 0:0.17-18.el6                         gnutls.x86_64 0:2.12.23-22.el6                   gtk2.x86_64 0:2.24.23-9.el6                               hicolor-icon-theme.noarch 0:0.11-1.1.el6         jasper-libs.x86_64 0:1.900.1-22.el6                       kernel-devel.x86_64 0:2.6.32-754.33.1.el6        libICE.x86_64 0:1.0.6-1.el6                               libSM.x86_64 0:1.2.1-2.el6                       libX11.x86_64 0:1.6.4-3.el6                               libX11-common.noarch 0:1.6.4-3.el6               libXau.x86_64 0:1.0.6-4.el6                               libXcomposite.x86_64 0:0.4.3-4.el6               libXcursor.x86_64 0:1.1.14-2.1.el6                        libXdamage.x86_64 0:1.1.3-4.el6                  libXext.x86_64 0:1.3.3-1.el6                              libXfixes.x86_64 0:5.0.3-1.el6                   libXft.x86_64 0:2.3.2-1.el6                               libXi.x86_64 0:1.7.8-1.el6                       libXinerama.x86_64 0:1.1.3-2.1.el6                        libXrandr.x86_64 0:1.5.1-1.el6                   libXrender.x86_64 0:0.9.10-1.el6                          libXtst.x86_64 0:1.2.3-1.el6                     libart_lgpl.x86_64 0:2.3.20-5.1.el6                       libgcj.x86_64 0:4.4.7-23.el6                     libgfortran.x86_64 0:4.4.7-23.el6                         libjpeg-turbo.x86_64 0:1.2.1-3.el6_5             libpng.x86_64 2:1.2.49-2.el6_7                            libproxy.x86_64 0:0.3.0-10.el6                   libproxy-bin.x86_64 0:0.3.0-10.el6                        libproxy-python.x86_64 0:0.3.0-10.el6            libthai.x86_64 0:0.1.12-3.el6                             libtiff.x86_64 0:3.9.4-21.el6_8                  libxcb.x86_64 0:1.12-4.el6                                mailcap.noarch 0:2.1.31-2.el6                    neon.x86_64 0:0.29.3-3.el6_4                              pakchois.x86_64 0:0.4-3.2.el6                    pango.x86_64 0:1.28.1-11.el6                              perl-Compress-Raw-Zlib.x86_64 1:2.021-144.el6    perl-Compress-Zlib.x86_64 0:2.021-144.el6                 perl-Error.noarch 1:0.17015-4.el6                perl-Git.noarch 0:1.7.1-10.el6_10                         perl-HTML-Parser.x86_64 0:3.64-2.el6             perl-HTML-Tagset.noarch 0:3.20-4.el6                      perl-IO-Compress-Base.x86_64 0:2.021-144.el6     perl-IO-Compress-Zlib.x86_64 0:2.021-144.el6              perl-URI.noarch 0:1.40-2.el6                     perl-XML-Parser.x86_64 0:2.36-7.el6                       perl-libwww-perl.noarch 0:5.833-5.el6            pixman.x86_64 0:0.32.8-1.el6                              rsync.x86_64 0:3.0.6-12.el6                      systemtap-client.x86_64 0:2.9-9.el6                       systemtap-devel.x86_64 0:2.9-9.el6               systemtap-runtime.x86_64 0:2.9-9.el6                      xz.x86_64 0:4.999.9-0.5.beta.20091007git.el6     xz-lzma-compat.x86_64 0:4.999.9-0.5.beta.20091007git.el6   Updated:   binutils.x86_64 0:2.20.51.0.2-5.48.el6_10.1                                                               Dependency Updated:   rpm.x86_64 0:4.8.0-59.el6      rpm-libs.x86_64 0:4.8.0-59.el6      rpm-python.x86_64 0:4.8.0-59.el6       Complete! [root@node04 ~]#  

  解压nginx源包和第三方模块包,并进入到nginx源码目录下

Nginx反代MogileFS集群

  创建nginx用户

Nginx反代MogileFS集群

  预编译,检查编译环境

./configure  --prefix=/usr/share/nginx  --sbin-path=/usr/sbin/nginx  --modules-path=/usr/lib64/nginx/modules  --conf-path=/etc/nginx/nginx.conf  --error-log-path=/var/log/nginx/error.log  --http-log-path=/var/log/nginx/access.log  --http-client-body-temp-path=/var/lib/nginx/tmp/client_body  --http-proxy-temp-path=/var/lib/nginx/tmp/proxy  --http-fastcgi-temp-path=/var/lib/nginx/tmp/fastcgi  --http-uwsgi-temp-path=/var/lib/nginx/tmp/uwsgi  --http-scgi-temp-path=/var/lib/nginx/tmp/scgi  --pid-path=/var/run/nginx.pid  --lock-path=/var/lock/subsys/nginx  --user=nginx  --group=nginx  --with-file-aio  --with-ipv6  --with-http_ssl_module  --with-http_v2_module  --with-http_realip_module  --with-http_addition_module  --with-http_xslt_module=dynamic  --with-http_image_filter_module=dynamic  --with-http_geoip_module=dynamic  --with-http_sub_module  --with-http_dav_module  --with-http_flv_module  --with-http_mp4_module  --with-http_gunzip_module  --with-http_gzip_static_module  --with-http_random_index_module  --with-http_secure_link_module  --with-http_degradation_module  --with-http_slice_module  --with-http_stub_status_module  --with-http_perl_module=dynamic  --with-mail=dynamic  --with-mail_ssl_module  --with-pcre --with-pcre-jit  --with-stream=dynamic  --with-stream_ssl_module  --with-debug  --with-cc-opt='-O2 -g -pipe -Wall -Wp,-D_FORTIFY_SOURCE=2 -fexceptions -fstack-protector --param=ssp-buffer-size=4 -m64 -mtune=generic'  --with-ld-opt=' -Wl,-E'  --add-module=../nginx_mogilefs_module-1.0.4 

  提示:我们在最后用–add-module选项来指定要编译的第三方模块的源码路径;这样就可以把我们下载的第三方模块编译到nginx中去,让其支持指定的功能;

Nginx反代MogileFS集群

  提示:出现上面的错误,是因为系统环境没有libxml2或libxslt相关包;

  解决办法安装对应的devel包即可;

yum install -y libxslt-devel 

  再次预编译,检查编译环境

Nginx反代MogileFS集群

  解决办法

yum install -y gd-devel 

Nginx反代MogileFS集群

  解决办法

yum install -y perl-ExtUtils-Embed 

Nginx反代MogileFS集群

  解决办法

yum install  -y geoip-devel 

Nginx反代MogileFS集群

  提示:到此预编译检查环境就没有问题了;

  编译和安装

make -j 4 && make install 

  提示:-j是用于指定同时多少线程一起编译;这样编译要快一点;

Nginx反代MogileFS集群

  提示:最后能够看到上面内容,就表示nginx编译安装就完成了;这里提醒一下,在centos7上编译安装nginx和支持反代mogilefs的第三方模块,在预编译的时候没有问题,编译时总是编译不过,总是出现这样的错误error: variable ‘pclcf’ set but not used [-Werror=unused-but-set-variable];在网上查了一圈,有的说把Makefile中的-werror选项去掉,去掉是能够编译过,但是后面配置文件检查通过不过,nginx启动不了,会出现段错误;我个人估计是centos7系统上的perl环境要稍微新一些,对mogilefs的支持不是很好,所以建议使用mogilefs都跑在centos6上比较好一点;

  提供配置文件

Nginx反代MogileFS集群

  完整的配置文件内容

Nginx反代MogileFS集群Nginx反代MogileFS集群

[root@node04 nginx]# cat /etc/nginx/nginx.conf  #user  nobody; worker_processes  1;  #error_log  logs/error.log; #error_log  logs/error.log  notice; #error_log  logs/error.log  info;  #pid        logs/nginx.pid;   events {     worker_connections  1024; }   http {     include       mime.types;     default_type  application/octet-stream;      #log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '     #                  '$status $body_bytes_sent "$http_referer" '     #                  '"$http_user_agent" "$http_x_forwarded_for"';      #access_log  logs/access.log  main;      sendfile        on;     #tcp_nopush     on;      #keepalive_timeout  0;     keepalive_timeout  65;      #gzip  on;         upstream mogilefs_trackers {             server 192.168.0.41:7001;             server 192.168.0.42:7001;         }     server {         listen       80;         server_name  localhost;          #charset koi8-r;          #access_log  logs/host.access.log  main;          location / {             root   html;             index  index.html index.htm;         }         location /files {            mogilefs_tracker mogilefs_trackers;            mogilefs_domain files;            mogilefs_class default;            mogilefs_methods GET PUT DELETE;                 mogilefs_pass {                proxy_pass $mogilefs_path;                proxy_hide_header Content-Type;                proxy_buffering off;            }             expires 1h;         }          location /images {            mogilefs_tracker mogilefs_trackers;            mogilefs_domain images;            mogilefs_class default;            mogilefs_methods GET PUT DELETE;             mogilefs_pass {                proxy_pass $mogilefs_path;                proxy_hide_header Content-Type;                proxy_buffering off;            }             expires 1h;         }          #error_page  404              /404.html;          # redirect server error pages to the static page /50x.html         #         error_page   500 502 503 504  /50x.html;         location = /50x.html {             root   html;         }          # proxy the PHP scripts to Apache listening on 127.0.0.1:80         #         #location ~ .php$ {         #    proxy_pass   http://127.0.0.1;         #}          # pass the PHP scripts to FastCGI server listening on 127.0.0.1:9000         #         #location ~ .php$ {         #    root           html;         #    fastcgi_pass   127.0.0.1:9000;         #    fastcgi_index  index.php;         #    fastcgi_param  SCRIPT_FILENAME  /scripts$fastcgi_script_name;         #    include        fastcgi_params;         #}          # deny access to .htaccess files, if Apache's document root         # concurs with nginx's one         #         #location ~ /.ht {         #    deny  all;         #}     }       # another virtual host using mix of IP-, name-, and port-based configuration     #     #server {     #    listen       8000;     #    listen       somename:8080;     #    server_name  somename  alias  another.alias;      #    location / {     #        root   html;     #        index  index.html index.htm;     #    }     #}       # HTTPS server     #     #server {     #    listen       443 ssl;     #    server_name  localhost;      #    ssl_certificate      cert.pem;     #    ssl_certificate_key  cert.key;      #    ssl_session_cache    shared:SSL:1m;     #    ssl_session_timeout  5m;      #    ssl_ciphers  HIGH:!aNULL:!MD5;     #    ssl_prefer_server_ciphers  on;      #    location / {     #        root   html;     #        index  index.html index.htm;     #    }     #}  } [root@node04 nginx]# 

View Code

  提示:upstream是把多个tracker定义成一个组,让用户的请求调度到这个组上;后面的location 根据业务的规划来定义location的名称,通常用mogilefs中的domain来做location比较好;mogilefs_tracker用于指定tracker的地址或服务器组;mogilefs_domain用于指定mogilefs中的域,也就是文件的名称空间;mogilefs_class用于指定class的名称;mogilefs_methods用于指定支持的方法,如果你只允许对应location为只读,我们在这里指定一个get方法就可以;如果还需要上传和删除需要把put和delete方法加上;通常加上put和delete方法后,为了安全建议做访问限制;后面的mogilefs_pass这个配置段是用于配置代理mogilefs的配置,其中$mogilefs_path是一个内置的变量;其作用是变量$mogilefs_path包含存储节点上文件的绝对URL。fetch块创建一个名为/mogilefs_fetch_XXXXXXXX的隐藏内部位置,在跟踪器成功响应后将在其中执行重定向。后面的proxy_hide_header用于指定代理时要隐藏的头部;proxy_buffering用于指定是否启用代理buffer;更多配置指令的说明请到官网http://www.grid.net.ru/nginx/mogilefs.en.html

  检查配置文件语法

Nginx反代MogileFS集群

  这里提示我们没有client_body这个目录

  创建client_body目录后再次检查配置文件语法是否有误

Nginx反代MogileFS集群

  提示:这里告诉我们配置文件语法ok,这意味着nginx支持我们编写的配置文件;

  启动nginx

Nginx反代MogileFS集群

  好了,到此ngxin反代mogilefs集群的安装配置就完成了

  验证:在mogilefs的tracker上使用mogupload上传一个文件,然后用别的机器访问nginx,看看对应的文件内容是否能够访问到?

Nginx反代MogileFS集群

  用浏览器访问对应文件的key看看是否能够访问到我们上传到文件呢?

Nginx反代MogileFS集群

Nginx反代MogileFS集群

  提示:可以看到在客户端直接访问nginx所在主机监听的地址和端口+指定文件的domain+文件的key就能够访问到对应文件的内容;

赞(0) 打赏
未经允许不得转载:张拓的天空 » Nginx反代MogileFS集群
分享到: 更多 (0)

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

专业的IT技术经验分享 更专业 更方便

联系我们本站主机

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏