【linux下多实例Tomcat+Nginx+redis+mysql环境搭建】

时间:2021-07-22 21:58:12

一、搭建环境之前最好自己先创建一个文件夹,再次文件夹下在创建文件夹来安放项目包和Tomcat等应用以及性能测试监控的文件

1、项目存放地址:

mkdir export (创建一个文件),mkdir app (存放项目),mkdir server(存放Tomcat,Nginx,Redis)

2、Tomcat存放地址

a、多实例Tomcat,复制两个tomcat,命名:Tomcat-1,tomcat-2

b、配置主从Tomcat:

修改tomcat-server-2里的server.xml,修改以下三个端口,与tomcat-server-1区分开
    <Server port="8005" shutdown="SHUTDOWN">
    <Connector port="8080" protocol="HTTP/1.1"
    <Connector port="8009" protocol="AJP/1.3"
 启动2个tomcat,在tomcat的bin目录下,./startup.sh & tail -f ../log/catalina.out,启动tomcat的同时,查看启动过程中是否有报错,第一次启动时可能没有catalina.out,可以先启动后再看日志

c、关联Tomcat和项目:

--| 进入/export/servers/tomcat-1/conf

--| 修改server.xml文件:vi server.xml   -- > 查询appBase: /appBase -->修改项目路径:<Host name="localhost"  appBase="/export/app"

--| 同样tomcat2也是需要需改server.xml文件的appBase

3、nginx的部署

a、负载均衡:主要负责请求的转换,实际处理业务的还是Tomcat,还要一个作用就是处理静态页面

b、配置nginx

本次nginx安装直接使用自动化脚本install.sh安装,首先确保安装包放到/usr/local/src目录下
解压完毕后,直接执行install.sh即可
安装成功后,nginx会自动安装到/export/servers目录下luau    cd xi
配置
nginx.conf需要修改的是
1,user:是否是root
2,worker_processes:几个内核,查看cpu核数:cat /proc/cpuinfo,另外一种是top命令,然后按1
3,worker_cpu_affinity:对应上一个配置,用二进制形式写出来(0-x)proxy_passproxy_pass
4,日志的path:自定义
5,include domains/*  关注这个配置,存放tomcat相关的配置,默认不用改
6,拷贝/usr/local/src/下的xxx.demo.com到domains目录下(xxx.demo.com是链接cd tomcat的配置文件)
7,vi xxx.demo.com
8,注意upstream后的名字和proxy_pass保持一致
9,server 127.0.0.1:8080  weight=10 max_fails=2 fail_timeout=30s;有几个tamcat,配置几个,weight:权重,每个tomcat分配的负载比例
10,server name,修改成跟xxx.demo.一致即可
11,在nginx的sbin目录下,执行./nginx即可启动nginx,./nginx -s reload 重启nginx
12,默认情况下,nginx的日志在logs目录下,access.log和error.log

c、需要重点注意的是:xxx.demo.com文件内的upstream括号内的:

server 127.0.0.1:8080  weight=10 max_fails=2 fail_timeout=30s;有几个tamcat,配置几个,weight:权重,每个tomcat分配的负载比例

d、Nginx默认的连接数:1024,一般修改为65535,修改的文件是nginx.conf

【linux下多实例Tomcat+Nginx+redis+mysql环境搭建】

e、nginx超时时间:默认60s,需要修改nginx.conf文件的:client_header_timeoutclient_body_timeout ,另外一个需要修改的是:keepalive_timeout (长连接类型)(默认为75秒)
一般都需要修改为:300S

资料地址:https://blog.****.net/qq_29663071/article/details/80759098

f、nginx报504错误(gateway timeout):

引起此错误,一个是文件配置问题,另外一个是相关处理时长,最后也有可能是资源不足导致

--| 修改nginx.conf文件配置:

fastcgi_connect_timeout 300;
fastcgi_send_timeout 300;
fastcgi_read_timeout 300;

以上的单位是秒。

如果使用了Nginx的代理,可以在块里加上:

proxy_connect_timeout 300s;
proxy_send_timeout 300s;
proxy_read_timeout 300s;

变成:

location /foo {
     proxy_pass http://xxx.xxx.xxx.xxx:8080/foo;
     proxy_set_header Host $host;
     proxy_set_header X-Real-IP $remote_addr;
     proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
     proxy_connect_timeout 300s;
     proxy_send_timeout 300s;
     proxy_read_timeout 300s;
     access_log /var/log/nginx/access.foo.log main;
     error_log /var/log/nginx/error.foo.log;
}

如果没有解决我们再来看看

从错误代码基本可以确定跟nginx本身无关,主要是提交给php-fpm的请求未能正确反馈而导致,一般情况下,提交动态请求的时候,nginx会直接把 请求转交给php-fpm,而php-fpm再分配php-cgi进程来处理相关的请求,之后再依次返回,最后由nginx把结果反馈给客户端浏览器,但 我这个vps目前跑的是个纯php应用内容,实际上用户所有的请求都是php请求,有的耗费时间比较久,php-cgi进程就一直都被用满,而php- fpm本身的配置文件只打开了10组php-cgi进程,这样的话在线用户稍微多的话就会导致请求无法被正常处理而出错。
  
  大概分析出了原 因,下面做就比较容易了,首先是更改php-fpm的几处配置:
  
  把max_children由之前的10改为现在的30,这样就可以保证 有充足的php-cgi进程可以被使用;
  把request_terminate_timeout由之前的0s改为60s,这样php-cgi进程 处理脚本的超时时间就是60秒,可以防止进程都被挂起,提高利用效率。
  
  接着再更改nginx的几个配置项,减少FastCGI的请求次 数,尽量维持buffers不变:
  
  fastcgi_buffers由 4 64k 改为 2 256k;
  fastcgi_buffer_size 由 64k 改为 128K;
  fastcgi_busy_buffers_size 由 128K 改为 256K;
  fastcgi_temp_file_write_size 由 128K 改为 256K。
  
  好了,重新加载php-fpm和nginx的配置,再次测试,至今两周时间内没有再出现504 Gateway Time-out的情况,算是达到效果了。

另外,php-fpm的默认静态处理方式会使得php-cgi的进程长期占用内存而无法释放,这也是导致nginx出错的原因之一,因此可以将php-fpm的处理方式改成apache模式。
  <value name=”style”>apache-like</value>

从更改完毕到现在的测试表明上述方式的效果还是很明显的,并没有发现一次Nginx502 bad gateway或504 Gateway Time-out错误。当然,如果你的VPS或者服务器的性能足够好可以根据具体情况不必做无谓的改动。

实例

以我目前的服务器为例子CPU是奔四1.5G的,内存1GB,CENTOS的系统,访客大概是50人左右同时在线。

但是在线的人大都需要请求PHP-CGI进行大量的信息处理,因此我将nginx.conf设置为:
fastcgi_connect_timeout 300s;
fastcgi_send_timeout 300s;
fastcgi_read_timeout 300s;
fastcgi_buffer_size 128k;
fastcgi_buffers 8 128k;#8 128
fastcgi_busy_buffers_size 256k;
fastcgi_temp_file_write_size 256k;
fastcgi_intercept_errors on;
这里最主要的设置是前三条,即
fastcgi_connect_timeout 300s;
fastcgi_send_timeout 300s;
fastcgi_read_timeout 300s;
这里规定了PHP-CGI的连接、发送和读取的时间,300秒足够用了,因此我的服务器很少出现504 Gateway Time-out这个错误。最关键的是php-fpm.conf的设置,这个会直接导致502 Bad Gateway和504 Gateway Time-out。

下面我们来仔细分析一下php-fpm.conf几个重要的参数:
php-fpm.conf有两个至关重要的参数,一个是”max_children”,另一个是”request_terminate_timeout”
我的两个设置的值一个是”40″,一个是”900″,但是这个值不是通用的,而是需要自己计算的。
计算的方式如下:
如果你的服务器性能足够好,且宽带资源足够充足,PHP脚本没有系循环或BUG的话你可以直接将”request_terminate_timeout”设置成0s。0s的含义是让PHP-CGI一直执行下去而没有时间限制。而如果你做不到这一点,也就是说你的PHP-CGI可能出现某个BUG,或者你的宽带不够充足或者其他的原因导致你的PHP-CGI能够假死那么就建议你给”request_terminate_timeout”赋一个值,这个值可以根据你服务器的性能进行设定。一般来说性能越好你可以设置越高,20分钟-30分钟都可以。由于我的服务器PHP脚本需要长时间运行,有的可能会超过10分钟因此我设置了900秒,这样不会导致PHP-CGI死掉而出现502 Bad gateway这个错误。
而”max_children”这个值又是怎么计算出来的呢?这个值原则上是越大越好,php-cgi的进程多了就会处理的很快,排队的请求就会很少。设置”max_children”也需要根据服务器的性能进行设定,一般来说一台服务器正常情况下每一个php-cgi所耗费的内存在20M左右,因此我的”max_children”我设置成40个,20M*40=800M也就是说在峰值的时候所有PHP-CGI所耗内存在800M以内,低于我的有效内存1Gb。而如果我的”max_children”设置的较小,比如5-10个,那么php-cgi就会“很累”,处理速度也很慢,等待的时间也较长。如果长时间没有得到处理的请求就会出现504 Gateway Time-out这个错误,而正在处理的很累的那几个php-cgi如果遇到了问题就会出现502 Bad gateway这个错误。
fastcgi的设置加在 server {}内.
改完后如果启动nginx后提示:
nginx: [emerg] unknown directive " fastcgi_connect_timeout" in /home/chen/workspace/jamy/nginx.conf:2
类似这样的错误,可能是没有把前面的全角空格去掉。

参考文档:https://blog.****.net/luozi007/article/details/76152933

g、查看access.log

主要作用可以统计网站一天的访问人数:首先和运维或者开发要到线上的access.log日志,然后查看日志内具体的接口被调用的次数,就可以看出线上环境N台服务器的tps是多少,这样折算到测试环境就可以得到本次测试所能知道的最大tps是多少;

举例:如线上10台机器的这个接口被访问了1万次,那么换算成测试环境单台的话就是1000的tps