如何解决redis time高并发客户端频繁time out

前言:事先说明:在实际应用中这种做法设计需要各位读者自己设计,本文只提供一种思想。准备工作:安装后本地数redis服务器,使用mysql数据库,事先插入1000万条数据,可以参考我之前的文章插入数据,这里不再细说。我大概的做法是这样的,编码使用多线程访问我的数据库,在访问数据库前先访问redis缓存没有的话在去查询数据库,需要注意的是redis最大连接数最好设置为300,不然会出现很多报错。
&贴一下代码吧
import redis.clients.jedis.JedisP
import redis.clients.jedis.JedisPoolC
public class SelectFromMysql {
public static void main(String[] args) {
JedisPoolConfig config = new JedisPoolConfig();//创建redis连接池
// 设置最大连接数,-1无限制
config.setMaxTotal(300);
// 设置最大空闲连接
config.setMaxIdle(100);
// 设置最大阻塞时间,记住是毫秒数milliseconds
config.setMaxWaitMillis(100000);
// 创建连接池
pool = new JedisPool(config, "127.0.0.1", );
for (int i =9222000; i &=9222200; i++) {//这里自己设置用多少线程并发访问
String teacherName=String.valueOf(i);
new ThreadToMysql(teacherName, "123456",pool).start();
import java.sql.C
import java.sql.DriverM
import java.sql.ResultS
import java.sql.SQLE
import java.sql.S
import redis.clients.jedis.J
import redis.clients.jedis.JedisP
public class ThreadToMysql extends Thread {
public String teacherN
public JedisP
public ThreadToMysql(String teacherName, String password,JedisPool pool) {//构造函数传入要查询登录的老师姓名和密码
this.teacherName=teacherN
this.password=
this.pool=
public void run() {
Jedis jedis = pool.getResource();
Long startTime=System.currentTimeMillis();//开始时间
if (jedis.get(teacherName)!=null) {
Long entTime=System.currentTimeMillis();//开始时间
System.out.println(currentThread().getName()+" 缓存得到的结果: "+jedis.get(teacherName)+" 开始时间:"+startTime+"
结束时间:"+entTime+"
用时:" +(entTime-startTime)+"ms");
pool.returnResource(jedis);
System.out.println("释放该redis连接");
String url = "jdbc:mysql://127.0.0.1/teacher";
String name = "com.mysql.jdbc.Driver";
String user = "root";
String password = "123456";
Connection conn =
Class.forName(name);
conn = DriverManager.getConnection(url, user, password);//获取连接
conn.setAutoCommit(false);//关闭自动提交,不然mit()运行到这句会报错
} catch (ClassNotFoundException e1) {
e1.printStackTrace();
} catch (SQLException e) {
e.printStackTrace();
if (conn!=null) {
String sql="select t_name from test_teacher where t_name='"+teacherName+"' and t_password='"+password+"' ";//SQL语句
String t_name=
Statement stmt=conn.createStatement();
ResultSet rs=stmt.executeQuery(sql);//获取结果集
if (rs.next()) {
t_name=rs.getString("t_name");
jedis.set(teacherName, t_name);
System.out.println("释放该连接");
stmt.close();
conn.close();
} catch (SQLException e) {
e.printStackTrace();
}finally {
pool.returnResource(jedis);
System.out.println("释放该连接");
Long end=System.currentTimeMillis();
System.out.println(currentThread().getName()+"
数据库得到的查询结果:"+t_name+"
开始时间:"+startTime+"
结束时间:"+end+"
用时:"+(end-startTime)+"ms");
System.out.println(currentThread().getName()+"数据库连接失败:");
&我的数据库表数据是这样的。可以看到我的t_name是1-,密码固定123456.利用循环创建线程很好做传入循环的次数作为查询的t_name就行了
采用redis缓存替换加索引的方案
1.在200并发访问下:
第一次访问结果:由于第一次访问缓存不存在该数据,速度很慢
最慢90多秒
运行第二次访问后(redis数据库已存在数据)的结果:
最慢700多毫秒
2.当我尝试1000线程并发访问时redis直接挂掉,原因在于reids缓存并没有要查找的数据,就从数据库查找,1000个线程同时并发访问数据库等待时间太长了,造成redis连接等待超时(就算把redis的超时等待时间设置为100分钟也没用,会报redis连接被拒绝的错误)
3.当我利用循环事先把100万条数据插入redis缓存服务器后,在1万个线程并发访问测试下只需要5~6秒就拿到了查询结果,效率出奇的快,而且没有报任何错
4.在3的条件下我把并发线程提升到100万个时,测试在百万并发条件下查询性能,发现完全没有压力,每个线程也是几毫秒就能查到结果,这个时候限制我速度的就是电脑CPU了。我的测试电脑是4核的,处理100万个线程起来比较慢,下面是截图,运行到50多万个线程的时候我就停止了运行
&好了,以上都是数据库查询的字段没有加索引直接利用redis缓存查找的
&而且有个弊端,百万级的并发访问需要事先把数据放到缓存中,在实际中并不科学(因为并不知道那些是热点数据),下面来看看如何使用索引加缓存的效果
&1.给t_name和t_password字段加组合索引
&我们来看看在有索引且redis缓存事先没有数据的时候,创建100万个线程并发访问的结果
&没问题,这样就完成了百万级别下的并发访问,但是这样我的程序创建线程很慢,因为我的电脑4核CPU的(但是要创建100万个线程),这个时候就是硬件设备的性能了,在设备硬件性能足够的条件下是没问题的
&以下是我的总结:
1.我的优化方案中只有两种,一种是给查询的字段加组合索引。另一种是给在用户和数据库中增加缓存
2.添加索引方案:面对1~2千的并发是没有压力的,在往上则限制的瓶颈就是数据库最大连接数了,在上面中我用show global status like 'Max_used_connections&查看数据库可以知道数据库最大响应连接数是5700多,超过这个数tomcat直接报错连接被拒绝或者连接已经失效
3.缓存方案:在上面的测试可以知道,要是我们事先把数据库的千万条数据同步到redis缓存中,瓶颈就是我们的设备硬件性能了,假如我们的主机有几百个核心CPU,就算是千万级的并发下也可以完全无压力,带个用户很好的。
4.索引+缓存方案:缓存事先没有要查询的数据,在一万的并发下测试数据库毫无压力,程序先通过查缓存再查数据库大大减轻了数据库的压力,即使缓存不命中在一万的并发下也能正常访问,在10万并发下数据库依然没压力,但是redis服务器设置最大连接数300去处理10万的线程,4核CPU处理不过来,很多redis连接不了。我用show global status like 'Max_used_connections'查看数据库发现最大响应连接数是388,这么低所以数据库是不会挂掉的。
5.使用场景:a.几百或者2000以下并发直接加上组合索引就可以了。b.不想加索引又高并发的情况下可以先事先把数据放到缓存中,硬件设备支持下可解决百万级并发。c.加索引且缓存事先没有数据,在硬件设备支持下可解决百万级并发问题。d.不加索引且缓存事先没有数据,不可取,要80多秒才能得到结果,用户体验极差。
6.原理:其实使用了redis的话为什么数据库不会崩溃是因为redis最大连接数为300,这样数据库最大同时连接数也是300多,所以不会挂掉,至于redis为什么设置为300是因为设置的太高就会报错(连接被拒绝)或者等待超时(就算设置等待超时的时间很长也会报这个错)。
&最后说明:本文不代表实际应用开发场景,更多的是提供一种思想,一种解决方案,如有错误,请指正,谢谢
技术交流群:
本文源码:
本代码需要的jar包下载地址:
阅读(...) 评论()下次自动登录
现在的位置:
& 综合 & 正文
Nginx与Redis解决高并发问题
原文链接:
第一版产品采用的是Jquery,Nginx,PHP(CI框架),Memcache,Mysql这种常用的架构。作为一名PHP工程师对于这种架构已经非常的熟悉了,目前站点并发并不是很高,线上环境使用的是阿里云主机,1.5G的内存,PHP并发能支持400~500左右。因为使用memcache的原因,如果在并发特别高的情况下,除了带宽瓶颈以外就可能会是一直引以为傲PHP瓶颈了。增加机器便会增加成本,对于一个刚刚上线运行的项目,要求公司扩大投入是不合理的。
于是在第二次改版的过程中我们尝试放弃PHP,采用OpenResty中的LuaJit模块直接读取redis中的数据以Json的格式返回给前端页面展示,使用PHP脚本定时执行向redis里面更新内容。这样整合个前端过程就没啥php与mysql哈事了(除后端定时执行脚本之外)。凭着nginx与redis的高并发,还怕啥呀!。下图为新的架构主要结构。
Redis是一个高性能的key-value数据库。redis的出现,很大程度补偿了memcache这类key-value存储的不足,在部分场合可以对关系数据库起到很好的补充作用。它提供了Python,Ruby,Erlang,PHP客户端,使用很方便。
性能测试结果:SET操作每秒钟110000 次,GET操作每秒钟81000 次
有了Redis作为保障,新架构就可以开搞了,使用到的主要关键词由openResty,LuaJit,Lua,Redis,PHP,PHPRedis,JSon,JQuery等组成。读者可以搜索下各名词了解它们的功能。下面是openResty中的Nginx配置:
nginx.confserver {
root/home/boolean/Htdocs/;
index index.htmlindex.
#默认请求Html转发到apache,这里你可以根据自己情况配置
location /
proxy_set_header HOST$
proxy_set_headerSERVER_ADDR $server_
proxy_set_headerSERVER_PORT $server_
proxy_set_headerREMOTE_ADDR $remote_
proxy_set_headerREMOTE_PORT $remote_
proxy_pass
#更新redis
location /set_redis
set_unescape_uri$key $arg_
set_unescape_uri$val $arg_
redis2_queryset $key $
redis2_pass127.0.0.1:6379;
#读取redis
location /get_redis
set_unescape_uri$key $arg_
redis2_queryget $
redis2_pass127.0.0.1:6379;
# 模拟的简单请求
location /json
default_typetext/
content_by_lua_file/home/boolean/Htdocs//lua/redis.
redis.lua文件
#通过URL更新redis
functionsetRedis(key, val)
localres = ngx.location.capture('/set_redis', {
ifres.status == 200 then
returntrue
returnfalse
#通过URL读取redis
functiongetRedis(key)
localcapture = ngx.location.capture('/get_redis', {
localparser = require 'redis.parser' --require redis.parser
localres, err = parser.parse_reply(capture.body)
#URL参数$_GET['a']
locala = ngx.var.arg_a
if'clean' == a then
--重置redis
ifsetRedis('love_number', 0) then
ngx.say("CleanRedis Is Success!")
ngx.say("CleanRedis Is failted!")
--读取redis
locallove_number = getRedis('love_number') + 1
setRedis('love_number',love_number)
ngx.say("CurrentLove Number Is: ", love_number)
&&&&推荐文章:
【上篇】【下篇】}

我要回帖

更多关于 redis read timed out 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信