热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

基于Swoole扩展开发异步高性能的MySQL代理服务器

2019独角兽企业重金招聘Python工程师标准MySQL数据库对每个客户端连接都会分配一个线程,所以连接非常宝贵。开发一个异步的MySQL代理服务器ÿ

2019独角兽企业重金招聘Python工程师标准>>> hot3.png

MySQL数据库对每个客户端连接都会分配一个线程,所以连接非常宝贵。开发一个异步的MySQL代理服务器,PHP应用服务器可以长连接到这台Server,既减轻MYSQL的连接压力,又使PHP保持长连接减少connect/close的网络开销。

此Server考虑到了设置了数据库连接池尺寸,区分忙闲,mysqli断线重连,并设置了负载保护。基于swoole扩展开发,io循环使用epoll,是全异步非阻塞的,可以应对大量TCP连接。

程序的逻辑是:启动时创建N个MySQL连接,收到客户端发来的SQL后,分配1个MySQL连接,将SQL发往数据库服务器。然后等待数据库返回查询结果。当数据库返回结果后,再发给对应的客户端连接。

核心的数据结构是3个PHP数组。idle_pool是空闲的数据库连接,当有SQL请求时从idle_pool中移到busy_pool中。当数据库返回结果后从busy_pool中再移到idle_pool中,以供新的请求使用。当SQL请求到达时如果没有空闲的数据库连接,那会自动加入到wait_queue中。一旦有SQL完成操作,将自动从wait_queue中取出等待的请求进行处理。

如此循环使用。由于整个服务器是异步的单进程单线程所以完全不需要锁。而且是完全异步的,效率非常高。

当然本文的代码,如果要用于生产环境,还需做更多的保护机制和压力测试。在此仅抛砖引玉,提供一个解决问题的思路。

class DBServer
{protected $pool_size &#61; 20;protected $idle_pool &#61; array(); //空闲连接protected $busy_pool &#61; array(); //工作连接protected $wait_queue &#61; array(); //等待的请求protected $wait_queue_max &#61; 100; //等待队列的最大长度&#xff0c;超过后将拒绝新的请求/*** &#64;var swoole_server*/protected $serv;function run(){$serv &#61; new swoole_server("127.0.0.1", 9509);$serv->set(array(&#39;worker_num&#39; &#61;> 1,));$serv->on(&#39;WorkerStart&#39;, array($this, &#39;onStart&#39;));//$serv->on(&#39;Connect&#39;, array($this, &#39;onConnect&#39;));$serv->on(&#39;Receive&#39;, array($this, &#39;onReceive&#39;));//$serv->on(&#39;Close&#39;, array($this, &#39;onClose&#39;));$serv->start();}function onStart($serv){$this->serv &#61; $serv;for ($i &#61; 0; $i <$this->pool_size; $i&#43;&#43;) {$db &#61; new mysqli;$db->connect(&#39;127.0.0.1&#39;, &#39;root&#39;, &#39;root&#39;, &#39;test&#39;);$db_sock &#61; swoole_get_mysqli_sock($db);swoole_event_add($db_sock, array($this, &#39;onSQLReady&#39;));$this->idle_pool[] &#61; array(&#39;mysqli&#39; &#61;> $db,&#39;db_sock&#39; &#61;> $db_sock,&#39;fd&#39; &#61;> 0,);}echo "Server: start.Swoole version is [" . SWOOLE_VERSION . "]\n";}function onSQLReady($db_sock){$db_res &#61; $this->busy_pool[$db_sock];$mysqli &#61; $db_res[&#39;mysqli&#39;];$fd &#61; $db_res[&#39;fd&#39;];echo __METHOD__ . ": client_sock&#61;$fd|db_sock&#61;$db_sock\n";if ($result &#61; $mysqli->reap_async_query()) {$ret &#61; var_export($result->fetch_all(MYSQLI_ASSOC), true) . "\n";$this->serv->send($fd, $ret);if (is_object($result)) {mysqli_free_result($result);}} else {$this->serv->send($fd, sprintf("MySQLi Error: %s\n", mysqli_error($mysqli)));}//release mysqli object$this->idle_pool[] &#61; $db_res;unset($this->busy_pool[$db_sock]);//这里可以取出一个等待请求if (count($this->wait_queue) > 0) {$idle_n &#61; count($this->idle_pool);for ($i &#61; 0; $i <$idle_n; $i&#43;&#43;) {$req &#61; array_shift($this->wait_queue);$this->doQuery($req[&#39;fd&#39;], $req[&#39;sql&#39;]);}}}function onReceive($serv, $fd, $from_id, $data){//没有空闲的数据库连接if (count($this->idle_pool) &#61;&#61; 0) {//等待队列未满if (count($this->wait_queue) <$this->wait_queue_max) {$this->wait_queue[] &#61; array(&#39;fd&#39; &#61;> $fd,&#39;sql&#39; &#61;> $data,);} else {$this->serv->send($fd, "request too many, Please try again later.");}} else {$this->doQuery($fd, $data);}}function doQuery($fd, $sql){//从空闲池中移除$db &#61; array_pop($this->idle_pool);/*** &#64;var mysqli*/$mysqli &#61; $db[&#39;mysqli&#39;];for ($i &#61; 0; $i <2; $i&#43;&#43;) {$result &#61; $mysqli->query($sql, MYSQLI_ASYNC);if ($result &#61;&#61;&#61; false) {if ($mysqli->errno &#61;&#61; 2013 or $mysqli->errno &#61;&#61; 2006) {$mysqli->close();$r &#61; $mysqli->connect();if ($r &#61;&#61;&#61; true) continue;}}break;}$db[&#39;fd&#39;] &#61; $fd;//加入工作池中$this->busy_pool[$db[&#39;db_sock&#39;]] &#61; $db;}
}$server &#61; new DBServer();
$server->run();




转:https://my.oschina.net/matyhtf/blog/223780



推荐阅读
  • 计算机存储系统的层次结构及其优势
    本文介绍了计算机存储系统的层次结构,包括高速缓存、主存储器和辅助存储器三个层次。通过分层存储数据可以提高程序的执行效率。计算机存储系统的层次结构将各种不同存储容量、存取速度和价格的存储器有机组合成整体,形成可寻址存储空间比主存储器空间大得多的存储整体。由于辅助存储器容量大、价格低,使得整体存储系统的平均价格降低。同时,高速缓存的存取速度可以和CPU的工作速度相匹配,进一步提高程序执行效率。 ... [详细]
  • Java在运行已编译完成的类时,是通过java虚拟机来装载和执行的,java虚拟机通过操作系统命令JAVA_HOMEbinjava–option来启 ... [详细]
  • GetWindowLong函数
    今天在看一个代码里头写了GetWindowLong(hwnd,0),我当时就有点费解,靠,上网搜索函数原型说明,死活找不到第 ... [详细]
  • 阿,里,云,物,联网,net,core,客户端,czgl,aliiotclient, ... [详细]
  • http:my.oschina.netleejun2005blog136820刚看到群里又有同学在说HTTP协议下的Get请求参数长度是有大小限制的,最大不能超过XX ... [详细]
  • 本文介绍了Web学习历程记录中关于Tomcat的基本概念和配置。首先解释了Web静态Web资源和动态Web资源的概念,以及C/S架构和B/S架构的区别。然后介绍了常见的Web服务器,包括Weblogic、WebSphere和Tomcat。接着详细讲解了Tomcat的虚拟主机、web应用和虚拟路径映射的概念和配置过程。最后简要介绍了http协议的作用。本文内容详实,适合初学者了解Tomcat的基础知识。 ... [详细]
  • 本文介绍了PE文件结构中的导出表的解析方法,包括获取区段头表、遍历查找所在的区段等步骤。通过该方法可以准确地解析PE文件中的导出表信息。 ... [详细]
  • 利用Visual Basic开发SAP接口程序初探的方法与原理
    本文介绍了利用Visual Basic开发SAP接口程序的方法与原理,以及SAP R/3系统的特点和二次开发平台ABAP的使用。通过程序接口自动读取SAP R/3的数据表或视图,在外部进行处理和利用水晶报表等工具生成符合中国人习惯的报表样式。具体介绍了RFC调用的原理和模型,并强调本文主要不讨论SAP R/3函数的开发,而是针对使用SAP的公司的非ABAP开发人员提供了初步的接口程序开发指导。 ... [详细]
  • 闭包一直是Java社区中争论不断的话题,很多语言都支持闭包这个语言特性,闭包定义了一个依赖于外部环境的自由变量的函数,这个函数能够访问外部环境的变量。本文以JavaScript的一个闭包为例,介绍了闭包的定义和特性。 ... [详细]
  • 解决nginx启动报错epoll_wait() reported that client prematurely closed connection的方法
    本文介绍了解决nginx启动报错epoll_wait() reported that client prematurely closed connection的方法,包括检查location配置是否正确、pass_proxy是否需要加“/”等。同时,还介绍了修改nginx的error.log日志级别为debug,以便查看详细日志信息。 ... [详细]
  • 本文介绍了在wepy中运用小顺序页面受权的计划,包含了用户点击作废后的从新受权计划。 ... [详细]
  • 本文介绍了RPC框架Thrift的安装环境变量配置与第一个实例,讲解了RPC的概念以及如何解决跨语言、c++客户端、web服务端、远程调用等需求。Thrift开发方便上手快,性能和稳定性也不错,适合初学者学习和使用。 ... [详细]
  • 关键词:Golang, Cookie, 跟踪位置, net/http/cookiejar, package main, golang.org/x/net/publicsuffix, io/ioutil, log, net/http, net/http/cookiejar ... [详细]
  • 个人学习使用:谨慎参考1Client类importcom.thoughtworks.gauge.Step;importcom.thoughtworks.gauge.T ... [详细]
  • 本文介绍了在Linux下安装和配置Kafka的方法,包括安装JDK、下载和解压Kafka、配置Kafka的参数,以及配置Kafka的日志目录、服务器IP和日志存放路径等。同时还提供了单机配置部署的方法和zookeeper地址和端口的配置。通过实操成功的案例,帮助读者快速完成Kafka的安装和配置。 ... [详细]
author-avatar
风清淡雅的梦
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有