首页 > 解决方案 > 如何修复 Pool 的 _connectionQueue 中过多的问题?

问题描述

我非常简单的 Node.js 代码似乎不像它应该做的那样工作。_connectionQueue对象只是无限地Pool变得越来越长,并且应用程序死了。我的意思是它确实建立了一个池并且已经有预先建立的连接,但是它们不可重用或插入请求太多且太快?我不确定..

我试着把一些connectionLimit更像下面的:

let state = { pool: null }
export const connect = () => {
  state.pool = mysql.createPool({
    connectionLimit: 200,
    host: process.env.DATABASE_HOST || 'localhost',
    user: process.env.DATABASE_USER || 'root',
    password: process.env.DATABASE_PASSWORD || 'password',
    database: process.env.DATABASE_NAME || 'database'
  })
}

export const get = () => state.pool

该服务器的主要工作是订阅和插入。它订阅了几个 MQTT 主题,只是尝试将消息插入 RDB。每秒大约有 100 条消息到达,代码如下所示。

mqttClient.on('message', function (topic, message) {

    if(topic.includes('sensor')){     

      try { 
        const data = JSON.parse(message.toString())

        if(validate(data.uuid)){
          const params = [data.a, data.b, data.c, ...]
          sensor.setStatus(params)
        }
      } catch(err){
        console.error(err)
      }

    }
}
export const setStatus = (params) => {

  const SQL = `INSERT INTO ...`

  db.get().query(SQL, params, (err, result) => {
    if (err) console.error(err)
  })
}

然后,我看透了chrome-devtools

Object
pool: Pool
config: PoolConfig {acquireTimeout: 10000, connectionConfig: ConnectionConfig, waitForConnections: true, connectionLimit: 200, queueLimit: 0}
domain: null
_acquiringConnections: []
_allConnections: (200) [PoolConnection, PoolConnection, …]
_closed: false
_connectionQueue: (11561) [ƒ, ƒ, ƒ, ƒ, …]
_events: {}
_eventsCount: 0
_freeConnections: []
_maxListeners: undefined
__proto__: EventEmitter
__proto__: Object

我已经投入console.log如下setStatus

export const setStatus = (params) => {

  const SQL = `INSERT INTO ...`
  console.log(`allConnections=${db.get()._allConnections.length}, connectionQueue=${db.get()._connectionQueue.length}`)

  db.get().query(SQL, params, (err, result) => {
    if (err) console.error(err)
  })
}

,并得到了这些。

allConnections=200, connectionQueue=29
allConnections=200, connectionQueue=30
allConnections=200, connectionQueue=31
allConnections=200, connectionQueue=32
allConnections=200, connectionQueue=33
allConnections=200, connectionQueue=34
...

似乎服务器很好地创建了一个连接池,但没有使用这些连接。相反,尝试越来越多地创建新连接,而这些请求只会卡在_connectionQueue.

标签: mysqlnode.jsconnection-pooling

解决方案


每次您想进行查询时,您似乎都在创建一个新池。常见的模型是在应用程序启动时创建一个池,然后根据需要使用该池中的连接(一个池,多个连接)。

此外,如果您使用的是简单的数据库模型,则可以通过将其设为全局来简化对池的访问。以下是您可以尝试的代码的替代方案:

应用程序.js

const mysql = require('mysql');

const connection = mysql.createPool({
  host: process.env.DB_HOST || '127.0.0.1',
  user: process.env.DB_USER || 'local_user',
  password: process.env.DB_PASSWORD || 'local_password',
  database: process.env.DB_NAME || 'local_database'
});

global.db = connection;

模块.js

export const setStatus = (params) => {
  let SQL = `INSERT INTO ...`
  db.query(SQL, params, (err, result) => {
    if (err) console.error(err)
    console.log(result)
  })
}

供进一步参考的文档 :: https://github.com/mysqljs/mysql#pooling-connections

编辑 1 - 日志池事件

db.on('acquire', function (connection) {
  console.log('Connection %d acquired', connection.threadId);
});

db.on('connection', function (connection) {
  console.log('Pool id %d connected', connection.threadId);
});

db.on('enqueue', function () {
  console.log('Waiting for available connection slot');
});

db.on('release', function (connection) {
  console.log('Connection %d released', connection.threadId);
});

推荐阅读