high-availability - 空闲 AMQ Artemis 集群上的 CPU 使用率高,与共享存储 HA 的锁有关
问题描述
我有 AMQ Artemis 集群,共享存储 HA(主从),2.17.0。
我注意到我所有空闲的集群(仅限活动服务器)(没有人使用它们)使用 10% 到 20% 的 CPU,除了一个使用大约 1%(完全正常)的集群。我开始调查...
长话短说 - 只有一个集群的 CPU 使用率完全正常。我设法发现的唯一区别是,如果我连接到该普通集群的主节点并尝试telnet slave 61616
-它将显示为已连接。如果我在任何其他集群(具有高 CPU 使用率)中执行相同操作 - 它将显示为被拒绝。
为了更好地了解正在发生的事情,我启用DEBUG
了登录instance/etc/logging.properties
。以下是主节点发送的垃圾邮件:
2021-05-07 13:54:31,857 DEBUG [org.apache.activemq.artemis.core.client.impl.ClientSessionFactoryImpl] Backup is not active, trying original connection configuration now.
2021-05-07 13:54:32,357 DEBUG [org.apache.activemq.artemis.core.client.impl.ClientSessionFactoryImpl] Trying reconnection attempt 0/1
2021-05-07 13:54:32,357 DEBUG [org.apache.activemq.artemis.core.client.impl.ClientSessionFactoryImpl] Trying to connect with connectorFactory = org.apache.activemq.artemis.core.remoting.impl.netty$NettyConnectorFactory@6cf71172, connectorConfig=TransportConfiguration(name=slave-connector, factory=org-apache-activemq-artemis-core-remoting-impl-netty-NettyConnectorFactory) ?trustStorePassword=****&port=61616&keyStorePassword=****&sslEnabled=true&host=slave-com&trustStorePath=/path/to/ssl/truststore-jks&keyStorePath=/path/to/ssl/keystore-jks
2021-05-07 13:54:32,357 DEBUG [org.apache.activemq.artemis.core.remoting.impl.netty.NettyConnector] Connector NettyConnector [host=slave.com, port=61616, httpEnabled=false$ httpUpgradeEnabled=false, useServlet=false, servletPath=/messaging/ActiveMQServlet, sslEnabled=true, useNio=true] using native epoll
2021-05-07 13:54:32,357 DEBUG [org.apache.activemq.artemis.core.client] AMQ211002: Started EPOLL Netty Connector version 4.1.51.Final to slave.com:61616
2021-05-07 13:54:32,358 DEBUG [org.apache.activemq.artemis.core.remoting.impl.netty.NettyConnector] Remote destination: slave.com/123.123.123.123:61616
2021-05-07 13:54:32,358 DEBUG [org.apache.activemq.artemis.spi.core.remoting.ssl.SSLContextFactory] Creating SSL context with configuration
trustStorePassword=****
port=61616
keyStorePassword=****
sslEnabled=true
host=slave.com
trustStorePath=/path/to/ssl/truststore.jks
keyStorePath=/path/to/ssl/keystore.jks
2021-05-07 13:54:32,448 DEBUG [org.apache.activemq.artemis.core.remoting.impl.netty.NettyConnector] Added ActiveMQClientChannelHandler to Channel with id = 77c078c2
2021-05-07 13:54:32,448 DEBUG [org.apache.activemq.artemis.core.client.impl.ClientSessionFactoryImpl] Connector towards NettyConnector [host=slave.com, port=61616, httpEnabled=false, httpUpgradeEnabled=false, useServlet=false, servletPath=/messaging/ActiveMQServlet, sslEnabled=true, useNio=true] failed
这是奴隶发送的垃圾邮件:
2021-05-07 14:06:53,177 DEBUG [org.apache.activemq.artemis.core.server.impl.FileLockNodeManager] trying to lock position: 1
2021-05-07 14:06:53,178 DEBUG [org.apache.activemq.artemis.core.server.impl.FileLockNodeManager] failed to lock position: 1
如果我尝试从主节点远程登录到从节点(如果我从从节点到从节点也是如此):
[root@master]# telnet slave.com 61616
Trying 123.123.123.123...
telnet: connect to address 123.123.123.123: Connection refused
但是,如果我在唯一的工作集群中尝试相同的 telnet,我可以成功地从主服务器“连接”到从服务器......
这是我怀疑的:
- 主人获得锁定
instance/data/journal/server.lock
- 主服务器不断尝试连接从服务器
- 从站无法启动,因为它无法
server.lock
在共享存储上获取相同的信息。 - 由于如此努力地尝试连接到未运行的从站,主站使用高 CPU 。
我究竟做错了什么?
编辑:这就是我的 NFS 挂载的样子(取自mount
命令):
some_server:/some_dir on /path/to/artemis/instance/data type nfs4 (rw,relatime,sync,vers=4.1,rsize=65536,wsize=65536,namlen=255,acregmin=0,acregmax=0,acdirmin=0,acdirmax=0,soft,noac,proto=tcp,timeo=50,retrans=1,sec=sys,clientaddr=123.123.123.123,local_lock=none,addr=123.123.123.123)
解决方案
原来问题出在broker.xml
配置中。在static-connectors
我不知何故决定只列出一个“非当前服务器”(例如,我有 srv0 和 srv1 - 在 srv0 我只添加了 srv1 的连接器,反之亦然)。
它曾经是什么(在第一个master
节点上):
<cluster-connections>
<cluster-connection name="abc">
<connector-ref>srv0-connector</connector-ref>
<message-load-balancing>ON_DEMAND</message-load-balancing>
<max-hops>1</max-hops>
<static-connectors>
<connector-ref>srv1-connector</connector-ref>
</static-connectors>
</cluster-connection>
</cluster-connections>
现在情况如何(在第一个master
节点上):
<cluster-connections>
<cluster-connection name="abc">
<connector-ref>srv0-connector</connector-ref>
<message-load-balancing>ON_DEMAND</message-load-balancing>
<max-hops>1</max-hops>
<static-connectors>
<connector-ref>srv0-connector</connector-ref>
<connector-ref>srv1-connector</connector-ref>
</static-connectors>
</cluster-connection>
</cluster-connections>
列出所有集群的节点后,CPU 正常化,它不仅在活动节点上约为 1%。该问题与 AMQ Artemis 连接垃圾邮件或文件锁定完全无关。
推荐阅读
- react-native - 使用带有样式组件的 react i18next
- c# - 如何在 Xamarin 中使用 GraphQL 将数据存储在 Apollo 缓存中?
- android - 停止从 BroadcastReceiver 启动的 Android 媒体播放器循环
- android - 如何在现有的 React Native App 中集成原生 ios 相机 SDK?
- javascript - 我正在尝试在模式对话框中打开视频
- python - 无法覆盖 django 信号中的变量值
- c# - 在C#中获取“参数字典包含方法X的不可空类型'System.Int32'的参数'ID'的空条目”
- pandas - replace strings of one row if one of the columns has specific string
- java - Replace a string with regex java
- python - 引擎的 SQLAlchemy 更改数据库