首页 > 解决方案 > Kubernetes 上的 EventStore:连接被拒绝

问题描述

我正在.NET 5.0 中开发一个由 EventStore 通道支持的开源云事件网关,并且在连接 ProjectionsManager 服务时遇到了问题。

我在自己的命名空间中部署了一个 EventStore 服务,并且可以成功连接到它,并订阅流。但是,当我尝试连接 ProjectionsManager 时,出现以下异常:

连接被拒绝(eventstore.eventstore.svc.cluster.local:2113)

服务的完全限定名称“eventstore.eventstore.svc.cluster.local”是正确的,并且已被 IEventStoreConnection 成功使用。端口 2113 也是正确的,因为我可以通过使用 Kubectl 将端口转发到该端口上的 pod 来访问管理 UI。

这是怎么回事?在我所有的本地和基于 docker-compose 的测试中,一切都按预期工作。只有在 Kubernetes 中我才会遇到这个问题。

这是我的 EventStore yaml 文件的内容:

apiVersion: v1
kind: Namespace
metadata:
  name: eventstore
  labels:
    name: eventstore

---

apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: eventstore
  namespace: eventstore
  labels:
    app: eventstore
spec:
  serviceName: eventstore
  replicas: 1
  selector:
    matchLabels:
      app: eventstore
  template:
    metadata:
      labels:
        app: eventstore
    spec:
      containers:
        - name: eventstore
          image: eventstore/eventstore:release-5.0.1
          imagePullPolicy: IfNotPresent
          ports:
            - containerPort: 1112
              name: tcp-int
            - containerPort: 1113
              name: tcp-ext
            - containerPort: 2112
              name: http-int  
            - containerPort: 2113
              name: http-ext  
          volumeMounts:
            - name: data
              mountPath: /var/lib/eventstore
          env:
            - name: EVENTSTORE_EXT_HTTP_PORT
              value: "2113"
            - name: EVENTSTORE_EXT_TCP_PORT
              value: "1113"
            - name: EVENTSTORE_INT_HTTP_PREFIXES
              value: http://*:2112/
            - name: EVENTSTORE_EXT_HTTP_PREFIXES
              value: http://*:2113/
            - name: EVENTSTORE_RUN_PROJECTIONS
              value: All
            - name: EVENTSTORE_START_STANDARD_PROJECTIONS
              value: "true"
            - name: EVENTSTORE_EXT_IP
              value: "0.0.0.0"
            - name: EVENTSTORE_ENABLE_ATOM_PUB_OVER_HTTP
              value: "true"
            - name: EVENTSTORE_ENABLE_EXTERNAL_TCP
              value: "true"
      volumes:
        - name: data
          emptyDir: {}

---

apiVersion: v1
kind: Service
metadata:
  name: eventstore
  namespace: eventstore
  labels:
    app: eventstore
spec:
  ports:
    - port: 1112
      name: tcp-int
    - port: 1113
      name: tcp-ext
    - port: 2112
      name: http-int  
    - port: 2113
      name: http-ext  
  selector:
    app: eventstore

下面是用于实例化 ProjectionsManager 的 C# 片段:

new ProjectionsManager(new ConsoleLogger(), new DnsEndPoint("eventstore.eventstore.svc.cluster.local", 2113), TimeSpan.FromMilliseconds(3000), httpSchema: "http");

顺便说一句,尝试连接 ProjectionsManager 的服务与 Istio sidecar 相结合,如果这很重要的话。

提前感谢您的宝贵帮助;)

编辑

似乎 Istio sidecar 注入是问题的原因。禁用它可以使其按预期工作。关于为什么会发生这种情况以及如何在启用注入的情况下解决它的任何想法?

标签: kubernetesistio.net-5eventstoredb

解决方案


我们在启用了 Istio sidecar 注入的 Kubernetes 集群上运行 EventStoreDB 时遇到了同样的问题。

根据Istio 关于协议选择的文档,Istio 将查看port您在 your 上定义的名称Service,这将决定 Istio 试图拦截的协议。如果不遵守格式,Istio 将尝试猜测协议(适用于 HTTP、HTTPS 和 gRPC)。

在您的情况下,您的端口namehttp-(http-inthttp-ext) 开头。因此,Istio 不会尝试检测使用的协议,而是会假设协议是http(HTTP/1.1)。

但是,EventStoreDB 的 API 是一个 gRPC 端点。因此,您有两种选择:

  • 将端口重命名为以grpc-. 在这种情况下,任何 Istio 代理都会知道该端口正在暴露 gRPC
  • 直接将端口命名为其他名称(例如api或类似eventstoredb),以让 Istio 检测使用的协议。

请注意,EventStoreDB 在同一端口(即 HTTP)上公开了一个管理 Web 界面。如果您通过端口转发访问它,那么您没有 Istio sidecar 阻碍,因此端口的名称不会影响流量。但是,如果您尝试通过 Istio Ingress Gateway 公开管理界面(我不建议这样做,因为您会将数据库公开到 Internet),那么您可能会在访问管理界面时遇到问题。在这种情况下,让 Istio 检测流量的第二种解决方案可能是更灵活的解决方案。

最后一个选择是在 上公开 2 个端口Service,一个用于http,另一个用于grpc,并让它们都重定向到 上的同一个端口Pod,但我实际上不确定 Kubernetes 是否允许这样做。


推荐阅读