docker - Knative - kubernetes yaml 从谷歌云存储挂载数据
问题描述
我是使用 YAML 文件进行 Kubernetes 和 Cloudrun 部署的新手,所以请原谅这个问题应该非常基本。
问题:我有存储在云存储中的文件。我想在容器启动我的 docker 入口点之前将这些文件下载到本地挂载中。
据我了解,KNative 不支持volumes 或persistentVolumeClaims。
如果这种理解是错误的,请纠正我。
在 Kubernetes pod 内部,我将容器启动分为 3 个部分。
- Prehook 从 GCS(Google 云存储)下载文件 -> 这会将文件从 google 存储复制到本地挂载。可以使用某种带有 clouddk 映像的 init 容器,然后使用 gsutils 将文件复制下来。
- 本地挂载文件系统 -> prehook 将写入此挂载。具有“容器映像”的容器也可以访问此挂载。
- 容器图像 -> 这是我在容器中运行的主要容器图像。
我正在寻找适用于 cloudrun 的 Knative 服务解决方案。我该如何解决这个问题?
另外,是否可以在没有 Knative 服务的情况下使用 yaml 文件来创建 cloudrun 服务?
解决方案
正如您所说,Knative 合约不允许挂载或声明卷。因此,您无法实现这一点(目前,在托管的 Cloud Run 上)。
另一方面,Pod 允许这样做,但 Knative 是“Pod”的特殊版本:没有持久卷,而且你不能定义容器列表,它是一个只有一个容器(+ 网格(大多数time Istio) 部署时注入的 sidecar)
对于您的其他问题,Cloud Run 实现了 Knative API。因此,您需要提供 Knative 服务 YAML 文件来配置您的服务。
如果要写入文件,可以/tmp
在内存分区中进行。因此,在您的容器启动时,下载文件并将它们存储在那里。但是,如果您更新文件并需要推送更新,则需要手动将它们推送到 Cloud Storage。
此外,已经下载文件并将其存储在其/tmp
目录中的其他正在运行的实例将不会在 Cloud Storage 中看到文件更改;这只是新的实例。
更新 1:
如果您想在容器启动“之前”下载文件,您有 2 个解决方案:
- “之前”是不可能的,你可以在启动时这样做:
- 容器启动
- 下载文件,启动你所需要的
- 使用您的网络服务器提供流量。
以前的解决方案有2个问题
- 服务冷启动受服务前下载影响
- 文件的最大大小受实例的最大内存大小限制(
/tmp
目录是内存中的文件系统。如果您的配置为 2Gb,则大小为最大 2Gb 减去应用程序的内存占用)
- 第二种解决方案是使用容器映像中已经存在的文件来构建容器。
- 无冷启动影响
- 没有内存限制
- 降低您的敏捷性,您需要通过文件更改构建和部署新修订。
更新 2:
对于解决方案 1,它不是 Knative 解决方案,它在您的代码中!我不知道您的语言和框架,但在启动时,您需要使用 Google Cloud Storage 客户端库从您的代码中下载您需要的文件。
向我展示您的服务器启动,我可以尝试为您提供一个示例!
对于解决方案 2,文件不在您的 git 存储库中,但仍在您的云存储中。您的 Docker 文件可能如下所示
FROM google/cloud-sdk:alpine as gcloud
WORKDIR /app
# IF you aren't building your image on Cloud Build, you need to be authenticated
#ARG KEY_FILE_CONTENT
#RUN echo $KEY_FILE_CONTENT | gcloud auth activate-service-account --key-file=- && \
# Get the file(s)
gsutil cp gs://my-bucket/name.csv .
FROM golang:1.15-buster as builder
WORKDIR /app
COPY go.* ./
....
RUN go build -v -o server
FROM debian:buster-slim
# Copy the binary to the production image from the builder stage.
COPY --from=builder /app/server /app/server
COPY --from=gcloud /app/name.csv /app/name.csv
# Run the web service on container startup.
CMD ["/app/server"]
您还可以想象在 Docker 构建命令之前下载文件并简单地在 Dockerfile 中执行复制。我不知道你的容器创建管道,但它是你可以重用的想法!
推荐阅读
- javascript - 这种情况的最佳动画选项
- flutter - 如何与 ListView 分开显示项目
- centos - RHEL 7.2 yum install openssl-devel 错误
- python - 如何并行编写 2 个 Python 装饰器
- node.js - 使用 switch 语句添加对消息的反应
- typescript - react-query 如何使用 useInfiniteQuery?
- vue.js - 部署到 Google App Engine 后,Safari 中的键盘导航消失了
- alignment - div内双元素的水平居中
- python - 通用文件操作的多线程或多处理?
- java - Spring Cacheable返回对象的副本