时间戳

首页 > 解决方案 > 通过端点调用 SageMaker Notebook 实例函数

amazon-web-services - 通过端点调用 SageMaker Notebook 实例函数

问题描述

我是 AWS 的新手。现在我已经在 SageMaker 笔记本实例中定义了一个图像分割函数，这将返回掩码。

我没有在那里训练我的模型，我所做的是在那里 pip install models 包，手动上传预训练的权重。其余的与在本地机器上工作非常相似：我导入包，加载权重，定义一个函数以将图像作为输入，然后输出掩码。

我的问题是：有没有办法托管我的函数，以便我可以使用 URL 端点 + 一个图像信息调用它，然后它返回我的掩码作为响应？

再次，我对 AWS 如此陌生，我开始怀疑 SageMaker 不是为这项工作而设计的……我选择 SageMaker 的原因是对计算能力的需要，我认为我不能用纯 lambda 来完成这项工作。

标签： amazon-web-servicesmachine-learningaws-lambdaamazon-sagemaker

解决方案

SageMaker 推理端点当前依赖于基于 Docker 映像的接口。在基础级别，您可以设置运行 Web 服务器并响应 AWS 所需端口上的端点的 Docker 映像。本指南将向您展示如何操作：https ://docs.aws.amazon.com/sagemaker/latest/dg/your-algorithms-inference-code.html 。

这是一项烦人的工作。如果您使用的是众所周知的框架，他们有一个包含一些样板代码的容器库，您可能可以重用：https ://github.com/aws/sagemaker-containers 。您可能需要在那里进行一些自定义。

或者根本不使用 SageMaker 推理端点 :) 如果您的模型可以适应 AWS Lambda 的大小/内存限制，那么这是一个更简单的选择！

完全免责声明，我正在开发一个与 SageMaker 竞争的平台：模型动物园

推荐阅读