python - 如何为预训练模型应用烧瓶缓存?
问题描述
我有一个 flask_restful api。我将结构分为几个部分,例如:
app:
-api.py
-resources
--resource1.py
--resource2.py
resource1 文件的结构如下:
class Func(Resource):
def __init__(self):
model = some_module.from_pretrained("xyz")
model.eval()
model.to(self.device)
self.model = model
def post(self):
#taking some input to be eavaluated
output = fun1(self.model, input//) //fun1 is already defined function
return processed output
api文件是这样的:
#importing requirements
app = Flask(__name__)
api = Api(app)
cache.init_app(app)
api.add_resource(Func, '/output')
if __name__ == "__main__":
app.run(port='5000', debug = True)
我想为模型使用缓存。我关注了几篇文章,但我无法正确实现它,所以如果有人能给出解决方案,那将会很有帮助。
解决方案
推荐阅读
- javascript - 使用数组数组对键值对对象数组进行排序
- scala - 仅使用 Play Json 进行验证
- scala - sbt-buildinfo 插件:如何将编译时生效的 java 版本添加到生成的 BuildInfo.scala 中?
- http - URL 路径和查询字符串和片段的好名称?
- c++ - 通过 ULONG *
- ruby-on-rails - Rails 5 升级后性能大幅下降
- typescript - 将 Firebase 自动生成的 noreply 电子邮件与 Cloud Functions 结合使用
- visual-studio-2017 - Visual Studio 2017 Nuget 安装包构建项目而不是安装/卸载包
- mysql - 避免多重连接以优化 MYSQL 中的查询
- python - 使用直方图进行特征分析——LinAlgError:奇异矩阵