python - 并发用户的 Python API 性能问题

Question

我是开发 Python API 的新手，在添加更多并发用户时遇到了一些性能问题。我有一个 Flask API，带有 uWSGI 和 Nginx，一切都 Dockerized。

API 正在使用 OpenCV 进行一些图像处理转换，有一个使用 Tensorflow 的对象检测步骤和一些使用 Tesseract 的 OCR 步骤。当在一个用户上部署和测试时，响应是好的，当我们开始添加更多的并发用户时（即使数量不错，比如 50-100 个并发用户），响应时间增加了几倍，最多增加了 5-10 倍。

对于 uwsgi，我设置了以下内容：

enable-threads = true
single-interpreter = true
threads = 10
lazy-apps = true

如果没有这些配置，我也会遇到网关响应错误的问题。

任何关于我应该尝试更新/改变什么，我应该关注哪个领域的建议，都非常感谢。

谢谢！

标签： pythonperformanceflaskuwsgipython-tesseract