python - 如何在缓慢的烧瓶 api 中处理并发？

Question

我们有一个烧瓶 api 解决方案，它在空载下的平均响应时间为 5 秒。该 api 没有异步支持。但是我们想要扩展这个 api，使其每秒可以处理至少 50 个并发客户端的 10 个请求。应该采用什么方法以及我们应该使用哪种服务器配置来获得这种并发性？该解决方案将在 Kubernetes 中作为微服务运行。任何建议将不胜感激。

PS - 原因是 databrick 驱动程序占用了响应总时间的至少 70%（打开连接、取回数据和关闭连接）。而且 databrick 驱动程序没有任何异步接口，这就是为什么我们正在考虑我们可以从服务器配置中做些什么来增加并发性。我们已经尝试使用 asyncio 来获得并发性，但这无济于事，因为 databrick 驱动程序没有任何异步支持。

标签： pythonflaskconcurrencymicroservices

Answer 1

分析它并找出它运行如此缓慢的原因？这里没有足够的信息来告诉你什么是错的或做什么。