首页 > 解决方案 > java中的运行时字节码更新和性能

问题描述

我有一些非常高性能的关键代码,在高层次上通过一些浮点比较或简单的谓词来做出一系列决定。代码可以写成决策树的形式。基本上每个节点都会进行谓词检查,然后决定要走哪条路径,直到我们到达某个叶节点。

为了提高性能而不是拥有这个决策树,我生成了一些在程序运行时编译的 if-else 代码块(基本上我为整个决策树生成代码,因为我事先知道谓词)。这确实大大提高了性能。现在我想做的下一个优化是在运行时修改代码,即在没有代码生成的旧世界中,有一个带有节点的决策树,我可以复制树并短路/跳过一些节点,从而压缩树并使整体计算速度更快。但是在生成的代码世界中,是否有任何工具可以通过根据计算期间可用的部分运行时数据修改我生成的 if-else 代码来实现相同的目标。还有什么是修改运行时代码的性能影响。

标签: javaperformancejvmruntimecode-generation

解决方案


首先,JVM 不允许您修改正在运行的代码。它允许您做的是在运行时生成新代码并加载它。

此外,还有一个 Oracle 赞助的项目 (GraalVM),在其中(如果我理解正确的话)您可以生成(松露)AST 并让框架负责代码生成。(目前似乎是实验性的,可能还没有准备好用于生产。)。


还有什么是修改运行时代码的性能影响。

那是 65,536 美元的问题!

一个含义是,每次修改代码(通过重新生成代码)时,都必须重新加载该方法,并且(对于传统的 JVM)再次经历解释和 JIT 编译阶段。以及可能依赖于修改后的代码的其他代码的去优化/重新优化。

那不会便宜。我猜测,每次执行此操作时,每种方法都会有数万或数十万条本机指令。


现在我想做的下一个优化是在运行时修改代码......

好的。所以我认为你实际上会更好地进行更复杂的代码生成。

而且,请记住,JIT 编译器将优化您生成的字节码,根据在解释方法时(在 JIT 编译之前)收集的统计信息执行分支预测等操作。

我还建议您在着手实施自己的优化器之前手动尝试一些优化并对其进行基准测试。


推荐阅读