首页 > 解决方案 > 加速 php api 调用

问题描述

大家好。所以我需要通过 API 调用检查数据库中的大量行。我设法做到了,但速度很慢。

以下是我的代码正在执行的步骤:

1.) 我从本地数据库中选择唯一标识符。

2.)我通过 curl_multi(当时为 100)在远程数据库上检查它们。

3.) 根据状态代码,我更新数据库中的行。

4.) 重复前 3 个步骤,直到检查所有行。

我怎样才能加快这个过程?此时检查 600 行需要一分钟以上。

    foreach ($data as $d){
    $kupci = [];
    $upit = "SELECT * FROM database_table WHERE provjeren IS NULL LIMIT 100";
    $result = $conn->query($upit)
    while ($r = mysqli_fetch_assoc($result)) {
        $kupci[] = $r;
    }
    $node_count = count($kupci);
    $curl_arr = array();
    for ($i = 0; $i < $node_count; $i++) {
        $ID = str_replace(" ","%20",$kupci[$i]['Customer_ID']) ;
        $url = "someapiurl/$ID";
        $curl_arr[$i] = curl_init($url);
        curl_setopt($curl_arr[$i], CURLOPT_HTTPHEADER, array("Authorization: Bearer"));
        curl_setopt($curl_arr[$i], CURLOPT_RETURNTRANSFER, true);
        curl_setopt($curl_arr[$i], CURLOPT_ENCODING,  '');
    }
    $master = curl_multi_init();
    for ($i = 0; $i < $node_count; $i++) {
        curl_multi_add_handle($master, $curl_arr[$i]);
    }
    do {
        curl_multi_exec($master, $running);
    } while ($running > 0);
    for ($i = 0; $i < $node_count; $i++) {
        $results = curl_multi_getcontent($curl_arr[$i]);
        $link = curl_getinfo($curl_arr[$i], CURLINFO_EFFECTIVE_URL);
        $id = substr($link, strrpos($link, '/') + 1);
        $statusCode = curl_getinfo($curl_arr[$i], CURLINFO_RESPONSE_CODE);
        if ($statusCode == 204) {
            $conn->query("UPDATE database_table SET provjeren = 1, prigovor = 1, datum = now() WHERE Customer_ID = '$id'");
        } elseif ($statusCode == 404) {
            $conn->query("UPDATE database_table SET provjeren = 1, prigovor = 0, datum = now() WHERE Customer_ID = '$id'");
        }elseif ($statusCode == 429){
            echo "Previše";
        }elseif ($statusCode == 200){
            $conn->query("UPDATE database_table SET provjeren = 1, prigovor = 2, datum = now() WHERE Customer_ID = '$id'");
        }
        curl_multi_remove_handle($master, $curl_arr[$i]);
        curl_close($curl_arr[$i]);
    }
    curl_multi_close($master);
}

编辑:我尝试了 Rolling-Curl,得到了相同的结果。所以我的结论是目标服务器很慢,这是我的瓶颈。在我的目标服务器上测试了 500 个请求,它需要 36 秒才能完成,而在 Google 服务器上只需要 2 秒即可完成。

标签: phpmysqlapicurl-multi

解决方案


您是否尝试过通过新线程运行 HTTP API 调用。

试试这个 PHP 项目:https ://github.com/petewarden/ParallelCurl

根据文档,您需要:

  • 制作一个具有最大值的 Parallel cURL 对象。同时进行 HTTP 连接
  • 当来自 API 的答案到达时编写一个处理程序
  • 迭代数据库中的行时编写 cURL 调用

如果没有帮助,请尝试衡量花费最多时间的内容(数据库获取、API 调用、数据库更新)


推荐阅读