elasticsearch - 如何从 Filebeat Shipper 将数据转发到 Power Bi
问题描述
我有一个记录用户交互并将它们保存到 log.json 文件的应用程序。
之前,我使用 Humio 作为我的分析工具,但现在我想使用 Power Bi。
我有一个数据传送器 Filebeat,它转发日志数据(在 Humio 之前)。
现在我想知道,是否可以使用 Filebeat 将数据转发到 Power Bi。
如果是这样 - 怎么样???
这就是我的 filebeat.yml 发送到 Humio 时的样子
#======== Filebeat inputs ===========
filebeat.inputs:
- paths:
- path\to\audit_log\*
#-------------------------- Elasticsearch output ------------------------------
output.elasticsearch:
hosts: ["https://cloud.humio.com:443/api/v1/dataspaces/audit_log/ingest/elasticsearch"]
username: myUsername
password: myPassword
如果我想使用 Power Bi,您对 output.elasticsearch 的外观有什么建议吗?
我试图遵循指南:https ://docs.microsoft.com/en-us/power-bi/developer/walkthrough-push-data
但我需要一些帮助——我缺少一些知识或理解。
或者更接近我的实际问题的指南。
提前比!
解决方案
您将无法将数据直接从 filebeat 发送到 BI。您需要进行某种转换,因为您的 BI 数据集 JSON 结构与 Filebeat 生成的 JSON 不同。
看看 Logstash,它是弹性堆栈的一部分,Filebeat 用于将数据发送到 Logstash。您只需要在 filebeat.yml 中应用一个小改动
在 Logstash 中,您需要配置提取转换加载(又名 ETL)管道,以便接收(E)来自文件节拍的所有事件并将它们转换(T)为 Power BI REST Api 所需的 JSON 结构(https:// docs.microsoft.com/de-de/rest/api/power-bi/pushdatasets/datasets_postdataset),最后向 BI 实例发出 HTTP 请求 (L)。
推荐阅读
- discord.js - 如何检查用户是否在共享频道中写消息并告诉他或她在特定于机器人的频道中写
- java - JavaFX,堆栈窗格上的位置单选按钮问题
- reactjs - 在 Material UI 中更改 Tabs 指示器的位置
- windows - Active Directory 远程 (VPN) 用户面临新设置的组策略问题
- node.js - 我们可以在对话流实现中使用带有确认事件的 SSML 标签吗
- hybris - 在 hybris 1905 中添加自定义文件夹和数据文件夹时,smartedit 透视图不像基本、高级等
- r - 使用 lrtest() 和 ANOVA() 的似然比检验
- json - JQ - 用空格过滤值
- javascript - 如何在脚本中使用 v-for
- javascript - 如何使用 jQuery UI 在拖动元素时触发可放置事件?