python - 如何计算聚类的基尼系数
问题描述
我有 5000 个观察值,它们聚集成 10 个集群。每个集群有 1000 个真实观察值。每个集群中的真实观察值是 1000。然而,在我运行了我的聚类算法之后,它看起来像这样:
Cluster #, true members, clustered members
0, 1000, 435
1, 1000, 234
2, 1000, 167
3, 1000, 654
4, 1000, 0
换句话说,集群 0 应该有 1000 个成员,但其中只有 435 个被我的算法正确添加到该集群中。5000 与集群中的差值被放置在错误的集群中。
我想计算基尼系数,并找到以下代码:
def gini_ind(Number, Total):
return (1-(((Number/Total)**2)+(((Total-Number)/Total)**2)))
它似乎在我尝试过的测试中运行良好。但是,我发现没有一个数据集看起来像我的。
所以我的问题是如何计算基尼系数?
如果我执行以下操作,我将获得每个集群的这些基尼系数:
gini_ind(435,1000) -> 0.49155
gini_ind(234,1000) -> 0.3584
gini_ind(167,1000) -> 0.2782
gini_ind(654,1000) -> 0.4525
gini_ind(0,1000) -> 0
这是每个集群的正确基尼系数吗?
并得到平均基尼系数;这只是平均值: (0.49155+0.3584+0.2782+0.4525+0)/5 吗?
解决方案
假设我们有 3 个类和 80 个对象。19 个对象属于 1 类,21 个对象属于 2 类,40 个对象属于 3 类(表示为 (19,21,40) )。
基尼指数为:1- [ (19/80)^2 + (21/80)^2 + (40/80)^2] = 0.6247 即 costbefore = Gini(19,21,40) = 0.6247
为了决定在哪里拆分,我们测试所有可能的拆分。例如在 2.0623 处拆分,这会导致拆分 (16,9,0) 和 (3,12,40):
测试 x1 < 2.0623 后:
costL =Gini(16,9,0) = 0.4608
costR =Gini(3,12,40) = 0.4205
然后我们通过经验分支概率对分支杂质进行加权:
costx1<2.0623 = 25/80 costL + 55/80 costR = 0.4331
我们对每个可能的拆分都这样做,例如 x1 < 1:
costx1<1 = FractionL Gini(8,4,0) + FractionR Gini(11,17,40) = 12/80 * 0.4444 + 68/80 * 0.5653 = 0.5417
之后,我们选择了成本最低的拆分。这是拆分 x1 < 2.0623,成本为 0.4331。
您可以点击以下链接...... http://dni-institute.in/blogs/gini-index-work-out-example/ http://stats.stackexchange.com/questions/95839/gini-decrease-子节点的和基尼杂质
推荐阅读
- xcode - 在 AppKit 中为 macOS SwiftUI 应用程序设置主窗口标题?
- react-testing-library - React 测试库:在 TestId 元素内获取子输入
- python - 引发 ValueError 后继续执行
- java - 如何覆盖 Spring Boot RequestMappingHandlerMapping?
- go - Grafana Dashboard 根据变量值显示/隐藏行
- javascript - 在已运行的 lightGallery 实例中添加/编辑选项
- sml - 是什么导致我的 SML 变量未绑定?
- python - 如何防止第二个for循环减慢服务返回的数据
- gstreamer - 使用 udp 启动 rtp
- windows - 如何处理勺子错误:Redis 中的权限被拒绝