问题：如何从数据里估算普瓦松分布的均值？

晨枫 · 发表于 2019-2-4 11:38:35

本帖最后由晨枫于 2019-2-3 22:42 编辑

一般估算均值是简单的算术平均，但我的问题比较特别，其实都不是统计问题。

是这样的，我有一个吸收塔，从塔顶到塔底有一个温度分布，形状大体像普瓦松分布：

我要估算峰值出现在哪块塔板，所以想到用统计的办法。实际上，统计里这是概率密度，曲线高低代表在这一点的采样“数量”，但我在每一个点只有一个数据点。说到底，我就是要拟合一个“钟形曲线”，然后找峰值所在点。相当于上图中红线（或者lambda=2）里横轴1-2之间的位置。

正态分布有现成的计算办法，但这样的“扭曲正态分布”或者普瓦松分布有什么简单办法吗？我需要能在DCS上实现，所以不能用太复杂的离线算法。

爱坛里博士多如狗，教授满地走，想象起来，或许有谁在工作中碰到过类似的问题？

晨枫 · 发表于 2019-2-12 13:45:31

老马丁发表于 2019-2-11 21:55
0 }2 Y0 h$ f- {/ d$ K" c9 ?! o) H春节一直没来。现在来看到问题，这个问题是不是，prob(X=?|T=max(T))？实话实说，我没看太懂问题，我感觉不 ...

是的，已经解决。这个确实不是统计问题，是数值积分和重心估计问题。

老马丁 · 发表于 2019-2-12 11:55:43

春节一直没来。现在来看到问题，这个问题是不是，prob(X=?|T=max(T))？实话实说，我没看太懂问题，我感觉不是统计问题，而是数值拟合问题。如果已经找到解决方案，就不用专门答复我啦

晨枫 · 发表于 2019-2-5 11:33:06

数值分析发表于 2019-2-4 19:01
/ c' W! ]# U5 t对,我们可以管这个叫"晨择原理".这是这个讨论的出发点.

就像那个“哥德巴赫猜想”一样……

数值分析 · 发表于 2019-2-5 09:01:03

holycow 发表于 2019-2-5 08:56/ H o. k/ o( Z# j
你是对的，有影响的是分布的skewness. 所以归根结底还是晨司机在零度原点图上扫了一眼，觉得看上去像是泊 ...

对,我们可以管这个叫"晨择原理".这是这个讨论的出发点.

holycow · 发表于 2019-2-5 08:56:55

数值分析发表于 2019-2-4 16:476 c* T' v. ]. p. v
如果是单峰分布的话,期望存在的话,期望和峰度Kurtosis(也就是你说的陡峭程度)无关,一定在峰值的地方.唯一 ...

你是对的，有影响的是分布的skewness. 所以归根结底还是晨司机在零度原点图上扫了一眼，觉得看上去像是泊松分布

数值分析 · 发表于 2019-2-5 08:54:08

Dracula 发表于 2019-2-5 03:430 p z) Q: E: \
问题就是这个0度在哪儿你并不知道。至于曲线下的面积必须是1这一点，只要各个点同乘或同除一个数就都可以 ...

嗯...这个问题其实有点像"人择原理",不好表达清楚.
这一切讨论的开始都是晨司机觉得这个曲线像泊送分布曲线.只有这个"0度"的位置合适,温度曲线才长得像泊松分布.如果你上下平移一下,他就不像泊送分布了.我不知道我说明白了没有...

数值分析 · 发表于 2019-2-5 08:49:26

tanis 发表于 2019-2-5 03:26
6 n0 ?* ^& g1 ?冒昧的问一句，你搞过竞赛么~ 3 z# k p7 ?( m) k+ U% |" o$ L

# Q, P" F& w8 i( y, W# j思维方式挺像的~

我希望我搞过.可以当年没赶上机会.

不谦虚一下啊,我一直觉得我要是搞竞赛的话能有点小成绩的...呵呵...

数值分析 · 发表于 2019-2-5 08:47:33

本帖最后由数值分析于 2019-2-5 09:07 编辑

holycow 发表于 2019-2-5 02:42
+ G3 `1 b: }# a1. 极值出在哪里，只要估计出lambda即可+ w' z: X2 r* _- ~# e: ]' J
2. Lambda的估计需要依赖于归一
/ o9 ? @3 s' N# f3 i& s. S3. 归一的分母是可以主观确定的 ...

如果是对称的单峰分布的话,期望存在的时候,期望和峰度Kurtosis(也就是你说的陡峭程度)无关,一定在众数Mode,即峰值的地方.唯一的例外是积分不收敛,即期望不存在(比如柯西分布,这时候没有重心).对于不对称的单峰分布,唯一能影响期望的是偏度Skewness.

这很直观,您再想想?

晨枫 · 发表于 2019-2-5 05:49:33

木不铎发表于 2019-2-4 15:316 W5 d4 S7 i3 C; z; }! g
不麻烦啊。查一下维基百科上关于“泊松分布”的页面嘛。
) T( G4 B# w* F% [/ f. a6 d" _# `. s+ C3 B) t3 w$ w0 T0 P
泊松分布的概率密度函数为

谢谢。这和42楼“数值分析”的方法是一样的。

木不铎 · 发表于 2019-2-5 05:31:41

不麻烦啊。查一下维基百科上关于“泊松分布”的页面嘛。

泊松分布的概率密度函数为

其中λ是单位时间（或单位面积）内随机事件的平均发生率，k代表发生某类事件的次数。
这里有一个很好的例子如下：

对某公共汽车站的客流做调查，统计了某天上午10:30到11:47来到候车的乘客情况。假定来到候车的乘客各批（每批可以是1人也可以是多人）是互相独立发生的。观察每20秒区间来到候车的乘客批次，共观察77分钟*3=231次，共得到230个观察记录。其中来到0批、1批、2批、3批、4批及4批以上的观察记录分别是100次、81次、34次、9次、6次。使用极大似真估计（MLE），得到的估计为λ=（81*1+34*2+9*3+6*4）/231=0.8658。

也就是说20秒之内平均有0.8658批客人。

这个例子应该和斯基的问题很类似。根据统计数字，用这个MLE方法，就能得到你的均值λ

Dracula · 发表于 2019-2-5 03:43:07

数值分析发表于 2019-2-5 02:23
; R6 P1 i: {2 d" Q( |这个答案很简单,因为用零度才像泊松分布,如果上下平移的话,重心还是存在的,只是和最高点不再重合.你可以 ...

问题就是这个0度在哪儿你并不知道。至于曲线下的面积必须是1这一点，只要各个点同乘或同除一个数就都可以做到，这个条件并不能提供任何额外的约束来确定零度这个参数。

tanis · 发表于 2019-2-5 03:26:54

数值分析发表于 2019-2-5 02:23
& v& Y% C7 |; K3 ~; @这个答案很简单,因为用零度才像泊松分布,如果上下平移的话,重心还是存在的,只是和最高点不再重合.你可以 ...

冒昧的问一句，你搞过竞赛么~

思维方式挺像的~

holycow · 发表于 2019-2-5 02:42:48

数值分析发表于 2019-2-4 10:32" k& g3 G7 s% B' e1 w! N; x
顺便说一下,如果是对称的单峰分布的话,就没有这个问题,随便上下平移,只要归一就可以. ...

1. 极值出在哪里，只要估计出lambda即可
2. Lambda的估计需要依赖于归一
3. 归一的分母是可以主观确定的 (导致曲线下面积变动)

就算是对称单峰分布，也要先解决这个峰的陡峭程度才知道这个峰在哪里，恰恰是峰的陡峭程度依赖于归一的分母...

数值分析 · 发表于 2019-2-5 02:32:14

holycow 发表于 2019-2-5 02:15
, |0 v" U8 ]) M- _5 n8 ]伯爵的意思是说，总温度凭什么以零摄氏度做原点？如果零度不是原点，则和原点的相对温度差之和完全是主观 ...

顺便说一下,如果是对称的单峰分布的话,就没有这个问题,随便上下平移,只要归一就可以.

数值分析 · 发表于 2019-2-5 02:23:02

本帖最后由数值分析于 2019-2-5 02:25 编辑

holycow 发表于 2019-2-5 02:155 V5 L3 t- H0 o6 R, V
伯爵的意思是说，总温度凭什么以零摄氏度做原点？如果零度不是原点，则和原点的相对温度差之和完全是主观 ...

这个答案很简单,因为用零度才像泊松分布,如果上下平移的话,重心还是存在的,只是和最高点不再重合.你可以试想一下把泊松分布加上一,然后重新归一,也能得一个新的分布,这个分布也有期望,但期望很可能就不是最高点了. 不过单峰分布,只要不是骨骼轻奇(偏度skewness特别大),基本上最高点和重心差不太远.

holycow · 发表于 2019-2-5 02:15:03

数值分析发表于 2019-2-4 09:41
( `* S3 ], T; B* M4 l. o' O所以我和晨风说要归一么.用histogram 面积归一以后,没问题.这实际是个加权平均问题,加权平均要求所以权重 ...

伯爵的意思是说，总温度凭什么以零摄氏度做原点？如果零度不是原点，则和原点的相对温度差之和完全是主观确定的，就不能拿来当scaling的分母

晨枫 · 发表于 2019-2-5 02:02:38

数值分析发表于 2019-2-4 11:51
: E6 E% t4 H" K) C, q* y& u) f如果不灵就是你那个偏态曲线和博松分布曲线实际上并不像,即重心和最高点不重合.不过有的修.如果到那一步 ...

多谢！will report back!

晨枫 · 发表于 2019-2-5 02:01:54

数值分析发表于 2019-2-4 11:54
' Q) J$ A: d6 b( e不过不管灵不灵,晨大可以帮我验证这样一个事儿,即把整个曲线平移n个单位,用同样的算法算完,结果应该是老 ...

我用“掐尾”正态分布已经试过了，不归一都精度不错。我再归一试试看！

Dracula · 发表于 2019-2-5 02:00:18

本帖最后由 Dracula 于 2019-2-5 03:16 编辑

数值分析发表于 2019-2-5 01:41
0 R; J. r; w* m3 ]/ I9 T6 {9 n所以我和晨风说要归一么.用histogram 面积归一以后,没问题.这实际是个加权平均问题,加权平均要求所以权重 ...

假设一个最简单的情况吧。只有两个点，y1和y2，y1<y2，如果你把零点设在y1, 那么y2的权重是1，y1的权重是0，只有第二个点的值决定结果。但是如果零点设在接近于负无穷，那么不管y1, y2的值是多少，都接近相当于两个点的权重都是0.5。零点的选择肯定是对结果有影响的。但是因为零点的选择是arbitrary的，这种情况不应该出现，因此我认为这个算法有问题。

数值分析 · 发表于 2019-2-5 01:54:37

晨枫发表于 2019-2-5 01:49
+ B1 k# y- ~% {: A# ]话说，如果选“爱坛最学术贴”，这个贴有没有希望当选？我肯定投一票！& X* u( \" R6 I" N# F: y

% t$ b* T, J2 C4 _$ L I0 ^多谢各位老大帮忙、指点。正在用 ...

不过不管灵不灵,晨大可以帮我验证这样一个事儿,即把整个曲线平移n个单位,用同样的算法算完,结果应该是老结果平移n个单位.这个不管是不是博松,只要面积归一一定都灵.

		自动登录	找回密码
密码			注册

[科研心得] 问题：如何从数据里估算普瓦松分布的均值？

点评