numpy.ma.MaskedArray 如何处理缺失值计算而不污染结果

MaskedArray 的缺失值通过独立 mask 数组标记而非替换,计算自动跳过掩码项;聚合默认跳过且不可关闭 skipna;混合运算时 mask 按逻辑或传播;导出需用 filled(np.nan) 或 compressed(),禁用 data。

MaskedArray 的缺失值本质是屏蔽而非删除

MaskedArray 不会把 masked 值替换成 np.nanNone,而是用一个独立的 mask 数组标记哪些位置“不可参与计算”。这意味着:加减乘除、聚合函数(如 mean()std())默认自动跳过被掩码的位置——这是它不污染结果的根本机制。

常见错误是手动用 np.where 或布尔索引提前过滤,这会丢失原始数组结构(比如打乱索引对齐),反而导致后续广播或 shape 匹配出错。

聚合时必须确认 axis 和 skipna 行为

MaskedArray.mean().sum() 等方法默认跳过掩码项,但行为受两个参数控制:

  • axis=None(默认):全数组聚合,返回标量;若全被掩码,结果为 masked
  • axis=0axis=1:按轴聚合,对应轴上若全掩码,该位置结果为 masked,不是 np.nan
  • 没有 skipna=True/False 参数——它不像 pandas.Series.mean(skipna=False) 那样可选;掩码即跳过,不可关闭

示例:

import numpy as np
a = np.ma.array([1, 2, 3, 4], mask=[False, False, True, False])
print(a.mean())  # 输出:2.333...(即 (1+2+4)/3)
print(a.sum(axis=0))  # 同样跳过第2个元素

与普通 ndarray 混合运算时 mask 会传播

只要参与运算的一方是 MaskedArray,结果自动转为 MaskedArray,且 mask 按逻辑或合并:

  • ma + ndarray → 结果 mask = ma.mask | (ndarray == np.nan)?不,ndarray 无 mask,所以结果 mask = ma.mask
  • ma1 + ma2 → 结果 mask = ma1.mask | ma2.mask
  • 但注意:ma / 0 会产生 masked 值,而 ma / np.array([1,0,1,1]) 中分母为 0 的位置也会被加入 mask

这避免了因除零或无效运算污染数值,但容易忽略:你以为只掩了原始缺失,实际运算过程新增了掩码。

导出为纯数值前必须显式处理 masked 值

想把结果喂给不支持 mask 逻辑的库(如 scikit-learn 训练器、matplotlib.pyplot.plot),不能直接用 .data——它返回底层 ndarray,含原始填充值(默认是 1e20 或你指定的 fill_value),会严重污染。

正确做法是:

  • a.filled(np.nan) 转成含 np.nan 的普通数组(推荐,语义清晰)
  • a.compressed() 只取未掩码值(适合一维统计,但丢弃结构)
  • 避免 a.data 直接使用,除非你明确知道 fill_val

    ue
    且下游能识别它

特别注意:filled() 不改变原数组,只是视图转换;compressed() 返回新数组且降维(永远是一维)。

最易被忽略的是:在链式计算中多次调用 filled() 可能掩盖 mask 传播问题;应尽量在最终输出前统一处理,中间全程保留 MaskedArray 类型。