缺失值
Julia 支持表示统计意义上的缺失值,即某个变量在观察中没有可用值,但在理论上存在有效值的情况。缺失值由 missing
对象表示,该对象是 Missing
类型的唯一实例。missing
等价于 SQL 中的 NULL
以及 R 中的 NA
,并在大多数情况下表现得与它们一样。
缺失值的传播
missing
值会自动在标准数学运算符和函数中传播。对于这类函数,其某个运算对象的值的不确定性会导致其结果的不确定性。在应用中,上述情形意味着若在数学操作中包括 missing
值,其结果也常常返回 missing
值。
julia> missing + 1
missing
julia> "a" * missing
missing
julia> abs(missing)
missing
由于missing
是 Julia 中的正常对象,此传播规则仅在可实现该对象的函数中应用。这可通过定义包含 Missing
类的实参的特定方法,或是简单地让函数可接受此类实参,并将该它们传入已具备传播规则的函数(如标准数学运算符)中实现。在包中定义新传播规则时,应考虑缺失值的传播是否具有实际意义,并在传播有意义时定义合适的方法。在某个不包含接受 Missing
类实参方法的函数中传递缺失值,则抛出 MethodError
的报错,正如其它类型一样。
若希望函数不传播缺失值,可将其按照 Missings.jl 库中的 passmissing
函数封装起来。例如,将 f(x)
封装为 passmissing(f)(x)
。
相等和比较运算符
标准相等和比较运算符遵循上面给出的传播规则:如果任何操作数是 missing
,那么结果是 missing
。这是一些例子
julia> missing == 1
missing
julia> missing == missing
missing
julia> missing < 1
missing
julia> 2 >= missing
missing
特别要注意,missing == missing
返回 missing
,所以 ==
不能用于测试值是否为缺失值。要测试 x
是否为 missing
,请用 ismissing(x)
。
特殊的比较运算符 isequal
和 ===
是传播规则的例外:它们总返回一个 Bool
值,即使存在 missing
值,并认为 missing
与 missing
相等且其与任何其它值不同。因此,它们可用于测试某个值是否为 missing
。
julia> missing === 1
false
julia> isequal(missing, 1)
false
julia> missing === missing
true
julia> isequal(missing, missing)
true
isless
运算符是另一个例外:missing
被认为比任何其它值大。此运算符被用于 sort
,因此 missing
值被放置在所有其它值之后。
julia> isless(1, missing)
true
julia> isless(missing, Inf)
false
julia> isless(missing, missing)
false
逻辑运算符
逻辑(或布尔)运算符 |
、&
和 xor
是另一种特殊情况,因为它们只有在逻辑上是必需的时传递 missing
值。对于这些运算符来说,结果是否不确定取决于具体操作,其遵循三值逻辑的既定规则,这些规则也由 SQL 中的 NULL
以及 R 中的 NA
实现。这个抽象的定义实际上对应于一系列相对自然的行为,这最好通过具体的例子来解释。
让我们用逻辑「或」运算符 |
来说明这个原理。按照布尔逻辑的规则,如果其中一个操作数是 true
,则另一个操作数对结果没影响,结果总是 true
。
julia> true | true
true
julia> true | false
true
julia> false | true
true
基于观察,我们可以得出结论,如果其中一个操作数是 true
而另一个是 missing
,我们知道结果为 true
,尽管另一个参数的实际值存在不确定性。如果我们能观察到第二个操作数的实际值,那么它只能是 true
或 false
,在两种情况下结果都是 true
。因此,在这种特殊情况下,值的缺失不会传播
julia> true | missing
true
julia> missing | true
true
相反地,如果其中一个操作数是 false
,结果可能是 true
或 false
,这取决于另一个操作数的值。因此,如果一个操作数是 missing
,那么结果也是 missing
。
julia> false | true
true
julia> true | false
true
julia> false | false
false
julia> false | missing
missing
julia> missing | false
missing
逻辑「且」运算符 &
的行为与 |
运算符相似,区别在于当其中一个操作数为 false
时,值的缺失不会传播。例如,当第一个操作数是 false
时
julia> false & false
false
julia> false & true
false
julia> false & missing
false
另一方面,当其中一个操作数为 true
时,值的缺失会传播,例如,当第一个操作数是 true
时
julia> true & true
true
julia> true & false
false
julia> true & missing
missing
最后,逻辑「异或」运算符 xor
总传播 missing
值,因为两个操作数都总是对结果产生影响。还要注意,否定运算符 !
在操作数是 missing
时返回 missing
,这就像其它一元运算符。
流程控制和短路运算符
流程控制操作符,包括 if
、while
和三元运算符 x ? y : z
,不允许缺失值。这是因为如果我们能够观察实际值,它是 true
还是 false
是不确定的,这意味着我们不知道程序应该如何运行。一旦在以下上下文中遇到 missing
值,就会抛出 TypeError
julia> if missing
println("here")
end
ERROR: TypeError: non-boolean (Missing) used in boolean context
出于同样的原因,并与上面给出的逻辑运算符相反,短路布尔运算符 &&
和 ||
在当前操作数的值决定下一个操作数是否求值时不允许 missing
值。例如
julia> missing || false
ERROR: TypeError: non-boolean (Missing) used in boolean context
julia> missing && false
ERROR: TypeError: non-boolean (Missing) used in boolean context
julia> true && missing && false
ERROR: TypeError: non-boolean (Missing) used in boolean context
另一方面,如果无需 missing
值即可确定结果,则不会引发错误。代码在对 missing
操作数求值前短路,以及 missing
是最后一个操作数都是这种情况。
julia> true && missing
missing
julia> false && missing
false
包含缺失值的数组
包含缺失值的数组的创建就像其它数组
julia> [1, missing]
2-element Vector{Union{Missing, Int64}}:
1
missing
如此示例所示,此类数组的元素类型为 Union{Missing, T}
,其中 T
为非缺失值的类型。这简单地反映了以下事实:数组条目可以具有类型 T
(此处为 Int64
)或类型 Missing
。此类数组使用高效的内存存储,其等价于一个 Array{T}
和一个 Array{UInt8}
的组合,前者保存实际值,后者表示条目类型(即它是 Missing
还是 T
)。
允许缺失值的数组可以使用标准语法构造。使用 Array{Union{Missing, T}}(missing, dims)
来创建填充缺失值的数组:
julia> Array{Union{Missing, String}}(missing, 2, 3)
2×3 Matrix{Union{Missing, String}}:
missing missing missing
missing missing missing
使用 undef
或 similar
目前可能会给出一个填充有 missing
的数组,但这不是获得这样一个数组的正确方法。 请使用如上所示的 missing
构造函数。
允许但不包含 missing
值的数组可使用 convert
转换回不允许缺失值的数组。如果该数组包含 missing
值,在类型转换时会抛出 MethodError
julia> x = Union{Missing, String}["a", "b"]
2-element Vector{Union{Missing, String}}:
"a"
"b"
julia> convert(Array{String}, x)
2-element Vector{String}:
"a"
"b"
julia> y = Union{Missing, String}[missing, "b"]
2-element Vector{Union{Missing, String}}:
missing
"b"
julia> convert(Array{String}, y)
ERROR: MethodError: Cannot `convert` an object of type Missing to an object of type String
跳过缺失值
由于 missing
会随着标准数学运算符传播,归约函数会在调用的数组包含缺失值时返回 missing
julia> sum([1, missing])
missing
在这种情况下,使用 skipmissing
即可跳过缺失值
julia> sum(skipmissing([1, missing]))
1
此函数方便地返回一个可高效滤除 missing
值的迭代器。因此,它可应用于所有支持迭代器的函数
julia> x = skipmissing([3, missing, 2, 1])
skipmissing(Union{Missing, Int64}[3, missing, 2, 1])
julia> maximum(x)
3
julia> mean(x)
2.0
julia> mapreduce(sqrt, +, x)
4.146264369941973
通过在某数组中调用 skipmissing
生成的对象能以其在所属数组中的位置进行索引。对应缺失值的指标并不有效,若尝试使用之会丢出报错(它们在 keys
和 eachindex
中同样是被跳过的)。
julia> x[1]
3
julia> x[2]
ERROR: MissingException: the value at index (2,) is missing
[...]
这允许对索引进行操作的函数与skipmissing
结合使用。搜索和查找函数尤其如此,它们返回对skipmissing
函数返回的对象有效的索引,这些索引也是在父数组中匹配条目的索引。
julia> findall(==(1), x)
1-element Vector{Int64}:
4
julia> findfirst(!iszero, x)
1
julia> argmax(x)
1
使用 collect
提取非 missing
值并将它们存储在一个数组里
julia> collect(x)
3-element Vector{Int64}:
3
2
1
数组上的逻辑运算
上面描述的逻辑运算符的三值逻辑也适用于针对数组的函数。因此,使用 ==
运算符的数组相等性测试中,若在未知 missing
条目实际值时无法确定结果,就返回 missing
。在实际应用中意味着,在待比较数组中所有非缺失值都相等,且某个或全部数组包含缺失值(也许在不同位置)时会返回 missing
。
julia> [1, missing] == [2, missing]
false
julia> [1, missing] == [1, missing]
missing
julia> [1, 2, missing] == [1, missing, 2]
missing
对于单个值,isequal
会将 missing
值视为与其它 missing
值相等但与非缺失值不同。
julia> isequal([1, missing], [1, missing])
true
julia> isequal([1, 2, missing], [1, missing, 2])
false
函数 any
和 all
遵循三值逻辑的规则,会在结果无法被确定时返回 missing
。
julia> all([true, missing])
missing
julia> all([false, missing])
false
julia> any([true, missing])
true
julia> any([false, missing])
missing