Khmaladze变换及其在检验理论中的应用研究综述

陈强

doi:10.12012/CJoE2023-0170

PDF(400 KB)

计量经济学报 ›› 2024, Vol. 4 ›› Issue (4) : 1031-1063. DOI: 10.12012/CJoE2023-0170

论文

Khmaladze变换及其在检验理论中的应用研究综述

作者信息 +

Review of Khmaladze Transformations with Their Applications on Testing Theorem

Author information +

文章历史 +

摘要

在探讨复合假设检验问题时, 基于经验过程的检验统计量往往缺乏分布无关性. Khmaladze变换, 包括鞅变换和酉变换, 为克服这一难题提供了有效的解决方案. 首先, 20世纪80年代初期, Khmaladze提出了鞅变换, 专门用于处理连续分布函数的检验问题. 随着时间的推移, 鞅变换的理论基础得到了不断的深化和完善; 其应用范围也日益扩大, 涵盖了分布函数与回归模型等众多检验问题. 进入21世纪, Khmaladze在2013年和2016年进一步提出了酉变换. 其不仅适用于离散分布, 也适用于连续分布, 为统计学领域带来了新的视角和工具. 然而, 尽管Khmaladze变换在国际上已有一定的研究基础, 但在中国, 这两种变换方法的研究和应用尚未得到充分的认识. 本文旨在对Khmaladze变换的起源、理论原理、发展过程以及当前的应用状况进行梳理, 并对其进一步拓展和应用前景提出一些思考.

Abstract

When addressing composite hypothesis testing, empirical process-based statistical tests often lack distribution-free. The Khmaladze transformation, including both the martingale and unitary transformations, provides an effective solution to this challenge. Initially, in the early 1980s, Khmaladze introduced the martingale transformation, specifically designed for testing problems involving continuous distribution functions. Over time, the theoretical foundation of the martingale transformation has been continuously deepened and refined; and its application scope has broadened, covering a wide range of testing problems, including distribution functions and regression models. Entering the 21st century, Khmaladze further proposed the unitary transformation in 2013 and 2016, which is applicable not only to discrete distributions but also to continuous distributions, bringing new perspectives and tools to the field of statistics. However, despite a certain research foundation for the Khmaladze transformation internationally, these two transformation methods have not yet been fully recognized in China. This article aims to sort out the origin, theoretical principles, development process, and current application status of the Khmaladze transformation and to propose some thoughts on its further development and application prospects.

导出引用

陈强. Khmaladze变换及其在检验理论中的应用研究综述. 计量经济学报, 2024, 4(4): 1031-1063 https://doi.org/10.12012/CJoE2023-0170

Qiang CHEN. Review of Khmaladze Transformations with Their Applications on Testing Theorem. China Journal of Econometrics, 2024, 4(4): 1031-1063 https://doi.org/10.12012/CJoE2023-0170

1 引言

Khmaladze变换通过将特定的经验过程转换为具有已知大样本分布的等效过程, 实现了基于经验过程的检验统计量的渐近分布无关性. 该方法起源于统计推断领域中关于分布函数拟合检验, 并旨在解决早期分布函数拟合检验中存在的一些问题.

具体而言, 分布函数假设检验存在两种类型: 简单假设(simple hypothesis) 检验和复合假设(composite hypothesis) 检验. 以分布函数拟合检验为例, 简单假设检验考察变量分布是否服从某个具体函数, 复合假设检验考察变量分布是否来自某一类函数族. 例如, 对于一组实值随机变量

X_{i}, i = 1, \dots, n

, 假设其定义域为

D \equiv (\underline{x}, \bar{x})

- \infty \leq \underline{x} < \bar{x} \leq + \infty

. 简单假设检验用于检验这组随机变量的分布是否等于某个已知的参数分布函数(参数

θ_{0}

给定, 如一维标准正态分布的两个参数分别为均值

μ

等于0和方差

σ^{2}

等于1), 即:

\begin{aligned} H_{10} : (\cdot) = F (\cdot, θ_{0}) . \end{aligned}

而复合假设检验用于检验这组随机变量的分布函数是否来自某个实数参数空间

Θ

下的一类函数族(如一维正态分布族的两个参数均值

μ

和方差

σ^{2}

为参数空间内的两个随机数), 即:

\begin{aligned} H_{20} : (\cdot) \in {F (\cdot, θ) : θ \in Θ} . \end{aligned}

关于参数结构的检验方法大体上也可以分为两种类型: 局部平滑检验(locally smoothing test)和全局平滑检验(globally smoothing test). 局部平滑检验一般需要涉及非参数估计技术(如Hardle et al., 1993; Zheng, 1996; Fan and Li, 1996; Fan and Huang, 2001; Li, 2007). 全局平滑检验通常是经验过程泛函的平均(如Bierens, 1982; Stute, 1997; Stute et al., 1998; Dette and Podolskij, 2008; Chen et al., 2015). 例如, 针对分布函数的全局平滑检验的常见办法是基于经验分布函数构造经验过程, 进而构建相应的检验统计量. 全局平滑检验因不需要选择平滑参数(或窗宽)和较好的渐近性质而成为检验方法的一个重要分支.

基于经验过程的检验统计量对一维分布函数的简单假设检验具有优良性质, 其在原假设条件下的极限分布不依赖于原假设函数形式, 即满足分布无关性(distribution-free). 然而, 当涉及复合假设检验问题, 以及多元分布函数的检验问题(无论是简单假设还是复合假设), 基于经验过程的检验统计量在原假设条件下的极限分布变得复杂, 其极限分布会依赖于原假设的函数形式, 相应的检验统计量将不满足分布无关性. 因此, 对不同的原假设, 检验统计量的检验临界值(critical value) 也不一样; 这使得应用这类检验统计量很不方便. 为了解决上述问题, Khmaladze提出了两种不同的变换方法, 以改善检验统计量的分布特性. 首先, 在20世纪80年代初, Khmaladze (1979, 1981)提出了一种鞅变换方法, 解决了复合假设检验中的Durbin问题(具体含义见下文2.1节), 学者们通常称此变换为“Khmaladze鞅变换/鞅转化(martingale transformation)”. 该鞅变换方法极大方便了基于经验过程来构建具有渐近分布无关性的检验统计量. Khmaladze鞅变换方法最初主要针对连续分布函数的复合假设检验问题. 为了使变换方法同样适用于离散分布函数的复合假设检验问题, Khmaladze在近些年(2013, 2016)进一步提出了酉变换(unitary transformation). 后来, 一些学者(如Roberts, 2021) 将前者称为“第一类Khmaladze变换(KT1)”, 而将后者称为“第二类Khmaladze变换(KT2)”或者“Khmaladze旋转/反射(rotation/reflection)”.

很长一段时间来由于某种原因, Khmaladze鞅变换方法虽然一直没融入到主流的统计实践中, 甚至一直没正式写入教材(见Koul, 2006), 但其在各类检验方法的理论研究中已被逐渐采用, 并且其优势正逐渐获得认可. 另外, Khmaladze酉变换提出的时间较短, 相关的理论发展与应用都还很少. 在国内, 这两类Khmaladze变换方法还并不为大家熟知. 为此, 本文旨在系统梳理和展望Khmaladze变换的理论发展和应用进展, 以期提升学术界对此方法的认识和了解.

本文结构如下: 第2节介绍Khmaladze鞅变换产生的理论背景. 第3节介绍Khmaladze鞅变换的基本原理. 第4节介绍Khmaladze鞅变换方法的发展与应用现状, 包括基于经验分布函数的鞅变换和基于标记经验过程的鞅变换. 第5节对Khmaladze鞅变换的检验功效与多维鞅变换问题做简要说明. 第6节介绍Khmaladze酉变换方法的基本内容. 第7节是结论.

2 Khmaladze鞅变换产生的理论背景

2.1 一维简单经验过程的分布无关性

为了具体说明基于经验过程的检验统计量存在的问题以及Khmaladze鞅变换方法的产生原因, 本节从分布函数拟合检验方法开始介绍. 令

F_{n}

为来自分布函数

F

的

n

个独立一维随机变量的经验分布函数, 即:

\begin{aligned} F_{n} (x) \equiv \frac{1}{n} \sum_{i = 1}^{n} I (X_{i} \leq x), \end{aligned}

其中

I (\cdot)

为示性函数. 考虑如下正规化的经验过程(empirical process):

\begin{aligned} V_{n} (x) = \sqrt{n} (F_{n} (x) - F (x)) . \end{aligned}

(1)

由于经验分布函数

F_{n} (x)

会收敛于真实的分布函数

F (x)

, 过程(1)的极限过程是一个基于分布

F

的布朗桥(以

F

为时间尺度的布朗桥). 可见, 过程(1)的极限分布可能会依赖于分布

F

. 令人惊奇的是Kolmogorov (1933)发现: 若

F

为连续分布函数, 可以通过改变过程的时间尺度为

t = F (x)

(也称为Kolmogorov变换), 从而得到一个均匀经验过程(uniform empirical process)

V_{n} (F^{- 1} (t))

, 该均匀经验过程具有统一的且与

F

相独立的极限过程.

类似地, 针对上文简单假设

H_{10}

, 可以考虑如下正规化的经验过程:

\begin{aligned} V_{n} (x) = \sqrt{n} (F_{n} (x) - F (x, θ_{0})) . \end{aligned}

(2)

在

H_{10}

条件下, 经验分布函数

F_{n} (x)

会收敛于分布函数

F (x, θ_{0})

, 过程(2)的极限过程是一个基于

F (\cdot, θ_{0})

的布朗桥. 同理, 通过新的时间尺度变量

t = F (x, θ_{0})

可以将(2)等价转化为如下中心化的(centered) 均匀经验过程:

\begin{aligned} U_{n} (t) \equiv \sqrt{n} (G_{n} (t, θ_{0}) - t), \end{aligned}

(3)

其中

G_{n} (t, θ_{0}) \equiv F_{n} (F^{- 1} (t, θ_{0}))

. 根据概率积分转换原理, 如果一维随机变量

X

服从连续分布函数

F (x, θ_{0})

, 则概率积分转换后的随机变量

F (X, θ_{0})

服从

[0, 1]

区间上的均匀分布. 于是在

H_{10}

条件下, 式(3)的均匀经验过程

U_{n} (t)

会弱收敛于

[0, 1]

区间上的标准布朗桥过程. 可见, 该

U_{n} (t)

的构建虽然依赖于原假设的分布

F (\cdot, θ_{0})

, 但

U_{n} (t)

在原假设下的极限分布完全不依赖于

F (\cdot, θ_{0})

. 而且,

U_{n} (t)

在原假设和在备择假设下的极限过程是不一样的, 从而确保了基于

U_{n} (t)

的检验统计量的检验功效. 因此, 经验过程

V_{n} (x)

或

U_{n} (t)

可用于构造具有分布无关性的检验统计量, 从而方便地应用于对任意分布函数的统计推断. 例如可以基于经验过程

V_{n} (x)

或

U_{n} (t)

构造检验统计量, 如常见的Kolmogorov-Smirnov (KS) 检验统计量:

\begin{aligned} K S = sup_{x \in D} | V_{n} (x) | 或 K S = sup_{t \in [0, 1]} | U_{n} (t) | . \end{aligned}

对于参数已知的分布函数

F (\cdot, θ_{0})

, 该KS检验统计量在原假设条件下会依分布收敛于稳定不变的分布(标准布朗桥的函数), 即满足渐近分布无关性. 有了渐近分布无关的检验统计量, 便可以通过单次的数值模拟得到适用于不同原假设问题的检验临界值.

2.2 参数估计的影响

上文(3)的均匀经验过程

U_{n} (t)

渐近分布无关性的构造思路为后续统计推断理论开启了一个重要的研究方向. 然而, 上述针对一维随机变量的经验过程通过时间变换

t = F (x, θ_{0})

得到具有分布无关性过程的方法无法直接拓展至多维随机变量情形和一般的参数经验过程.

首先, 针对多维随机变量的类似时间变换一般可用Rosenblatt (1952)变换. 如针对二维随机变量, 类似定义时间变量

t_{1} = F (x_{1}, θ_{0})

t_{2} = F (x_{2} | x_{1}, θ_{0})

. 此时, 对于二维及更高维随机向量

X

, 即使其分布函数是绝对连续的, 其条件概率积分转换后的随机向量

F (X, θ_{0})

也会依赖于

F

(见Simpson, 1952; Rosenblatt, 1952). 因此, 难以构造出不依赖于

F

的经验过程.

其次, 简单假设的检验方法在实际应用中存在很大局限性. 因为, 通常在作参数函数检验时, 并不知道其参数的具体值. 此时必须首先估计参数值的大小, 然后再检验实际数据是否与所估计的参数函数形式吻合. 因为参数估计量是来自某个参数空间的随机变量, 所以此时的假设检验问题属于复合假设检验. 到了19世纪五六十年代, 统计学家发现在很多情形下, 用估计参数

\hat{θ}

代替参数分布函数

F (x, θ)

的未知参数

θ

得到的参数经验过程:

\begin{aligned} {\hat{V}}_{n} (x) = \sqrt{n} (F_{n} (x) - F (x, \hat{θ})) \end{aligned}

的极限过程不同于(2)中的

V_{n} (x)

的极限过程. 其通过时间尺度

t = F (x, \hat{θ})

代换得到的参数均匀经验过程(见下文(4)式)也失去了渐近分布无关性(如Gikhman, 1954; Kac et al., 1955). 随后出现了大量的研究文献试图解决此问题, 但寻找渐近分布无关性的经验过程并不顺利, 在后续的20多年时间里, 学者们一度认为参数经验过程的复杂极限性质似乎不可避免.

为了说明参数估计的影响, 在此以一维均匀经验过程

U_{n} (t)

为例. 假定存在

θ_{0}

的某个估计量

\hat{θ}

满足常见的

\sqrt{n}

-相合(

\sqrt{n}

-consistent) 估计条件:

\sqrt{n} (\hat{θ} - θ_{0}) = O_{p} (1)

, 则对分布函数参数形式复合假设

H_{20}

的检验问题可以基于如下中心化的参数均匀经验过程:

\begin{aligned} {\hat{U}}_{n} (t) \equiv \sqrt{n} (G_{n} (t, \hat{θ}) - t), \end{aligned}

(4)

其中,

G_{n} (t, \hat{θ}) \equiv F_{n} (F^{- 1} (t, \hat{θ}))

. 对式(4)利用泰勒展开定理可以将其表示为¹:

\begin{aligned} {\hat{U}}_{n} (t) = U_{n} (t) - \bar{g} (t)^{T} \sqrt{n} (\hat{θ} - θ_{0}) + o_{p} (1), \end{aligned}

(5)

¹此处及下文过程表达式中的

o_{p} (1)

表示随机过程序列在相应时间区域内一致地依概率收敛于0.

其中,

\begin{aligned} \bar{g} (t) \equiv p lim \frac{1}{n} \sum_{i = 1}^{n} \frac{\partial F_{i}}{\partial θ} (x, θ_{0}) |_{x = F_{i}^{- 1} (t, θ_{0})}, i = 1, \dots, n . \end{aligned}

由于式(5)右边第二项

\bar{g} (t)^{T} \sqrt{n} (\hat{θ} - θ_{0})

的存在, (4)的

{\hat{U}}_{n} (t)

所收敛到的极限过程会与(3)的

U_{n} (t)

不同, 即不再是

[0, 1]

区间上的标准布朗桥过程. 通常

\bar{g} (t)^{T} \sqrt{n} (\hat{θ} - θ_{0})

会与原假设或其所含参数的估计值有关, 因此

{\hat{U}}_{n} (t)

的极限会同时依赖于原假设的分布和参数估计量. 基于

{\hat{U}}_{n} (t)

的检验统计量不再具有(渐近) 分布无关性. 这种因为包含了估计参数而破坏了检验统计量的分布无关性的现象是由Durbin (1973a)基于

V_{n} (x)

分析原假设含有估计参数的Kolmogorov-Smirnov检验时提出的. 因此Koenker and Xiao (2002)也将此类问题称为Durbin问题.

解决Durbin问题的其中一种常见方法是通过自助法(bootstrap) 得到检验统计量的检验临界值. 利用自助法的缺陷在于: 针对不同的原假设模型都必须重新模拟来得到相应统计量的检验临界值. 因此, 自助法比较麻烦和耗时, 且针对不同模型参数形式的检验没有一个统一的判断标准. 还有一些研究(如Durbin, 1973b, 1975, 1985; Parker, 2013)探讨了针对检验统计量分布的不同近似计算方法来获取其检验临界值. 这些研究仍存在局限而没得到广泛应用.

很长一段时间, 学术界普遍认为当面对一个复合假设检验问题, 基于经验过程的检验统计量通常不再具有(渐近) 分布无关性. 直到20世纪80年代初Khmaladze提出了一种鞅变换方法从根本上改变了人们之前的悲观论断. Khmaladze (1979、1981)提出的鞅变换是将一维参数经验过程变换成具有独立增量的过程, 通过布朗运动而不是布朗桥的极限过程进行检验. 近些年, Khmaladze (2013, 2016)提出的酉变换是将定义在某个空间的过程映射到另一空间上, 通过该变换可以将某个特定分布的检验问题转化成熟悉的简单分布的检验问题. 因此, Khmaladze提出的两种变换都是解决上述Durbin问题的有效途径.

3 Khmaladze鞅变换方法的原理

3.1 Khmaladze鞅变换与Doob-Meyer分解

Khmaladze鞅变换方法的基本思想是将参数经验过程(通常为一个半鞅过程) 通过Doob-Meyer分解后转化为一个鞅过程. 根据Doob-Meyer分解定理: 对于任何一个非负半鞅

z (t)

, 总存在一个递增右连续的可预测过程

α (t)

(

E (α (t)) < \infty

)和一个右连续鞅

β (t)

, 使得:

\begin{aligned} z (t) = α (t) + β (t) a . s . \end{aligned}

针对分布函数拟合检验, 考虑上文提到的针对分布函数的简单假设

H_{10}

的检验中对经验分布函数的分析. 假定

v_{1}, \dots, v_{n}

是来自给定参数

θ_{0}

的分布

F (\cdot, θ_{0})

的独立同分布随机变量, 则根据概率积分转换原理,

u_{i} \equiv F (v_{i}, θ_{0})

i = 1, \dots, n

将是

[0, 1]

区间上独立均匀分布的随机变量. 于是, 经验分布函数

G_{n} (t, θ_{0}) = \frac{1}{n} \sum_{i = 1}^{n} I (u_{i} \leq t)

可视为一种半鞅(实际上为下鞅) 过程. 令

Ψ^{H_{n}} \equiv {Ψ_{t}^{H_{n}} : 0 \leq t \leq 1}

为对应的域流(filtration), 则顺序统计量

u_{(1)}, \dots, u_{(n)}

是关于

Ψ^{H_{n}}

的马尔可夫时间且

G_{n} (t, θ_{0})

为马尔可夫过程. Khmaladze (1981)注意到对任意的时间间隔

Δ t \geq 0

, 变量

n Δ G_{n} (t, θ_{0}) \equiv n [G_{n} (t + Δ t, θ_{0}) - G_{n} (t, θ_{0})]

会服从一个次数为

n (1 - G_{n} (t, θ_{0}))

概率为

Δ t / (1 - t)

的二项分布, 即:

\begin{aligned} n Δ G_{n} (t, θ_{0}) \sim B i n o m i a l (n (1 - G_{n} (t, θ_{0})), \frac{Δ t}{1 - t}), \end{aligned}

且有

G_{n} (0) = 0

. 于是,

\begin{aligned} E (Δ G_{n} (t, θ_{0}) | Ψ_{t}^{H_{n}}) = \frac{1 - G_{n} (t, θ_{0})}{1 - t} Δ t . \end{aligned}

这意味着

G_{n} (t, θ_{0})

可做如下Doob-Meyer分解:

\begin{aligned} G_{n} (t, θ_{0}) = \int_{0}^{t} \frac{1 - G_{n} (s, θ_{0})}{1 - s} d s + β_{n} (t), \end{aligned}

(6)

其中,

β_{n} (t)

为一个鞅. 根据式(6)可以得到中心化的均匀经验过程

U_{n} (t) \equiv \sqrt{n} (G_{n} (t, θ_{0}) - t)

的Doob-Meyer分解为:

\begin{aligned} U_{n} (t) = W_{n} (t) - \int_{0}^{t} \frac{U_{n} (s)}{1 - s} d s, \end{aligned}

(7)

其中,

W_{n} (t) = \sqrt{n} β_{n} (t)

会弱收敛于

[0, 1]

区间上的标准布朗运动(记为

B (t)

当分布函数的参数

θ

不是给定的数值, 而是来自某个参数空间

Θ

的随机数, 即

θ \in Θ

(如

θ_{0}

未知且用估计的

\hat{θ}

代替) 时, 要得到上述过程(7)的类似结果, 需要进一步将以上分解方法扩展到一般的参数经验过程. 令

g_{i}

为映射

θ \to G_{n} (\cdot, θ)

关于

θ_{i}

i = 1, \dots, d

的弗里歇导数(Fréchet derivative), 定义

g^{*} (t) \equiv (t, \bar{g} (t)^{T}) = (t, g_{1} (t), \dots, g_{d} (t))^{T}

, 则

g^{*} (t)

为

[0, 1]

区间上的

d + 1

维的实值函数. 其对应原假设的扩展切平面(extended tangent space corresponding to the null, 简记为ETS; 见文献Li (2009)) 的基为

g (t) = d g^{*} (t) / d t

(亦可称为扩展得分函数). 假定该导数

g (t)

在

t = 1

附近线性独立, 从而保证矩阵

Γ_{s} = \int_{s}^{1} g (r) g (r)^{T} d r

非奇异. 基于这些设定, Khmaladze (1981)提出如下的鞅变换公式:

\begin{aligned} K_{g} (U_{n} (t)) = U_{n} (t) - T_{g} (U_{n} (t)), \end{aligned}

(8)

其中,

\begin{aligned} T_{g} (U_{n} (t)) \equiv \int_{0}^{t} g (s)^{T} Γ_{s}^{- 1} \int_{s}^{1} g (r) d U_{n} (r) d s . \end{aligned}

式(8)同样会弱收敛于

[0, 1]

区间上的标准布朗运动

B (t)

. 容易验证当

g^{*} (t) = t

时:

T_{g} (U_{n} (t)) = - \int_{0}^{t} \frac{U_{n} (s)}{1 - s} d s

、

K_{g} (U_{n} (t)) = W_{n} (t)

; 即式(8)退化为式(7). 可见, 关于一般参数经验过程的Khmaladze鞅变换(8)是经验过程Doob-Meyer分解(7)的推广与应用.

一般来说, 对于来自分布函数

F

的

x \in D

, 令

h (x)

为相应ETS的基向量、

Γ_{F (z)} = \int_{z}^{\infty} h (r) h (r)^{T} d F (r)

, 则对于任意二次可积实值函数

φ

的Khmaladze鞅变换

K_{h}

可定义为:

\begin{aligned} K_{h} (φ (x)) \equiv φ (x) - T_{h} (φ (x)), \end{aligned}

(9)

其中,

\begin{aligned} T_{h} (φ (x)) \equiv \int_{\underline{x}}^{x} h (z)^{T} Γ_{F (z)}^{- 1} \int_{z}^{\bar{x}} h (r) d φ (r) d F (z) . \end{aligned}

鞅变换(9)可以看作是基于区间

(x, \bar{x}]

的信息, 通过递归最小二乘估计对

φ (x)

预测得到的残差(见下文5.1节). 通过引入新的时间尺度变量

t = F (x)

, 并令

U_{n} (t) = φ (F^{- 1} (t))

、

g (t) = h (F^{- 1} (t))

, 容易验证式(9)与式(8)相同.

Khmaladze鞅变换是线性的垂直映射和保距映射(见Khmaladze and Koul, 20). 例如对过程(2)和(3)有:

\begin{aligned} 7 K_{g} (U_{n} (t)) & = U_{n} (t), ∥ K_{h} (U_{n} (t)) ∥ = ∥ U_{n} (t) ∥, \\ 7 K_{h} (V_{n} (x)) & = V_{n} (x), ∥ K_{h} (V_{n} (x)) ∥ = ∥ V_{n} (x) ∥, \end{aligned}

其中

∥ \cdot ∥

为范数算子. 这意味着Khmaladze鞅变换后的过程与原过程有着相同的极限. 于是, 过程(2)通过鞅变换得到的过程

K_{g} (V_{n} (x))

会弱收敛于以

F (x)

为时间尺度的标准布朗运动, 即

B \circ F (x)

; 而过程(3)通过鞅变换得到的过程

K_{g} (U_{n} (t))

会弱收敛于

[0, 1]

区间上的标准布朗运动.

多数文献会对Khmaladze鞅变换公式(8)与(9)中的

Γ_{s}

、

Γ_{F (z)}

作出非奇异可逆的假设. 不过, 一些研究(如Tsigroshvili, 1998; Khmaladze and Koul, 2009; Koul and Zhu, 2015)发现, 即使

Γ_{s}

或

Γ_{F (z)}

是奇异的, Khmaladze鞅变换公式仍可以被定义和计算.

3.2 关于参数经验过程的Khmaladze鞅变换

现在我们回到式(4)参数均匀经验过程

{\hat{U}}_{n} (t)

的分析. 首先, 根据Bai (2003)的附录A知: 式(8)的

T_{g}

是一种线性算子, 且其对任意常数或随机数

c_{0}

满足

T_{g} (c_{0} g) = c_{0} g

. 取

c_{0} = \sqrt{n} (\hat{θ} - θ_{0})

, 根据式(5)有:

\begin{aligned} T_{g} ({\hat{U}}_{n} (t)) = T_{g} (U_{n} (t)) - \bar{g} (t)^{T} \sqrt{n} (\hat{θ} - θ_{0}) + o_{p} (1) . \end{aligned}

(10)

再根据式(8)与(10)可知关于参数经验过程

{\hat{U}}_{n} (t)

的鞅变换过程满足:

\begin{aligned} K_{g} ({\hat{U}}_{n} (t)) = K_{g} (U_{n} (t)) + o_{p} (1) = W_{n} (t) + o_{p} (1) . \end{aligned}

(11)

式(11)表明: 对

{\hat{U}}_{n} (t)

的鞅变换渐近等价于对

U_{n} (t)

的鞅变换. 于是,

K_{g} ({\hat{U}}_{n} (t))

的极限为标准布朗运动. 根据连续映射定理(continuous mapping theorem), 基于

{\hat{U}}_{n} (t)

构造的KS统计量会依分布收敛于标准布朗运动的函数, 即随机变量

max_{t \in [0, 1]} | B (t) |

. 如Bai (2003)所示, 通过对随机变量

max_{t \in [0, 1]} | B (t) |

的模拟得到KS统计量在10%、5%和1%显著性水平的检验临界值分别为1.94、2.22和2.80. 从而得到适用于不同分布函数族原假设问题的检验临界值.

应用Khmaladze鞅变换公式对分布函数拟合检验的一个重要步骤是找到并计算得分函数

g (t)

. 对于某些原假设分布(如正态分布或学生

t

分布) 的拟合检验问题,

g (t)

的函数形式是完全确定的. 如对于正态分布函数的检验, 其

g (t)

具有非常简洁的形式:

\begin{aligned} g (t) = (1, - Φ^{- 1} (t), 1 - Φ^{- 1} (t)^{2}), \end{aligned}

其中,

Φ (t)

表示标准正态分布函数的累积分布函数.

对于一般的分布函数检验的

g (t)

可能会依赖于未知的参数

θ

. 一个自然的方法是用

\sqrt{n}

-相合估计量

\hat{θ}

代替未知的

θ

, 则以上

g (t)

函数可以用

g_{n} (t) = (1, {\dot{\bar{g}}}_{n} (t))^{T}

估计, 其中,

\begin{aligned} {\dot{\bar{g}}}_{n} (t) \equiv \frac{1}{n} \sum_{i = 1}^{n} \frac{\frac{\partial f_{i}}{\partial θ} (x, \hat{θ})}{f_{i} (x, \hat{θ})} |_{x = F_{i}^{- 1} (t, \hat{θ})}, i = 1, \dots, n . \end{aligned}

还有一些检验, 如Bai and Ng (2001)将鞅变换方法应用于回归模型残差分布条件对称性的检验, 其鞅变换公式中的

g (\cdot)

采用的是非参数估计. Bai (2003)还给出当

g (t)

用满足一定条件的估计量代替时, 式(11)所述鞅变换的渐近等价性仍成立.

4 Khmaladze鞅变换方法的发展与应用

自Khmaladze于1981年正式提出鞅变换方法以来, 该方法理论自身被不断拓展和完善. Li (2009)基于Bickel (2006)的理论观点, 从更一般的角度讨论了检验应用中的Khmaladze鞅变换的内涵. 另外, Khmaladze鞅变换方法也已逐渐被广泛应用于各类检验问题的理论研究中. 纵观Khmaladze鞅变换方法在各类检验问题上的应用, 可以发现这些研究大体可以归为两类: 基于经验分布函数的分布函数拟合检验和基于标记经验过程(marked empirical process) 或部分和过程(partial sum process) 的模型设定检验. 鞅变换方法应用的一个重要步骤是针对检验问题构造相应的经验过程, 并基于包含估计参数的参数经验过程与不含估计参数的经验过程的差异分析选择相应的鞅变换公式. 下文就鞅变换的上述两类应用, 分别选择代表性的检验问题并构造相应的参数经验过程, 以便展示鞅变换所要处理的问题与应用场景.

4.1 基于经验分布函数的鞅变换

最初, Khmaladze (1981)主要是针对一维分布函数的复合检验中存在的Durbin问题, 基于Doob-Meyer分解定理, 提出了针对分布函数拟合检验的鞅变换理论. 相关的研究是检验随机变量是否服从某些特定分布, 这涉及对随机变量的经验分布函数进行鞅变换. 此类研究很容易推广至回归模型误差分布的检验. 此时则基于模型残差构造的经验过程进行鞅变换. 相关的研究是检验模型误差是否服从某些特定分布. 为了方便介绍, 本小节将对位置尺度(location-scale) 模型检验、双样本问题(two-sample problem)、Copula模型拟合检验、计数过程密度函数的检验与应用依次进行说明.

实际上, 大部分模型误差分布检验的研究都可以归为位置尺度模型的研究. 如Bai (2003)利用鞅变换理论讨论了动态模型的参数条件分布的检验属于位置尺度类模型. Nguyen (2010)将鞅变换方法应用于一般形式的资产定价模型(general asset pricing model) 条件均值(conditional mean) 的检验方法. Nguyen (2010)的检验实际上是先将连续时间模型的漂移函数检验问题转化为分布函数的拟合检验, 然后利用Bai (2003)的基于鞅变换的分布函数检验统计量来检验. 包括下文所要介绍的双样本问题、Copula模型检验等也可以含有位置尺度模型的设置(由于这些检验的鞅变换具有各自的结构特征, 下文将单独介绍). 另外, Khmaladze鞅变换方法也可以应用于其他类型分布特征的检验, 如Delgado et al. (2005, 2009)将鞅变换方法应用时间序列过程和动态回归模型误差的序列相关性检验. Haywood and Khmaladze (2008)、Parker (2013)将鞅变换应用于包含未知参数的指数分布(exponential distribution)的检验.

4.1.1 位置尺度分布

统计界的一个经典问题是检验某个随机样本是否来自某个具有位置参数和尺度参数的分布类型. 位置尺度分布族的建立可以获得数学表达式的便利性和数据分析的易解释性. 首先考虑单样本的位置尺度模型, 针对来自分布函数

F

的单变量的观测数据

{X_{i}}_{i = 1}^{n}

, 存在某些位置参数

m

和尺度参数

v

. 一个常见的问题是针对所有

x \in D

, 检验其分布是否满足某个分布函数

F_{0}

, 即:

\begin{aligned} H_{30} : F (x) = F_{0} (\frac{x - m}{v}) . \end{aligned}

假设

F_{0}

存在连续密度函数

f_{0}

, 密度函数的导数为

{\dot{f}}_{0}

. 根据上文2.1节分析知, 当位置参数

m

和尺度参数

v

已知时, 基于其经验分布函数

F_{n} (x)

构建经验过程

V_{n} (x) = \sqrt{n} (F_{n} (x) - F_{0} (x))

可以用于构造渐近分布无关性的检验统计量. 而当位置参数

m

和尺度参数

v

未知, 用其

\sqrt{n}

-相合估计量

\hat{m}

和

\hat{v}

代替得到的经验分布函数为

{\hat{F}}_{n} (x)

. 根据Durbin (1973a)知, 估计的参数经验过程

{\hat{V}}_{n} (x) = \sqrt{n} ({\hat{F}}_{n} (x) - F_{0} (x)

满足:

\begin{aligned} {\hat{V}}_{n} (x) = V_{n} (x) + \frac{\sqrt{n} (\hat{m} - m)}{v} f_{0} (x) + \frac{\sqrt{n} (\hat{v} - v)}{v} x f_{0} (x) + o_{p} (1) . \end{aligned}

(12)

由(12)知, 基于估计的经验过程

{\hat{V}}_{n} (x)

构建的检验统计量的极限值会受到参数估计和密度函数

f_{0}

的影响, 即不具有渐近分布无关性. 此时, 可以采用Khmaladze鞅变换(8)消除参数估计的影响. 定义

\begin{aligned} U_{n} (t) & = \frac{1}{\sqrt{n}} \sum_{i = 1}^{n} (I (F_{0} (η_{i}) \leq t) - t), \\ {\hat{U}}_{n} (t) & = \frac{1}{\sqrt{n}} \sum_{i = 1}^{n} (I (F_{0} ({\hat{η}}_{i}) \leq t) - t), \end{aligned}

其中,

η_{i} = \frac{X_{i} - m}{v}

与

{\hat{η}}_{i} = \frac{X_{i} - \hat{m}}{\hat{v}}

为标准化真实与估计的残差. 类似于Bai (2003)的分析知:

\begin{aligned} {\hat{U}}_{n} (t) = U_{n} (t) + f_{0} (F_{0}^{- 1} (t)) p_{n} + f_{0} (F_{0}^{- 1} (t)) F_{0}^{- 1} (t) q_{n} + o_{p} (1) . \end{aligned}

其中,

p_{n}

与

q_{n}

为与

t

无关的有界随机变量. 此时Khmaladze鞅变换(8)需要的

g (t)

函数为:

\begin{aligned} g (t) = {(1, \frac{{\dot{f}}_{0} (F_{0}^{- 1} (t))}{f_{0} (F_{0}^{- 1} (t))}, 1 + F_{0}^{- 1} (t) f_{0} F_{0}^{- 1} (t))}^{T} . \end{aligned}

由此得到的Khmaladze鞅变换后的过程

K_{g} ({\hat{U}}_{n} (t))

会弱收敛于标准布朗运动

B (t)

针对单样本位置尺度模型残差经验过程的鞅变换与针对参数回归模型

Y = m_{θ} (X) + v_{ϑ} (X) ξ

的残差经验过程的鞅变换具有相同的形式. 具体而言, 假设对于观测数据

X_{i}

, 一个常见的检验问题是检验以下标准化残差,

\begin{aligned} ξ_{i} = \frac{X_{i} - m_{θ} (X_{i})}{v_{ϑ} (X_{i})} \end{aligned}

是否满足某类分布函数. 在参数回归模型中, 对于误差项的参数分布的拟合检验可以利用回归模型的残差

ξ_{i}

构造残差的经验过程. 在实际应用中, 我们并不知道上式中

θ

与

ϑ

的具体值, 因此, 必须用其

\sqrt{n}

-相合性估计量代替得到估计的残差

{\hat{ξ}}_{i}

. 此时所构造的参数经验过程不满足分布无关性, 因此可采用Khmaladze鞅变换方法消除参数估计的影响. 这类检验问题包含了众多回归模型残差分布的检验, 如通常的线性回归模型的残差分布检验、ARMA-GARCH类非平滑模型参数分布的检验等.

更一般的问题是关于非参数回归模型

\tilde{m} (\cdot)

误差分布的拟合检验, 此时的位置参数函数和尺度参数函数是纯粹的非参数函数. Akritas and Van Keilegom (2001)表明: 基于非参数回归模型残差经验过程的渐近分布会依赖于原假设的误差分布. 基于非参数回归残差

X_{i} - {\hat{m}}_{n} (X_{i})

构造的经验过程

{\hat{V}}_{n} (x)

与对应的不含估计的经验过程

V_{n} (x)

满足如下渐近表达式:

\begin{aligned} {\hat{V}}_{n} (x) = V_{n} (x) + f_{0} (x) R_{n} + o_{p} (1) . \end{aligned}

其中

R_{n} = \frac{1}{\sqrt{n}} \sum_{i = 1}^{n} ({\hat{m}}_{n} (X_{i}) - \tilde{m} (X_{i}))

. 基于此, Khmaladze and Koul (2009)发现只要

R_{n} = O_{p} (1)

成立, 便可以通过鞅变换将

f_{0} (x) R_{n}

的影响消除; 从而将鞅变换理论推广至非参数回归模型中残差分布的拟合检验. Akritas and Van Keilegom (2001), Muller et al. (2007, 2009)先后给出了在一元回归和多元回归条件下

R_{n} = O_{p} (1)

成立的条件. 随后, Khmaladze and Koul (2009)的理论被应用于其他一些回归模型的误差分布检验; 如Muller et al. (2012)的部分线性回归模型(partially linear regression model) 的误差分布检验, Koul and Zhu (2015)的非参数自回归条件异方差模型误差分布的检验和Chown et al. (2019)的多变量间接回归(indirect regression) 模型的误差分布的检验.

4.1.2 双样本问题

考虑两个独立的样本序列

{X_{i}^{'}}_{i = 1}^{n_{1}}

与

{X_{i}^{″}}_{i = 1}^{n_{2}}

. 双样本常见问题就是对这两样本分布函数是否相等的检验. 经典的解决办法是通过构造如下双样本经验过程(如Smirnov, 1939)进行统计量的构造:

\begin{aligned} V_{n} (x) = {(\frac{n_{1} (n_{1} + n_{2})}{n_{2}})}^{1 / 2} (F_{n_{1}} (x) - F_{n_{1} + n_{2}} (x)) . \end{aligned}

其中,

F_{n_{1}} (x) = \frac{1}{n_{1}} \sum_{i = 1}^{n_{1}} I (X_{i}^{'} \leq x)

与

F_{n_{1} + n_{2}} (x) = \frac{1}{n_{1} + n_{2}} (\sum_{i = 1}^{n_{1}} I (X_{i}^{'} \leq x) + \sum_{i = 1}^{n_{2}} I (X_{i}^{″} \leq x))

分别表示第一样本的经验分布函数和混合样本的经验分布函数. 通过Kolmogorov (1933)变换改变经验过程的时间尺度, 一维空间的双样本Smirnov检验在原假设下具有分布无关性. Urinov (2006)在一维空间下构造了不同形式的双样本经验过程, 也得到了类似的渐近分布无关的检验统计量.

当考虑多维空间下的双样本经验过程, 就难以通过Kolmogorov (1933)变换获得渐近分布无关的经验过程(见Bickel, 1969). Einmahl and Khmaladze (2001)针对多维空间的双样本问题提出了类似的扫描式(scanning)的鞅方法(扫描式的鞅的含义见下文5.3节) 使得双样本的检验统计量在多维空间下仍保持渐近分布无关性. 同样的, 针对双样本问题, 当存在未知参数并需要用样本估计参数构造经验过程时, 即使一维过程情形下, 所构造的经验过程也不满足分布无关性. Mora and Neumeyer (2005)探讨了鞅变换后的经验过程来检验回归模型残差分布的双样本问题. Chung and Olivares (2021)研究存在参数估计误差时的处理效应(treatment effect) 的排列检验(permutation test)也属于双样本问题. 具体而言, 假设

{X_{i}^{'}}_{i = 1}^{n_{1}}

与

{X_{i}^{″}}_{i = 1}^{n_{2}}

分布对应于控制组样本和处理组样本, 其经验分布函数分别对应于

F_{n_{1}}

和

F_{n_{2}}

. 对于常数处理效应

δ

的检验可以基于这两组的经验分布函数构造如下双样本经验过程:

\begin{aligned} V_{n} (x, δ) = {(\frac{n_{1} n_{2}}{n_{1} + n_{2}})}^{1 / 2} (F_{n_{2}} (x + δ) - F_{n_{1}} (x)) . \end{aligned}

处理效应

δ

已知时, 该经验过程在原假设下会收敛至某个布朗桥过程. 然而, 处理效应

δ

未知并用其估计量

\hat{δ}

代入得到的参数经验过程

V_{n} (x, \hat{δ})

满足:

\begin{aligned} V_{n} (x, \hat{δ}) = V_{n} (x, δ) + {(\frac{n_{1} n_{2}}{n_{1} + n_{2}})}^{1 / 2} f_{1} (x) (\hat{δ} - δ) {+ o}_{p} (1), \end{aligned}

其中,

f_{1} (x)

是控制组样本的边际密度函数. 可见, 参数经验过程

V_{n} (x, \hat{δ})

的极限会依赖于参数估计和数据生成过程. 为此, Chung and Olivares (2021)探讨了Khmaladze鞅变换应用于此双样本情形, 以此消除估计误差的影响来得到渐近分布无关的检验统计量. 其对应Khmaladze鞅变换(8)需要的

g (t)

函数为:

g (t) = (1, \frac{{\dot{f}}_{1} (F_{1}^{- 1} (t))}{f_{1} (F_{1}^{- 1} (t))})^{T}

4.1.3 Copula模型

Copula模型是分析数据间的非线性相依结构与尾部特征的重要工具. 由于Copula模型允许独立地对边际密度函数和边际密度函数间的相依结构分别建模, 其在金融、医学、气候等领域有着广泛的应用(如Nelsen, 2006; Durante and Sempi, 2016). 根据Sklar (1959)的表示定理, 对于具有连续边际密度函数

F_{1}, \dots, F_{d}

的

d

维分布函数

F

, 存在唯一的Copula函数

C

满足:

\begin{aligned} F (x) = C (F_{1} (x_{1}), \dots, F_{d} (x_{d})), x = (x_{1}, \dots, x_{d})^{T} \in R^{d} . \end{aligned}

可见, Copula函数

C

反映了边际密度函数间的相依结构. 随着大量不同的Copula函数的参数形式的提出, 对Copula函数的拟合检验也变得更加重要.

对于边际分布函数和Copula函数都作参数函数设定的检验的一类重要方法是构建如下参数经验过程:

\begin{aligned} \hat{V} (u) = \frac{1}{\sqrt{n}} \sum_{i = 1}^{n} [I (\hat{U} \leq u) - C (u; \hat{ϑ})], \end{aligned}

其中,

{\hat{U}}_{i} = ({\hat{U}}_{1}, \dots, {\hat{U}}_{d}) = (F_{1} (X; {\hat{θ}}_{1}), \dots, F_{d} (X; {\hat{θ}}_{d}))

. 上述参数经验过程涉及的边际分布函数

F_{i} (X; θ_{i})

和Copula函数

C (u; ϑ)

都包含了参数函数形式设定, 并用估计的参数代替未知参数来构造参数经验过程. 为简单起见, 以下给出i.i.d. 数据环境下的参数经验过程

\hat{V} (u)

与不含估计参数的经验过程

V_{n} (u)

的渐近关系式:

\begin{aligned} \hat{V} (u) = V (u) - G^{T} (u) ϖ_{n} + o_{p} (1) . \end{aligned}

(13)

其中,

\begin{aligned} G (u) = & {(\frac{\partial C (u; ϑ_{0})}{\partial u_{1}} R_{1}^{T} (u, θ_{1, 0}), \dots, \frac{\partial C (u; ϑ_{0})}{\partial u_{d}} R_{d}^{T} (u, θ_{d, 0}), {(\frac{\partial C (u; ϑ_{0})}{\partial ϑ})}^{T})}^{T}, \\ R_{j} (u, θ_{j, 0}) = \frac{\partial F_{j} [F_{j}^{- 1} (u; θ_{j, 0}); θ_{j}]}{\partial θ_{j}} |_{θ_{j} = θ_{j, 0}}, j = 1, \dots, d, \\ ϖ_{n} = {(\sqrt{n} ({\hat{θ}}_{1} - θ_{1, 0}), \dots, \sqrt{n} ({\hat{θ}}_{d} - θ_{d, 0}), \sqrt{n} (\hat{ϑ} - ϑ_{0}))}^{T} . \end{aligned}

从(13)右边第二项的成分可以看出, 基于

\hat{V} (u)

的Copula函数参数形式的拟合检验统计量的极限分布会依赖于不同的Copula原假设

C (u; ϑ)

和边际分布函数

F_{i} (X; θ_{i})

的设定; 因此这些统计量不满足(渐近) 分布无关性. 为此, 一些学者应用Khmaladze鞅变换改进Copula的拟合检验方法. 如Can et al. (2015, 2020)在i.i.d. 数据环境下将Khmaladze鞅变换应用于copula函数的拟合检验. Lu and Zheng (2020)进一步探讨了针对时间序列数据动态边际分布函数设置下的copula函数的拟合检验. 这些研究进一步丰富了多元Khmaladze鞅变换的应用. 为了应用Khmaladze鞅变换(8), 定义

\tilde{G} (u) \equiv (C (u; ϑ_{0}), G (u)^{T})^{T}

, 相应的鞅变换需要的

g

函数为

\tilde{G} (u)

对

C (u; ϑ_{0})

的拉东-尼科迪姆导数(Radon-Nikodym derivative), 即:

g (u) = \frac{d \tilde{G} (u)}{d C (u; ϑ_{0})}

4.1.4 计数过程

计数过程(counting process)在具有删失观测(censored observation) 的生存分析(survival analysis)等领域有重要应用(见Andersen et al., 1993). 令

N (t) = (N_{i} (t), i = 1, \dots, n)

t \in [0, s]

为一个随机强度函数(intensity function)

λ (t)

的点过程(point process),

N_{i} (t)

记录了个体

i

到时间

t

为止可能经历的事件次数.

对于点过程应用需要关心的一个检验问题是判断其对应的随机强度函数

λ (t)

是否满足某参数函数形式

λ (\cdot, θ)

. 假设对于任意

t \in [0, s]

, 当

n \to \infty

时, 存在

λ (t, θ) / n \to f (t, θ)

、

\dot{λ} (t, θ) / n \to \dot{f} (t, θ)

. 其中,

\dot{λ} (t, θ)

与

\dot{f} (t, θ)

分别为

λ (t, θ)

与

f (t, θ)

关于参数向量

θ

的偏导数. 针对上述检验问题的一种可能的解决办法是构造出如下鞅过程:

\begin{aligned} M (t) = N (t) - \int_{0}^{t} λ (s, θ) d s . \end{aligned}

当参数

θ

已知时,

n^{- 1 / 2} M (t)

会是一个渐近独立的高斯鞅, 即

\int_{0}^{t} f^{1 / 2} (s, θ) d B (s)

(如Sun and Zalkikar, 2001). 然而, 如果强度函数

λ (\cdot, θ)

包含某未知参数

θ

时, 用估计的参数

\hat{θ}

代入可得到过程:

\begin{aligned} \hat{M} (t) = N (t) - \int_{0}^{t} λ (s, \hat{θ}) d s \end{aligned}

(14)

满足:

\begin{aligned} n^{- 1 / 2} \hat{M} (t) = n^{- 1 / 2} M (t) - {[\int_{0}^{t} \dot{f} (s, θ) d s]}^{T} ψ^{- 1} \sqrt{n} (\hat{θ} - θ_{0}) . \end{aligned}

其中,

ψ = \int_{0}^{τ} \dot{f} (s, θ) \dot{f} (s, θ)^{T} / f (s, θ) d s

. 此时估计的过程

\sqrt{n} \hat{M} (t)

不再是鞅过程, 甚至不再是渐近独立过程. 这种复杂的极限特征使得其难以被用于构造Kolmogorov-Smirnov、Cramer-von Mises等类型检验统计量(除参数

θ

维度为1情形, 如Hjort, 1990). 对于参数

θ

维度大于1情形, 相关统计量的分布甚至还会依赖于数据删失机制(censoring mechanism).

不少学者利用Khmaladze鞅变换来处理此问题. 由上文知

\sqrt{n} \hat{M} (t)

的极限仍不是一个标准的布朗运动, 而是与

\dot{f} (s, θ)

有关的鞅过程; 而且, 极限过程不同, 需要构造的鞅变换方法也不一样. 应用Khmaladze鞅变换(8)前, 一般会先对过程(14)作标准化处理或加权变换. 不论怎样, Khmaladze鞅变换(8)需要的

g

函数是与

\dot{f} (s, θ)

有关的函数. 应用鞅变换方法于计数过程的相关研究包括: Maglaperidze et al. (1998)对计数过程的参数强度函数的检验. Nikabadze and Stute (1997)、Sun (1997)、Koul and Yi (2006)考察了具有删失数据的模型诊断. McKeague et al. (1995)探讨了生存时间(survival time)的独立性检验. Marzec and Marzec (1997)、Sun and Zalkikar (2001)探讨了鞅变换方法在多变量的计数过程参数强度函数的检验. O'Quigley (2003)、Scheike and Martinussen (2004)在研究相应的风险模型的统计推断也应用了Khmaladze鞅变换方法. Zamba and Adekpedjou (2019)应用Khmaladze鞅变换方法及多变量点过程模型研究了具有复发事件(recurrent event) 设置下的生存函数参数结构的拟合检验.

4.2 基于标记经验过程或部分和过程的模型设定检验中的鞅变换

Khmaladze鞅变换方法虽然最初只是针对分布函数的拟合检验提出的, 但它也可以推广至回归模型的检验. 其在回归模型检验的应用主要是针对回归模型残差构造标记经验过程(或部分和过程) 进行鞅变换处理. 相关的研究是检验回归模型是否满足某些特定的参数方程, 其回归模型误差分布通常是未知的. 为了方便介绍, 本小节将对回归模型的设定检验、Berkson测量误差模型检验、平衡混合效应模型与连续时间模型(波动函数结构)的检验依次展开说明.

需要说明的是: 下文4.2.1介绍的Stute et al. (1998)所拓展的Khmaladze鞅变换方法成为一类追求分布无关性模型检验的基本方法. 其他相关的应用研究包括: Koul and Stute (2009)将鞅变换方法应用到时间序列数据的AR(1.1)模型中条件均值的检验, 包括线性与非线性的情形. Koenker and Xiao (2002, 2006) 分别将鞅变换方法应用于分位数回归模型和分位数自回归模型的统计推断. 夏强等(2019)将鞅变换方法应用于参数单指标分位数自回归模型的诊断检验. Song (2011)将鞅变换应用于Tobit均值回归模型的检验. Song (2010)将鞅变换方法应用于含有非参数估计的条件矩限制(conditional moment restrictions) 模型, 拓展鞅变换方法至半参数模型的检验, 如单一指标限制(single index restrictions) 模型、部分参数回归(partially parametric regression) 模型、部分参数分位数回归(partially parametric quantile regression). Khmaladze and Koul (2004)在同一框架下研究了Khmaladze鞅变换在多元参数经验过程的误差分布的拟合检验以及回归模型的诊断. 实际上, 下文将要介绍的Berkson测量误差模型检验、平衡混合效应模型检验、连续时间模型的检验等都是基于Stute et al. (1998)的思路进行分析的. 当然, 这些拓展还存在一些自身特殊之处, 为此将在随后章节简要展开说明.

4.2.1 回归模型设定检验

为了检验回归模型的参数形式, Stute (1997)构造了基于残差标记经验过程(residual marked empirical process)的检验统计量. Stute et al. (1998)较早将鞅变换方法应用于独立同分布(i.i.d.) 数据的回归模型的设定检验, 他们通过构建标记经验过程并利用Khmaladze鞅变换得到渐近分布无关的过程. 为了具体说明, 令

(Y, X)

为

d + 1

维欧式空间的随机观察变量. 考虑如下的均值回归模型设定:

\begin{aligned} Y = m (X) + ξ, ξ = σ ε, \end{aligned}

(15)

其中,

m (x) = E (Y | X = x)

, 误差项

ε

与自变量

X

相互独立且满足

E (ε) = 0

V a r (ε) = 1

本小节只考虑

X

为

d = 1

的一维变量情形(在5.3节会讨论

d > 1

情形). 令

(X_{i}, Y_{i})

i = 1, \dots, n

为来自模型(15)的随机样本. 关于这一模型设定存在两种有意义的检验问题: 一是对模型误差项

ε

的参数分布的拟合检验(见上文4.1.1节), 二是对回归模型参数函数形式的设定检验. 后者对于回归模型参数函数形式的设定检验的原假设为:

\begin{aligned} H_{40} : m (\cdot) \in {m (\cdot, θ_{0}) : θ_{0} \in Θ} . \end{aligned}

对

H_{40}

的回归模型的设定检验可以基于如下用残差

ε_{i} \equiv \frac{Y_{i} - m (X_{i}, θ_{0})}{σ}

标记的经验过程:

\begin{aligned} V_{n} (x) = \frac{1}{\sqrt{n}} \sum_{i = 1}^{n} ε_{i} I (X_{i} \leq x) . \end{aligned}

(16)

不同于一些文献(如Bierens, 1982)用指数族函数作为权重函数, 此处用示性函数作为权重函数. 采用基于示性函数加权得到的经验过程构造统计量(如cramer-von Mises统计量)可以避免不同积分函数的选择, 这是因为其通过

{X_{i}}_{i = 1}^{n}

的自然经验分布函数来计算.

根据泛函中心极限定理, (16)的

V_{n} (x)

会弱收敛于一个以分布函数

F (x)

为时间尺度的标准布朗运动, 即

B \circ F (x)

. 基于

V_{n} (x)

的检验满足渐近分布无关性. 同样的, 由于

V_{n} (x)

存在未知的参数

θ_{0}

与

σ

, 基于

V_{n} (x)

的检验是不可行的. 当

ε_{i}

中的

θ_{0}

与

σ

用估计量

\hat{θ}

与

\hat{σ}

代替得到

{\hat{ε}}_{i}

时, 对回归模型参数形式复合假设的设定检验可以基于如下

{\hat{ε}}_{i}

标记的参数经验过程:

\begin{aligned} {\hat{V}}_{n} (x) = \frac{1}{\sqrt{n}} \sum_{i = 1}^{n} {\hat{ε}}_{i} I (X_{i} \leq x) . \end{aligned}

(17)

类似于上文式(5)中对

{\hat{U}}_{n} (t)

的分析可以推导出:

\begin{aligned} {\hat{V}}_{n} (x) = V_{n} (x) - E [\dot{m} (X, θ_{0}) I (X \leq x) \sqrt{n} (\hat{θ} - θ_{0})] + o_{p} (1), \end{aligned}

(18)

其中,

\dot{m} (x, θ_{0}) ≜ \frac{\partial m (x, θ_{0})}{\partial θ_{0}}

. 由于式(18)右边第二项

E [\dot{m} (X, θ_{0}) I (X \leq x) \sqrt{n} (\hat{θ} - θ_{0})]

的存在,

{\hat{V}}_{n} (x)

所收敛到的极限过程会与

V_{n} (x)

不同. 此时

{\hat{V}}_{n} (x)

的极限过程会与原假设形式有关, 即不是标准布朗运动

B \circ F (x)

. 这也使得基于

{\hat{V}}_{n} (x)

的检验不再具有(渐近) 分布无关性. 为了使回归模型函数的设定检验统计量是渐近分布无关的, 可以对

{\hat{V}}_{n} (x)

进行Khmaladze鞅变换处理. 取

h (x) = \dot{m} (x, \hat{θ})

, 通过Khmaladze鞅变换公式(9)得到的

K_{h} ({\hat{V}}_{n} (x))

可以渐近地把参数经验过程中与原假设有关的成分

E [\dot{m} (X, θ_{0}) I (X \leq x) \sqrt{n} (\hat{θ} - θ_{0})]

剔除, 即:

\begin{aligned} K_{h} ({\hat{V}}_{n} (x)) = K_{h} (V_{n} (x)) + o_{p} (1) . \end{aligned}

(19)

由3.2节知

K_{h} (V_{n} (x))

会弱收敛于

B \circ F (x)

. 于是, 式(19)表明基于

K_{h} ({\hat{V}}_{n} (x))

构建的检验统计量渐近地不依赖于原假设与参数估计, 从而保证基于

K_{h} ({\hat{V}}_{n} (x))

的检验统计量具有渐近分布无关性.

4.2.2 Berkson测量误差模型

Berkson测量误差模型在医药、农业、经济等方面有广泛的应用. Koul and Song (2008, 2010a)将鞅变换方法应用于具有Berkson测量误差的模型检验. Song and Yao (2011)将鞅变换应用于存在测量误差的Tobit回归模型的检验. Balakrishna (2020)将鞅变换应用于存在测量误差的AR(1)模型的检验.

简单起见, 考虑回归模型(15), 实际应用中可能出现真实自变量

X

难以观测到的情况; 而直接观测的是替代变量

Z

, 其与真实变量

X

存在误差项

η

, 并假定

η

与

ξ

相互独立. 在经典的测量误差模型中, 往往假定

Z = X + η

. 这里

η

与真实变量

X

是相互独立的. 对于Berkson测量误差模型, 假定

X = Z + η

, Berkson测量误差模型同经典测量误差模型的不同之处就在于测量误差

η

与可观测变量

Z

相互独立. 测量误差文献常用如下校准回归模型(calibrated regression model):

\begin{aligned} Y = \tilde{m} (Z) + ς \end{aligned}

来估计

\tilde{m} (z) \equiv E [Y | Z = z] = E [m (X) | Z = z] = \int m (x) f_{η} (x - z) d x

, 其中

E (ς | Z) = 0

对于带有Berkson测量误差模型的检验可类似上文(17)构造标记参数经验过程. 不过, 此时要用观测到的变量

Z_{i}

代替不可观察变量

X_{i}

, 并用

\tilde{m} (Z_{i}, \hat{θ})

代替

m (X_{i}, \hat{θ})

, 其中,

\begin{aligned} \tilde{m} (z, θ_{0}) \equiv E [m (X, θ_{0}) | Z = z] = \int m (X, θ_{0}) f_{η} (x - z) d x . \end{aligned}

并用

s (z) \equiv {E [(Y - \tilde{m} (Z, θ_{0}))^{2} | Z = z]}^{1 / 2}

的相合估计量

\hat{s} (z)

来标准化残差

Y_{i} - \tilde{m} (Z_{i}, \hat{θ})

s (z)

可分解为两项之和, 即

s^{2} (z) = E [(m (X, θ_{0}) - \tilde{m} (Z, θ_{0}))^{2} | Z = z] + E [ξ^{2}]

. 在原假设成立时, Koul and Song (2008)在给定测量误差分布的条件下给出了相合估计量

\hat{s} (z)

. 从而得到如下标记参数经验过程:

\begin{aligned} {\hat{V}}_{n} (z) = \frac{1}{\sqrt{n}} \sum_{i = 1}^{n} \frac{Y_{i} - \tilde{m} (Z_{i}, \hat{θ})}{\hat{s} (Z_{i})} I (Z_{i} \leq z) . \end{aligned}

(20)

然而, 基于式(20)的检验统计量通常不满足渐近分布无关性. 为此, Koul and Song (2008)参照Stute et al. (1998)的做法讨论了对

{\hat{V}}_{n} (z)

的鞅变换. 其在一定条件下, 得出

{\hat{V}}_{n} (z)

与不含估计参数的经验过程

V_{n} (z)

满足如下渐近关系式:

\begin{aligned} {\hat{V}}_{n} (z) = V_{n} (z) - E [\frac{\dot{\tilde{m}} (Z, θ_{0})}{s (Z, θ_{0})} I (Z \leq z) \sqrt{n} (\hat{θ} - θ_{0})] + o_{p} (1), \end{aligned}

其中,

\dot{\tilde{m}} (\cdot, \hat{θ})

为

\tilde{m} (\cdot, \hat{θ})

对参数的导数,

\dot{\tilde{m}} (z, θ_{0}) = E [\dot{m} (z, θ_{0}) | Z = z]

. 此时Khmaladze鞅变换(9)需要的

h

函数为

h (\cdot) = \frac{\dot{\tilde{m}} (\cdot, \hat{θ})}{s (\cdot, \hat{θ})}

4.2.3 平衡混合效应模型

Khmaladze鞅变换也可应用于面板数据类型模型的设定检验, 如Song and Du (2010)将鞅变换应用于平衡混合效应模型(balanced mixed effects model) 中的固定效应函数形式的设定检验. 平衡混合效应模型主要用来处理具有复杂层级结构的数据, 例如对于临床试验研究的数据可以来自不同时期各种病人的观察, 其中来自不同病人的观察值可以认为相互独立, 而来自同一个病人的重复观察值将可能存在相关性. 对这类数据的研究可以采用平衡混合效应模型来研究:

\begin{aligned} Y_{i j} = m (X_{i}) + Z_{i j}^{T} β_{i} + ξ_{i j}, i = 1, \dots, n; j = 1, \dots, k . \end{aligned}

其中,

m (X_{i})

是回归模型的固定效应成分,

β_{i}

是

k \times 1

维i.i.d. 不可观测的随机效应的向量, 其均值向量为0协方差阵为

V_{β}

ξ_{i j}

是i.i.d. 的均值为0方差为

V_{ξ}

的扰动项. 一类重要研究是关注模型中的固定效应函数是否来自某参数函数

m (\cdot, θ)

. 为了构造相应的部分和过程, 定义:

\begin{aligned} S_{i} = \sum_{j = 1}^{k} [Y_{i j} - m (X_{i})] = \sum_{j = 1}^{k} [Z_{i j}^{T} β_{i} + ξ_{i j}] . \end{aligned}

容易验证

S_{i}

是i.i.d. 的均值为0, 条件方差为

V a r (S_{i} | X_{i}, Z_{i j}) = k V_{ξ} + {\tilde{Z}}_{i}^{T} V_{β} {\tilde{Z}}_{i}

, 进而构造如下部分和过程:

\begin{aligned} V_{n} (x) = \frac{1}{\sqrt{n}} \sum_{i = 1}^{n} \frac{S_{i}}{\sqrt{k V_{ξ} + {\tilde{Z}}_{i}^{T} V_{β} {\tilde{Z}}_{i}}} I (X_{i} \leq x) . \end{aligned}

上述经验过程在原假设条件下会收敛于以

X_{i}

的分布为时间尺度的标准布朗运动. 相应的参数经验过程为:

\begin{aligned} {\hat{V}}_{n} (x) = \frac{1}{\sqrt{n}} \sum_{i = 1}^{n} \frac{S_{i} (\hat{θ})}{\sqrt{k {\hat{V}}_{ξ} + {\tilde{Z}}_{i}^{T} {\hat{V}}_{β} {\tilde{Z}}_{i}}} I (X_{i} \leq x) . \end{aligned}

其中,

S_{i} (\hat{θ}) = \sum_{j = 1}^{k} [Y_{i j} - m (X_{i}, \hat{θ})]

. 此时参数经验过程的极限在原假设下不满足分布无关性, 其会依赖于

X_{i}

的分布、固定效应函数结构

m (\cdot, θ)

和

S_{i}

的条件方差. 为此, Song and Du (2010)将鞅变换应用于此平衡混合效应模型中的固定效应函数形式的设定检验. 此时, Khmaladze鞅变换需要

h (X_{i}, {\tilde{Z}}_{i}) = \frac{k \dot{m} (X_{i}, \hat{θ})}{\sqrt{k {\hat{V}}_{ξ} + {\tilde{Z}}_{i}^{T} {\hat{V}}_{β} {\tilde{Z}}_{i}}}

; 相关的变换公式与上文回归模型和测量误差模型的处理类似(见Song and Du, 2010).

4.2.4 连续时间扩散模型

连续时间扩散模型是刻画金融资产价格、收益等动态过程的有力工具. 许多金融变量都可以统一地描述为如下形式的时间齐次扩散过程:

\begin{aligned} d X_{t} = μ (X_{t}) d t + σ (X_{t}) d B_{t} . \end{aligned}

(21)

其中,

X_{t} \in D = (\underline{x}, \bar{x})

- \infty \leq \underline{x} < \bar{x} \leq + \infty

X_{t}

表示状态变量水平, 其服从分布

F (\cdot)

;

μ (X_{t})

为漂移函数,

σ (X_{t})

为波动(或扩散) 函数,

B_{t}

为标准维纳过程. 早期, 已有不少文献提出了漂移函数和波动函数的联合设定检验方法(见Chen et al. (2015)的简短综述). 实际应用中也存在对漂移函数或波动函数进行单独设定检验的需要. 例如我们只关心扩散模型的波动函数形式, 而又不希望对其判断受到漂移函数设定的影响; 反之亦然. 基于经验过程方法, 陈强等(2014, 2016)、Chen et al. (2015, 2022)先后将鞅变换方法应用于连续时间纯扩散模型中漂移函数、波动函数的单独检验与联合检验.

在此以波动函数设定检验为例, 考虑的原假设问题为波动函数的参数函数形式设定是否正确, 即:

H_{50} : σ^{2} (X_{t}) = σ^{2} (X_{t}, θ_{0}) \forall X_{t} \in D (a . s .) 对于某些未知的 θ_{0} \in Θ .

由于针对连续时间模型的统计推断是基于离散抽样的数据, 连续时间模型的设定检验通常需要将模型离散化. 式(21)的离散化版本为:

\begin{aligned} X_{i + 1} - X_{i} = μ (X_{i}) Δ_{n} + σ (X_{i}) \sqrt{Δ_{n}} ε_{i}, i = 0, \dots, n - 1, \end{aligned}

其中,

{ε_{i}}

为独立标准正态分布序列; 且对任意

s \leq i

{ε_{i}}

与

{X_{s}}

相互独立.

针对连续时间模型的离散抽样数据主要存在三种抽样机制; (i)

Δ_{n}

固定,

T \to \infty

, (ii)

Δ_{n} \to 0

T \to \infty

, (iii)

Δ_{n} \to 0

T

固定. 第(i)种抽样机制下的分析与离散时间模型的分析类似; (ii)与(iii)中抽样机制适合于高频数据的分析. 通常, 涉及漂移函数的统计推断需要

T \to \infty

, 而针对波动函数的统计推断允许

T \to \infty

或

T

固定. 根据Fan and Zhang (2003)知, 当

Δ_{n} \to 0

时, 有:

\begin{aligned} E (\frac{(X_{i + 1} - X_{i})^{2}}{Δ_{n}} | X_{i} = x) = σ^{2} (x) Δ_{n} + O (Δ_{n}), \end{aligned}

(22)

\begin{aligned} V a r (\frac{(X_{i + 1} - X_{i})^{2}}{Δ_{n}} | X_{i} = x) = 2 σ^{4} (x) (1 + O (Δ_{n})) . \end{aligned}

(23)

为了得到渐近分布无关的检验统计量, Chen et al. (2015)首先利用(22)与(23)得到标准化的残差, 进而构造如下标记经验过程:

\begin{aligned} V_{n} (x) = \frac{1}{\sqrt{2 n}} \sum_{i = 1}^{n} (\frac{(X_{i + 1} - X_{i})^{2}}{σ^{2} (X_{i}, θ_{0}) Δ_{n}} - 1) I (X_{i} \leq x) . \end{aligned}

该经验过程在原假设条件且

θ_{0}

给定时会收敛至标准布朗运动.

在实际应用中, 更多情况下我们并不知道

θ_{0}

的具体值, 因此必须首先对

θ_{0}

进行估计. 假定存在

θ_{0}

的某个

\sqrt{n}

-相合估计量

\hat{θ}

, 则对波动函数参数形式复合假设的设定检验可以基于如下标记参数经验过程:

\begin{aligned} {\hat{V}}_{n} (x) = \frac{1}{\sqrt{2 n}} \sum_{i = 1}^{n} (\frac{(X_{i + 1} - X_{i})^{2}}{σ^{2} (X_{i}, \hat{θ}) Δ_{n}} - 1) I (X_{i} \leq x) . \end{aligned}

Chen et al. (2015)给出

{\hat{V}}_{n} (x)

与

V_{n} (x)

满足如下渐近表达式:

\begin{aligned} {\hat{V}}_{n} (x) = V_{n} (x) + E [\frac{\sqrt{2} \dot{σ} (X, θ_{0})}{σ (X, θ_{0})} I (X \leq x) \sqrt{n} (\hat{θ} - θ_{0})] + o_{p} (1) . \end{aligned}

同理, 基于

{\hat{V}}_{n} (x)

构造的检验统计量的极限会依赖于原假设与参数估计. 为此, 取

h (x) = \frac{\sqrt{2} \dot{σ} (x, \hat{θ})}{σ (x, \hat{θ})}

, Chen et al. (2015)利用Khmaladze鞅变换(9)得到渐近分布无关性的检验统计量.

在离散时间模型框架下, 也有一些文献将鞅变换方法应用于回归模型残差的方差函数形式检验, 如Dette and Hetzler (2009, 2018)、Koul and Song (2010b). 对于一般回归模型残差方差函数的检验通常不存在高阶矩与低阶矩间的固定关系, 这些文献通常利用非参数估计把高阶矩的信息估计出来用于残差或过程的标准化. 连续时间扩散过程由于其特殊的函数结构(如式(22)与(23)体现的高阶矩与低阶矩间的联系), 使得对扩散模型的波动函数检验统计量不需要引入非参数估计方法或者将波动函数的原假设信息引入到残差的标准化处理(如Gao et al., 2008; Chen et al., 2019), 使得针对扩散模型波动函数的检验统计量更充分地利用了原假设信息, 从而让统计量具有更加优良的性质.

连续时间模型是高频数据环境的理想建模选择. 针对金融市场高频数据的建模除了涉及不同抽样机制的影响外, 很多时候还需要考虑市场的跳跃特征及微观噪音的影响. 为此, 陈强与龚玉婷(2020)、Chen et al. (2022)将鞅变换方法应用至跳跃扩散模型的检验, 提出对跳稳健的波动函数设定检验. Tan et al. (2022)、Chen et al. (2024)又将鞅变换方法应用至存在市场微观噪音时的波动函数设定检验. 从模拟表现来看, 基于鞅变换方法(Chen et al., 2024)比非参数方法(陈强等, 2024)在处理噪音环境下的波动函数设定检验表现更佳.

5 Khmaladze鞅转换的特征与问题

5.1 Khmaladze鞅变换计算特征

Khmaladze鞅变换公式(11)涉及较复杂的积分结构, 从而造成相关统计量的计算偏复杂, 这在一定程度上限制了Khmaladze鞅变换的广泛应用. 为了直观理解Khmaladze鞅变换的计算, 根据Bai (2003)的分析, 将Khmaladze鞅变换(11)的

{\hat{W}}_{n} (t) \equiv K_{g} ({\hat{U}}_{n} (t))

写成如下微分表达式:

\begin{aligned} d {\hat{W}}_{n} (t) = d {\hat{U}}_{n} (t) - g (s)^{T} Γ_{s}^{- 1} \int_{s}^{1} g (r) d {\hat{U}}_{n} (r) d s . \end{aligned}

(24)

式(24)可以解释为连续时间版本的递归最小二乘法(recursive least squares method) 的递归残差(recursive residua). 具体而言, 考虑离散时间数据的线性回归模型:

\begin{aligned} y_{i} = x_{i}^{T} β + e_{i} (i = 1, \dots, n), \end{aligned}

其中,

e_{i}

为i.i.d. 的误差项,

x_{i}

为非随机的自变量. 则基于该回归模型得到的残差估计值

{\hat{e}}_{i} = e_{i} - x_{i}^{T} (\hat{β} - β)

会依赖于普通最小二乘估计参数

\hat{β}

. 然后, 利用Khmaladze鞅变换微分表达式(24)可以将序列

{{\hat{e}}_{i}}_{i = 1}^{n}

转化为鞅差分序列(martingale-difference sequence). 在此把积分运算替换为求和运算, 并将

d {\hat{U}}_{n} (t)

、

g (s)^{T} d r

、

Γ_{s}

和

\int_{s}^{1} g (r) d {\hat{U}}_{n} (r)

分别看作

{\hat{e}}_{i}

、

x_{i}

、

\sum_{j = i + 1}^{n} x_{j} x_{j}^{T}

和

\sum_{j = i + 1}^{n} x_{j} {\hat{e}}_{j}

. 于是(24)可以表示为:

\begin{aligned} {\hat{e}}_{i} - x_{i}^{T} {(\sum_{j = i + 1}^{n} x_{j} x_{j}^{T})}^{- 1} \sum_{j = i + 1}^{n} x_{j} {\hat{e}}_{j} = y_{i} - x_{i}^{T} {\hat{β}}_{n - i}, \end{aligned}

(25)

其中,

{\hat{β}}_{n - i} = (\sum_{j = i + 1}^{n} x_{j} x_{j}^{T})^{- 1} \sum_{j = i + 1}^{n} x_{j} y_{j}

表示基于后

n - i

个观测值得到的最小二乘估计量. 只要对(25)做一定的常数正则变换便可得到第

i

个向后递归残差(backward recursive residual):

\begin{aligned} {\hat{ξ}}_{i} = \frac{y_{i} - x_{i}^{T} {\hat{β}}_{n - i}}{\sqrt{1 + x_{i}^{T} {(\sum_{j = i + 1}^{n} x_{j} x_{j}^{T})}^{- 1} x_{i}}} . \end{aligned}

可见, Khmaladze鞅变换可以将线性回归模型的普通最小二乘估计残差映射至递归最小二乘估计残差. 由于递归残差

{\hat{ξ}}_{i}

的鞅差分性质, 用其构造的部分和过程将会收敛于布朗运动. 相应的, 连续时间版本的递归残差(即式(24))的积分(即式(11)) 会收敛到布朗运动. Khmaladze鞅变换的递归最小二乘估计思想可以结合数值积分来计算Khmaladze鞅变换公式, 具体可参考Bai (2003)、Parker (2013)、Chen et al. (2015).

最近, Kim (2020)通过对Khmaladze鞅变换的结构分析提出一种更加快速、准确的计算方法, 其所提出算法的主要思想为“提前集成策略(the strategy of integration-in-advance)”. 由于Kim (2020)的研究结果仅限于对正态分布的假设检验, Kim (2023)进一步将此算法应用于位置尺度家族的非正态分布的假设检验. Kim对此算法提供了相关的R软件包“GofKmt”, 见 https://cran.r-project.org/web/packages/GofKmt/index.html (命令为: KhmaladzeTrans). 目前, R软件还提供了基于Khmaladze鞅变换的其它问题的检验程序包: 如Koenker and Xiao (2002, 2006)的分位数回归的软件包有“quantreg”和“Qtools”, 分别见 https://cran.r-project.org/web/packages/quantreg/index.html (命令为: KhmaladzeTest)与 https://cran.r-project.org/web/packages/Qtools/index.html (命令为: KhmaladzeFormat); Chung and Olivares (2021)的排列检验(permutation test)的软件包为“RATest”, 见 https://cran.r-project.org/web/packages/RATest/index.html (命令为: PT.Khmaladze.fit、PT.Khmaladze.fit和PTQTE.Khmaladze.fit).

5.2 基于Khmaladze鞅变换检验的功效特征

基于Khmaladze鞅变换的检验统计量一般都能达到

\sqrt{n}

-的局部功效, 这也是大部分检验统计量所能达到的局部功效. Khmaladze鞅变换的一个很重要的优点是可以得到渐近分布无关的计量检验方法. 有了渐近分布无关的检验统计量, 便可以很方便地得到相应检验统计量的检验临界值; 而且分布无关的检验方法能够较好地避免或减轻因不同数据特征差异对估计和检验结果的影响. 因此, Khmaladze鞅变换是处理Durbin问题的一个便捷方法.

多数情况下, Khmaladze鞅变换被看作是自助法的一个很好的替代. 正如上文提到过, 自助法应用起来比较麻烦且耗时, 而基于Khmaladze鞅变换方法的检验统计量的应用相对要方便. 除此之外, 基于Khmaladze鞅变换的检验方法还可能比基于自助法的检验方法有更好的检验效果. Koul and Sakhanenko (2005)针对非线性回归模型的检验, 通过蒙特卡罗模拟比较了基于Khmaladze鞅变换的Kolmogorov-Smirnor检验方法与其他若干种基于自助法的检验方法. Koul and Sakhanenko (2005)模拟结果发现: 基于Khmaladze鞅变换的检验方法总体上要好于基于自助法的检验方法. Kim (2016)还通过模拟比较了鞅变换方法与经验似然(empirical likelihood)法对单样本位置尺度族分布函数的检验效果, 结果表明鞅变换方法在大多数情形下具有更好的检验功效. 之所以Khmaladze鞅变换方法对参数经验过程做了投影后仍保持比较好的检验功效的一个重要原因在于: 它是线性的垂直映射和保距映射.

然而, 采用Khmaladze鞅变换方法并不是没有代价的. 正如Song (2010)所述, 对于某些备择假设, Khmaladze鞅变换方法可能会增大检验统计量的功效; 而对于另一些备择假设, Khmaladze鞅变换方法可能会减小检验统计量的功效, 甚至检验统计量在某个方向的功效被完全消除. 不过, Khmaladze鞅变换方法的这一不利影响方向通常是可以找到的, 并且其影响通常也是很微小的. 为了具体说明此问题, 对上文原假设

H_{20}

的检验, 考虑如下局部备择假设:

\begin{aligned} H_{21} : F (\cdot) \in {(1 - \frac{δ}{\sqrt{n}}) F (\cdot, θ) + \frac{δ}{\sqrt{n}} H (\cdot, θ) : θ \in Θ} . \end{aligned}

其中,

F (\cdot, θ)

与

H (\cdot, θ)

是不同的函数. 根据Bai (2003)的推导过程, 可以类似得到:

\begin{aligned} {\hat{U}}_{n} (t) = U_{n} (t) - \bar{g} (t)^{T} \sqrt{n} (\hat{θ} - θ_{0}) + δ κ (t) + o_{p} (1), \end{aligned}

其中,

κ (t) \equiv p lim \frac{1}{n} \sum_{i = 1}^{n} H_{i} (F_{i}^{- 1} (t, θ_{0}), θ_{0}) - t

显然在

H_{21}

下,

κ (t) \neq 0

. 对(8)式的

{\hat{U}}_{n} (t)

进行Khmaladze鞅变换可以得到:

\begin{aligned} K_{g} ({\hat{U}}_{n} (t)) \Rightarrow B (t) + δ κ (t) - δ T_{g} (κ (t)) + o_{p} (1), \end{aligned}

(26)

其中,

K_{g}

与

T_{g}

定义见(8)式. 由式(26)知, 当

\begin{aligned} κ (t) - T_{g} (κ (t)) = 0 \end{aligned}

(27)

时, 基于

K_{g} ({\hat{U}}_{n} (t))

的检验统计量将不具有检验功效. 因此, 这可以看作是利用Khmaladze鞅变换方法的一个成本. 不过, 这样的成本影响是微乎其微的. 根据Bai (2003)的引理2知, 式(27)成立当且仅当存在某常数向量

c (t) = Γ_{g} (t)^{- 1} \int_{t}^{1} g (r) κ (r) d r

(记为

c

) 使得

κ (t) = c^{T} g^{*} (t)

. 而是否存在这样的常数向量

c

仍不得而知. 实际上, Bai (2003)分析表明对于所有的位置尺度模型,

κ (t) = c^{T} g^{*} (t)

当且仅当

c = 0

. 可见, 至少对于所有位置尺度模型, Khmaladze鞅变换方法都不会改变检验统计量的相合性.

5.3 多维Khmaladze鞅变换问题

由于多维的鞅过程结构复杂, 且存在较多限制条件(见Gikhman, 1982; Nualart, 1983), 对多维随机变量形成的经验过程进行上述类似Khmaladze鞅变换处理存在不少困难, 如多维极限过程不唯一以及维数诅咒(curse of dimensionality) 问题.

首先, 关于多元随机变量分布的检验, Khmaladze(1988, 1993)提出了扫描式的鞅方法来变换多维经验过程得到渐近分布无关性. 从而, 将此鞅变换理论推广到多维分布的拟合检验以及更抽象的泛函分布的检验. 基于扫描式的鞅方法, Angrist and Kuersteiner (2011)将鞅变换方法与Rosenblatt变换结合, 对因果效应的时间序列模型提出了一套半参数的条件独立检验方法; Delgado and Stute (2008)同样结合了Rosenblatt变换, 将鞅变换方法应用于二维的参数条件分布的检验. 关于Copula检验的一些文献(如Can et al., 2015, 2020; Lu and Zheng, 2020)都利用到了扫描式的鞅方法来处理多维经验过程的鞅变换.

简单而言, Khmaladze通过定义一族正交投影算子

{π_{λ}}

0 \leq λ \leq 1

来构建新息过程(innovation process) 的增量. 为了直观理解该正交投影算子的构造, 定义扫描族(scanning family)

{A_{λ} : 0 \leq λ \leq 1}

为

d

维实数空间

R^{d}

的一族可测子集, 且满足: (i)

λ \leq λ^{'} \Rightarrow A_{λ} \subset A_{λ^{'}}

, (ii)

L (A_{0}) = 0, L (A_{1}) = 1

, (iii)

λ^{'} \to λ \Rightarrow L (A_{λ^{'}} ∖ A_{λ}) \to 0

, 其中

L (A)

表示子集

A

的勒贝格测度. 则对于函数

f (x)

做此投影的运算结果为

π_{λ} f (x) = I (x \in A_{λ}) f (x)

, 与其互补的投影运算结果为

π_{λ}^{⊥} f (x) = I (x \notin A_{λ}) f (x)

. 若对任意

0 \leq λ \leq 1

, 矩阵

C_{λ} = ⟨ π_{λ}^{⊥} q, π_{λ}^{⊥} q^{T} ⟩

非奇异. 则

\hat{w} (f) = \hat{v} (f) - \int ⟨ f, d π_{λ}^{⊥} q^{T} ⟩ C_{λ} \hat{v} (π_{λ}^{⊥} q)

是关于参数函数经验过程

\hat{v} (f)

的扫描式新息(scanning innovation), 其中

q

为参数经验过程

\hat{v} (f)

相应的得分向量. 此处的子集族

{A_{λ}}

的选择不唯一. 需要说明的是

{A_{λ}}

的不同选择也会影响检验功效, 但还没有文献对最优的

{A_{λ}}

探讨过. 特别的, 当

d = 1

时,

\hat{w} (f)

就退化为上文一维的鞅变换表达式(8).

由于针对多维经验过程的Khmaladze鞅变换不唯一, 且比较复杂. 一些研究将多元经验过程问题降为一维经验过程后再应用一维的Khmaladze鞅变换构建渐近分布无关的检验统计量(如Bai and Chen, 2008).

其次, 针对回归模型(15), 当

X

为多维变量(

d > 1

), 若基于自变量向量联合分布构造多维经验过程, 同样会遇到多维经验过程的鞅变换问题. 对此, Khmaladze and Koul (2004)也给出基于扫描式的鞅方法, 并指出构建鞅变换的经验过程只需要基于

X

构建的扫描族

{A_{z} : z \in R}

是关于

z

严格递增绝对连续函数. 例如, 令

X^{j}

表示

d

维变量

X

的第

j

分量, 若

X^{1}

的边际分布是绝对连续, 我们就可以用

A_{z} = {x \in R : x^{1} \leq x}

作为扫描族; 亦或若

X^{1} + \dots + X^{d}

的分布是绝对连续, 我们就可以用

A_{z} = {x \in R : x^{1} + \dots + x^{d} \leq x}

作为扫描族.

不同于扫描式的鞅方法, Stute and Zhu (2002)在i.i.d. 框架下通过对广义线性模型的自变量向量

X

进行投影降维成

β^{T} X

, 可得到如下标记的经验过程:

\begin{aligned} V_{n} (x) = \frac{1}{\sqrt{n}} \sum_{i = 1}^{n} \frac{Y_{i} - m (β_{0}^{T} X, θ_{0})}{v} I (β_{0}^{T} X_{i} \leq x) . \end{aligned}

(28)

与式(16)不同, 式(28)涉及两类参数(即

β_{0}

与

θ_{0}

)需要估计. 通过估计

β_{0}

与

θ_{0}

得到估计的参数经验过程后再利用Khmaladze鞅变换得到渐近分布无关的模型检验统计量.

不论是Khmaladze and Koul (2004)基于扫描式的鞅变换检验方法, 还是Stute and Zhu (2002)的投影后再鞅变换的检验方法, 都只是基于原假设下模型结构的部分维度的信息; 因此它们是一种方向性检验(directional test), 不具备全局性(omnibus), 即不能对所有的备择假设保持相合性.

为了得到既克服维数诅咒问题又具备全局性的多元参数回归模型的检验统计量, Escanciano (2006)同样采用了对自变量向量

X

进行投影降维成

β^{T} X

的方法来克服多维变量的维数诅咒问题. 与Stute and Zhu (2002)只考虑将检验的方向固定到

β_{0}

不同, Escanciano (2006)同时考虑了

β \in S_{d}

(

S_{d} = {β \in R^{d} : | β | = 1}

)的所有方向. 为了统计量的计算可行, Escanciano (2006)定义新的Cramer-von Mises检验统计量将

β

积分消去. 理论上, Escanciano检验统计量虽然具备全局性, 但Escanciano (2006)也指出其检验效果未必一定优于Bierens (1982)或Stute (1997)的检验统计量. 另外, Escanciano检验统计量的极限分布会依赖于实际数据生成过程(DGP)与原假设形式, 即不满足分布无关性; 因此其无法得到具有一般性的检验临界值, 而需要通过自助法(bootstrap)完成检验.

最近, Tan et al. (2018, 2019)结合Guo et al. (2016)所提出的适应于模型(adaptive-to-model)的降维技术和Khmaladze鞅变换探讨了高维回归模型的检验, 提出了同时满足全局性和渐近分布无关性的检验统计量. Tan et al. (2019)还进一步拓展了这类检验于自变量向量维度可以至无求大的情形. 这些高维模型的检验的众多文献也是通过投影降维后再应用Khmaladze鞅变换.

6 Khmaladze酉变换

6.1 Khmaladze酉变换产生的理论背景

Khmaladze酉变换的初衷是将离散分布的皮尔森卡方检验的渐近分布无关性, 推广至包括多维参数分布在内的一般情形. 由上文知, 针对一维连续分布函数, 根据Kolmogorov (1933), 通过变换时间为

t = F (x)

, 可以得到分布无关的均匀经验过程. 基于此, 众多关于连续分布函数的渐近分布无关的检验统计量被提出. 然而在很长一段时间里, 除了皮尔森卡方检验统计量外, 针对离散分布的检验统计量都不满足分布无关性(见Khmaladze, 2013; Koul and Koenker, 2016). 也就是说, 针对离散分布函数的拟合检验无法通过类似Kolmogorov变换构造出多种满足渐近分布无关性的检验统计量. 为了让离散分布的参数函数检验也能有类似连续分布检验的渐近分布无关的统计量, Khmaladze(2013, 2016)提出第二种变换: Khmaladze酉变换.

为了具体说明针对离散分布函数的拟合检验存在的问题, 考虑总样本量为

n

的样本分配为

N

组, 每组出现样本的频率为

(v_{i n})_{i = 1}^{N}

. 令

p = (p_{1}, \dots, p_{N})

为对应的离散概率密度向量, 则所有

p_{i} > 0

且

\sum_{i = 1}^{N} p_{i} = 1

. 考虑其对应的卡方检验统计量的成分:

\begin{aligned} Y_{i n} = \frac{v_{i n} - n p_{i}}{\sqrt{n p_{i}}} . \end{aligned}

根据Khmaladze (2013)知向量

Y_{n} \equiv (Y_{1 n}, \dots, Y_{N n})

会收敛至以下极限过程:

\begin{aligned} Y_{p} = Λ - ⟨ Λ, \sqrt{p} ⟩ \sqrt{p} . \end{aligned}

(29)

其中,

Λ \equiv (Λ_{i})_{i = 1}^{N}

独立标准正态随机变量的向量,

⟨ \cdot, \cdot ⟩

表示内积运算,

Y_{p}

可视为将

Λ

投影至向量

\sqrt{p} = ({\sqrt{p}}_{i})_{i = 1}^{N}

后得到的残差项. 显然,

Y_{p}

的分布会依赖于

\sqrt{p}

. 令人意外的是基于

Y_{n}

的卡方统计量

⟨ Y_{n}, Y_{n} ⟩ = \sum_{i = 1}^{N} Y_{i n}^{2}

会收敛至自由度为

N - 1

的卡方分布, 即其极限分布不依赖于

\sqrt{p}

考虑如下基于

Y_{i n}

的部分和过程:

\begin{aligned} \sum_{i = 1}^{k} \frac{v_{i n} - n p_{i}}{\sqrt{n p_{i}}} 或 \sum_{i = 1}^{k} \frac{v_{i n} - n p_{i}}{\sqrt{n}}, k = 1, 2, \dots, N . \end{aligned}

其可以看作基于离散分布版本的经验过程. 根据上文分析知该部分和过程会依赖于

\sqrt{p}

. 自然的疑问是上述部分和过程是否也可以变换出类似连续分布所构造渐近分布无关的经验过程. 一些学者试图探讨针对离散分布来构造渐近分布无关的检验统计量. 如Greenwood and Nikulin (1996)提出用片段线性(piece-wise linear) 阶梯分布函数

\tilde{F}

代替离散分布函数, 这为通过时间尺度变换

t = \tilde{F} (x)

构造渐近分布无关检验统计量提供了可能性. 然而, 即使不去质疑对阶梯函数取值的近似误差影响, Greenwood and Nikulin (1996)的方法也只适用于一维随机变量情形. 为此, Khmaladze(2013, 2016)提出了一个新的变换试图将卡方检验统计量中的成分

Y_{n}

映射至渐近分布无关的向量

Z_{n}

(见下文(30)式). 从而, 基于

Z_{n}

所构建的检验统计量同样满足渐近分布无关性.

6.2 Khmaladze酉变换原理

Khmaladze酉变换的大致想法是: 在检验分布

p

是否为真实分布时, 我们将基于(29)式的

Y_{p}

进行推断; 而在检验另一分布

q

是否为真实分布时, 我们将类似地基于

Y_{q}

进行推断. 其中,

Y_{p}

和

Y_{q}

都可以看作是

X

的投影. 在此情形下, 若我们能将其中一种投影映射至另一投影(如把对

p

的检验问题映射至对

q

的检验问题, 或者都映射至另一个对

τ

的检验问题); 那么, 我们就可以选择某个特定的

τ

(如

N

维均匀分布), 使得检验问题变成标准化的检验, 以便于构造渐近分布无关的检验统计量.

根据上文6.1节知,

Y_{n}

的极限

Y_{p}

可视为将

Λ

投影至向量

\sqrt{p} = ({\sqrt{p}}_{i})_{i = 1}^{N}

后得到的残差项. 且

Y_{p}

的分布会依赖于

\sqrt{p}

. 为了得到渐近分布无关的检验统计量, Khmaladze (2013)建议将关于分布

p

的检验问题转化为具有

N

维离散均匀分布的检验问题. 具体而言, Khmaladze酉变换应用到如下酉算子进行投影映射:

\begin{aligned} U_{ϕ_{1}, ϕ_{2}} = I - \frac{2}{∥ ϕ_{1} - ϕ_{2} ∥_{F}^{2}} (ϕ_{1} - ϕ_{2}) ⟨ ϕ_{1} - ϕ_{2}, \cdot ⟩_{F}, \end{aligned}

其中,

I

为恒等算子(identity operator),

ϕ_{1}

、

ϕ_{2}

为任意平方可积函数,

∥ ϕ_{1} - ϕ_{2} ∥_{F}^{2} = 2 (1 - ⟨ ϕ_{1}, ϕ_{2} ⟩)

表示两个函数间的Hellinger距离. 该酉算子

U_{ϕ_{1}, ϕ_{2}}

将

ϕ_{1}

映射到

ϕ_{2}

上, 且将

ϕ_{2}

映射到

ϕ_{1}

; 而将所有与

ϕ_{1}

或

ϕ_{2}

垂直的成分映射到自身; 即:

U_{ϕ_{1}, ϕ_{2}} ϕ_{1} = ϕ_{2}

U_{ϕ_{1}, ϕ_{2}} ϕ_{2} = ϕ_{1}

及

U_{ϕ_{1} - ϕ_{2}} ϕ_{3} = ϕ_{3}, \forall ϕ_{3} ⊥ ϕ_{1}, ϕ_{2}

取

ϕ_{1}

为

q = \sqrt{p}

、

ϕ_{2}

为

τ = (1 / \sqrt{N}, \dots, 1 / \sqrt{N})^{T}

(Khmaladze (2013)还给出了其他形式的

τ

向量, 只要求其为单位范数的向量即可), 并对向量

Y_{n}

作酉变换, 由此得到的

U_{q, τ} Y_{n} = Z_{n} = (Z_{i n})_{i = 1}^{N}

满足:

\begin{aligned} Z_{n} & = Y_{n} - ⟨ Y_{n}, τ ⟩ \frac{1}{1 - ⟨ \sqrt{p}, τ ⟩} (τ - \sqrt{p}) . \end{aligned}

(30)

\begin{aligned} Z_{i n} & = \frac{v_{i n} - n p_{i}}{\sqrt{n p_{i}}} - \frac{1}{\sqrt{N}} \sum_{j = 1}^{N} \frac{v_{j n} - n p_{j}}{\sqrt{n p_{j}}} \frac{1}{1 - \sum_{j = 1}^{m} \sqrt{p_{j} / N}} (\frac{1}{\sqrt{N}} - \sqrt{p_{j}}) . \end{aligned}

(31)

向量

Z_{n} = (Z_{1 n}, \dots, Z_{m n})

会收敛至以下极限过程:

\begin{aligned} Z = Λ - ⟨ Λ, τ ⟩ τ = Λ - \frac{1}{N} ⟨ Λ, ι ⟩ ι, \end{aligned}

其中

ι = (1, \dots, 1)^{T}

为

N

维的单位向量. 该极限过程不依赖于

\sqrt{p}

. 相应的, 对离散分布

p

的检验问题被转化成相同维度的均匀分布的检验问题. 此时, 部分和过程

\sum_{i = 1}^{k} Z_{i n}

渐近表现为离散版本的布朗桥形式. Khmaladze (2015)还基于酉变换探讨了不同布朗桥之间的相互变换关系.

6.3 包含估计参数情形

当所检验的离散分布函数存在未知参数

θ

时, 离散分布的未知参数

θ

可用其

\sqrt{n}

-相合估计

\hat{θ}

代替, 从而得到:

\begin{aligned} {\hat{Y}}_{i n} = \frac{v_{i n} - n p_{i} ({\hat{θ}}_{n})}{\sqrt{n p_{i} ({\hat{θ}}_{n})}} . \end{aligned}

Khmaladze (2013)证明了

{\hat{Y}}_{n} = ({\hat{Y}}_{1 n}, \dots, {\hat{Y}}_{N n})

会收敛至以下高斯向量:

\begin{aligned} {\hat{Y}}_{p} = Λ - ⟨ Λ, \sqrt{p} ⟩ \sqrt{p} - ⟨ Λ, \hat{q} ⟩ \hat{q}, \end{aligned}

其中,

\hat{q}

为与参数估计产生的得分函数

\dot{p} / \sqrt{p}

有关的向量(

\dot{p}

表示

p (θ)

对参数

θ

的导数), 且满足

\sqrt{p} ⊥ \hat{q}

. 可见, 极限过程

{\hat{Y}}_{p}

可视为将

Λ

投影至向量

\sqrt{p} = ({\sqrt{p}}_{i})_{i = 1}^{m}

和

\dot{p} / \sqrt{p}

后得到的残差项. 此时的极限不仅依赖于

\sqrt{p}

, 还依赖于参数估计.

为了消除分布函数设定和参数估计的影响, 同样可以对

{\hat{Y}}_{n}

做酉变换来实现. 具体而言, 取两个相互垂直的单位范数的

N

维向量

τ

、

\hat{τ}

(如取

τ = (1 / \sqrt{N}, \dots, 1 / \sqrt{N})^{T}

和

\hat{τ} = (1 / \sqrt{N}, \dots, 1 / \sqrt{N}, - 1 / \sqrt{N}, \dots, - 1 / \sqrt{N})^{T})

使得

\sum_{i = 1}^{N} {\hat{τ}}_{i} = 0

. Khmaladze (2013)指出

\hat{τ}

可视为对

τ

标准化的得分函数. 进而对

{\hat{Y}}_{n}

依次做酉变换

{\hat{Z}}_{n} = U_{\tilde{q} \hat{τ}} U_{q τ} {\hat{Y}}_{n}

得到

{\hat{Z}}_{n} = ({\hat{Z}}_{1 n}, \dots, {\hat{Z}}_{N n})

的极限高斯向量为:

\begin{aligned} \hat{Z} = Λ - ⟨ Λ, τ ⟩ τ - ⟨ Λ, \hat{τ} ⟩ \hat{τ} . \end{aligned}

此极限向量

\hat{Z}

只依赖于

τ

和

\hat{τ}

, 而不依赖于

p (θ)

. 之所以如此的大致原理为:

U_{q, τ}

首先将

{\hat{Y}}_{n}

中的

q = \sqrt{p (θ)}

映射至

τ

, 且将

\hat{q}

映射至

\tilde{q} = U_{q, τ} \hat{q}

. 根据酉变换的性质有

τ ⊥ \tilde{q}

. 由于

\tilde{q}

、

\hat{τ}

都与

τ

垂直, 则酉变换

U_{\tilde{q}, \hat{τ}}

将不改变

U_{q τ} {\hat{Y}}_{n}

中的

τ

, 而会将

U_{q τ} {\hat{Y}}_{n}

中的

\tilde{q}

映射至

\hat{τ}

. 因此可以基于

{\hat{Z}}_{n}

构造渐近分布无关检验统计量.

6.4 拓展与应用

学术界对Khmaladze酉变换的探讨与应用仍十分有限. Khmaladze (2016)将上述基于卡方检验统计量的酉变换引入到经验过程的酉变换分析, 拓展了酉变换至更一般的多维分布函数的检验(包括连续分布、离散分布, 简单假设、复合假设等情形); 并探讨了此酉变换的唯一性、变换后的过程收敛速度等问题. Khmaladze(2017, 2021a)进一步将酉变换方法拓展至包含协变量(covariate) 情形的分布函数拟合检验及一般参数回归模型的检验. Khmaladze(2020, 2021b, 2021c)将酉变换方法分别应用于点过程随机强度函数、马尔可夫序列转移密度函数及连续时间Ornstein-Uhlenbeck过程的检验. Dumitrescu and Khmaladze (2019)将酉变换方法应用于色盲问题的边际分布函数检验.

Nguyen(2017a, 2018)在列联表(contingency table) 框架下基于Khmaladze酉变换研究了两个离散随机变量的独立性检验. Nguyen (2017b)还基于Khmaladze酉变换探讨了规则变化尾分布(regularly varying tail distributions)的检验. Roberts (2019)将酉变换方法应用于来自单一分布族伯努利实验(Bernoulli trials) 的拟合检验. Roberts (2021)通过引入一些简化条件从更基础的方式重新系统地推导了Khmaladze酉变换. Roberts et al. (2023)将Khmaladze酉变换应用拉普拉斯分布族的检验. Bancolita (2019)对Khmaladze酉变换的不同方法做了比较分析. 目前, 仍很少有文献将Khmaladze酉变换应用于实际数据的实证分析. Kennedy (2018)将Khmaladze酉变换应用于高频外汇数据的分析.

7 总结与展望

为了解决检验理论中Durbin问题, Khmaladze先后提出了两种不同形式的变换: 鞅变换和酉变换. Khmaladze所提出的两种变换都是通过特定的数学变换, 对经验过程进行投影, 获得不依赖于特定分布函数的经验过程, 从而可以基于变换后的经验过程构造渐近分布无关的检验统计量. 其中, Khmaladze鞅变换是将某经验过程(通常是某种布朗桥) 投影成布朗运动, 而Khmaladze酉变换是将某经验过程(如布朗桥) 投影成另一种布朗桥, 并且不会丢失任何统计信息(Roberts, 2021). 另外, 针对分布函数的拟合检验, Khmaladze鞅变换可用于连续分布的简单假设和复合假设的检验; 而Khmaladze酉变换不仅适用于连续分布情形, 也适用于离散分布情形. 总之, 从最初的分布函数拟合检验问题到回归模型的设定检验问题, 再到半参数非参数模型的检验问题等, Khmaladze变换的理论自身已被不断拓展和完善. 该理论方法也已逐渐被广泛应用于各类检验问题的研究中.

根据上文对Khmaladze变换的理论与应用的总结, 本文认为其仍存在一些值得进一步探讨的问题.

首先, 目前关于Khmaladze变换的理论主要集中于模型设定检验方法的应用, 暂未有其在估计方法的应用. Khmaladze变换的其中一个重要作用就是消除参数估计误差对统计量的影响. 对于一些需要采用分阶段估计模型的情形, 或许可以在前面阶段的估计参考Khmaladze变换方法抵消其对后面阶段估计的影响. 因此, 能否将Khmaladze变换方法拓展至估计方法的研究仍需要进一步摸索.

其次, Khmaladze变换与自助法都可以处理检验理论中Durbin问题. 通常认为两者可以相互替代. 但在有些情形, 自助法可能无能为力时, 此时可以考虑应用Khmaladze变换. 例如, Vetter and Dette (2012)提出的波动函数设定检验方法, 在存在噪声的情况下, 需要通过自助法来确定检验统计量的临界值. 然而, 自助法需要对噪声进行模拟, 这在处理具有相依性噪声的情况时变得复杂且难以应用. 相比之下, 基于Khmaladze变换的检验方法提供了一种替代方案, 它能够绕过对噪声模拟的需要, 从而可能适用于包含相依性噪声的情形. 因此, 在将来的理论方法研究中可以多挖掘和发展Khmaladze变换在类似相关情形的应用.

第三, Khmaladze鞅变换的一个很大优点是可以得到具有分布无关性的检验统计量, 从而在检验过程可以避开采用耗时的自助法. 这对于讲究时间成本的检验方法十分有利, 如高频数据模型的实时诊断检验等. 此外, 其对于一些在线数据更新、递归模型的诊断检验方法的研究也有参考价值.

最后, Khmaladze鞅变换方法已逐渐被广泛应用于各类检验问题的研究中. 然而, Khmaladze酉变换方法仍未得到学术界的广泛探讨. 相关的理论与应用还有不少问题需要探索.

参考文献

原文顺序 | 文献年度倒序 | 文中引用次数倒序

陈强, 陈娟, 陈道轮, 美元指数的动态演化机理——基于扩散模型的实证分析[J]. 国际金融研究, 2016, 4, 37- 48.

https://www.cnki.com.cn/Article/CJFDTOTAL-GJJR201604004.htm

Chen

, Chen

D L

, The Dynamic Evolution Mechanism of the U.S. Dollar Index: Empirical Analysis Based on Diffusion Models[J]. Studies of International Finance, 2016, 4, 37- 48.

https://www.cnki.com.cn/Article/CJFDTOTAL-GJJR201604004.htm

本文引用 [1]

陈强, 龚玉婷, 基于近邻截断的跳跃扩散过程波动函数的设定检验[J]. 中国管理科学, 2020, 28(7): 45- 56.

https://www.cnki.com.cn/Article/CJFDTOTAL-ZGGK202007005.htm

Chen

, Gong

Y T

, Specification Test of Volatility Functions in Jump Diffusion Processes Using Nearest Neighbor Truncation[J]. Chinese Journal of Management Science, 2020, 28(7): 45- 56.

https://www.cnki.com.cn/Article/CJFDTOTAL-ZGGK202007005.htm

本文引用 [1]

陈强, 刘伟强, 胡美娣, 微观噪音下扩散模型波动函数的非参数设定检验及其应用[J]. 应用数学学报, 2024, 47(3): 443- 463.

https://www.cnki.com.cn/Article/CJFDTOTAL-YYSU202403006.htm

Chen

, Liu

W Q

, Hu

M D

, Nonparametric Specification Test for Volatility Function in Diffusion Model and Its Applications Under Microstructure Noise[J]. Acta Mathematicae Applicatae Sinica, 2024, 47(3): 443- 463.

https://www.cnki.com.cn/Article/CJFDTOTAL-YYSU202403006.htm

本文引用 [1]

陈强, 郑旭, 许秀, 基于鞅转化的利率模型漂移函数的设定检验[J]. 管理科学学报, 2014, 17(11): 43- 56.

https://www.cnki.com.cn/Article/CJFDTOTAL-JCYJ201411005.htm

Chen

, Zheng

, Xu

, Martingale-transformation-based Specification Test for Drift Function of Interest Rate Model with Applications[J]. Journal of Management Sciences in China, 2014, 17(11): 43- 56.

https://www.cnki.com.cn/Article/CJFDTOTAL-JCYJ201411005.htm

本文引用 [1]

夏强, 梁茹冰, 李高荣, 参数单指标分位数自回归模型的诊断检验[J]. 中国科学: 数学, 2019, 49(6): 879- 898.

https://www.cnki.com.cn/Article/CJFDTOTAL-JAXK201906002.htm

Xia

, Liang

R B

, Li

G R

, Model Checking for Parametric Single-index Quantile Autoregression[J]. SCIENTIA SINICA Mathematica, 2019, 49(6): 879- 898.

https://www.cnki.com.cn/Article/CJFDTOTAL-JAXK201906002.htm

本文引用 [1]

Akritas

M G

, Van Keilegom

, Nonparametric Estimation of The Residual Distribution[J]. Scandinavian Journal of Statistics, 2001, 28, 549- 567.

https://doi.org/10.1111/1467-9469.00254

本文引用 [2]

Andersen

P K

, Borgan

, Gill

R D

, Keiding

, Statistical Models Based on Counting Processes[M]. New York: Springer, 1993.

本文引用 [1]

Angrist

J D

, Kuersteiner

G M

, Causal Effects of Monetary Shocks: Semiparametric Conditional Independence Tests With a Multinomial Propensity Score[J]. Review of Economics and Statistics, 2011, 93, 725- 747.

https://doi.org/10.1162/REST_a_00109

本文引用 [1]

Bai

, Testing Parametric Conditional Distributions of Dynamic Models[J]. Review of Economics and Statistics, 2003, 85, 531- 549.

https://doi.org/10.1162/003465303322369704

本文引用 [11]

Bai

, Chen

, Testing Multivariate Distributions in GARCH Models[J]. Journal of Econometrics, 2008, 143(1): 19- 36.

https://doi.org/10.1016/j.jeconom.2007.08.012

本文引用 [1]

Bai

, Ng

, A Consistent Test for Conditional Symmetry in Time Series Models[J]. Journal of Econometrics, 2001, 103, 225- 258.

https://doi.org/10.1016/S0304-4076(01)00044-6

本文引用 [1]

Balakrishna

, Kim

, Koul

H L

, Lack-of-fit of a Parametric Measurement Error AR(1) Model[J]. Statistics & Probability Letters, 2020, 166, 108872.

本文引用 [1]

Bancolita J, (2019). Numerical Investigation of Khmaladze Projection Approach in Regression[R]. Research Report, SMS VUW.

本文引用 [1]

Bickel

P J

, A Distribution Free Version of the Smirnov Two-sample Test in the Multivariate Case[J]. Annals of Mathematical Statistics, 1969, 40, 1- 23.

https://doi.org/10.1214/aoms/1177697800

本文引用 [1]

Bickel

P J

, Ritov

, Stoker

T M

, Tailor-made Tests for Goodness of Fit to Semiparametric Hypotheses[J]. Annals of Statistics, 2006, 34(2): 721- 741.

本文引用 [1]

Bierens

, Consistent Model Specification Tests[J]. Journal of Econometrics, 1982, 20, 105- 134.

https://doi.org/10.1016/0304-4076(82)90105-1

本文引用 [3]

Can

S U

, Einmahl

, Khmaladze

E V

, Laeven

, Asymptotically Distribution-free Goodness-of-fit Testing for Tail Copulas[J]. Annals of Statistics, 2015, 43(2): 878- 902.

本文引用 [2]

Can

S U

, Einmahl

, Laeven

, Goodness-of-fit Testing for Copulas: A Distribution-free Approach[J]. Bernoulli, 2020, 26(4): 3163- 3190.

本文引用 [2]

Chen

, Gong

, Wang

, Empirical-process-based Specification Tests for Diffusion Models[J]. Canadian Journal of Statistics, 2023, 51(4): 1055- 1083.

https://doi.org/10.1002/cjs.11745

Chen

, Hu

, Song

, A Nonparametric Specification Test for The Volatility Functions of Diffusion Processes[J]. Econometric Reviews, 2019, 38(5): 557- 576.

https://doi.org/10.1080/07474938.2017.1365428

本文引用 [1]

Chen Q, Liu W, Zhang Z, (2024). Specification Tests for The Volatility Function in Diffusion Model Under Microstructure Noise[R]. SUFE Working Paper.

本文引用 [2]

Chen

, Xu

, Gong

, Jump-robust Testing of Volatility Functions in Continuous Time Models[J]. Canadian Journal of Statistics, 2022, 50(3): 1071- 1095.

https://doi.org/10.1002/cjs.11640

本文引用 [2]

Chen

, Zheng

, Pan

, Asymptotically Distribution-free Tests for The Volatility Function of a Diffusion[J]. Journal of Econometrics, 2015, 184, 124- 144.

https://doi.org/10.1016/j.jeconom.2014.06.020

本文引用 [7]

Chown

, Bissantz

, Dette

, Goodness-of-fit Testing The Error Distribution in Multivariate Indirect Regression[J]. Electronic Journal of Statistics, 2019, 13(2): 2658- 2685.

本文引用 [1]

Chung

, Olivares

, Permutation Test for Heterogeneous Treatment Effects With a Nuisance Parameter[J]. Journal of Econometrics, 2021, 225(2): 148- 174.

https://doi.org/10.1016/j.jeconom.2020.09.015

本文引用 [3]

Delgado

, Stute

, Distribution-free Specification Tests of Conditional Models[J]. Journal of Econometrics, 2008, 143, 37- 55.

https://doi.org/10.1016/j.jeconom.2007.08.006

本文引用 [1]

Delgado

M A

, Javier

, Carlos

, Distribution Free Goodness-of-fit Tests for Linear Processes[J]. Annals of Statistics, 2005, 33, 2568- 2609.

本文引用 [1]

Delgado

M A

, Javier

, Carlos

, Distribution-free Specification Tests for Dynamic Linear Models[J]. Econometrics Journal, 2009, 12, 105- 134.

https://doi.org/10.1111/j.1368-423X.2008.00253.x

本文引用 [1]

Dette

, Hetzler

, Khmaladze Transformation of Integrated Variance Processes With Applications to Goodness-of-fit Testing[J]. Mathematical Methods of Statistics, 2009, 18(2): 97- 116.

https://doi.org/10.3103/S106653070902001X

本文引用 [1]

Dette H, Hetzler B, (2018). A Martingale-transform Goodness-of-fit Test for the Form of the Conditional Variance[R]. Technical Reports.

本文引用 [1]

Dette

, Podolskij

, Testing the Parametric Form of the Volatility in Continuous Time Diffusion Models — A Stochastic Process Approach[J]. Journal of Econometrics, 2008, 143, 56- 73.

https://doi.org/10.1016/j.jeconom.2007.08.002

本文引用 [1]

Dumitrescu

, Khmaladze

E V

, Asymptotic Hypotheses Testing for the Colour Blind Problem[J]. Electronic Journal of Statistics, 2019, 13, 4573- 4595.

本文引用 [1]

Durante

, Sempi

, Principles of Copula Theory[M]. Boca Raton, FL: CRC Press, 2016.

本文引用 [1]

Durbin

, Weak Convergence of the Sample Distribution Function When Parameters Are Estimated[J]. Annals of Statistics, 1973a, 1, 279- 290.

本文引用 [2]

Durbin J, (1973b). Distribution Theory for Tests Based on the Sample Distribution Function[C]// Philadelphia, Society for Industrial and Applied Mathematics, (Regional Conference Series in Applied Mathematics).

本文引用 [1]

Durbin

, Kolmogorov-Smirnov Tests When Parameters Are Estimated With Applications to Tests of Exponentiality and Tests on Spacings[J]. Biometrika, 1975, 62(1): 5- 22.

https://doi.org/10.1093/biomet/62.1.5

本文引用 [1]

Durbin

, The First-passage Density of a Continuous Gaussian Process to a General Boundary[J]. Journal of Applied Probability, 1985, 22(1): 99- 122.

https://doi.org/10.2307/3213751

本文引用 [1]

Escanciano

J C

, A Consistent Diagnostic Test for Regression Models Using Projections[J]. Econometric Theory, 2006, 22, 1030- 1051.

本文引用 [4]

Einmahl J, Khmaladze E V, (2001). The Two-sample Problem in R^m and Measure-valued Martingales[Z]. IMS Lecture Notes Monograph, 36: 434–463.

本文引用 [1]

Fan

J Q

, Huang

L S

, Goodness-of-fit Tests for Parametric Regression Models[J]. Journal of The American Statistical Association, 2001, 96, 640- 652.

https://doi.org/10.1198/016214501753168316

本文引用 [1]

Fan

, Zhang

, A Reexamination of Diffusion Estimators With Applications to Financial Model Validation[J]. Journal of the American Statistical Association, 2003, 98, 118- 134.

https://doi.org/10.1198/016214503388619157

本文引用 [1]

Fan

, Li

, Consistent Model Specification Tests: Omitted Variables and Semiparametric Functional Forms[J]. Econometrica, 1996, 64(4): 865- 890.

https://doi.org/10.2307/2171848

本文引用 [1]

Gao

, Casas

, Specification Testing in Discretized Diffusion Models: Theory and Practice[J]. Journal of Econometrics, 2008, 147(1): 131- 140.

https://doi.org/10.1016/j.jeconom.2008.09.006

本文引用 [1]

Gikhman

J I

, On the Theory of ω² Test[J]. Matematicheskii Zhurnal Kievskogo Universiteta, 1954, 5, 51- 59.

本文引用 [1]

Gikhman

J I

, Biparametric Martingales[J]. (Russian) Uspekhi Matematicheskikh Nauk, 1982, 37, 215- 237.

本文引用 [1]

Greenwood

, Nikulin

M S

, A Guide to Chi-Square Testing[M]. New York: Wiley, 1996.

本文引用 [2]

Guo

, Wang

, Zhu

L X

, Model Checking for Parametric Single-index Models: A Dimension Reduction Model-adaptive Approach[J]. Journal of the Royal Statistical Society, Series B: Statistical Methodology, 2016, 78(5): 1013- 1035.

https://doi.org/10.1111/rssb.12147

本文引用 [1]

Hardle

, Mammen

, Comparing Nonparametric Versus Parametric Regression Fits[J]. Annals of Statistics, 1993, 21, 1926- 1947.

本文引用 [1]

Haywood

, Khmaladze

E V

, On Distribution-free Goodness-of-fit Testing of Exponentiality[J]. Journal of Econometrics, 2008, 143(1): 5- 18.

https://doi.org/10.1016/j.jeconom.2007.08.005

本文引用 [1]

Hjort

N L

, Goodness of Fit Tests in Models for Life History Data Based on Cumulative Hazard Rates[J]. Annals of Statistics, 1990, 18, 1221- 1258.

本文引用 [1]

Kac

, Kiefer

, Wolfowitz

, on Tests of Normality and Other Tests of Goodness of Fit Based on Distance Methods[J]. Annals of Mathematical Statistics, 1955, 26(2): 189- 211.

https://doi.org/10.1214/aoms/1177728538

本文引用 [1]

Kennedy A P, (2018). Analysis and Prediction of High Frequency Foreign Exchange Data[D]. Master's Thesis School of Mathematics and Statistics, Victoria University, Wellington, New Zealand.

本文引用 [1]

Khmaladze

E V

, The Use of ω²-tests for Testing Parametric Hypotheses[J]. Theory of Probability and Its Application, 1979, 2, 283- 301.

本文引用 [2]

Khmaladze

E V

, Martingale Approach to the Goodness of Fit Tests[J]. Theory of Probability and Its Application, 1981, 26, 240- 267.

本文引用 [5]

Khmaladze

E V

, An Innovation Approach to Goodness-of-fit Tests in R^m[J]. Annals of Statistics, 1988, 16, 1503- 1516.

本文引用 [1]

Khmaladze

E V

, Goodness of Fit Problem and Scanning Innovation Martingales[J]. Annals of Statistics, 1993, 21, 798- 829.

本文引用 [1]

Khmaladze

E V

, Note on Distribution Free Testing for Discrete Distributions[J]. Annals of Statistics, 2013, 41, 2979- 2993.

本文引用 [9]

Khmaladze

E V

, Some New Connections Between Brownian Bridges and Brownian Motions[J]. Communications on Stochastic Analysis, 2015, 9(3): 401- 412.

本文引用 [1]

Khmaladze

E V

, Unitary Transformations, Empirical Processes and Distribution Free Testing[J]. Bernoulli, 2016, 22, 563- 588.

本文引用 [4]

Khmaladze

E V

, Distribution Free Testing for Conditional Distributions Given Covariates[J]. Statistics & Probability Letters, 2017, 129, 348- 354.

本文引用 [1]

Khmaladze

E V

, Projection Approach to Distribution-free Testing for Point Processes. Regular Models[J]. Transactions of A. Razmadze Mathematical Institute, 2020, 174, 155- 176.

本文引用 [1]

Khmaladze

E V

, Distribution-free Testing in Linear and Parametric Regression[J]. Annals of the Institute of Statistical Mathematics, 2021a, 73(6): 1063- 1087.

https://doi.org/10.1007/s10463-021-00786-3

本文引用 [1]

Khmaladze

E V

, Testing Hypothesis on Transition Distributions of a Markov Sequence[J]. Journal of Statistical Planning and Inference, 2021b, 215, 72- 84.

https://doi.org/10.1016/j.jspi.2021.02.009

本文引用 [1]

Khmaladze

E V

, How to Test That a Given Process is An Ornstein–Uhlenbeck Process[J]. Statistical Inference for Stochastic Processes, 2021c, 24, 405- 419.

https://doi.org/10.1007/s11203-020-09233-1

本文引用 [1]

Khmaladze

E V

, Koul

H L

, Martingale Transforms Goodness-of-fit Tests in Regression Models[J]. Annals of Statistics, 2024, 32, 995- 1034.

本文引用 [3]

Khmaladze

E V

, Koul

H L

, Goodness-of-fit Problem for Errors in Nonparametric Regression: Distribution Free Approach[J]. Annals of Statistics, Institute of Mathematical Statistics, 2009, 37, 3165- 3185.

本文引用 [3]

Kim J, (2016). Goodness-of-Fit Test: Khmaladze Transformation vs Empirical Likelihood[R]. Unpublished Manuscript.

本文引用 [1]

Kim

, Implementation of a Goodness-of-fit Test Through Khmaladze Martingale Transformation[J]. Computational Statistics, 2020, 35(4): 1993- 2017.

https://doi.org/10.1007/s00180-020-00971-7

本文引用 [2]

Kim J, (2024). A Goodness of Fit Test for Non-Gaussian Distributions With Unknown Location and Scale Parameters[R]. Unpublished Manuscript.

本文引用 [1]

Koenker

, Xiao

, Inference on the Quantile Regression Process[J]. Econometrica, 2002, 70, 1583- 1612.

https://doi.org/10.1111/1468-0262.00342

本文引用 [3]

Koenker

, Xiao

, Quantile Autoregression[J]. Journal of the American Statistical Association, 2006, 101, 980- 990.

https://doi.org/10.1198/016214506000000672

本文引用 [2]

Kolmogorov

A N

, Sulla Determinazione Empírica Di Uma Legge Di Distribuzione[J]. Giornale dell'Istituto Italiano degli Attuari, 1933, 4, 83- 91.

本文引用 [4]

Koul H L, (2006). Model Diagnostics Via Martingale Transforms: A Brief Review[M]// Fan J, Koul H L. Frontiers in Statistics: 183–206.

本文引用 [1]

Koul

H L

, Koenker

, A Conversation With Estate V. Khmaladze[J]. Statistical Science, 2016, 31, 453- 464.

本文引用 [1]

Koul

H L

, Sakhanenko

, Goodness-of-fit Testing in Regression: A Finite Sample Comparison of Bootstrap Methodology and Khmaladze Transformation[J]. Statistics & Probability Letters, 2005, 74, 290- 302.

本文引用 [2]

Koul

H L

, Song

, Regression Model Checking With Berkson Measurement Errors[J]. Journal of Statistical Planning and Inference, 2008, 138, 1615- 1628.

https://doi.org/10.1016/j.jspi.2007.05.048

本文引用 [3]

Koul

H L

, Song

, Model Checking in Partial Linear Regression Models With Berkson Measurement Errors[J]. Statistica Sinica, 2010a, 20, 1551- 1579.

本文引用 [1]

Koul

H L

, Song

, Conditional Variance Model Checking[J]. Journal of Statistical Planning and Inference, 2010b, 140, 1056- 1072.

https://doi.org/10.1016/j.jspi.2009.10.008

本文引用 [1]

Koul

H L

, Stute

, Nonparametric Model Checks for Time Series[J]. Annals of Statistics, 1999, 27, 204- 236.

本文引用 [1]

Koul

H L

, Yi

, Goodness-of-fit Testing in Interval Censoring Case[J]. Statistics & Probability Letters, 2006, 76, 709- 718.

本文引用 [1]

Koul

H L

, Zhu

, Goodness-of-fit Testing of Error Distribution in Nonparametric ARCH(1) Models[J]. Journal of Multivariate Analysis, 2015, 137, 141- 160.

https://doi.org/10.1016/j.jmva.2015.02.009

本文引用 [2]

, Asymptotically Distribution-free Goodness-of-fit Testing: A Unifying View[J]. Econometric Reviews, 2009, 28, 632- 657.

https://doi.org/10.1080/07474930903038933

本文引用 [2]

, Testing the Parametric Specification of the Diffusion Function in a Diffusion Process[J]. Econometric Theory, 2007, 23, 221- 250.

本文引用 [1]

, Zheng

, A Goodness-of-fit Test for Copulas Based on Martingale Transformation[J]. Journal of Econometrics, 2020, 215, 84- 117.

https://doi.org/10.1016/j.jeconom.2019.08.007

本文引用 [2]

Maglaperidze

N O

, Tsigroshvili

Z P

, Van Pul

, Goodness-of-fit Tests for Parametric Hypotheses on the Distribution of Point Processes[J]. Mathematical Methods of Statistics, 1998, 7, 60- 77.

本文引用 [1]

Marzec

, Marzec

, Generalized Martingale-residual Processes for Goodness-of-fit Inference in Cox's Type Regression Models[J]. Annals of Statistics, 1997, 25(2): 683- 714.

本文引用 [1]

McKeague

, Nikabadze

, Sun

, An Omnibus Test for Independence of a Survival Time From a Covariate[J]. Annals of Statistics, 1995, 23, 450- 475.

本文引用 [1]

Mora J, Neumeyer N, (2005). The Two-sample Problem With Regression Errors: An Empirical Process Approach[R]. Working Papers. Serie AD.

本文引用 [1]

Müller

U U

, Schick

, Wefelmeyer

, Estimating the Error Distribution Function in Semi-parametric Regression[J]. Statist, 2007, 25, 1- 18.

本文引用 [1]

Müller

U U

, Schick

, Wefelmeyer

, Estimating the Error Distribution Function in Nonparametric Regression With Multivariate Covariates[J]. Statistics & Probability Letters, 2009, 79, 957- 964.

本文引用 [1]

Müller

U U

, Schick

, Wefelmeyer

, Estimating the Error Distribution Function in Semiparametric Additive Regression Models[J]. Journal of Statistical Planning and Inference, 2012, 142, 552- 566.

本文引用 [1]

Nelsen

R B

, An Introduction to Copulas[M]. New York: Springer-Verlag, 2006.

本文引用 [1]

Nguyen C, (2010). Time-changed Residual Based Tests for Asset Pricing Models in Continuous Time[Z]. Unpublished Manuscript, 2010.

本文引用 [2]

Nguyen

T T M

, New Approach to Distribution Free Tests in Contingency Tables[J]. Metrika, 2017a, 80, 153- 170.

本文引用 [1]

Nguyen T T M, (2017b). Asymptotic Methods of Testing Statistical Hypotheses[D]. School of Mathematics and Statistics, Victoria University, Wellington, New Zealand.

本文引用 [1]

Nguyen T T M, (2018). Asymptotically Distribution-free Goodness-of-fit Tests for Testing Independence in Contingency Tables of Large Dimensions[M]// La Rocca M, Liseo B, Salmaso L. Nonparametric Statistics. ISNPS.

本文引用 [1]

Nikabadze

, Stute

, Model Checks Under Random Censorship[J]. Statistics & Probability Letters, 1997, 32, 249- 259.

本文引用 [1]

Nualart

, Two-parameter Diffusion Processes and Martingales[J]. Stochastic Processes and Their Applications, 1983, 15(1): 31- 57.

本文引用 [1]

O'Quigley

, Khmaladze-type Graphical Evaluation of the Proportional Hazards Assumption[J]. Biometrika, 2003, 90, 577- 584.

本文引用 [1]

Parker

, A Comparison of Alternative Approaches to Sup-norm Goodness of Fit Tests With Estimated Parameters[J]. Econometric Theory, 2013, 29(5): 969- 1008.

本文引用 [3]

Roberts

L A

, Distribution Free Goodness of Fit Testing of Grouped Bernoulli Trials[J]. Statistics & Probability Letters, 2019, 150, 47- 53.

本文引用 [1]

Roberts L A, (2021). On the Derivation of the Khmaladze Transforms[R]. Unpublished Manuscript.

本文引用 [3]

Roberts

, Haywood

, Swordson

, Distribution Free Testing for the Family of Laplace Distributions[J]. Communications in Statistics-Simulation and Computation, 2023, 1- 12.

https://doi.org/10.1080/03610918.2023.2258560

本文引用 [1]

Rosenblatt

, Remarks on the Multivariate Transformation[J]. Annals of Mathematics and Statistics, 1952, 23(3): 470- 472.

本文引用 [2]

Scheike

T H

, Martinussen

, On Estimation and Tests of Time-varying Effects in the Proportional Hazards Model[J]. Scandinavian Journal of Statistics, 2004, 31, 51- 62.

本文引用 [1]

Simpson, Paul

, Note on the Estimation of a Bivariate Distribution Function[J]. Annals of Mathematics and Statistics, 1951, 22(3): 157- 176.

本文引用 [1]

Sklar A, (1959). Fonctions De Répartition À n Dimensions Et Leurs Marges[C]// Annales De l'ISUP. 8(3): 229–231.

本文引用 [1]

Sminov

N V

, Estimate of Deviation Between Empirical Distributions in Two Independent Samples[J]. Bulletin Moscow University, 1939, 2, 3- 16.

Song

, Testing Semiparametric Conditional Moment Restrictions Using Conditional Martingale Transforms[J]. Journal of Econometrics, 2010, 154, 74- 84.

本文引用 [2]

Song

, Distribution-free Test in Tobit Mean Regression Model[J]. Journal of Statistical Planning and Inference, 2011, 141(8): 2891- 2901.

本文引用 [1]

Song

, Du

, Distribution-free Lack-of-fit Tests in Balanced Mixed Models[J]. Statistics & Probability Letters, 2010, 80(17-18): 1378- 1387.

本文引用 [3]

Stute

, Thies

, Zhu

, Model Checks for Regression: An Innovation Process Approach[J]. Annals of Statistics, 1998, 26, 1916- 1934.

本文引用 [5]

Song

, Yao

, A Lack-of-fit Test in Tobit Errors-in-variables Regression Models[J]. Statistics & Probability Letters, 2011, 81(12): 1792- 1801.

本文引用 [1]

Stute

, Nonparametric Model Checks for Regression[J]. Annals of Statistics, 1997, 25(2): 613- 641.

本文引用 [3]

Stute

, Zhu

L X

, Model Checks for Generalized Linear Models[J]. Scandinavian Journal of Statistics, 2002, 29, 535- 545.

本文引用 [3]

Sun

, Weak Convergence of the Generalized Parametric Empirical Processes and Goodness-of-fit Tests for Parametric Models[J]. Communications in Statistics, 1997, 26(10): 2393- 2413.

本文引用 [1]

Sun

, Tiwari

R C

, Zalkikar

J N

, Goodness of Fit Tests for Multivariate Counting Process Models With Applications[J]. Scandinavian Journal of Statistics, 2001, 28, 241- 256.

本文引用 [2]

Tan

, Zhu

X H

, Zhu

L X

, A Projection-based Adaptive-to-model Test for Regressions[J]. Statistica Sinica, 2018, 28, 157- 188.

本文引用 [1]

Tan

, Zhu

L X

, Adaptive-to-model Checking for Regressions With Diverging Number of Predictors[J]. Annals of Statistics, 2019, 47(4): 1960- 1994.

本文引用 [2]

Tang

, Su

, Zhang

, Distribution-free Specification Test for Volatility Function Based on High-frequency Data With Microstructure Noise[J]. Metrika, 2022, 85, 977- 1022.

本文引用 [1]

Tsigroshvili Z, (1998). Some Notes on Goodness-of-fit Tests and Innovation Martingales[C]// Proceedings of A. Razmadze Mathematical Institute, 117: 89–102.

本文引用 [1]

Urinov

I K

, Tests of Homogeneity Under Small Grouping. Martingale Limit Theorems[J]. Theory of Probability & Its Applications, 2006, 37(4): 676- 694.

本文引用 [1]

Vetter

, Dette

, Model Checks for the Volatility Under Microstructure Noise[J]. Bernoulli, 2012, 18, 1421- 1447.

本文引用 [1]

Zamba

K D

, Adekpedjou

, A Khmaladze-transformed Test of Fit With ML Estimation in the Presence of Recurrent Events[J]. Sequential Analysis, 2019, 38(3): 318- 341.

http://www.xueshufan.com/publication/2975043973

本文引用 [1]

Zheng

J X

, A Consistent Test of Functional Form Via Nonparametric Estimation Techniques[J]. Journal of Econometrics, 1996, 75, 263- 289.

本文引用 [1]

基金

中央高校基本科研业务费专项资金(2023110139)

版权

PDF(400 KB)

1026

Accesses

Citation

Detail

段落导航

摘要
Abstract
关键词
Key words
引用本文
1 引言
2 Khmaladze鞅变换产生的理论背景
2.1 一维简单经验过程的分布无关性
2.2 参数估计的影响
3 Khmaladze鞅变换方法的原理
3.1 Khmaladze鞅变换与Doob-Meyer分解
3.2 关于参数经验过程的Khmaladze鞅变换
4 Khmaladze鞅变换方法的发展与应用
4.1 基于经验分布函数的鞅变换
4.1.1 位置尺度分布
4.1.2 双样本问题
4.1.3 Copula模型
4.1.4 计数过程
4.2 基于标记经验过程或部分和过程的模型设定检验中的鞅变换
4.2.1 回归模型设定检验
4.2.2 Berkson测量误差模型
4.2.3 平衡混合效应模型
4.2.4 连续时间扩散模型
5 Khmaladze鞅转换的特征与问题
5.1 Khmaladze鞅变换计算特征
5.2 基于Khmaladze鞅变换检验的功效特征
5.3 多维Khmaladze鞅变换问题
6 Khmaladze酉变换
6.1 Khmaladze酉变换产生的理论背景
6.2 Khmaladze酉变换原理
6.3 包含估计参数情形
6.4 拓展与应用
7 总结与展望
参考文献
基金
版权

收稿日期	出版日期
2023-12-29	2024-07-28
发布日期
2024-07-29

模态框（Modal）标题

选择文件类型/文献管理软件名称

选择包含的内容

摘要

Abstract

关键词

Key words

引用本文

1 引言

2 Khmaladze鞅变换产生的理论背景

2.1 一维简单经验过程的分布无关性

2.2 参数估计的影响

3 Khmaladze鞅变换方法的原理

3.1 Khmaladze鞅变换与Doob-Meyer分解

3.2 关于参数经验过程的Khmaladze鞅变换

4 Khmaladze鞅变换方法的发展与应用

4.1 基于经验分布函数的鞅变换

4.1.1 位置尺度分布

4.1.2 双样本问题

4.1.3 Copula模型

4.1.4 计数过程

4.2 基于标记经验过程或部分和过程的模型设定检验中的鞅变换

4.2.1 回归模型设定检验

4.2.2 Berkson测量误差模型

4.2.3 平衡混合效应模型

4.2.4 连续时间扩散模型

5 Khmaladze鞅转换的特征与问题

5.1 Khmaladze鞅变换计算特征

5.2 基于Khmaladze鞅变换检验的功效特征

5.3 多维Khmaladze鞅变换问题

6 Khmaladze酉变换

6.1 Khmaladze酉变换产生的理论背景

6.2 Khmaladze酉变换原理

6.3 包含估计参数情形

6.4 拓展与应用

7 总结与展望

{{custom_sec.title}}

{{custom_sec.title}}

参考文献

{{custom_fnGroup.title_cn}}

脚注

基金

版权