摘 要

随着社会经济的大力发展以及科技的进步，人们探索的领域越来越多，对于精确度的要求也相应地越来越高，传统的理想模型并不能满足的人们的需求，因此我们必须要考虑噪声对我们所研究系统的干扰。在阅读诸多相关文献的基础上，本文在传统极大似然估计算法的基础上，研究了有色噪声条件下的递推极大似然估计算法。本文通过对算法运行结果的图表比对，发现在单输入单输出的情况下，在Gauss white-noise噪声条件下递推极大似然估计算法拥有更好的收敛性，更高的参数估计精度。

关键词：极大似然估计；有色噪声；单输入单输出；系统参数估计；系统辨识

Abstract

With the social economy and technology developing，the area explored by people is more and more，because of requirements of the higher accuracy，the traditionally ideal model cannot meet the needs of people，so we must take into account the fact that the noise interferes with the system we study. After reading a lot of literature, on the basis of the traditional maximum likelihood estimation algorithm, this paper studies the recursive maximum likelihood estimation algorithm in the case of the color-noise. By comparing the chart in the color noise with the chart in the non-noise, in the case of single-input and single-output, this paper finds that the recursive maximum likelihood estimation in the Gauss white-noise has better convergence and higher accuracy.

Key words：Maximum likelihood estimation；Colored-noise；Single-input and single-output；System identification；Parameter estimation

目 录

第 1 章 绪论 1

1.1问题提出与研究意义 1

1.2极大似然法研究综述 2

1.3论文研究内容的组织结构 3

第 2 章 系统辨识和噪声模型 4

2.1白噪声与有色噪声 4

2.1.1白噪声的数学定义 4

2.1.2白噪声的统计特性 4

2.2系统辨识 5

2.2.1系统辨识的定义 5

2.2.2系统辨识的目的和步骤 5

2.2.3数学模型 6

2.2.4系统辨识的方法 7

2.2.5理想模型和随机系统模型 8

第 3 章 极大似然基本理论 11

3.1极大似然基本思想 11

3.2极大似然的实现过程 11

3.3极大似然系统参数估计 12

3.4有色噪声条件下的极大似然估计 13

第 4 章 有色噪声条件下的递推极大似然估计法 17

4.1递推极大似然估计推导 17

4.2算法实例仿真 20

第 5 章 结论与展望 24

5.1本文主要工作成果 24

5.2展望 24

致 谢 25

参考文献 26

附 录 28

第 1 章 绪论

1.1问题提出与研究意义

随着人类社会的快速发展，人们在社会生产实践及科学研究实验活动中会遇到相当多的问题，而这些问题已经不能简简单单地通过实物来解决了，实物来解决问题不仅耗时耗力耗资源，而且甚至有时并不能解决问题。所以，针对我们所研究的系统对象，通过系统辨识来建立合适的且我们所需要的数序模型正是众望所归。有了相关的数学模型，我们便可以在以下几个方面的工作取得突破性的进展：(1)控制系统的分析和设计；(2)天气、水文、人口、能源、人流量等问题的预报；(3)复杂方案的规划；(4)仿真研究；(5)参数估计；(6)生产过程的故障诊断^[1,2,3]。其实，涉及到以上方面的例子还有很多。譬如，在化学工业生产过程中，人们要确定一个化学过程的反应速度，就必须要确定其化学动力学相关特性及有关参数；人们在分析和控制某个地方的环境污染状况时，通常会对这个地方的大气污染扩散情况以及某条河段水质的情况建立一个模型，通过这个模型，人们便可以预测和控制该地方的环境走势以及更好地进行环境保护工作；人口统计局通过建立全国人口或地区人口增长的动态模型来进行人口预报并制定相应的国家决策；计量经济学家在帮助企业拟定相关的生产和销售计划方案时，通常会对该企业的产品销售量、需求量以及新型工业的增长规律等一系列经济现象建立定量的描述模型^[1,2,3]。

我们可以了解到，系统辨识已经广泛应用于人文社科领域，因此研究系统辨识是相当的有必要的。系统辨识其实是一种凭借电子仪器所检测到的输入输出数据创出来一个数学模型的方法。Zadeh L.A于1962年给系统辨识下的定义^[4]：“系统辨识是在输入和输出数据的基础上，从一类模型中确定一个与所测系统等价的模型。”我们由前人的这个定义，可以知道系统辨识有三大要素：(1)输入输出数据；(2)模型类；(3)等价准则^[1]。总之，系统辨识就是按照某个既定的模型，从一系列模型类中选取一个与所观测对象拟合得最好的模型。

当前，系统辨识方法有相当多的类别。按照算法的执行方式我我们可以将其分为递推辨识算法、一次完成算法和迭代辨识算法；从时域或频域角度来看，我们可以将系统辨识方法可以分为时域的辨识算法和频域的辨识算法；如果根据算法的实时性分类，则系统辨识方法包括在线辨识和离线辨识算法^[5]；若按照属性特征分类，我们又可以将系统辨识方法分为辅助模型辨识算法、牛顿辨识算法^[6]、最小二乘方法^[7]、耦合辨识方法^[8]、梯度辨识算法^[9]、递阶辨识算法、多信息辨识方法^[10] 等。

在许许多多的系统辨识算法中，由于极大似然估计算法能够把系统参数估计问题化为似然函数的极大化问题，而这个极大似然函数依赖于统计信息而构造的，即当似然函数在某个参数值上达到极大时，就得到了有关参数的最佳估计^[11]。它良好的一致性，渐近正态性和有效性等统计性质^[12]，使得它不仅适用于线性模型，同样地也适用于非线性模型。因此，极大似然估计算法在很多领域都有相当广泛的应用。本文将在极大似然估计算法的基础上，提出一种在线递推算法。该算法的提出对推动辨识理论的发展具有重要意义。

1.2极大似然法研究综述

极大似然估计辨识算法一开始的时候仅仅针对于线性方程误差类系统，在方崇智、萧德云教授主编的《过程辨识》这本书中，有详细地介绍了极大似然估计辨识算法的基本思想，并对辨识受控自回归滑动平均模型的递推极大似然算法和牛顿递推算法进行了演示。最近，Wang等人在受控自回归滑动平均模型的情况下的递推极大似然辨识算法以及在受控自回归模型的情况下的递推极大似然辨识算法进行了一系列的研究 ^[13,14]。文献[15]对SISO（单输入单输出）滑动平均系统的极大似然辨识算法进行研究，并且通过最大化期望的方法来计算参数的估计值。

通过对线性状态空间模型参数的极大似然估计辨识算法的研究，Deng和Shen提出了将最大化期望算法与传统的卡尔曼滤波（kalman滤波）估计相互结合来确定极大似然估计参数的方法^[16]。