摘 要

本文通过对机器学习中的半监督学习进行研究，深入学习了平均教师法的半监督学习训练方法，随后学习研究机器学习中的度量学习，深入了解了度量学习中对于特征的处理，主要研究将度量学习中对于特征的处理方法加入到作为半监督学习的平均教师法之中，两者结合进行对数据集的训练。借助python软件中的pytorch框架，对Mnist数据集进行训练，得出使用平均教师法训练和使用加入了度量学习中对特征处理的平均教师法的训练结果。对两种情况进行了比较，所得结果对于机器学习和深度学习具有重要的指导意义。

论文主要研究了将度量学习加入到半监督学习中，将两者结合起来。研究结果表明：将度量学习中对特征的处理加入到半监督学习中，将两者结合起来之后，其训练结果要优于单纯使用半监督学习训练的结果。本文的特色在于：本文紧扣机器学习、深度学习主题，对于半监督学习和度量学习有一个较详细的阐述，并在两者的结合方面做到了创新。

关键词：半监督学习；度量学习；平均教师法；特征处理

Abstract

In this paper, the semi-supervised learning in machine learning is studied, and the semi-supervised learning training method of the average teacher method is deeply studied. Then the metric learning in machine learning is studied, and the processing of features in metric learning is deeply understood.

The main research is to add the processing method of features in metric learning to the mean teacher method as semi-supervised learning, and the two methods are combined to train data sets. With the aid of pytorch framework in python software, the Mnist data set is trained, and the training results of using mean teacher method and using mean teacher method added with feature processing in metric learning are obtained. The two situations are compared, and the results are of great guiding significance for machine learning and deep learning.

This paper mainly studies the combination of metric learning and semi-supervised learning. The research results show that the training results are better than the training results of semi-supervised learning alone when the feature processing in metric learning is added to semi-supervised learning and the two are combined. Features of this article: This article focuses on the themes of machine learning and in-depth learning, and has a more detailed exposition of semi-supervised learning and metric learning, and has made innovations in the combination of the two.

Key Words：semi-supervised learning；metric learning；mean teacher；feature processing

目 录

摘要 Ⅰ

第一章 绪论 1

1.1 课题研究背景 1

1.2 国内外研究现状 1

1.2.1 国内现状 1

1.2.2 国外现状 2

1.3 课题研究内容 3

1.4 预期目标 4

第二章 对半监督学习的研究 5

2.1 半监督学习的基本概念 5

2.2 平均教师法 5

2.2.1 平均教师法的提出与优势 5

2.2.2 平均教师法相关内容 5

2.2.3 平均教师法步骤及算法流程 6

2.2.4 使用平均教师法训练Mnist数据集实验结果 8

2.3 虚拟对抗训练 8

2.4 时间整合法 9

2.5 基于紧致潜在空间聚类的半监督学习 10

第三章 对度量学习的研究 12

3.1 度量学习基本概念 12

3.2 深度度量学习 12

3.2.1 深度度量学习基本概念 12

3.2.2 对比损失 13

3.2.3 三元组损失 14

3.2.4 多重相似性损失 15

第四章 半监督学习和度量学习的结合 18

4.1 研究目标 18

4.2 Mnist数据集 18

4.3 研究内容和方法 19

4.4 实验结果与分析 20

第五章 结论 21

参考文献 22

致谢 23

附录 24

第1章 绪论

本章主要讲述课题研究的背景、国内外的现状、研究内容、预期目标等，通过本章对毕业设计有一个大体的描述。

1.1 课题研究背景

随着当今科学和技术的发展和进步，社会逐步趋向于数据化、智能化的形势。在拥有大量数据并需要对这些数据进行分析和处理的情况下，机器学习是一种非常实用高效的方法。机器学习通过赋予计算机学习的能力，使得计算机能够像人脑一样“思考”，从而对数据进行处理、分类等操作，达成我们所要追求的目标，这极大地提高了生活生产的效率，也在一定程度上解放了人工劳动力。因此，在机器学习方面的研究是极其重要且有意义的。

机器学习中常见的深度学习往往需要大量的标签数据，但是尽管在我们的生产生活中存在着大量的数据，标签数据在很多领域很难被大量采集到或者是具有着很高的采集成本。因此，只需要少量的标签数据结合大量无标签数据的半监督学习方法是一个非常有意义的研究方向。

度量学习通过一定的度量方法判断数据样本的直接相似性，在对数据集的训练中是一种十分实用且简单的方法，能够有效地提高训练过程中模型的性能。因此，将度量学习加入到半监督学习中，将两者结合起来，就能很有效地结合半监督学习和度量学习的优点。这对于运用到机器学习的生产生活和相关领域有着一定的意义，因此，决定对半监督学习和度量学习的结合这一课题进行研究。