《统计学习方法》——第一章 统计学习方法概论

1.1 统计学习 统计学习就是计算机系统通过运用数据及统计方法提高系统性能得机器学习。现在人们提及得机器学习,往往是指统计机器学习。 统计学习由监督学习、非监督学习、半监督学习和强化学习等组成。 李航的《统计学习方法》以介绍统计学习方法为主,其中第2-8 章都是监督学习方法为主。 1.2 监督学习 输入/输出空间:监督学习中,输入与输出的所有可能取值的集合分别称为输入空间和输出空间。输入与输出空间可以是有限元素的集合,也可以是整个欧式空间,通常,输出空间远远小于输入空间。 例如 训练集为T ={(h1,y1),(x2,y2), ... ,(xn,yn)},该训练集有n个样本