过适的意思

在统计学中，过适现象是指在调适一个统计模型时，使用过多参数。对比于可取得的资料总量来说，一个荒谬的模型模型只要足够复杂，是可以完美地适应资料。过适一般可以识为违反奥卡姆剃刀原则。当可选择的参数的自由度超过资料所包含资讯内容时，这会导致最后（调适后）模型使用任意的参数，这会减少或破坏模型一般化的能力更甚于适应资料。过适的可能性不只取决于参数个数和资料，也跟模型架构与资料的一致性有关。此外对比于资料中预期的噪声或错误数量，跟模型错误的数量也有关。过适现象的观念对机器学习也是很重要的。通常一个学习算法是借由训练范例来训练的。亦即预期结果的范例是可知的。而学习者则被认为须达到可以预测出其它范例的正确的结果，因此，应适用于一般化的情况而非只是训练时所使用的现有资料（根据它的归纳偏向）。然而，学习者却会去适应训练资料中太特化但又随机的特征，特别是在当学习过程太久或范例太少时。在过适的过程中，当预测训练范例结果的表现增加时，应用在未知资料的表现则变更差。在统计和机器学习中，为了避免过适现象，须要使用额外的技巧（如交叉验证、early stopping、参数的Bayesian priors或model comparison），以指出何时会有更多训练而没有导致更好的一般化。人工神经网络的过适过程亦被认知为过度训练（overtraining）。在treatmeant learning中，使用最小最佳支援值（minimum best support value）来避免过适。相对于过适是指，使用过多参数，以致太适应资料而非一般情况，另一种常见的现象是使用太少参数，以致于不适应资料，这则称为乏适（英：underfitting）现象。