多类分类：一对多

现在，我们将讨论数据分类时，我们有两个以上的类别。而Y = {0,1}我们将扩大我们的定义，Y = { 0,1…}。

因为Y = { 0,1…}，我们把我们的问题转化为n + 1（+ 1因为索引从0开始）二分类问题；在每一个，我们预测，“Y”是我们的一个类成员概率。

我们基本上是选择一类，然后将所有的人到一个单一的二类。我们反复这样做，对每一种情况应用二元logistic回归，然后使用返回最高值的假设作为我们的预测。

下图显示了如何将3个类进行分类：

总结：
训练一个Logistic回归分类器h_θ（x）为每个类?预测??y =i的??概率。
在一个新的X做一个预测，挑选最大的h_θ（x)。

多类分类：一对多

原文：http://www.cnblogs.com/zhengzhe/p/7225760.html