一、机器学习的第一个定义
? ? ? ? 机器学习的英文是Machine?Learning。
????????什么是机器学习？我们首先来看1959年?ARTHUR?SAMUEL给出的定义。ARTHUR?SAMUEL是机器学习领域的先驱之一，他编写了世界上第一个棋类游戏的人工智能程序。
????????ARTHUR?SAMUEL对机器学习的定义：机器学习是这样的领域，它赋予计算机学习的能力，（这种学习能力）不是通过显著式编程获得的。
????????在他的定义中，最难理解的是什么叫做“显著式编程”？
????????举例来说，例如我们要编程序，让计算机自动的区别菊花和玫瑰，如果我们人为的告诉计算机，菊花是黄色的，玫瑰是红色的，所以计算机看到黄色就把它识别为菊花，看到红色就把它识别为玫瑰，这就是显著式编程。
????????但是如果我们只给计算机一堆菊花的图片，同时也给计算机一堆玫瑰的图片，然后编写程序，让计算机自己去总结菊花和玫瑰的区别，只要我们的程序写的不错，计算机很有可能通过大量的图片，也能总结出菊花是黄色，玫瑰是红色这个规律。当然计算机也可能总结出菊花花瓣很长，玫瑰花瓣很圆等其他的规律，我们事先并不约束计算机必须总结出什么规律，而是让计算机从一大堆可能的规律中挑出，最能区分菊花和玫瑰的一些规律，从而完成对菊花和玫瑰的识别。我们把这种让计算机自己总结规律的编程方法，叫做非显著式编程。ARTHUR?SAMUEL所定义的机器学习，是专指这种非显著式编程方法。
????????另一个例子，假设我们要编程，让一个机器人到教室的外面的咖啡机去帮我们冲一杯咖啡，显著式的编程是这样的，首先，我们要发指令给这个机器人，让它左转，因为门在机器人的左边，然后我们要让它向前走5步，接下来，让机器人右转，再向前走5步，这样就走到咖啡机面前了，然后，我们发指令，让机器人举起杯子，放在合适的位置，再让机器人点击冲咖啡的按钮，等冲好咖啡之后，再次发指令，让机器人按照原路返回，可以看到，这种显著式的编程有很大的劣势，就是我们必须帮机器人把它所处的环境调查得一清二楚，（机器人的位置在哪里，咖啡机在哪里，咖啡机上的按钮在哪里，机器人应该怎么走）如果我们有这个时间，自己早就把咖啡冲好了，何必要用机器人呢，所以非显著式编程的优势就体现出来了，在这个例子中，非显著式编程的算法是这样的，首先，我们规定机器人可以采取一系列的行为，例如，向左转、向右转、向前走、向后走、取杯子、按按钮等。接下来，我们规定在特定的环境下，机器人做这些行为，所带来的收益，我们把它叫做收益函数。例如，机器人采取某行为导致机器人自己摔倒了，那么我们的程序就要规定这时候的收益函数为负值，同时，如果机器人采取某个行为撞到了墙，这个时候也要规定收益函数为负值，如果机器人采取某个行为取到了咖啡，那么我们的程序就要奖励一下这个行为，规定此时收益函数为正值，我们一旦规定了行为和收益函数之后，我们就不管了，我们构造一个算法，让计算机自己去找最大化收益函数的行为。可以想象，在一开始，计算机有可能采取随机化的行为，但是，只要我们的程序编的足够好，计算机是可能找到一个最大化收益函数的行为模式的，可以看出，非显著式编程能够让计算机通过数据、经验自动的学习完成我们交给的任务，正如ARTHUR?SAMUEL的定义，机器学习关注的是这种非显著式的编程。
二、机器学习的第二个定义
? ? ? ? Tom?Mitshell在他的书《Machine?Learning》中的定义：一个计算机程序被称为可以学习，是指它能够针对某个任务T和某个性能指标P，从经验E中学习。这种学习的特点是，它在T上的被P所衡量的性能，会随着经验E的增加而提高。
????????菊花和玫瑰的例子。任务T=>编写计算机程序识别菊花和玫瑰。经验E=>一大堆菊花和玫瑰的图片（训练样本），性能指标P=>不同的机器学习算法会有不同。在这里我们以最常规的识别率（Recognition?Rate）为例，即让更多的菊花被识别为菊花，更多的玫瑰被识别为玫瑰，把识别的正确率简称识别率作为性能指标。
????????那么根据Tom?Mitshell的定义，机器学习就是针对识别菊花和玫瑰这样的任务，构造某种算法，这种算法的特点是，当训练的菊花和玫瑰的图片越来越多的时候，也就是经验E越来越多的时候，识别率（Performance?Measure）也会越来越高，前面的显著式编程是无法达到这一目的的，因为显著式编程定死了程序的输入和输出，识别率不会随着训练样本增加而变化。同理，让机器人冲咖啡例子中，任务T=>设计程序让机器人冲咖啡；经验E=>机器人多次尝试行为和这些行为产生的结果（摔倒了、撞墙上、获得咖啡）；性能指标P=>在规定时间内成功冲好咖啡的次数。如果我们编写的程序足够好，那么机器人在运行的过程中收集的行为越多，机器人就可以通过这些以往的行为和经验进行学习，从而在规定时间内更多次成功冲好咖啡。值得一提的是，Tom?Mitshell的定义比?ARTHUR?SAMUEL的定义更加数学化。可以想象，根据经验E来提高性能指标P的过程是典型的最优化问题，那么数学中各种最优化的理论都可以应用其中，数学在现代机器学习中占有重要的作用。
?
|