自动机器学习 自动机器学习（AutoML）：方法、系统与挑战

近十年来，与机器学习相关的应用和研究都经历了爆炸性的增长。特别是深度学习在计算机视觉、语音处理、游戏等很多应用领域都取得了关键性的突破。然而，大多数机器学习方法的性能在很大程度上取决于过多的模型设计策略，这使得初学者很难快速掌握和应用机器学习。在深度学习中尤其如此。如果人类工程师希望神经网络在特定任务上达到理想的性能，他们需要选择和设计网络结构、学习过程、正则化方法和超参数。此外，对于不同的任务，工程师需要重复上述过程。需要注意的是，即使是专家，也需要在特定的数据集上经历多次迭代和试错，才能找到一套好的网络配置参数，对于初学者来说尤其如此。

网络搜索和随机搜索对比示例

自动机器学习旨在通过数据驱动、面向目标和自动化的方法实现上述过程。换句话说，用户只需要提供数据，AtuoML系统就可以自动学习使应用达到最佳性能的机器学习模型。因此，自动机器学习可以使希望使用机器学习方法但缺乏机器学习资源或背景知识的领域科学家使用最新的机器学习模型。这可以算是机器学习的一种民主化，即通过AutoML，每个人都可以得到行业内最新水平的定制的机器学习模型。

正如《自动机器学习:方法、系统与挑战》所展示的，自动机器学习方法已经成熟到可以与人类机器学习专家抗衡的水平，甚至在某些情况下，自动机器学习的性能可以超越人类机器学习专家。简单来说，机器学习专家一方面稀缺，人工成本高，而自动机器学习可以在节省大量时间和金钱的前提下提高算法性能。自动机器学习的这一优势极大地增加了近年来自动机器学习的商业关注度，目前有几家有影响力的技术公司正在开发自己的AutoML系统。需要强调的是，机器学习民主化的最好方式是通过开源的自动机器学习系统，而不是付费的黑盒服务。

连续半半算法示例

《自动机器学习:方法、系统和挑战》全面介绍了快速发展的自动机器学习领域。值得注意的是，目前大家都非常重视深度学习，导致很多研究者错误地将自动机器学习等同于神经网络架构搜索。如果你读了《自动机器学习:方法、系统与挑战》，你就会知道NAS只是自动机器学习的一个优秀案例，而自动机器学习实际上涵盖的内容比NAS更多。一方面，《自动机器学习:方法、系统与挑战》可以为想研究自己的自动机器学习方法的研究者提供背景知识和起点；另一方面，它可以为希望将自动机器学习应用于实际问题的实践者提供一个可用的自动学习系统。对于那些一直从事自动机器学习的研究人员来说，《自动机器学习:方法、系统和挑战》可以提供自动学习最新研究成果和进展的概述。

一维函数贝叶斯优化的一个例子

《自动机器学习:方法、系统与挑战》全面介绍了自动机器学习，主要包括自动机器学习方法、实用自动机器学习系统和当前挑战。在自动机器学习方法中，《自动机器学习:方法、系统与挑战》涵盖了超参数优化、元学习和神经网络体系结构搜索三个部分。每个部分包括详细的内容介绍、原理解释、具体应用方法和存在的问题。此外，《自动机器学习:方法、系统与挑战》还专门介绍了各种可用的AutoML系统，如Auto-sklearn、Auto-WEKA、Auto-Net，而《自动机器学习:方法、系统与挑战》的最后一章详细介绍了有代表性的AutoML挑战以及挑战结果背后的思路，有助于从业者设计自己的AutoML系统。

据我们所知，这是第一本全面介绍自动机器学习系统的书，主要包括自动机器学习方法、实用的自动机器学习系统以及目前面临的挑战。《自动机器学习:方法、系统与挑战》可以为从业者提供开发自己的AutoML系统所需的背景知识和方法，同时提供可以快速应用于广泛的机器学习任务的自动机器学习系统细节。自动机器学习领域正在飞速发展。我们希望通过《自动机器学习:方法、系统和挑战》来组织和整理许多最近的发展。与此同时，我们希望读者能够欣赏《自动机器学习:方法、系统与挑战》，并加入到不断壮大的自动机器学习团队中来。