译者|洋子
修订|梁书娟
1.如何成为一名IDO？I(洞察驱动型组织)指的是洞察驱动型(信息导向型)组织。要成为IDO，你需要数据和工具来操纵和分析它。其次，有适当经验的数据分析师或数据科学家；最后，我们需要找到一种技术或方法，在全公司范围内实现洞察驱动的决策过程。
机器学习是一种可以充分发挥数据优势的技术。ML过程首先利用数据对预测模型进行训练，训练成功后，解决与数据相关的问题。其中人工神经网络是最有效的技术，它的设计来源于我们目前对人脑工作模式的认识。考虑到目前人们拥有的巨大计算资源，它可以通过大量的数据训练产生不可思议的模型。
企业可以使用各种自助软件和脚本来完成不同的任务，从而避免人为错误。同样，您可以根据数据做出决策，以避免人为错误。
2.为什么企业采用人工智能进展缓慢？使用人工智能或机器学习处理数据的企业很少。根据美国人口普查局的数据，截至2020年，只有不到10%的美国企业(主要是大公司)采用了机器学习。
采用ML的障碍包括：
人工智能要取代人类，还有很多工作要做。首先，很多企业缺乏也请不起专业人才。数据科学家在该领域备受推崇，但其雇佣成本也是最高的。缺乏可用数据、数据安全和耗时的ML算法实现。企业很难创造一个让数据及其优势得到充分发挥的环境。这种环境需要相关的工具、流程和策略。3.机器学习的推广仅仅使用自动化的ML工具是不够的。虽然自动ML平台前景光明，但目前覆盖面还是相当有限。与此同时，关于自动ML能否快速取代数据科学家也存在争论。
如果想在公司成功部署自助机器学习，AutoML工具确实必不可少，但流程、方法、策略也必须认真对待。AutoML平台只是一个工具，大多数ML专家认为这是不够的。
4.机器学习过程的分解
任何ML流程都是从数据开始的。一般认为，数据准备是ML过程中最重要的环节，建模部分只是整个数据管道的一部分，通过AutoML工具进行简化。完整的工作流仍然需要大量的工作来转换数据并将其提供给模型。数据准备和数据转换可谓是工作中最耗时最不愉快的部分。
此外，用于训练ML模型的业务数据将定期更新。因此，它要求企业构建能够掌握复杂工具和流程的复杂ETL管道，因此保证ML流程的连续性和实时性也是一项具有挑战性的任务。
5.将ML与应用程序集成。假设现在我们已经构建了ML模型，那么我们需要部署它。经典部署方法将其视为应用层组件，如下图所示：
它的输入是数据，输出是我们得到的预测。通过集成这些应用程序的API来使用ML模型的输出。仅从开发人员的角度来看，这一切似乎很容易，但当考虑到过程时，情况并非如此。在一个庞大的组织中，任何与业务应用程序的集成和维护都是相当麻烦的。即使公司精通技术，任何代码变更请求都必须经过多级部门的具体审核和测试流程。这将对灵活性产生负面影响，并增加整个工作流程的复杂性。
如果在测试各种概念和想法时有足够的灵活性，那么基于ML的决策就会容易很多，所以人们会更倾向于具有自助服务功能的产品。
6.自助机器学习/智能数据库？如上所述，数据是ML流程的核心。现有的ML工具获取数据并返回预测结果，这些预测也是数据的形式。
现在问题来了：
为什么要把ML看成一个独立的应用，实现ML模型、应用、数据库之间的复杂集成？为什么不把ML作为数据库的核心功能？为什么不通过标准的数据库语法(比如SQL)使ML模型可用呢？让我们分析以上问题和挑战，从而找到ML的解决方案。
挑战#1:复杂的数据集成和ETL管道维护ML模型和数据库之间复杂的数据集成和ETL管道是ML过程面临的最大挑战之一。
SQL是一个优秀的数据操作工具，我们可以通过在数据层引入ML模型来解决这个问题。换句话说，ML模型将从数据库中学习并返回预测。
挑战# 2:ML模型和应用的集成。通过API将ML模型与业务应用集成是另一个挑战。
业务应用程序和BI工具与数据库紧密耦合。因此，如果AutoML工具成为数据库的一部分，我们可以使用标准的SQL语法进行预测。其次，ML模型和业务应用程序之间不需要API集成，因为模型驻留在数据库中。
解决方案：在数据库中嵌入AutoML在数据库中嵌入AutoML工具会带来很多好处，比如：
任何使用数据并理解SQL的人(数据分析师或数据科学家)都可以利用机器学习的力量。软件开发人员可以更有效地将ML嵌入到业务工具和应用程序中。数据
和模型之间以及模型和业务应用程序之间不需要复杂的集成。这样一来，上述相对复杂的集成图表变更如下：
它看起来更简单，也使ML过程更流畅高效。
7.如何实现自助式ML将模型作为虚拟数据库表找到解决方案的下一步是来实施它。
为此，我们使用了一个叫做AI Tables的结构。它以虚拟表的形式将机器学习引入数据平台。它可以像其他数据库表一样创建，然后向应用程序、BI工具和DB客户端开放。我们通过简单地查询数据来进行预测。
AI Tables最初由MindsDB开发，可以作为开源或托管云服务使用。他们集成了传统的SQL和NoSQL数据库，如Kafka和Redis。
8.使用AI TablesAI Tables的概念使我们能够在数据库中执行ML过程，这样ML过程的所有步骤(即数据准备、模型训练和预测)都可以通过数据库进行。
训练AI Tables首先，用户要根据自己的需求创建一个AI Table，它类似于一个机器学习模型，包含了与源表的列等价的特征;然后通过AutoML引擎自助完成剩余的建模任务。后文还将举例说明。
做预测一旦创建了AI Table，它不需要任何进一步的部署就可以使用了。要进行预测，只需要在AI Table上运行一个标准SQL查询。
你可以逐个或分批地进行预测。AI Tables可以处理许多复杂的机器学习任务，如多元时间序列、检测异常等。
9.AI Tables工作示例对于零售商来说，在适当的时间保证产品都有适当的库存是一项复杂的任务。当需求增长时，供给随之增加。基于这些数据和机器学习，我们可以预测给定的产品在给定的日期应该有多少库存，从而为零售商带来更多收益。
首先你需要跟踪以下信息，建立一张AI Table：
产品售出日期(date_of_sale)产品售出店铺(shop)具体售出产品(product_code)产品售出数量(amount)如下图所示：
（1）训练AI Tables要创建和训练AI Tables，你首先要允许MindsDB访问数据。详细说明可参考MindsDB文档( MindsDB documentation)。
AI Tables就像ML模型，需要使用历史数据来训练它们。
下面使用一个简单的SQL命令，训练一个AITable：
让我们分析这个查询：
使用MindsDB中的CREATE PREDICTOR语句。根据历史数据定义源数据库。根据历史数据表(historical_table)训练AI Table，所选列(column_1和column_2)是用来进行预测的特征。AutoML自动完成剩下的建模任务。MindsDB会识别每一列的数据类型，对其进行归一化和编码，并构建和训练ML模型。同时，你可以看到每个预测的总体准确率和置信度，并估计哪些列(特征)对结果更重要。
在数据库中，我们经常需要处理涉及高基数的多元时间序列数据的任务。如果使用传统的方法，需要相当大的力气来创建这样的ML模型。我们需要对数据进行分组，并根据给定的时间、日期或时间戳数据字段对其进行排序。
例如，我们预测五金店卖出的锤子数量。那么，数据按商店和产品分组，并对每个不同的商店和产品组合作出预测。这就给我们带来了为每个组创建时间序列模型的问题。
这听起来工程浩大，但MindsDB提供了使用GROUP BY语句创建单个ML模型，从而一次性训练多元时间序列数据的方法。让我们看看仅使用一个SQL命令是如何完成的：
创建的stock_forecaster预测器可以预测某个特定商店未来将销售多少商品。数据按销售日期排序，并按商店分组。所以我们可以为每个商店预测销售金额。
（2）批量预测通过使用下面的查询将销售数据表与预测器连接起来，JOIN操作将预测的数量添加到记录中，因此我们可以一次性获得许多记录的批量预测。
如想了解更多关于在BI工具中分析和可视化预测的知识，请查看这篇文章。
（3）实际运用传统方法将ML模型视为独立的应用程序，需要维护到数据库的ETL管道和到业务应用程序的API集成。AutoML工具尽管使建模部分变得轻松而直接，但完整的ML工作流也仍然需要经验丰富的专家管理。其实数据库已经是数据准备的优选工具，因此将ML引入到数据库而非将数据引入ML中是更有意义的。由于AutoML工具驻留在数据库中，来自MindsDB的AI Tables构造能够为数据从业者提供自助AutoML并让机器学习工作流得以简化。
原文链接：https://dzone.com/articles/self-service-machine-learning-with-intelligent-dat
