原文：
www.kdnuggets.com/2020/06/ai-systems-need-human-intervention.html
评论
作者 Laduram Vishnoi，Acquire 的首席执行官兼创始人
我们每个人在日常生活中都体验过人工智能（AI）。从个性化的 Netflix 推荐、个性化的 Spotify 播放列表到像 Alexa 这样的语音助手管理购物清单和家电——这些例子都展示了人工智能系统在我们生活中变得多么不可或缺。
在商业领域，大多数组织正在大力投资于人工智能/机器学习能力。无论是关键业务流程的自动化、建立全渠道供应链，还是通过聊天机器人赋能面向客户的团队，基于人工智能的系统都显著减少了人工工作和成本，提高了业务的盈利能力。
尽管取得了这些成功，麻省理工学院作者威尔·道格拉斯最近的一篇文章指出，在冠状病毒疫情期间，人工智能系统并不完全正常。病毒不会直接影响人工智能——然而，它确实影响了人类，没有人类人工智能和机器学习系统无法正常运作。
惊讶吗？
我们不能责怪你。如果你已经使用机器学习算法处理库存、客户支持和其他类似功能，你的系统可能已经经过良好的训练，并且在没有人工干预的情况下高效运作。然而，这个说法只部分正确，因为你的机器学习算法没有在疫情期间出现的‘新常态’上进行训练。
正如我们所知，疫情彻底改变了世界，包括供应和需求模式以及买家的行为。例如，全球范围内亚马逊上搜索量最高的商品在几天内就被与 COVID-19 相关的产品如卫生纸、口罩和洗手液所取代。像手机充电器和乐高这样的商品，曾经长期主导市场，但很快就被取代了。这些剧烈的变化也影响了人工智能，因为在正常行为上训练的机器学习模型突然面临巨大的偏差，许多模型无法正常工作。
AI 应用在过去几年中得到了显著的提升。然而，在这段旅程中，也有几次挫折出现，机器的表现未能如预期。例如，IBM 的“Watson for Oncology”原本旨在消除癌症，却成为了一个完全可笑的产品。在被搁置之前，该产品发现提供了可能会使患者状况恶化的错误医疗建议。根据 一个来源，问题在于 Watson 是基于少量的“合成癌症案例”而非真实患者数据进行训练的。甚至推荐也是基于少数癌症专家的专业知识，而非任何书面指南或证据。
另一个广为人知（或不广为人知）的案例是 亚马逊的招聘引擎对白人男性有偏见。该模型是基于十多年来提交给亚马逊的简历进行训练，并与公司在职工程师的简历进行基准比较。实质上，该模型训练出了对男性的偏好。一些熟悉此事的人还报告称，系统会惩罚包含“女性”一词的简历，并降低来自全女子学院的简历评分。
进入当前的疫情时代，可以以一个销售消毒剂的公司为假设例子。考虑到零售商依赖于自动化库存管理系统，该公司依赖的预测（由基于用户行为的预测算法生成）可能与由冠状病毒引发的实际需求激增不再匹配，从而导致严重的需求和供应问题。事实上，随着全球供应链受到影响，各公司出现了新的需求模式，是时候重新审视用于销售和预算预测的 AI 驱动模型了。随着在当前经济和社会动荡中出现的“新常态”，这些机器学习模型中嵌入的数据和假设已不再更新，可能导致严重错误。
机器学习系统的效果取决于其训练数据。这意味着当前的黑天鹅事件是重新审视我们 AI-ML 系统训练集的绝佳时机。许多专家认为，AI 应该不仅在简单的最坏情况场景下进行训练，还应包括人类历史上的重大事件，如 1930 年代的大萧条、2007-08 年金融危机以及当前的疫情。
人类监督也可以在很大程度上帮助克服 AI 的缺点。目前，大多数人关注的是他们及其所爱之人的健康。社交媒体再次成为传播和获取有关疫情新闻的便利工具。然而，许多人无法辨别真实新闻与假新闻，这可能在现实世界中产生严重后果。我们都清楚 Facebook 因可能利用算法推动假新闻而被指控影响美国选举的指控。然而，人类监督可以帮助克服假新闻的传播，因为最终读者需要点击来源，验证故事，并向系统报告假新闻以防止其传播。
今天，即使人类寻求 AI 来使自己永生，他们也不能让 AI 独立运作而没有人类监督，因为机器终究是机器，并不具备道德或社会指南针。AI 至多只能和它所训练的数据一样好，这些数据可能反映出其创造者的偏见、思维过程或道德指南针。为了克服这种情况，有必要在不同的数据集上训练AI，并设置人类检查以保持微妙的平衡。
个人简介：Laduram Vishnoi (@laduramvishnoi) 是Acquire的首席执行官兼创始人。他喜欢分享他在人工智能、机器学习、神经网络和深度学习方面的研究和开发。
相关：
-
Deepmind 的游戏连胜：AI 主导的崛起
-
隐私保护 AI – 我们为什么需要它？
-
自主性 – 我们有选择吗？
1. Google 网络安全证书 - 快速进入网络安全职业。
2. Google 数据分析专业证书 - 提升你的数据分析能力
3. Google IT 支持专业证书 - 支持你的组织 IT