浅谈对话式人工智能简史（二）
五、对话式人工智能的挑战与局限NLP 和 NLU 限制
自然语言处理和理解是人工智能的子领域，处理计算机和人类之间的自然语言交互。这些用于分析和理解人类生成的文本和语音数据的系统可能会受到人类语言的复杂性和可变性的挑战。这无疑使得在许多情况下难以理解语言数据的含义和意图。
例如，您是否知道当今世界上有超过 7,000 种语言在使用？就说话者的数量而言，汉语是最重要的，它本身就有 13 个变体。阿拉伯语有 20 个。换句话说，估计 80% 的在线内容仅以以下 10 种语言中的一种提供：英语、中文、西班牙语、日语、阿拉伯语、葡萄牙语、德语、法语、俄语和韩语。
这清楚地解释了一个事实，即自然语言系统的一个重要限制是处理惯用语表达，因为自然语言充满了习语、俚语和其他非文字表达形式。这些成语和俗语往往有多重含义，要根据上下文来理解。更不用说语言的技巧也取决于说话者的语调和意图，甚至是他们的手势或面部表情。从技术上讲，所有这些都可以通过视频获取并通过适当的 AI 算法进行分析。
除了口头语言的差异之外，NLP 的主要限制之一是处理歧义。事实上，自然语言通常包含多种可能的解释，人工智能系统很难确定正确的解释。例如，如果客户写道：“我的订单需要帮助”，聊天机器人可能会问：“您的订单有什么问题？” 但它可能无法理解客户是在寻求帮助来跟踪他们的订单，还是他们对收到的产品有疑问，或者他们是否想取消订单。
当然，NLP 系统很难处理讽刺、讽刺和否定形式的使用。这些形式的比喻语言通常用于间接传达意义，从所使用的词语中并不能立即看出这一点。
一致的研究发现，即使是最先进的 NLP 系统仍然难以理解习语和比喻语言或用相同的词暗示的不同感受。计算机要真正像人类一样流畅地理解和解释人类语言，可能还有很长的路要走。
个性化和定制困难
个性化和定制是对话式 AI 的关键方面，因为它们允许聊天机器人、虚拟助手和其他对话式 AI 系统理解和响应个人用户的独特需求和偏好。然而，实现真正的个性化和定制可能很困难，因为它需要人工智能系统对用户有深刻的理解，更不用说“深刻的感受”，并能够相应地调整其行为和反应。
处理大量数据以进行个性化和改编是一项重大挑战。事实上，有必要通过培训和完善人工智能系统来了解用户的需求和期望。
开发更强大的 NLP 的另一个主要障碍是数据可访问性。在处理共享包含个人信息的文档的限制时，情况变成了道德雷区。以临床领域的电子健康记录 (EHR) 来说明敏感主题的想法。必须谨慎处理数据，包括用户偏好、交互历史、人口统计、银行、行政或健康信息。
无论如何，提供真正个性化的体验需要谨慎处理用户的数据和隐私。事实上，用户可能不愿意向 AI 系统提供个人信息，并且可能不愿意与似乎对他们了解太多的 AI 系统进行交互。例如，看看我们有多不情愿，即使只是提供我们的电子邮件地址或电话号码，或者在打开相机时也是如此。
另一个挑战是处理人类行为的内在复杂性。随着时间的推移，个人可以改变他们的行为、偏好，甚至他们的个性；这使得人工智能系统很难跟上用户的步伐并提供真正个性化的体验。但说实话，人类代理面临着同样的困难。
在这方面，情绪分析可以提供很大的帮助。情感分析是自然语言处理 (NLP) 的一个子领域，涉及使用 AI 算法和方法从口头文本、书面文本或身体动作或面部表情中识别和提取主观信息。
此信息可以包括文档或演讲的整体情绪，以及该人表达的更具体的情绪和观点。情感分析中使用的技术主要基于词法分析、句法分析和 ML 算法（例如支持向量机和神经网络）。
情感分析可用于增强对话系统的功能，方法是让对话系统检测并响应用户在输入中表达的情感。例如，如果机器人能够检测到用户正在表达沮丧、不耐烦或不满，它可以以解决用户情绪的方式做出响应并尝试解决问题。
情感分析可能有助于监控用户反馈并了解用户的整体体验，这可用于进一步改进对话系统。
最近的研究表明，对于拥有庞大客户群的行业，客户关怀以及产品和服务的个性化是最重要的人工智能用例。您知道呼叫中心最常见的做法是在 20 秒内接听 80% 的电话吗？这使团队承受着维持良好客户满意度的压力。这个压力问题可以通过机器人释放等待队列端压力的简单请求来解决。这些行业包括旅游、酒店、消费品、零售和电信。
虽然基于人工智能的个性化背后的技术正在改进，但仍然很难以最佳方式设计它，而且大多数公司仍远未提供真正的个性化体验。
潜在的偏见
偏差是当算法由于机器学习过程的错误假设而产生系统性偏差结果时出现的现象。不幸的是，人工智能具有人类偏见的倾向，无论它们是有意识的还是无意识的。这会导致种族主义、恐同、厌恶女性或任何其他类型的歧视行为。
这就是人工智能系统中的偏见如何做出对某些人群具有歧视性或不公平的预测或决定。这在对话式 AI 的背景下可能尤其成问题，因为这些系统通常用于做出决策或提供可能对人们的实时决策产生直接影响的信息。
数据和算法：偏差的两个主要来源
数据
也许对话式 AI 中最重要的偏见来源是用于训练系统的数据。当数据不能代表系统将要服务的人群时，可能会导致系统做出对某些人群不公平或歧视的预测或决定。此外，根据历史数据训练的对话式人工智能系统可能会延续过去存在的偏见，但应该予以纠正。
这是一个众所周知的例子。不幸的是，2018 年，亚马逊为分析求职者简历而创建的招聘引擎被发现在招聘过程中对女性存在偏见。发生这种情况是因为招聘算法是根据过去十年提交的简历进行训练的，其中大部分属于男性。当审查该算法时，发现它会自动歧视女性。
算法
对话式人工智能的第二个偏见来源是系统的设计和实施方式。例如，如果聊天机器人旨在提供客户服务，那么它应该能够理解并响应所有客户的需求，无论他们的背景或特征如何。但是，如果 Chatbot 不是为处理不同的语言、口音或方言而设计的，则可能会使某些人群难以与 Chatbot 进行交流，并降低其效率。
算法本身的设计可以重现人类行为的偏见。加州大学伯克利分校 2019 年的一项研究发现，“金融科技贷方”拒绝拉丁美洲人和非裔美国人面对面申请的频率比他们在相同条件下拒绝非少数族裔申请的频率高出约 6%。一项研究表明，在 2009 年至 2015 年期间，贷方拒绝了大约 100 万份在没有歧视的情况下本应被接受的申请。
不幸的是，这些算法的设计似乎复制了这种歧视。
研究发现，语言模型容易出现相同形式的偏见，包括性别、种族和年龄偏见，这些偏见会影响这些系统的性能及其产生的结果。这些偏见应该用简单的方法来解决，包括更好的数据管理、算法透明度和更严格的监管。
如果有必要提醒它，算法是缺乏人性的，比如常识，尤其是同理心。
道德考量
与偏见问题直接相关的是，在处理对话式 AI 时，道德考量至关重要。这些系统正在成为客户与品牌或公司之间的新用户界面，就像员工一样。因此，他们应该以有尊严和适当的方式行事。
随着对话式人工智能系统变得更加复杂并融入社会，确保以公平、透明和负责的方式开发和使用它们非常重要。事实上，2021 年在华盛顿特区，国会议员要求企业评估用于医疗保健、住房、就业或教育等领域的自动化决策系统。法律要求雇主使用外部顾问进行独立评估。该法律确保他们的算法不会面临基于性别、种族或种族的偏见行为的风险。
系统不应根据种族、性别、年龄或其他特征歧视某些人群。本着同样的精神，确保它们是透明的至关重要，这样人们才能了解系统如何做出决策并可以提供反馈或提出疑虑。
使 AI 尽可能透明需要能够解释如何以及为何做出基于 AI 的决策。基于人工智能的决策过程必须符合并代表公司的价值观和道德规范。
另一个同样重要的考虑因素是数据隐私和安全。对话式人工智能系统依赖于大量个人数据的收集和分析。以保护个人隐私和安全的方式处理和存储数据至关重要。
多年来，所有利益相关者就道德原则达成了普遍共识。对话式 AI 必须安全、公平且对所有人都有益。它必须透明和负责，必须尊重个人的隐私和安全。必须将道德考虑纳入人工智能（包括数字助理）的整个开发和部署过程。
六、对话式人工智能的未来
预测的进步和发展
近年来，对话式 AI 取得了许多进展，许多专家认为，这项技术将继续发展，并在未来变得更加复杂。事实上，根据 IDC 研究总监 David Schubmehl 的说法，“对话式 AI 工具和技术市场在 2020 年显着增长……/……IDC 预测到 2025 年整个市场的收入将接近 79 亿美元”。
最重要的进步之一是自然语言处理 (NLP) 和理解 (NLU) 能力的提高。最近的进步导致系统更加准确并且可以理解更广泛的语言。
另一个重要的进步是深度学习技术的发展，例如神经网络。这些技术使得在大量数据上训练 AI 系统并随着时间的推移提高它们的性能成为可能。该领域的最后一大步是由 OpenAI 使用 ChatGPT 执行的，ChatGPT 是一种大型语言模型 (LLM)，经过大量数据训练，可以最准确地预测句子中接下来出现的单词。根据斯坦福大学的说法，“GPT-3 有 1750 亿个参数，并且在 570 GB 的文本上进行了训练 能够执行它没有明确训练的任务，比如将句子从英语翻译成法语，几乎没有训练示例” .
对话式人工智能领域的其他大公司包括谷歌、亚马逊、Facebook、微软和苹果等公司。他们都在大力投资对话式人工智能，并正在开发范围广泛的产品和服务，包括虚拟助手、聊天机器人和智能扬声器。另一方面，也有一些小众玩家，例如 OpenAI，专注于开发更安全、对人类有益的 AI。这些参与者正致力于开发尖端的对话式 AI 技术。
微软完全理解 OpenAI 的价值及其解决方案的潜力。据报道，2023 年 1 月 10 日，他们计划在一轮融资中向 OpenAI 投资 100 亿美元。这将使 OpenAI 的价值达到 290 亿美元。
对话式 AI 的未来发展包括更多地使用 AI 支持的个性化和定制，以获得更量身定制的用户体验。另一方面，解决方案需要提高生成自然语言的能力，以实现更像人类的交互。这将导致更有效和准确的响应。第三，使用人工智能支持的情绪分析有望提高系统理解情绪并做出相应反应的能力。最后，还预计对话式人工智能系统将更多地集成到物联网(IoT) 中。他们很快就能控制和管理家庭和其他环境（包括商业和工业生态系统）中的各种设备。
对行业和社会的潜在影响
对话式人工智能的出现和智能通信系统的普及预计将在未来几年对社会产生重大影响。以下是一些潜在影响的示例：
随着对话式 AI 系统变得越来越复杂，它们有望通过 24/7 全天候对客户查询提供更快、更准确的响应来改善客户服务。对话式人工智能系统有望变得更加个性化和引人入胜，为用户提供量身定制的体验。
对话式人工智能系统将通过自动化重复性任务和减少人力需求来提高生产力和效率。理想的目标是让员工专注于需要人类技能的更复杂的任务，例如创造力、同理心、批判性思维或道德意识。他们还被期望为简单的查询提供更有效和准确的响应。这些改进将减少查找和访问信息所需的时间和精力。
如果你关注悲观的科幻小说般的预测，你会担心人工智能将开始接管许多曾经由人类完成的工作。其中一些预测认为人工智能技术的发展将导致广泛的失业和社会动荡。更不用说机器人接管世界了。
仔细观察对进步的恐惧和对变革的焦虑，就会发现每一项创新都会产生恐惧。第二次工业革命引入了电力等新能源形式，也带来了后来证明是毫无根据的恐惧。机器使用的增加将导致熟练工匠和工匠的工作机会减少。现实情况是，虽然一些工作确实由于机器使用的增加而变得过时，但也创造了许多其他工作，例如运输和制造等工厂工作。这同样适用于所有颠覆性的技术飞跃。
我们可以预见，人工智能技术系统将变得越来越复杂，甚至越来越像人类。这将使企业能够为用户提供更加个性化和引人入胜的体验。最后，它将有助于自动化更复杂的任务并为人类工作者节省时间。
七、结论
随着自然语言处理和机器学习的进步，机器越来越有可能以一种感觉自然的方式回应人类语言。这导致了广泛的新应用和更高级的人机交互形式。
然而，尽管有这些潜在的好处，但要充分发挥对话式 AI 的潜力，还必须克服许多挑战。最大的挑战之一是开发能够以始终符合上下文的方式理解和响应人类语言的系统。这不仅需要对单词的含义有深刻的理解，还需要能够以更微妙的方式解释使用这些单词的上下文、意图和情感。
对话式 AI 的另一个限制是理解和响应开放式问题或模棱两可的查询的能力。有时人类使用的语言和词汇很难被系统理解并导致错误的答案。
更复杂的是，对话式人工智能系统还需要能够根据不完整的信息做出决策。这需要能够以适合特定环境的方式处理不确定性，这似乎更像是一种人类技能，而不是机械技能。至少到目前为止。
页:
[1]
