不要为人工智能而设计(设计值得利用人工智能、分布式认知、认知任务和以人为本的智能系统解决的问题)

有多少次客户会要求我们在项目中“实施人工智能”……并期望某些（生成式）人工智能能够“神奇地”解决所有已知、未知和大多数未定义的问题？

你能为我施展人工智能魔法吗？

当你拥有大型语言模型时，一切看起来都像是基于聊天的助手的机会……

为值得解决的问题而设计！

让我们回到设计基础。结构良好的以问题为主导的方法不是直接寻求解决方案，而是旨在研究并明确定义问题（问题发现），然后再尝试解决这些问题的各种可能的解决方案（解决方案探索）。

并不是所有问题都需要用人工智能来解决。并非每个人工智能机会都需要通过大型语言模型（LLM）来解决。首先关注问题可以探索替代解决方案，对它们进行基准测试和评估，并选择最合适的解决方案。

考虑到这一点，我们建议通过分布式认知和认知策略提示等框架来构建人工智能机会检测，并并行进行用户研究和数据景观美化。我们将在下面定义这些术语……

 

分布式认知设计！

简而言之，分布式认知是一个成熟的人机交互(HCI) 框架，它使团队能够拥有超越技术和软件的整体视角。其中一个关键思想是，“认知”不仅限于人脑，而是一种分散在人、人工制品和技术中的新兴财产。

在我们的插图中，客户、律师、事务管理系统和律师助理正在合作，以满足最初的客户要求。每个参与者都利用他们的知识（商业、法律、数据）来操纵可用数据，提供认知服务（审查、总结、建议）并最终生成法律建议。

全面描述此类协作系统的完整情况可能相当棘手。然而，用户研究和系统思维方法可以帮助我们理解和映射流程、目标，并详细描述参与者如何协作和“共同思考”。

一旦我们了解了这个系统，我们就可以发现人工智能的机会！

认知任务设计

为了绘制分布式认知的过程，我们捕获预期的输入、期望的输出和待完成的核心工作（JTBD）。

在第二轮中，我们尝试通过一些认知策略提示将 JTBD 重新构建为“认知任务” 。我们可能会问，这个过程涉及什么样的“信息处理”活动，工作是否与信息的搜索、查找、审查、对比或关联有关？

我们发现，提示的应用可以显着增加与人工智能相关的想法数量，因为它们将想法推向实际上可以用人工智能方法支持的活动。

现在我们了解了流程、信息和认知任务，是时候研究可用于实验的数据了

基于数据景观的设计

我们可以（用户）研究和设计我们想要的一切，如果我们忽视基础数据的限制或机会，我们将无法创造成功的人工智能驱动的创新。毕竟，人工智能的好坏取决于你训练它的数据。

受颠覆性设计方法的启发，我们的目标是获得用例中涉及的所有信息的整体、系统级视图。有哪些可用数据？如何访问它们？哪些具体数据格式与我们的用例相关？

我们可能会探索眼前的内容之外的内容，并思考我们尚未考虑的其他哪些数据源可能是相关的？

通常，与用例高度相关的“信息”实际上并不存在于数字数据中，而是以领域知识的形式存在于个人的头脑中。

例如，在法律技术创新中，领域专家是训练有素的个人，拥有丰富的分类法、先例和深刻记忆在人脑中的事物。了解此类“数据”并考虑如何使最终用户能够引入自己的专家观点至关重要。

我们现在准备将人工智能机会转化为假设和实验。

为什么要进行实验？

过早锁定某一特定技术或概念，同时错过评估产品市场契合度并忽略替代方案，会浪费多少资源？

即使你跑得尽可能快，如果方向错误，你也会失败！

跑错方向了……

重构数据科学问题

首先，我们希望将我们对认知任务的了解重新定义为数据科学问题。数据科学是人工智能发挥作用并发挥作用的动力。因此，让我们将用户需求映射到特定的数据科学问题。数据科学

我们越能定义预期的输入数据（例如需要总结的真实书面报告）、其操作和所需的输出（例如一些真​​实的报告摘要），数据科学家就越容易完成一些实验。

例如，假设一位法律研究人员想要“获得信息概述”，与法律案件、客户的行业或他们正在从事的新实践领域相关——我们可以使用各种数据科学方法来协助这项任务——具体取决于我们的数据允许做什么——例如知识图、聚类技术、异常检测、主题建模等

虽然我们的论文探讨了提示和数据科学方法之间的映射，但由于不断发展的人工智能方法及其令人惊讶的新兴品质，这种映射始终是不完整的。让数据科学家尽早参与构思过程至关重要——为他们精确定义问题并研究各种替代解决方案，以便我们可以评估不同的想法和假设并选择最适合我们问题的解决方案。

“人工智能不是一件事……它只是人工智能，除非你理解它——然后它就只是软件”

以人为本的人工智能设计

软件产品以人为本的设计是赌注。许多成功的产品都是非常注重用户体验和可用性的。对于人工智能驱动的产品来说也是如此。

以人为中心的人工智能（HCAI）是一个新兴且快速发展的领域。优先考虑人的方面，例如人为控制、人在环和反馈环、信任、错误恢复、可解释性等等。

在概念设计阶段探索明确定义的问题的替代解决方案时，值得研究其中一些方面并考虑如何优化它们的设计。

对于初学者来说，这可以很简单，只需将概念原型或线框图纳入工作会议中，一次思考一个主题，以及如何针对这样的主题进行优化。

让我们看两个例子：可解释性和人机交互。

HCAI 示例：可解释性设计

Norkute 等人在2021 年发表的论文就是一个很好的例子。关于文本摘要解决方案的可解释性。该团队尝试了多种方法，将多页法律案例总结为一个（或几个）句子。优化系统的可解释性的目标使得研究人员团队考虑并评估替代方法来解释系统如何生成每个摘要。

虽然对生成的摘要的一种解释使用了现成的可解释性方法，该方法突出显示了摘要最重要的来源部分，但另一种方法则投入更多精力来计算注意力向量并突出显示与摘要最相关的单词热图。总结。这两种方法都可以进行评估和 A/B 测试。

请注意，最好的解释不会涉及不必要的细节，而是提供一些易于掌握的通信层，让用户了解系统的行为方式。另一方面，用太多（技术）细节进行过度解释很容易让非技术最终用户不知所措，并且可能会令人困惑而不是有帮助。

HCAI 示例：人在环设计

本·施奈德曼 (Ben Shneiderman)在他的《以人为中心的人工智能》一书中指出，系统自主程度的提高并不一定意味着人类控制程度的下降。

除了优化可解释性之外，值得考虑反馈循环概念的构思。通常，让人类最终用户了解系统当前行为并了解最新情况至关重要，或者提供详细的审计跟踪和日志以事后监控系统的决策。

永远记住，虽然人工智能系统看似智能，但它只不过是统计机器，很容易错误地理解违反常识的单词或符号的含义。

假设检验设计

每个想法，我们如何将认知任务重新构建为数据科学问题，本质上都是我们可以测试的假设！

根据您的团队规模，您可以或多或少地正式定义假设、预期输入数据、所需输出数据、需要完成的支持核心工作、最终用户的预期结果等。然后，数据科学家可以尝试各种不同的方法。数据科学方法和人工智能方法——只要为它们提供相关（训练）数据。

例如，Strategyzer 的测试卡是一种易于掌握的人工制品，可用于反思和讨论假设并进行实验以在研讨会上评估它们。

动态内容原型设计

除了概念的技术证明之外，我们可能还想通过快速原型设计和概念测试与领域专家和最终用户一起测试假设。

虽然机器学习是一种“新的设计材料” ，但使用数据和动态内容进行原型设计也带来了其自身的挑战。当前的设计工具（例如 Figma、Framer、Sketch、Axure 等）非常适合原型设计和测试用户旅程 – 只要这些旅程中的内容保持静态。相比之下，我们通常想要评估的是机器生成的动态内容的质量。

用户体验专业人员需要亲自动手编写代码！

值得与数据科学家密切合作来测试他们的早期结果，无论是直接从计算机终端、Jupyter笔记本、绘图数据可视化还是围绕他们的Python函数包装一个简单的Streamlit应用程序。

直接从此类原型中进行用户测试可以评估人工智能算法的输出，并可以与围绕内容讲述产品故事的用户体验原型相结合。早期评估通常还会激发设计变更，以找到更适合动态生成内容的概念解决方案。

如果这是不可能的，那么旧的 HCI 技术（如绿野仙踪、礼宾测试或类似技术）可以在项目早期阶段提供有用的最终用户评估。

测试的方面可能包括感知信任、感知控制和可用性、感知能力和智能，并解决新的人工智能产品如何适应最终用户日常的最终问题。

把事情包起来。我们建议按以下方式调整设计流程和方法……

• 很好地理解分布式认知如何在整个系统或正在调查的用例中发生。
• 明确关注与待完成的核心工作相关的特定流程中的“认知任务”和“信息处理”
• 数据清单并了解可用和可访问数据集的限制
• 通过关注分布式认知和认知任务，结合开放的数据库存来发现人工智能机会
• 将用户需求重新构建为数据科学问题
• 设计以人为中心的人工智能和带有动态数据的原型来测试您的假设

我们希望这个迷你系列对您有用。请在评论中告诉我们，您是否同意、质疑任何观点或想要添加任何想法！

翻译：云瑞设计
原文：uxdesign