负责任的人工智能始于
清晰的护栏
在扩大规模之前,务必确保已建立完善的保障机制。在推广初期,更容易密切监控每个工作流程,但随着项目规模的扩大,这种程度的监管将变得越来越难以维持。.
清晰的指导原则能够确保扩展过程中的一致性。它们明确规定了人工智能可以访问哪些内容、哪些内容需要人工审核、工作需要满足哪些标准,以及哪些情况会导致暂停。有了这些指导原则,团队就能更高效、更自信地扩展规模。.
Microsoft Adoption
在扩大规模之前,务必确保已建立完善的保障机制。在推广初期,更容易密切监控每个工作流程,但随着项目规模的扩大,这种程度的监管将变得越来越难以维持。.
清晰的指导原则能够确保扩展过程中的一致性。它们明确规定了人工智能可以访问哪些内容、哪些内容需要人工审核、工作需要满足哪些标准,以及哪些情况会导致暂停。有了这些指导原则,团队就能更高效、更自信地扩展规模。.
作为人工智能领导者,您无需精通人工智能治理的方方面面。IT、安全和合规团队负责数据分类、访问控制、安全设置和保留策略等技术领域。您的职责是提供他们所需的业务背景信息。.
在扩大规模之前,请与合适的合作伙伴共同探讨以下四个问题:
明确每个AI辅助工作流程可以使用哪些类型的信息。例如,某个工作流程可能被允许使用客户合同数据,但被限制访问人员信息或其他敏感信息。.
现有权限可能无法反映适当的边界,因此请与 IT 和安全部门合作,审查每个工作流程所依赖的访问权限,并进行任何必要的更改。.
为每个人工智能代理指定一位负责人,并由其对代理的使用方式负责。负责人应了解代理的设计用途,并与IT和安全部门合作,确保代理的访问权限和权限符合预期用途。.
如果代理人可以代表您的组织采取行动或完成工作,则不应未明确定义其职责和权限。.
为人工智能辅助工作制定明确的质量标准,包括何时需要人工审核。审核的级别应反映输出结果的用途以及错误可能造成的影响。.
例如,面向客户的提案可能需要工作流程负责人或其他指定审核人员在分享之前核实价格和合同条款。而内部头脑风暴文档可能只需要较少的审核。.
将这些预期记录下来,放在使用该工作流程的员工都能找到的地方。要具体说明哪些输出需要审核、由谁审核以及审核者需要检查哪些内容。.
明确哪些信号会触发暂停,以便在问题升级之前加以解决。这些信号可能包括反复出现的事实错误、客户投诉模式、意外的数据访问问题,或者工作流程耗时比引入人工智能之前更长。.
确定谁拥有工作流程并有权暂停它,谁需要收到通知,以及谁决定工作流程是否可以恢复或需要更改。.
提前设定这些预期,可以让工作流程负责人有一个清晰的流程来应对出现的问题。.
人工智能规模化发展需要业务决策和技术管控。在决定如何扩展人工智能项目时,务必让IT、安全、合规和其他相关合作伙伴参与讨论。.
请详细说明工作流程的设计目标、所需数据、输出结果的用途,以及您已确定需要人工审核或其他限制的环节。您的管理合作伙伴随后可以识别相关要求,并确定所需的技术控制措施或策略。.
在将工作流程推广到更多团队之前,务必先让他们参与进来。在推广实施之前解决安全或合规性问题,远比在人们已经开始使用之后再重新设计工作流程要容易得多。.
在扩展人工智能项目之前,请确保已解答以下问题:
例子
销售团队准备在全公司范围内推广三个成功的AI辅助工作流程。在扩展之前,团队决定客户合同数据包含在内,但定价和人事数据不包含在内。IT部门审查了工作流程使用的权限,发现有两个共享文件夹权限过高,团队随即进行了修正。.
团队的四个 agents 系统均设有指定负责人和明确的权限。项目负责人会在提案分享给客户之前审核其定价和合同的准确性。团队还同意,如果一个月内出现两个提案错误,则暂停该工作流程,由工作流程负责人负责将问题上报审核。.
有了这些护栏,团队就有了扩大 AI 使用范围的明确界限:工作流程可以访问什么,谁负责,什么需要审查,以及何时暂停。.
良好的防护措施不会减缓扩展速度。随着更多工作流程、用户和 agents 融入您的 AI 项目,它们会为人们前进提供清晰的界限。.