跳到主要內容
帶著挑戰而來,帶著無限可能而歸。立即預留席位,參加 ESPC Microsoft 365 和人工智慧大會!
現在註冊

負責任的人工智慧始於
清晰的護欄

在擴大規模之前,務必確保已建立完善的保障機制。在推廣初期,更容易密切監控每個工作流程,但隨著專案規模的擴大,這種程度的監管將變得越來越難以維持。.

清晰的指導原則能夠確保擴展過程中的一致性。它們明確規定了人工智慧可以存取哪些內容、哪些內容需要人工審核、工作需要滿足哪些標準,以及哪些情況會導致暫停。有了這些指導原則,團隊就能更有效率、更有自信地擴展規模。.

確定哪些地方需要護欄

身為人工智慧領導者,您無需精通人工智慧治理的各個層面。 IT、安全和合規團隊負責資料分類、存取控制、安全設定和保留策略等技術領域。您的職責是提供他們所需的業務背景資訊。.

在擴大規模之前,請與合適的合作夥伴共同探討以下四個問題:

  • 人工智慧輔助工作可以存取哪些內容? 確定哪些類別的業務資料適合您正在擴展的工作流程,以及在哪些方面需要限制。.
  • 哪些部分仍需要人工審核? 確定哪些輸出結果在使用、分享或採取行動之前需要有人審核。.
  • 這項工作應該達到哪些品質標準? 明確員工在審核人工智慧輔助輸出結果時需要檢查哪些內容。.
  • 什麼情況下會觸發暫停? 辨識出顯示工作流程需要暫停,以便相關負責人進行調查的訊號。.

建立四項關鍵防護措施

儘早讓你的治理夥伴參與其中。

人工智慧規模化發展需要業務決策和技術管控。在決定如何擴展人工智慧專案時,請務必讓IT、安全、合規和其他相關合作夥伴參與討論。.

請詳細說明工作流程的設計目標、所需資料、輸出結果的用途,以及您已確定需要手動審核或其他限制的環節。您的管理合作夥伴隨後可以識別相關要求,並確定所需的技術控制措施或策略。.

在將工作流程推廣到更多團隊之前,務必先讓他們參與其中。在推廣實施之前解決安全或合規性問題,遠比在人們已經開始使用之後再重新設計工作流程要容易得多。.

檢查您的規模化準備。

在擴展人工智慧專案之前,請確保已解答以下問題:

  • IT和安全部門是否審查過工作流程所依賴的權限?
  • 每個代理商都有指定的負責人和相應的權限嗎?
  • 哪些輸出需要人工審核?審核人員需要檢查哪些內容?
  • 哪些資料類別在研究範圍內,哪些不在研究範圍內?
  • 什麼訊號會觸發暫停?誰有權採取行動?
  • 相關IT、安全、合規和業務利害關係人是否已審查過這些防護措施?

例子

銷售團隊的護欄

銷售團隊準備在全公司範圍內推廣三個成功的AI輔助工作流程。在擴展之前,團隊決定客戶合約資料包含在內,但定價和人事資料不包含在內。 IT部門審查了工作流程使用的權限,發現有兩個共用資料夾權限過高,團隊隨即進行了修正。.

團隊的四個 agents 系統均設有指定負責人和明確的權限。專案負責人會在提案分享給客戶之前審核其定價和合約的準確性。團隊也同意,如果一個月內出現兩個提案錯誤,則暫停該工作流程,工作流程負責人負責將問題上報以供審核。.

有了這些護欄,團隊就有了擴大 AI 使用範圍的明確界限:工作流程可以訪問什麼,誰負責,什麼需要審查,以及何時暫停。.

設定護欄

良好的防護措施不會減緩擴展速度。隨著更多工作流程、使用者和 agents 融入您的 AI 項目,它們會為人們前進提供清晰的界限。.

探索更多 Copilot 資源
Microsoft 365 採用 - 開始
人工智慧收養之旅