ML模型治理是组织如何控制访问、实现策略和跟踪模型活动的总体过程。它是降低模型故障、法规遵从性和攻击风险的必备工具。治理是使组织的底线和品牌风险最小化的基础。具有有效的机器学习治理的组织不仅对模型在生产中的运行方式具有细粒度的控制和可见性，而且通过将AI/ML治理策略与其他IT策略集成，可以释放操作效率。
通过治理，组织可以了解可能影响模型结果的所有变量，这有助于他们快速识别和缓解可能降低结果准确性和应用程序性能的问题(如模型漂移)。随着时间的推移，这些问题会直接影响企业的底线，侵蚀客户对品牌的信任。
为什么组织要与机器学习治理斗争?
治理是2021年各组织面临的首要挑战，因为它们竞相扩大其ML能力，以在快速数字化的市场中保持竞争力(资料来源：2021年企业发展趋势(ML报告)
当我们的客户需要为他们的组织处理机器学习治理时，我们看到他们面临五个主要的挑战。
1.最佳做法不明确。我们仍处于ML治理的早期阶段，组织缺乏一个清晰的路线图或规范性的建议来在他们自己独特的环境中有效地实现它。
2.法规不明确。不断变化和模棱两可的监管环境导致了不确定性，公司需要投入大量资源来维持合规性。那些跟不上的公司有失去竞争优势的风险。
3.现有的解决方案是手工的，不完整。即使是现在正在实施治理的组织，也在使用各种不同的工具和手工流程来实现治理。这样的解决方案不仅需要不断的维护，而且还可能造成覆盖范围上的严重差距。
4.ML不容易集成到现有的IT策略中。有效的机器学习治理需要与IT协作，但是大多数组织仍然将ML视为一个精品计划，这使得它很难集成到更标准化的企业IT流程和技术栈中。
5.管理不善会给公司资产带来风险。实施ML的公司面临着品牌和底线的风险。漂移或理解不足的模型可能会削弱客户对品牌的信任，而不受监控的模型则可能导致生产失败。
组织应该如何改进机器学习治理?
组织应该实现一个MLOps平台来解决上述机器学习治理挑战。Algorithmia是唯一一家提供具有所需功能的现成MLOps解决方案的供应商，否则组织将被迫拼凑起来并维护自己的解决方案。无论哪种方式，都有七个关键领域可以确保您能够支持：
1.完整的模型目录，包括模型风险文档、用于培训和预测的模型数据源描述、模型输出的目的地和用途
2.基于风险梯度的灵活模型风险管理框架：高风险模型得到更多的验证、测试和监控，而低风险模型得到更轻松的处理，更多的责任委托给业务部门或模型开发人员
3.部署模型并将其集成到遗留系统和数据体系结构的有效过程
4.用于操作、管理和监视生产中模型运行状况的工具，使模型开发人员脱离模型操作
5.监控模型准确性和数据一致性的工具，如果模型结果或输入数据开始漂移或输入数据质量下降，这些工具将生成警报
6.一个集成的模型和数据变更管理过程，以便对数据或模型的变更进行适当的测试和沟通，以防止令人不快的意外
7.标准审计报告和日志，以便审查员和审计员能够审查模型结果、变更历史记录、数据错误或过去模型故障的记录以及采取的措施。
