人工智能工程的基础实操

作为卡内基梅隆大学一部分的联邦资助的研发中心，其软件工程研究所(SEI)已为人工智能工程编写了11项“基础实践”。这些是软件工程、网络安全和应用人工智能领域的专家为IT和业务决策者提供的建议。以下是对这些实践的总结：

(1) 确保组织存在应该采用人工智能解决的问题。从定义明确的问题开始，了解组织要完成的工作和所需的结果，同时确保可以使用数据来实现这些结果。

(2) 在组织的软件工程团队中包括各种主题专家，如数据科学家和数据架构师。有效的人工智能工程团队包括问题领域的专家、数据工程、模型选择和优化、硬件基础设施和软件架构，以及软件工程专业知识。

(3) 认真对待数据。数据接收、清理、保护、监视和验证对于设计成功的人工智能系统至关重要，它们需要大量的资源、时间和注意力。确保组织的流程考虑到环境的变化、可能的偏见和潜在的对抗性利用。

(4) 根据组织需要模型执行的操作而不是其流行程度来选择机器学习算法。算法在几个重要方面有所不同，其中包括它们可以解决的问题类型、输出信息的详细程度以及输出和模型的可解释性。组织需要选择适合解决特定问题并满足业务和工程需求的算法。

(5) 通过部署集成的监视和缓解策略来保护人工智能系统。软件工程研究所(SEI)的研究表明，人工智能系统的攻击面正在扩大，而更广泛的攻击面又加剧了运营环境的脆弱性。通过进行持续的评估和验证来应对这一问题。考虑到新威胁的出现速度很快，这一点尤其重要。

(6) 定义检查点以说明恢复、可追溯性和决策依据的潜在需求。人工智能系统对输入数据、训练数据和模型之间的依赖关系非常敏感。对任何一个系统的版本或特征的任何更改都可能很快影响其他系统。

(7) 结合用户体验和交互，不断验证和发展模型。尽可能使用自动化的方法来获取系统输出的反馈并改进模型。监控用户体验，尽早发现问题。另外，还要考虑到用户的偏见。

(8) 为解释输出做好准备。软件工程研究所(SEI)的研究表明与其他大多数系统相比，人工智能输出需要更多的解释。人工智能系统引入的不确定性在某些情况下可能是不可接受的。结合机器学习组件也需要设计输出的不确定性。

(9) 实现可扩展或替换的松散耦合工具，以适应不可避免的数据和模型更改。与传统系统相比，人工智能系统组件之间的边界恶化的速度更快。

（编辑：唐山站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!