构建更安全的工业AI自主化路径

工业AI进入新阶段：能力跃升伴随风险升级

工业AI正迈入全新发展阶段。在历经数十年预测性分析等专用应用后，基础模型（foundation models）、物理AI（physical AI）与智能体AI（agentic AI）的突破，正推动工业场景中更复杂任务的自动化。然而，与纯数字世界运行的AI不同，工业AI可直接与物理系统交互——一次意外决策可能危及人员安全、系统可靠性乃至关键基础设施。因此，负责任部署已成为下一波工业自动化的核心前提。

AVEVA首席技术官Arti Garg提出关键之问：“我们如何在利用这些技术的同时，保障安全、维持可靠运行，并兑现其新能力所承诺的价值？”她强调，挑战尤为突出：新一代AI能力越强，其行为越难预测、越难解释。

数据是安全自主化的基石

实现安全过渡的一项基础支撑是数据。工业系统长期积累着遥测数据、运维日志、工程文档等多源异构信息，但彼此割裂。新兴技术正加速打通这些数据孤岛，实现实时关联与分析，从而为操作人员提供即时诊断支持。例如，AI驱动的机器人可在无需人工进入的前提下，深入高危环境采集信息，显著降低作业风险。

分层治理：人类始终处于关键决策环路

更高程度的自主性，要求全新的治理范式。AVEVA的责任AI框架明确将安全性、效率与人类安全及监督置于同等优先级。Garg强调，AI应“增强而非替代”人在关键决策环路中的角色；需通过清晰的‘护栏’（guardrails）界定自动化系统的行动边界——哪些环节可由系统自主执行，哪些必须保留人类监督与最终裁决权。

可持续性：双维度责任并重

可持续性构成该框架另一支柱。一方面，AI可助力管理日益复杂的新型电力系统，支撑可再生能源规模化接入；另一方面，组织也亟需量化AI自身的环境足迹。Garg正参与IEEE工作组，牵头制定一项标准化方法论，用以全面评估AI在电力消耗、能源使用、资源投入、水资源消耗及碳排放五个维度的影响。

未来图景：从自主机器人到领域专家编程

下一阶段，工业AI将进一步深度融入物理世界：从自主巡检机器人、工业无人机，到支持领域专家（如工艺工程师）通过自然语言或低代码方式自主开发AI应用的AI辅助编程工具。但Garg提醒，释放这一潜力远不止于技术部署——企业必须重构业务流程、建立适配的安全机制，并为资深员工创造新途径来发挥其经验价值。唯有如此，才能构建一种真正更自主、更安全、更高效、也更可持续的自动化范式。

“无论是机器人还是无人机，自主系统都将彻底改变我们在工厂、电网、矿山等现场的工作方式，”Garg总结道，“这不仅会提升运营效率，更能大幅改善作业人员的安全水平与整体生产力。”

（注：本期《MIT科技评论》Business Lab播客由AVEVA联合制作）