中新网上海新闻7月30日电(李秋莹)近期，BSI最新研究报告《AI责任落实的兴起：谁在掌舵？》发布，BSI专家在采访中阐释了组织应如何释放AI价值，同时确保人、安全、信任与有效监督始终处于AI部署的核心位置。

　　关于AI议题，BSI始终传递着明确的信息：负责任的AI不仅是技术挑战，更是一场关乎人的福祉、治理机制与责任落实的领导力挑战。

　　BSI人类和社会可持续发展全球负责人 Kate Field

　　Q1：BSI参与并助力发布了UNIDO《工业人工智能：治理框架》白皮书。您认为这份白皮书的重要意义是什么？

　　Kate Field：随着AI在制造、物流、供应链及其他工业场景中不断深入应用，其影响已不再局限于提升效率或优化流程。AI也在改变人们的工作方式、组织所承担的安全责任，以及更广泛的社会可持续发展议题。因此，AI发展不能只关注技术能力本身，还必须关注这些系统如何以安全、可靠、透明和负责任的方式进行部署与管理。

　　BSI很高兴能够为该白皮书贡献专业见解和实践经验。它的重要意义在于，将讨论重点从“AI能否更快部署”转向“AI如何在关键工业环境中得到有效管理和适当监督”。这不仅关系到组织自身，也关系到员工、供应链合作伙伴乃至整个社会。

　　Q2：从人类与社会可持续发展的角度看，组织在部署工业AI时应重点考虑哪些因素？

　　Kate Field：组织需要重视AI部署中的“人的维度”：技术如何影响人，以及人如何与技术协同工作。AI最终运行在由人设计、部署、监督和使用的环境中。组织自然会关注AI在提升生产力、质量和运营韧性方面所带来的价值。

　　但与此同时，组织也应考虑员工及其管理者是否能够充分了解AI如何影响与工作条件相关的决策；是否建立了适当的人类监督和升级处理机制；以及如何管理劳动力替代、技能弱化或岗位角色变化等潜在风险。负责任的AI部署意味着，在提升技术能力的同时，也要同步建设员工能力，确保人们能够理解、质疑，并在必要时介入AI驱动的决策。

　　BSI人工智能与网络数字安全领域负责人Dr Laura Bishop

　　Q3：白皮书提出，工业AI应当安全、可靠、可控。组织需要采取哪些实际行动？

　　Dr Laura Bishop：首先，组织需要清楚了解自身正在使用哪些AI系统，以及这些系统应用于哪些业务或工业流程。随后，组织需要明确每个系统的责任主体，界定使用边界，建立适当的人类监督机制，并识别在哪些情况下需要人工干预或升级处理。

　　更重要的是，AI治理不能停留在系统上线前的一次性审查。组织还需要持续监测系统在真实环境中的运行表现。尤其是在数据、业务条件或使用方式发生变化时，组织需要能够及时识别问题、采取行动、保留记录、从事件中学习并改进，并在必要时重新评估系统表现。

　　对于工业AI而言，治理也不能仅限于模型本身。它还需要覆盖与系统相关的人员、流程、设备、数据、供应链和组织责任。换言之，组织应从完整系统的视角来管理AI，而不是将其视为一个独立的技术组件。

　　Q4：ISO/IEC 42001与白皮书提出的治理方向有何关联？

　　Dr Laura Bishop：白皮书为工业AI治理提出了重要原则和讨论方向，而AI管理体系标准ISO/IEC 42001则为组织建立、实施、维护和持续改进AI管理体系提供了国际框架。二者都强调，AI应在清晰的责任结构、风险管理、控制措施和持续改进机制下运行。

　　ISO/IEC 42001可以帮助组织将负责任AI原则转化为日常管理实践。例如，组织可以借助该框架明确AI治理责任，识别相关风险与机遇，建立适当控制措施，并持续评估AI系统是否按预期运行。BSI能够通过标准、培训、保障、认证和咨询服务，帮助组织采纳、嵌入并展示这些实践。

　　BSI全球AI市场发展与合作负责人Tim McGarr

　　Q5：为什么AI责任落实正在成为组织面临的关键议题？

　　Tim McGarr：这份研究传递的核心信息是：AI责任落实正在从理论走向执行。随着组织对AI的应用不断加深，AI治理正在从ICT或战略职能部门的议题，转变为董事会和高管层必须关注的事项。

　　研究还显示，AI并不仅仅是又一种工具；它代表着更广泛的业务重塑。随着AI在组织内部以及商业模式中不断扩展，清晰的责任机制、控制措施和明确的责任人变得愈发重要。

　　当AI更深度地嵌入业务运营和业务成果之中，相关责任也正逐步从数据和创新团队，转向首席执行官、董事会和风险委员会。

　　归根结底，外界正期待组织能够就AI结果展示可信、可运营且可审核的责任落实机制。这使得AI治理不再只是技术问题，而是领导力与信任问题。

　　Q6：组织在管理AI时通常会面临哪些共同挑战？

　　Tim McGarr：一个关键挑战在于，许多组织内部的AI责任仍然较为分散。BSI《AI治理中的信任报告》指出，组织在AI保障机制方面存在明显缺口，只有不到四分之一，即24%的受访者表示其组织已经建立AI治理计划。此外，AI战略、风险和监督职责往往分散在不同角色和职能部门之间，这可能导致责任归属、法律责任和决策权限不清，尤其是在问题发生时更为突出。

　　研究显示，组织正在采取不同路径。有些组织设立了首席AI官，有些则扩展了首席信息官或首席数据官的职责范围，也有组织采用联邦式治理委员会或由业务单元承担责任。目前并不存在唯一的“最佳”模式。关键在于，负责相关工作的个人或团队必须获得充分授权，具备跨职能影响力，并拥有将负责任AI落到实处所需的资源和能力。合适的治理方式也将取决于组织规模、所在行业、风险特征和AI成熟度等因素。（完）

注：请在转载文章内容时务必注明出处!   

编辑：王丹沁