CISS与ICRC发布人道行动中负责任使用技术研讨会报告.pdf

报告摘要

“人道行动中负责任使用技术研讨会”汇聚了来自近20个国家的80多名人道实践者、学术研究人员及产业界代表，共同讨论了新兴技术正在如何重塑人道行动，以及在危机环境中负责任使用这些技术所需要采取的措施。第一场圆桌会议围绕“负责任的人工智能”主题展开，重点探讨治理、伦理与问责三个关键问题。与会者一致认为，人的控制与对人的问责仍是人工智能治理的核心，因为法律和伦理责任不能转嫁给机器。讨论指出，尽管不同地区监管方式存在差异，各方在安全性、透明度、人类监督与包容性等共同原则上正逐步形成共识。与会者同时强调，仅靠原则已不足以应对当前挑战。推动负责任的人工智能，需要建立具体的保障措施、测试与评估机制、明确的责任链条以及可执行的问责体系。第二场圆桌会议围绕“科技向善”主题展开，探讨技术如何为高效协同的危机应对提供支持。与会者指出，健全的数字基础设施是“科技向善”最重要的体现形式，涵盖网络联通、电力供应和支持离线运行的系统。讨论随后聚焦于颇具争议的技术中立性问题。部分与会者主张，代码可以保持中立。而另一些与会者则强调，技术始终反映权力结构与激励机制，会形成人道行动者应予管理的依赖关系。与会者一致认为，与科技行业开展对话是使“科技”成为“向善力量”的关键所在——而这需要责任担当、保障措施和退出策略，以及敢于对造成伤害、依赖或破坏人道原则的技术说“不”的勇气。第三场圆桌会议围绕“人工智能的安全与保障”议题，探究如何在危机环境中负责任地部署人工智能。与会者一致认为，人工智能风险程度与使用情境高度相关，比如在物流或后台职能中应用风险较低，而影响分诊或预警系统的人工智能系统则风险更高。由于人工智能系统将数据直接嵌入算法，基于“安全设计”理念，人们必须在数据、透明度和模型训练方面做出艰难抉择。讨论强调，必须让工作人员和社区具备识别偏见与风险的能力，使其在必要时能够对人工智能系统提出质疑并保持审慎；人道组织无法单独管理这些风险，因此与学术界、产业界及公共部门的合作至关重要。第四场圆桌会议围绕“数字信任”展开，重点探讨在互联世界中如何构建和维护信任。与会者将信任界定为一种由实践驱动的关系型概念，并一致认为，信任建立在一致、透明且可预测的行为基础上。在冲突环境中，数字信任尤为脆弱。敏感数据的滥用或泄露不仅可能直接危及民众安全，也会阻碍人道援助的准入与接纳。展望未来，与会者强调，构建并维系信任需要对未来风险做好准备和预判，包括制定系统发生故障或被滥用情况下的应急预案，并推行如数字红十字、红新月及红水晶标志等务实举措。