我们非常高兴地在今年六月
Posted: Sat Jul 12, 2025 5:34 am
不幸的是，新冠疫情一度中断了线下聚会。因此，再次相聚，举办了首届 RAI 从业者线下研讨会！我们召集了来自 17 个机构的 24 位从业者，其中 13 位进行了闪电演讲，分享了他们实践中值得借鉴的成功经验，以及他们面临的挑战，并希望与其他从业者集思广益。与会者们带着标准的便利贴和记号笔，记下了分组讨论的问题、想法和主题。之后，我们投票选出了大家最感兴趣的主题，并分成两组进行更深入的讨论：治理/问责制和激励机制。
治理/问责
专注于治理和问责的分组讨论确定了跨公司识别人工智能系统风险和危害的两种主要机制：（1）RAI 团队的分类和审查；（2）员工或受影响的利益相关者的通知。
（1）RAI 团队的分类和审查
参与研讨会的每家公司都已开发或正在开发其人工智能系统的伦理审查或影响评估流程，例如微软 手机号数据库列表 在研讨会前不久发布的“负责任的人工智能框架”。由于此类评估的资源并非无限，几位与会者讨论了分类的重要性，以便优先考虑最有可能造成损害的模型或系统，并确定减轻损害所需的资源分配。
讨论的许多人工智能审查流程都涉及与人工智能开发人员合作，回答一系列问题或完成书面评估，然后将结果提交给 RAI 团队或其他专家机构进行审查和讨论。虽然与会者强调了与开发团队的这些互动能够促进深入思考和对话的价值，但也指出了在拥有不同 RAI 问题经验水平的大型工程组织中推广此类高度定性的评估所面临的挑战。这促使一些与会者探索如何通过在开发生命周期早期更好地收集有关人工智能系统的关键元数据来推动初步风险评估，并通过制定标准化的缓解措施来匹配特定类型的人工智能产品或人工智能风险，从而实现部分审查流程的自动化，同时仍努力确保在整个过程中由专家进行适当程度的人工审查。一些与会者还开始为其开发团队投入更多 RAI 培训，以便一线工程师和管理人员能够更有效、更准确地回答 RAI 审查所依赖的问卷和评估表。
治理/问责
专注于治理和问责的分组讨论确定了跨公司识别人工智能系统风险和危害的两种主要机制：（1）RAI 团队的分类和审查；（2）员工或受影响的利益相关者的通知。
（1）RAI 团队的分类和审查
参与研讨会的每家公司都已开发或正在开发其人工智能系统的伦理审查或影响评估流程，例如微软 手机号数据库列表 在研讨会前不久发布的“负责任的人工智能框架”。由于此类评估的资源并非无限，几位与会者讨论了分类的重要性，以便优先考虑最有可能造成损害的模型或系统，并确定减轻损害所需的资源分配。
讨论的许多人工智能审查流程都涉及与人工智能开发人员合作，回答一系列问题或完成书面评估，然后将结果提交给 RAI 团队或其他专家机构进行审查和讨论。虽然与会者强调了与开发团队的这些互动能够促进深入思考和对话的价值，但也指出了在拥有不同 RAI 问题经验水平的大型工程组织中推广此类高度定性的评估所面临的挑战。这促使一些与会者探索如何通过在开发生命周期早期更好地收集有关人工智能系统的关键元数据来推动初步风险评估，并通过制定标准化的缓解措施来匹配特定类型的人工智能产品或人工智能风险，从而实现部分审查流程的自动化，同时仍努力确保在整个过程中由专家进行适当程度的人工审查。一些与会者还开始为其开发团队投入更多 RAI 培训，以便一线工程师和管理人员能够更有效、更准确地回答 RAI 审查所依赖的问卷和评估表。