南非 AI 项目在扩大规模前需要建立证据追踪机制

据分析，南非组织在扩大人工智能系统的应用规模前，需要建立证据追踪记录。该分析是在南非撤回国家人工智能政策草案后进行的。由于出现虚构来源的问题，该政策草案被撤回，削弱了其可信度，也表明证据质量不能被视为技术细节。证据追踪记录应记录人工智能系统使用了哪些信息、这些信息有多新、系统生成了什么、由谁进行检查，以及在输出影响决策之前经过了哪些变更。随着组织从实验转向实际工作流程，这将把模糊的核查要求转化为清晰可见的责任。

南非因虚构来源撤回国家人工智能政策草案

南非国家人工智能政策草案因出现虚构来源的问题、可信度受到削弱而被撤回。此次撤回表明，一份经过精心编制的文件、建议或预测，可能建立在过时、捏造、不完整或脱离当地实际情况的证据之上。南非正在重新制定政策流程，以建立人工智能道德使用的国家标准。

南非组织在银行、保险、采矿和市政服务领域应用人工智能

TechFinancials 曾报道银行、保险公司、公共机构和工业企业应用人工智能的情况。在 TechFinancials 报道的一场金融服务峰会上，行业领导者讨论了人工智能、弹性基础设施和智能银行。常见的商业应用包括销售团队使用助手识别潜在客户、保险公司使用人工智能确定理赔优先级、矿山将模型应用于维护数据，以及市政机构部署服务聊天机器人。在每种情况下，员工可能只能看到最终答案，却看不到哪些记录被遗漏、引入了哪些假设，也不知道来源材料是否反映了南非当地的语言、监管和运营实际情况。

证据追踪记录任务、来源、数据时效、审核人和决策负责人

一份有用的证据追踪记录应记录任务、来源材料、数据的新鲜度、重要假设、负责审核的员工、所作更正以及最终决策负责人。对于风险较高的工作流程，还应记录哪些情况会触发升级，或要求停止流程。这种方法能够改善人工智能的应用情况，因为当员工认为自己将要为无法检查的结论负责时，他们会抵触人工智能；当系统在实际工作中表现得不可预测时，管理者会变得谨慎；当责任归属仍不明确时，合规团队会放慢项目进度。

组织可以通过重建一项实际工作流程来测试准备情况

领导者可以通过一项实际工作流程测试证据追踪习惯，要求一名未参与原始任务的员工重建结果。该测试可以确定此人是否能够识别来源、假设、人工审核环节和最终负责人，以及组织是否能够解释：如果输出损害了客户利益或产生了不公平结果，将采取什么措施。如果不能，该工作流程就尚未准备好扩大规模。Gleb Tsipursky 是行为科学家、Disaster Avoidance Experts 首席执行官，同时也是《工作场所人工智能采用心理学：从抵触到成果》一书的作者。

常见问题

南非国家人工智能政策草案为何被撤回？

南非国家人工智能政策草案因出现虚构来源的问题而被撤回，这削弱了其可信度，也表明证据质量不能被视为技术细节。

人工智能系统的证据追踪记录应记录哪些信息？

证据追踪记录应记录任务、来源材料、数据的新鲜度、重要假设、负责审核的员工、所作更正以及最终决策负责人。对于风险较高的工作流程，还应记录哪些情况会触发升级，或要求停止流程。