韩国金融研究院建议采用基于原则的 AI 治理

韩国金融研究院高级研究员Seo Jung-ho于8日发布报告，建议韩国金融当局为金融机构建立基于原则的AI治理框架。题为《金融公司建立AI治理的政策任务》的报告提议，监管机构应制定核心原则，同时允许企业自主实施，而不是施加详细规定。该建议旨在确保金融稳定的同时，推动金融公司采用AI。随着AI应用加速，这一提案回应了韩国金融业日益增长的担忧：如何在技术创新与监管监督之间取得平衡。

Seo Jung-ho建议建立基于原则的监管框架

Seo Jung-ho在报告中表示，监管机构应制定与AI开发和应用相关的核心原则，同时允许金融公司根据各类AI模型的特征和使用程度，实施适当的治理措施。他强调，相关指导方针应以自主性为前提，属于软监管，公司不应仅因未遵循指导方针而受到制裁。报告明确指出，金融当局应提出包括公平性、透明度、消费者保护和数据安全在内的核心原则，而详细的AI治理方案则应由金融公司自行决定。

报告警告僵化监管阻碍创新

报告指出了金融业AI监管过度僵化带来的具体风险。Seo Jung-ho指出，对复杂AI模型进行事前验证和审批的流程可能延迟AI服务的推出。报告警告称，监管机构的检查清单要求可能导致内部控制沦为形式主义。此外，这位研究员还指出，影子AI（Shadow AI）的扩散——即公司绕过内部审批流程使用外部AI——可能带来数据泄露风险。

韩国金融研究院提议建立明确的问责结构

Seo Jung-ho强调，有必要在问责结构中明确指定AI生命周期各阶段的最终责任人，包括规划、引入、运营和风险管理。报告解释称，数据安全和网络安全必须作为AI治理中的最高优先事项进行管理，因为随着生成式AI使用量激增，重要内部信息和客户数据泄露至外部的可能性也在增加。他警告称，事后追责——在金融事故发生后回溯性地为所有与AI相关的事故寻找责任人并予以制裁——可能会抑制金融公司的技术采用。

金融委员会的AI沙盒获得支持

报告主张积极利用金融监管沙盒开展新的AI服务。Seo Jung-ho提议，将金融委员会正在推动的AI专项沙盒与金融业联合数据利用基础设施相连接，在接近实际情况的环境中测试AI服务。报告特别指出，有必要提前检查智能体AI带来的新风险，因为智能体AI能够自主判断并执行金融交易。

报告讨论可解释性要求的平衡

Seo Jung-ho表示，包括可解释性和透明度在内的AI使用要求，需要通过监管规定作出更具体的定义。不过，他补充称，必须采取谨慎的方式，因为最新AI模型具有黑箱特征，过高的可解释性要求可能导致企业采用性能较低的模型，或不必要地延长审批流程。

常见问题

韩国金融研究院于8日就AI治理提出了什么建议？

韩国金融研究院于8日发布报告，建议采用基于原则的AI治理框架，即由金融当局提出公平性、透明度、消费者保护和数据安全等核心原则，同时允许金融公司在具体实施方面保持自主，而不是施加僵化规定。

报告为何警告金融公司不要实行僵化的AI监管？

报告警告称，过度僵化的监管会通过复杂的审批流程延迟AI服务的推出，形成以检查清单为中心的形式主义合规文化，还可能导致影子AI扩散，即公司绕过内部流程使用外部AI，从而增加数据泄露风险。

金融委员会的AI沙盒在这些建议中发挥什么作用？

报告主张积极使用金融委员会的AI专项沙盒，提议将其与联合数据利用基础设施连接起来，在接近真实环境的场景中测试AI服务，并提前检查智能体AI带来的新风险。