4月14日,中国财富管理50人论坛《构建金融科技伦理治理体系》课题报告发布会在北京举行。全国政协委员、中国证监会原主席肖钢作为课题牵头人对外发布了报告。

以下是发言实录。


《构建金融科技伦理治理体系》是中国财富管理50人论坛2021年组织的课题,原计划在2021年12月份的论坛年会上发布。但受疫情影响,年会延期。今天,我代表课题组汇报成果。

党中央高度重视科技伦理治理,党的十九届四中全会提出“健全科技伦理治理体制”。科技伦理治理是国家治理体系的重要组成部分,也是党中央作出的一项重大部署。2021年5月,习近平总书记在两院院士大会上的重要讲话中指出“科技是发展的利器,也可能成为风险的源头。要前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战,完善相关法律法规、伦理审查规则及监管框架”。习近平总书记的重要论述明确了伦理道德在科技活动中的重要地位,为加强科技伦理治理提供了根本遵循和基本路径。

当前,金融科技不断创新发展,深刻改变了传统金融服务的方式和业态,极大地提高了服务效率、质量和能力,促进了经济社会发展,同时也衍生出复杂多样的伦理问题与潜在风险,给金融创新、金融监管、金融安全带来一系列新的挑战。因此,深入研究金融科技伦理治理问题,加快构建金融科技伦理治理体系具有重要性和紧迫性。


一、金融科技伦理的一般理论


课题组首先从金融科技伦理理论开始研究。伦理即人伦道德之理,指人与人相处的各种道德准则。伦理的约束范围最大,是法律、法规、标准、制度的基础,是一切社会主体全部的社会活动所需遵守的第一道防护线。

当前,对于“什么是金融科技伦理”尚无统一定义。我们研究认为,金融科技伦理是金融学、伦理学与科技的交叉部分,是科技伦理与金融伦理的有机结合,是科技伦理的分支,也是金融伦理的延伸。在科技快速发展的背景下,传统的伦理在跟科技活动结合的时候,就衍生出由于科技发展给传统伦理带来的挑战。这个概念和科技、金融是紧密联系在一起的。

金融科技伦理的研究应以金融活动中数据相关者行为及其相互关系为对象。金融科技伦理是区别于传统金融伦理的。我们在此报告中没有涉及传统金融伦理问题,是因为传统金融伦理问题已得到解决。我们只研究在金融科技迅速发展的当今,在传统伦理问题上衍生出的一些潜在风险及危害。

金融科技改变了传统金融业务服务方式和业态,特别是由于“科技人”与“金融人”有很大区别,近年来大量“科技人”进入到金融行业,“金融人”拥抱新技术,使传统金融伦理遇到新情况,数据生产力带来人与人之间关系的变化,需要新的伦理。

当然,有些同志提出来,说我们现在研究ESG,研究社会责任投资,还谈可持续金融,这些和我们研究的金融伦理是什么关系?不要混同。大家比较了解ESG,这是很清楚的,社会责任投资,还有可持续金融,它们的确跟伦理道德有一致的地方。因为这些都强调了利他、利社会,要讲究公平正义。它们既包括了传统金融伦理,也包括了金融科技伦理,这些业态和其他金融业态是一样的,都必须遵守伦理道德。它们之间是这样的关系,不是相互取代。比如说,我们有了可持续金融是不是就不搞ESG了?它中间确实有交叉、重叠,还有社会责任投资是从某一个角度来切入的这些概念。

另外,我们研究当中也遇到一个普遍的问题,金融科技伦理治理和金融科技监管有什么区别?我们认为也不能混为一谈。我们这次主要是研究伦理治理,没有研究监管。大家就问了到底是什么区别?我这里讲几点区别。

金融科技伦理治理强调人的内心自觉和金融机构的内部治理,讲究内化于心、外化于行,属于自律范畴。金融科技监管是指对金融机构的外部监管,是最低的道德要求,也是不可触碰的底线,属于他律范畴。自律以价值认同驱动人心,建立公序良俗,他律以强制规范保障秩序,体现国家意志,两者相互渗透、相得益彰。我们后面也有研究,有道德标准共识的,得到公认的可以转换为监管规则。国际国内都是这样做的,所以两者是不矛盾的。

加强金融科技伦理治理的意义有五点。

第一,保障金融科技向上向善的迫切需要。技术创新的一个重要特点是利他、利社会。一个技术的发明只利己的的话,是无法在全社会推广的。

第二,平台经济反垄断、防止资本无序扩张的内在要求。去年年底的中央经济工作会议,习近平总书记专门讲到需要正确认识和把握的五大重点问题,其中有一条是正确认识和把握资本的特性和行为规律,然后怎么样防止资本无序扩张和野蛮生长。因为资本的特性是追逐利润,资本是和科技创新紧密联系在一起的。我们现在从科技伦理的治理来讲,也是这个方面的需要。

第三,维护金融安全与金融稳定的重要防线。因为伦理问题也会引发一些风险问题,做好伦理治理,和金融监管一起来构筑风险防范的阵线是很重要的。

第四,提高金融资源配置效率和维护消费者权益的必由之路。如果金融机构不注意伦理治理,很可能就会要损害消费者的合法权益。

第五,提高我国金融科技国际竞争力的必要条件。金融科技伦理治理备受全球重视,各个国家和组织都围绕金融科技伦理治理发布了若干规则和规定。如果我们只重视所谓的技术发展,而不重视伦理建设,恐怕就会掉队,更谈不上增强国际竞争力。


二、金融科技伦理失范问题及其根源


金融科技伦理是在金融的基础上嫁接了新的技术风险,由此引发的伦理问题更加深刻,波及面可能更广。与传统金融伦理失范行为相比,更多地表现在数据与算法层面。数据伦理包括侵犯隐私、泄露数据、垄断数据和数据鸿沟等问题。算法伦理主要是算法歧视和算法控制。

我们分析了金融科技伦理失范对消费者、行业,乃至整个社会产生的危害。第一,引发金融服务新的不公平,损害消费者权益;第二,加剧市场垄断和不正当竞争;第三,放大金融风险,危及公共安全。比如底层算法不完善、技术路线偏差等技术失灵在高频交易、海量数据等特定场景下一旦触发风险可能会造成连锁反应,引发风险急剧扩散的“蝴蝶效应”。比如现代科技与金融的边界愈发模糊,虽然大原则是科技归科技、金融归金融,但科技和金融融合以后,不是简单的1+1,而是叠变出新的业态、新的模式。

我们还分析了金融科技伦理治理不受重视的原因,主要分为五个方面。一是伦理意识较为薄弱。重科技、轻伦理,重发展、轻治理,道德观、道德情感决定道德行为。科技观指引科技人员做人、做事、做学问的价值观。从业人员自律觉悟有待提高,伦理治理氛围还需营造。

二是伦理研究相对滞后。与科技迅猛发展态势相比,伦理基础理论与应用研究跟不上,特别是跨学科、跨专业、跨文化协同研究不够。伦理教育培训宣传普及仍不适应新形势发展需要。

三是伦理约束机制尚不健全。伦理规范体系欠缺,新技术在金融领域应用的公序良俗有待形成。推动科技向善行善的导向机制不顺。伦理评估评价和审计制度有待建立。伦理治理的规则协调与监督合力有待增强。

四是科技本身有缺陷。核心算法、关键模型、开发软件等是一个不断迭代发展的过程,需要不断取得技术突破,带来结果不可预测性,往往难以直观区分善与恶,加大治理复杂性。


三、国际金融科技伦理治理实践


通过研究,我们对国外科技伦理的治理实践也做了一些梳理。

第一,成立金融科技伦理治理组织。为提升金融科技伦理治理专业性和有效性,部分国家和地区通过咨询专家组、专门委员会、行业协会等多种形式的组织机制,凝聚政产学各方力量,牵头或者协助金融监管部门开展伦理治理研究、伦理规范制定、伦理审查评估等工作。

第二,明确金融科技伦理治理的总体原则。部分国家和地区金融监管部门或国际组织通过发布政策白皮书、行业规划、技术文件等方式,明确金融科技伦理治理的总体原则,一般包括:以人为本、公平包容、公开透明、隐私保护和数据安全、风险防控等。

第三,出台金融科技数据伦理规范。部分国家和地区专门出台金融科技数据伦理规范或者在人工智能等技术应用伦理规范中明确数据伦理要求,供从业机构采集、整理、使用、处理数据时参考执行。

第四,出台金融科技应用伦理规范。从全球实践看,金融监管部门一般按照“急用先行、共性先立”原则,以应用范围较广、创新活跃程度较高、对生产生活影响较深的人工智能技术为切入点,加强人工智能应用(算法)的伦理规范。

第五,开展金融科技伦理审查评估。开展伦理审查评估是促进金融科技伦理规范落地的重要抓手。新加坡金融管理局在这方面开展了有益探索,于2019年11月与金融行业合作创建Veritas框架,旨在帮助金融机构根据FEAT原则(公平、道德、可问责和透明)评估其人工智能与大数据分析解决方案。

第六,将伦理规范上升为监管要求。部分国家和地区及时将一些行业普遍公认的底线型伦理要求从相对柔性的道德约束上升为更加刚性的监管要求,部分国际组织也为成员国提供了相关监管指引。

2021年11月,联合国教科文组织发布《人工智能伦理问题建议书》,支持193个会员国落实《建议书》内容,并要求定期报告进展和做法。建议书里还对改善数据保护和个人对自身数据的了解和控制做出规定。同时明确了问责制,最终的责任和问责必须始终由人类承担,人工智能技术本身不应获得法律人格。这一点原则特别重要。关于伦理影响的评估,鼓励会员国增设独立的人工智能伦理官员或其他机制,监督审计和持续监测。虽然这个文件没有法律约束,但有很重要的约束力。


四、我国金融科技伦理治理框架和路径


我国科技伦理治理已经成为国家治理和社会治理的重要内容,未来应该需要采取多元共建共治格局,增强治理的系统性和协同性。要按照覆盖全面、导向明确、规范有序、协调一致的总要求来构建金融科技伦理治理体系。

我国金融科技伦理治理已经取得了积极成效和良好效果。从党中央、国务院到金融监管部门,一直是高度重视科技伦理治理。中国人民银行也发布了一系列的规范和标准来进行治理,特别是将伦理规范落实到监管制度与监管沙盒,金融科技伦理自律管理也得到了加强。

这方面,我们也梳理了中国实践。除了全国层面的重视和采取一系列措施以外,深圳、浙江等地都成立了地方性的自律组织——金融科技伦理委员会。因为他们的数字经济、金融科技发展得比较快,所以他们也有这种迫切的需求来治理科技伦理的问题。

今年一季度,人民银行金融科技委员会召开会议,多措并举推动《金融科技(FinTech)发展规划(2022—2025年)》落地实施,强调用“负责任”的科技创新打造“有温度”的金融服务。根据这样一些思路,我们在报告中提出构建金融科技伦理治理框架,概括起来叫一个目标、五项原则、七条路径。

“一个目标”是指促进金融科技向善行善,健全金融科技公序良俗,实现技术创新、金融改革和金融安全在更高水平的动态平衡,高效服务实体经济和人民生活。

“五项原则”是指以人为本、公平公正公开、伦理自觉先行伦理风险可控和敏捷治理。

“伦理自觉先行”——在中央的文件里没有这样提,但讲了这个问题。我们作为一个原则,前面也谈到了伦理和监管的关系。伦理的规范应该是自发的、自觉的,一个自律的行动,必须是这样的。它应该放在监管和法律之前,不要等监管来,监管是最后的底线。所以伦理在前,监管在后。

“伦理风险可控“——因为金融科技发展变化快、复杂程度高、不确定性强,必须安装“控制阀”,建立审慎评估制度。对新技术运用、新产品开发都要有清晰的控制流程与问责机制,确保行为可中断、过程可逆转、责任可追溯。同时建立畅通的受害者投诉、救助、补偿机制。

“敏捷治理“——加大对安全可信、负责任的金融科技研发,增强创新能力和快速响应能力,及时启动新的金融科技试点,开展科技项目综合影响的实验,更好适应金融发展新需求。在推动金融科技发展中,体现一定的包容性和弹性。

加强金融科技伦理治理的七条路径。第一,成立组织。人民银行最近发的文件和我们讲的这个组织还有点不同,我也顺便解释一下,人民银行发文提倡每个金融机构建立一个企业级的金融科技伦理委员会。我们的这个意见比它稍大一点,我们认为要建立一个专门的全国的金融科技伦理委员会。因为我们也去地方调研,特别借鉴浙江、深圳一些地方的经验,他们还是做得不错的。全国要有一个这样的委员会来指导各地、各个金融机构。同时要发挥现有自律组织的作用。

第二,制定规则。由简到繁、由易到难构建多层次金融科技伦理规则体系,实施金融科技伦理标准,强化对违反金融科技伦理有关行为的责任追究。

第三,数据治理。强化《金融数据安全分级指南》《人工智能算法金融应用评价规范》等规则的应用,细化约束内容、权责规定,以聚焦难点痛点为突破口。制定金融机构、科技公司及第三方数据服务企业的数据管理制度,确保伦理规范的指导性和有效性。

第四,技术应用。进一步有效管理用于机器学习的数据来源和质量;设置偏见控制机制,防止针对特定消费者群体的歧视性服务;确保技术应用系统中使用数据是准确、完整和适当的。

第五,审查评估。在宏观层面,关注系统目标、数据和模型、系统影响度量、个人数据使用、持续监测五个方面内容;实际操作中,金融机构和科技公司要将伦理规范纳入到企业全面风险管理和内部控制流程中,并开展自我评估。同时,研究建立伦理审计制度和伦理规范执行信息披露制度。

第六,创新试点。进一步发挥金融科技创新监管试点的作用,探索“金融科技伦理问题技术纾困”示范工程,遴选部分成熟解决方案在一些地方试行后开展普及推广。拟入选沙盒的试点项目,增加伦理审查前置条件,并向客户明示,对可能涉及的伦理风险问题,应明确提出解决方案或替代方案。

第七,人才培养。加强金融科技伦理教育培训和知识普及,将金融科技伦理作为高等院校金融科技专业的重要教学内容。加强金融机构、金融科技公司从业人员伦理教育培训,纳入人员入职、人才认证等管理体系。较大规模的金融机构或金融科技企业应设立“金融科技伦理委员会”、设置“首席伦理官”,或者要求领导班子成员中有一位分管金融科技伦理工作。支持符合条件的研究机构、社会组织搭建金融科技伦理宣教平台,传播科技伦理知识,帮助社会公众提升科技伦理意识和风险防范能力。


以上就是报告几个方面的内容。今天代表课题组做一个发布,讲得不对的地方,请大家批评指正。 


肖钢:在《构建金融科技伦理治理体系》课题报告发布会上的讲话

2022-04-16