坚持智能向善，共同推动AI安全可信发展

一是坚守正确的科技伦理。我曾看过一篇文章，西湖大学校长施一公介绍，人工智能在3年内就预测出近7亿个蛋白质或大分子空间三维结构，而人类此前积累的全部数量仅约20万个，正是因为人工智能的介入将科研由手工生产变成了工业化生产。另一则新闻是美国重要智库Mitre发布了一张人工智能系统对抗性威胁的场景图，呈现出人工智能应用从侦查踩点、网络渗透到维持控守、数据获取，再到秘密传递、后场处理等网络攻击全链条场景，威力之大，超出想象。两个案例从正反两方面，充分表明人工智能运用得当，将造福人类；运用不当，可能引发灾难，其所带来的危害将不亚于核武器，而全世界只有9个拥核国家，但可能会有无数个滥用人工智能的机构团体，少数人给世界带来灾难的风险在大大增加。可信AI，智能向善，刻不容缓。同样站在金融的角度，我们要防止金融服务过程中的信息茧房、数据偏见、隐私泄露和市场操纵，要防止模型歧视所可能引发的侵权事件，建立模型持续运营机制，对模型输出开展审计，确保AI技术符合伦理法则和社会价值观。

二是加强算力资源整合共享。人工智能大模型所需算力每3-4个月就翻一倍，以新材料、生物制药、金融科技、深海深空等为代表的前沿科技和未来产业，都对算力提出了前所未有的需求。但当前全国范围的算力“小高炉”现象普遍存在，算力都在建，应用都还缺，快速增长的主要是低端算力，而围绕大模型、自动驾驶等AI任务所需的高端算力仍然缺口较大，供给端与需求端存在结构性错位，甚至造成能源与资金浪费。建议研究建立国家级的云计算底座，有效统筹大模型在训练、推理等不同环节所需的算力资源，合理分工，避免人工智能基础设施出现低水平重复建设。在行业层面，要探索建立AI算力云，提供公正、可信、可共享的算力资源，推动实现设施绿色低碳、资源高效调度、算力灵活供给。

三是强化数据供给与数据治理。AI模型的价值观来自于数据，数据供给质量的好坏将直接影响AI的智商与成效，为了确保大模型的应用效果和可信度，我们需要对训练数据的量和质提出更为严苛的要求。经过多年的信息化建设，金融机构普遍积累了大量结构化数据和数据处理经验，但相对于大模型，还远远不够。在具体实践中，一方面需要着力丰富数据种类、强化数据治理、提升数据质量，建立“业务沉淀数据要素、数据要素转化为数据资产、数据资产反哺业务发展”的闭环机制；另一方面，需要建立高效稳定的数据标注体系，对训练数据进行辨别、清洗、加工，确保数据支撑有力、标注专业统一，为建模提供坚实基础。要全面落实数据安全法律法规与监管要求，建立健全数据分级分类管理和数据全生命周期的安全保护能力，保障金融数据和个人信息安全。

四是推动大模型生态建设，积极开展模型治理。大模型研发具有人才密集、技术密集、资本密集的特性，通常由少数高效能的研发组织主导，目前国产大模型数量已超过200个，一方面大模型研发缺少具有显著创新性的原创理论支撑，导致多数大模型技术路线趋同，同质化严重，一定程度上造成了资源浪费，另一方面在探索“大而强”通用模型的同时，结合具体应用场景研发“小而美”垂直行业模型的资源投入相对不足。建议发挥产业上下游合力，推动产学研深度融合，建立国家、行业基础性规划，加强合作协同，构建自主可控、共生互补、健康可持续发展的良好生态。同时，要大力推进负责任的模型治理，解决AI应用存在的模型决策不透明、难以“白盒化”等问题，确保人工智能合规、安全、有效应用。包括建立模型评估与监测机制，定期对模型进行质量检查、性能评估、运行监控、风险审计，确保模型稳定运行；增强模型安全防护，研究深度防伪技术，建设对抗训练平台，提升模型外部风险防控能力。

五是完善AI工程化人才培养。AI工程化人才是推动AI技术创新和应用的关键人才，在数字化转型中发挥重要作用。积极培育AI工程化人才队伍，一方面要通过自主培养、产学研深度合作等方式，着力造就一支知识型、技能型、创新型的工程化人才队伍；另一方面要通过人才引进、消化、吸收以及合理流动，充分激发创新活力。

交通银行愿与大家一起，坚持“智能向善，开放共治”，携手推进人工智能技术应用，为数智时代的美好未来努力奋斗。