AI在金融领域的变革与挑战：探索安全与治理的未来

  上引发广泛关注。由民建北京市委金融委副主任、中关村互联网金融研究院院长、中关村金融科技产业发展联盟秘书长刘勇担任主持人。北京大学计算机学院教授、元宇宙技术研究所所长陈钟，清华大学交叉信息研究院和人工智能学院教授、交叉信息研究院副院长徐葳，中移动金融科技有限公司董事长、总经理沈红群，马上消费科学技术创新发展部总经理，马上消费研究院院长赫建营进行深度探讨。

  由左至右嘉宾分别为：民建北京市委金融委副主任、中关村互联网金融研究院院长、中关村金融科技产业发展联盟秘书长刘勇，北京大学计算机学院教授、元宇宙技术研究所所长陈钟，清华大学交叉信息研究院和人工智能学院教授、交叉信息研究院副院长徐葳，中移动金融科技有限公司董事长、总经理沈红群，马上消费科学技术创新发展部总经理，马上消费研究院院长赫建营

  人工智能对金融领域的发展和创新，在2024年，带来哪些改变是令您印象非常深刻的？

  陈钟教授指出，尽管AI在金融领域的应用已经存在了很长时间，但2024年的诺贝尔奖尤其引人注目，这表明人工智能的算法及其应用已经达到了极高的科学成就。他进一步提到，尽管大模型和深度神经网络在金融领域具有巨大潜力，但截至目前，金融领域尚未出现特别突出的创新成果。目前的发展主要集中在通用大模型的应用上，这些模型已经能够在多个领域执行多种任务。陈钟教授特别强调了算法与行业深度结合的重要性，以AlphaFold为例，这种深度结合的创新对金融领域尤其重要。他对金融领域未来能否与大模型有效结合持乐观态度，尽管目前还没有看到显著的进展。

  徐葳教授在讨论中强调了2024年人工智能技术的发展，特别是在多模态学习领域，人工智能的进步让人印象深刻，机器的行为和训练方法越来越类似于人类。他提到了AI在各个学科中的挑战和影响，以及它在科学界获得的认可，特别是在今年诺贝尔奖的授予上。徐葳教授还提到了两个他认为在金融领域小但又有意义的事情，AI生成投资分析报告和商业银行用AI进行金融贷款审批。他认为，尽管这些变革的结果还有待观察，但它们标志着金融行业前所未有的变化。

  沈红群董事长强调人工智能已经成为全社会关注的焦点，AI在金融领域的变革更是全方位的，不仅重塑了金融业的业务流程、运营模式，还催生了大量新商业模式，显著提升了金融效率和金融风险防范水平。她认为AI可被视为引领第四次工业革命的核心技术。随着AI技术的发展，未来社会对AI的使用可能会像现在电脑一样普遍，将对人类生活产生深远的影响。对于令人印象非常深刻的事件，她特别提到了脑机接口技术，今年年初马斯克的脑机接口公司成功完成了首例试验，极大改变了人类未来的生活形态，帮助盲人在数字时间看见了色彩，帮助瘫痪患者恢复运动能力。可预见在未来，人类可能会与AI技术共生，碳基生命和硅基生命之间的界限会模糊，对社会和个人生活带来根本性的变化。

  赫建营总经理指出最显著的变化是人们对AI的认知和接受度的显著提升。他回顾去年人们对大模型和AI的潜力还持怀疑态度，但今年金融机构已经普遍接受了AI和大模型的应用。他强调，AI的应用已经贯穿了金融行业的全链条和全场景，从营销获客到智能风控，再到智能投顾和客服。赫总还提到，金融机构的未来规划是全面AI化，这包括从技术底座的AI改造到拥有AI核心技术，再到将AI技术开放给整个行业。

  与其他技术的突破一样，AI提供了新的潜力也带来了新的风险，金融服务业可能是该技术最大的受益者之一，也可能更好地保护好资产和预测好市场，但是如果AI导致欺诈，网络安全犯罪的增加，甚至投资者今天无法想象的金融危机，该行业可能遭受大规模损失，作为计算领域的资深专家，陈钟教授请您分享一下AI对金融业可能带来的安全与治理的挑战。

  陈钟教授强调了深度神经网络（DNN）在人工智能领域的突破性进展，特别是通用语言大模型向其他模态的延伸，这带来了能力的巨大提升。他指出，这种技术进步不仅影响金融业，还可能广泛影响其他领域。陈教授提醒说，如果我们在认知上不能清楚地理解这些问题，可能会导致盲目性，从而引发新的问题。他提到，人工智能的发展依赖于底层算力和芯片技术的进步，而DNN大参数模型的成功离不开强大的计算支持。陈教授还提到，人工智能已经将信息处理提升到了知识处理的高度，使得每个人都能通过自然语言与大模型交互来解决问题。最后，陈教授强调了在金融领域中，除了算法和算力，数据的安全性也非常重要，呼吁在金融关键领域中，需要更加关注如何防范风险，特别是在人的生态中。

  在信贷风险管理中，银行可以通过利用AI深度分析客户的交易历史，社交媒体行为和消费者习惯等多维度信息，全面评估贷款申请人信用风险，徐葳教授，依据你的专业背景，你如何看待随着AI技术的发展在金融业的应用深入，AI在金融安全治理中的作用，特别在风险管理，数据安全和隐私保护方面。

  徐葳教授提出了对大模型和类似人类智能的AI的深刻担忧，特别是在征信评估和隐私保护方面。他指出，AI的发展已经导致了效率的质变提升，AI可以以极低的成本挖掘任何人的隐私，传统的隐私保护观念可能正在瓦解，这将迫使我们重新定义隐私和安全。徐教授认为，未来的隐私保护将不再是简单的数据加密，而是需要AI具备更高的“情商”——看破不说破的能力。他还警告不良分子可能会利用AI进行更高效的欺诈，将导致金融风控领域的“军备竞赛”。如果AI的漏洞和脆弱性被利用，或者AI自身出现问题，整个金融体系可能会迅速崩溃。徐教授预测，未来5-10年内，如果没有清晰的技术解决方案，这些风险可能会成为现实。

  作为中移金科掌舵人，沈董事长请你从实践者的角度分享一下中移金科如何应用AI创新提升服务效率，用户满意度，并保障数据的安全。

  沈红群董事长首先介绍了中移金科作为中国移动的全资子公司，致力于构建“通信+金融”生态圈，基于金融科技赋能者定位，连接金融机构与中国移动的庞大客户群体，为客户提供一揽子解决方案。在公司成立五年多的探索中，特别是在AI的应用上，她分享了以下几点：一是AI技术成为金融风险控制前移的有效着力点。今年，中移金科发布了九天金融风控大模型，构建了运营商最大的金融数据基座，基于该基座打造的风控模型预测效果KS值达到0.4，效果提升25%。同时自研了炫彩活体检测识别算法，实现运营商特色的“炫彩活体检测真人+云网端协同认证本人”的组合验证能力，人脸伪造识别的准确率达到99.9%，获得中国信息通信研究院人脸识别安全评测“杰出级”（最高等级）。公司也基于九天风控大模型打造了“反恶意逃废债”标准化产品，有效解决了金融行业对债闹组织识别的空白，已在20余家金融机构签约落地。二是AI技术成为金融业务感知升级的关键抓手。中移金科推出了灵犀金融科技智能体，一方面打造了“AI+KYC”能力，可以快速识别处理用户的实时行为数据，与银行、消金等机构开展合作，帮助进入机构投放拉新成本压降62.3%。另一方面打造了“AI+受理”能力，在用户信息填充环节实现用户手动到自动填充的升级，大大缩减用户线个环节，有效解决了业务便捷与安全的矛盾。三是AI的发展离不开数据要素的安全可信流通。中国移动发挥基础网络建设经验优势，搭建基础的多方数据交互网络，数联网，覆盖全国31个省架设68个网络骨干核心节点，并通过发布行业标准，促进数据的安全可信流通，解决数据融通中的隐私和安全顾虑。

  作为马上消费研究院院长，您认为大模型等人工智能如何在营销、运营、提供个性化金融服务等领域应用，同时确保合规性和消费者权益的保护，就这个问题请您分享一下。

  赫建营院长强调了在获取和分析客户数据以进行信用评估和风险控制时，需要找到合适的平衡点，以保护消费者的隐私权益。他提到，金融机构必须遵守国家金融监管法规，同时也需要加强公司治理，成立专门团队来保护消费者数据。他还提到了新技术的应用，如智能质检和情感智能，以确保AI在与客户互动时能够感知情绪变化。虽然监管合规、行业自律和技术创新是解决隐私和消费者权益保护问题的关键途径，但这些挑战可能会始终存在。

  民建北京市委金融委副主任，中关村互联网金融研究院院长，中关村金融科技产业发展联盟秘书长 刘勇

  在本次圆桌会议主持中，刘勇总结到，在不久前，我们刚刚见证了历史，2024年的诺贝尔奖委员会将物理奖和化学奖授予有杰出贡献的人工智能专家，他们的工作成就证明了人工智能对科研范式的深远影响，也为我们讨论增添了几分时代色彩。人工智能不仅能够推动科学的边界，也将在更多领域，包括金融行业，引发革命性的变革。今天，我们就将探讨这种变革我们深入探讨了AI在金融领域的发展趋势和挑战。目前，该领域的政策环境不断改善，应用场景迅速扩大，显著提高了金融机构的内部生产效率，降低了运营成本，并推动了服务模式的创新和服务效率的提升。我们认识到，算法、数据和算力是人工智能发展的三大支柱。然而，我们也面临着技术风险，如算法的不透明性、歧视问题和模型缺陷，以及算力成本高昂和资源分配不均等问题。此外，数据隐私保护和数据质量上的问题也是我们不容忽视的挑战。

  为了确保人工智能技术的健康发展，我们强调一定要坚持智能向善的原则，一同推动AI的安全和可信发展。这包括坚守科技伦理，加强算力资源的整合与共享，强化数据供应和治理，推动大模型生态的建设，以及积极开展模型治理和完善AI工程化人才培养。

  金融行业需要深化大模型技术的应用，加强数据资产的建设，强化人才队伍的培养，并加快跨行业的联合创新。通过这一些措施，我们大家可以加速大模型技术在金融领域的研究和创新应用，释放行业的新质生产力，从而以金融的高水平发展服务社会经济的高水平质量的发展。我们期待与会各方的共同努力，以实现这一宏伟目标。