生成式AI：重塑欺诈检测领域的未来_AI&大模型



 写点什么



大小：2.10M时长：12:14

本文是我在2023年10月洛杉矶QCon大会上的演讲的摘要。随着数字时代的发展，欺诈行为的复杂性也在不断上升。由于网上银行业务、电子商务和其他交易的便利性，我们的生活变得更加简单。但这种便利性也存在一个重大的缺点：它使每个人都更容易遭遇欺诈。

许多应用程序和网站现在都拥有大量宝贵的数据，包括与个人、财务和健康相关的信息。令人遗憾的是，犯罪分子在巧妙地利用这种数字便利性来谋取私利，导致复杂的欺诈激增，包括身份盗用、深度伪造和在线支付骗局。这种欺诈行为造成了巨大的经济后果，给消费者和企业带来了数以百亿计甚至数万亿美元的损失。

导致欺诈激增的推动因素

造成欺诈迅速增加的主要原因有两个。

首先，随着经济活动的发展和消费者行为的变化，欺诈分子会调整策略以更好地利用系统的弱点。

例如，2019 年至 2021 年期间，新冠疫情导致数字欺诈率激增 52%，尤其是在旅游和金融服务行业。

其次，消费者对无缝数字体验的期望呈指数级增长。消费者要求快速、安全和便捷的交互性，如果他们的这些期望得不到满足，他们会迅速转向竞争对手。

主要的欺诈趋势

为了更好地理解欺诈预防对技术的需求，我们先来看一下欺诈行业存在的几个关键趋势：

自动化：欺诈分子正在使用各种软件机器人，其中一些由生成式 AI 驱动，使欺诈活动自动化。这种自动化使欺诈比以往任何时候都更具规模和效率。

成本上升：欺诈造成的经济影响正在增加，消费者每年损失数十亿美元。在全球范围内，因欺诈造成的损失超过 5 万亿美元，因此迫切需要采取有效的预防措施。

合成身份欺诈：这是增长最快的欺诈形式之一，占身份欺诈案件的 85%以上。合成身份欺诈由生成式 AI 驱动，由于缺乏足够的训练数据，使用传统方法很难检测到。

平衡消费者体验：企业必须在最小化消费者摩擦和防止欺诈之间取得平衡。在满足客户对无缝体验的期望的同时保持安全性是一项复杂的挑战。

点解决方案的普及：针对客户体验的不同阶段有许多专门的工具，将这些点解决方案的数据整合到一个全面的风险管理系统中对于有效预防欺诈来说至关重要。

欺诈检测的演变

风险管理和欺诈检测经历了重大变化。驱动这些转变的三代技术如下：

风险系统 1.0，使用静态的基于规则的方法；
风险系统 2.0，将传统机器学习与规则相结合；
最新的风险系统 3.0，除了传统机器学习之外，还使用生成式 AI 来应对复杂和新兴的欺诈模式，同时降低误报率。

随着这几代技术从根本上改变了公司在当今充满活力和联系的世界中打击欺诈和管理风险的方式，了解它们的微妙之处和演变是至关重要的。

现有欺诈检测方法的缺点

在深入探讨生成式 AI 的优势之前，了解传统欺诈检测方法的缺点至关重要：

可扩展性有限：随着交易复杂性的增加，通常涉及数百个特征，传统机器学习模型可能难以有效地伸缩。

特征工程开销大：手动特征工程是一个耗时的过程，需要进行数据提取、转换和清理。它仍然可能错过准确的欺诈检测所需的关键信息。

数据不平衡：与合法的交易相比，欺诈交易的数量很少，导致训练数据不平衡。这种不平衡可能会扭曲传统模型准确检测欺诈的能力。

缺乏上下文：之前的方法可能不包含广泛的变量或上下文理解，限制了它们在检测复杂或微妙欺诈计划方面的有效性。

需要人工监督：通常需要人工干预来进行模型调整、更新和手动验证被标记的交易，导致资源密集型操作。

缺乏适应性：静态的基于规则的系统和一些传统的基于机器学习的风险系统缺乏适应性，需要频繁手动更新来应对不断变化的欺诈挑战。

AI 风险决策

一个被称为“AI 风险决策”的新类型正在改变欺诈检测的格局。它利用了生成式 AI 的优势，将其与传统机器学习技术相结合，为保障在线交易打下了坚实的基础。这显著提高了欺诈检测和预防的准确性和速度。一些 AI 风险决策平台，如Oscilar，通过分析从用户活动中收集的数据可以快速地识别可疑行为，并提醒组织注意潜在的欺诈活动。

让我们来探讨一下定义这种方法的核心支柱。

知识：360 度知识结构

第一个支柱是创建一个全面的知识结构，作为整个平台的基础。这个结构集成了公司内部的各种数据源，如交易记录和实时客户档案。此外，它还集成了来自联盟数据库、开源情报数据库和学术研究的外部知识。这种数据的整合为我们带来了一个全面的视角，并通过实时流处理方法得到了增强。重要的是，它增加了一层智能和推理，形成了有效风险管理的核心认知。

为了说明这种知识结构可以带来怎样的影响，我们以合成支付欺诈为例。在这种复杂的欺诈形式中，传统的方法往往难以区分洗钱和合法的异常交易，主要是因为这种欺诈方式发展迅速，并由生成式 AI 驱动。另一方面，生成式 AI 不断分析非结构化数据，形成了一种自适应的知识结构。这个结构可以识别用于标记支付欺诈的关键特征，如账户休眠、账户年龄和账户信息的变化。它实时区分良性和欺诈行为，使其成为 AI 风险决策的重要组成部分。

这种方法将传统机器学习技术与生成式 AI 和知识结构相结合，根据实时交易数据和标签不断更新模型，最终增强了欺诈检测能力。

创造：自然语言接口

AI 风险决策的第二支柱是引入用于创建欺诈规则或模型的自然语言接口，使该过程变得极易访问。这个接口允许用户自定义工作流程、模型和其他组件，无需编码专业知识或深入的分析技能。例如，如果你想创建一个用于检测账户劫持的模型，可以指定特征，或者让系统自动识别相关特征，例如跟踪可疑的登录行为或与用户先前登录模式的偏差。

自然语言模型将这些需求转化为机器学习模型，执行测试并评估其性能，然后提供结果。此外，它还提供了可以无缝集成设备智能的灵活性。此外，你可以要求进行回溯测试，系统将分析模型在过去场景中的表现，从而帮助做出决策。

重要的是，人的因素仍然是这个过程中不可或缺的一部分，因为人工智能系统为个人提供了有价值的风险洞察。通过让风险管理民主化，具有不同技能的团队能够有效地应对欺诈，并使欺诈预防计划更具规模和包容性。

推荐：自动推荐

AI 风险决策的第三支柱侧重于自动推荐，为实时和有效的风险管理提供强大的能力。它可以自动监控交易并识别趋势或异常，为风险模型建议相关特征，独立进行场景分析，并建议优化性能的下一个最佳操作。

例如，对于合成身份欺诈，AI 系统会迅速学习该欺诈类型的独有特征。它可以训练一个专门的机器学习模型，其中包含用于检测合成身份欺诈的关键特征，例如应用数据中的异常、信用申请率的跟踪和标记高风险交易。然后，系统部署这个模型，并建议向决策工作流程添加额外特征来检测细微的差异。

自动推荐简化了风险模型迭代的过程，这在欺诈检测中是必不可少的，因为在欺诈检测中，找到正确的特征和趋势可能极具挑战性。将减少欺诈的时间从几周缩短到几小时甚至几分钟，大大提高了风险管理和预防欺诈工作的效率。

理解：人类可理解的推理

AI 风险决策的第四支柱强调人类可理解的推理。这一支柱旨在让 AI 系统提供的决策、推荐或洞察都能很容易地被人类用户所理解。它让风险专家能够理解影响风险评估的因素，并为所做的决定提供解释。

通过深入理解每个操作或推荐背后的“为什么”，这一支柱赋予风险专家发现新模式、建立必要的防御措施并与更广泛的团队有效合作的能力。这种透明性增强了信心并促进了信任，减少了模型迭代所需的时间。

例如，如果与发行新信用卡有关的退款率增加了 12%，误报率上升，AI 风险决策平台就会进行根本原因分析。它提供了相关风险因素的概述，例如客户行为或交易模式的变化。有经验的风险操作员能够理解导致这种情况发生的关键因素，并生成解释。系统还可以主动提供建议，帮助用户战略性地解决问题。

实质上，人类可理解的推理通过阐明决策和建议背后的推理过程，将风险管理从一种被动的反应性功能变成了一种积极主动和战略性的功能。

指导：增强风险专家的能力

AI 风险决策的第五个支柱侧重于指导，旨在增强风险专家的能力，而不是取代他们。欺诈模式的复杂性日益增加，数字交易的数据量巨大，即使是经验丰富的风险专家也感到不知所措。

AI 风险决策为风险专家提供了宝贵的协作伙伴，为正在进行的事件提供实时情报，进行专业的根本原因分析，并提出需要训练的相关特征或模型。它可以提供对数据的情境理解，解释某些趋势背后的因素，从而使决策更加明智。

例如，当对可疑的自动清算交易进行分类时，传统的手动流程涉及收集数据、从以前的案例中识别趋势以及手动调查潜在的勾结行为。相反，AI 风险决策会持续分析交易，快速识别违规行为（例如，受益人与客户之间缺乏联系或来自未知来源的高价值交易），并建议阻止交易。它还会对相关实体进行图形分析以检测勾结行为，减少了手动审查的需求。

风险专家可以要求系统解释为什么会发生某个案例，并根据他们的业务知识和对欺诈趋势的理解做出明智的决定。

AI 风险决策通过提供可靠的洞察和解释，让风险专家更具战略性和积极性，使欺诈检测更具规模和效率。

自动化：风险自动化

AI 风险决策的最后一个支柱是自动化，它简化了风险专家的工作。风险专家经常需要花费大量时间在重复的任务上，如监控欺诈趋势和生成性能摘要。

生成式 AI 可以自动完成这些报告任务，它能够在后台收集和处理数据，并快速生成报告。例如，在编制月度业绩趋势报告时，传统的流程涉及手动收集数据，并使用诸如 Excel 之类的工具创建报告，这既耗时又繁琐。AI 风险决策自动化了这一过程。你只需请求它生成上季度的绩效趋势报告，它会提供趋势概述并自动生成报告。如果报告被证明是有用的，你可以要求它定期生成类似的报告。

自动化是一个关键支柱，它释放了花费在重复任务上的时间和精力，让风险专家可以专注于更具战略性的工作。这六个支柱共同构成了 AI 风险决策的基础，彻底改变了欺诈检测和风险管理。