数字时（shí）代是人工（gōng）智能（AI）深度应（yīng）用（yòng）和（hé）发展的（de）时（shí）代。AI的发展，正在以（yǐ）一日千里的速度（dù）改变着这个世界，并在交通、医疗、环境保护、城（chéng）市管理等多个（gè）领域（yù）中（zhōng），发挥着越来越不可替（tì）代的作用。但同时，AI的安（ān）全性问题，也成为了数字化发展进程中不可回（huí）避的问题。在数字经济欣欣（xīn）向（xiàng）荣的（de）发展态势（shì）下，安全被许（xǔ）多业内（nèi）人士视为（wéi）木桶上（shàng）的（de）那一块“短板”。

如（rú）何（hé）让安（ān）全为数（shù）字化发展“保驾护（hù）航”？8月6日，2021新京报贝壳财（cái）经（jīng）夏季（jì）峰会（huì）——数字经济时代的（de）风险防控线上（shàng）论坛举行，蚂蚁集（jí）团副总（zǒng）裁，蚂蚁集团安全（quán）事业群总（zǒng）裁赵闻飙表示，可信人（rén）工智能（néng）的研（yán）究（jiū）和落地或是抵御“数字化”风险的关键能力。

用可信AI解（jiě）决智能化风（fēng）险

伴随着数字化经济的发展，用户在（zài）享受数字化带来（lái）的（de）便（biàn）捷与普惠的同时，也面（miàn）临数（shù）字化（huà）背后的风险，如羊毛党通过操纵多账户套取（qǔ）商户营销资金、个人用户遭遇网络欺诈、账（zhàng）户盗用（yòng）等。“过（guò）去，我（wǒ）们一直（zhí）重（chóng）点谈的（de）是‘数字化’背后的（de）风（fēng）险（xiǎn）和应对（duì），而对‘智能化’背后的风险讲（jiǎng）得很少（shǎo）。因（yīn）为当时行（háng）业普遍认为，人工智能（néng）技术的落（luò）地应（yīng）用（yòng）还相对（duì）有限。但事实上，早在六七（qī）年（nián）前，我们就在（zài）平常（cháng）应（yīng）对黑产攻击中，发（fā）现了（le）AI的痕迹。”赵闻飙表示。

新京（jīng）报贝壳（ké）财（cái）经记（jì）者注（zhù）意到，当下的确有越来越（yuè）多的黑（hēi）灰产团伙将（jiāng）AI等（děng）新（xīn）技术投入到了薅羊毛、诈骗等非法活（huó）动中。如使用AI工具（jù）操（cāo）控大量账号进（jìn）行违规操作、使用AI换脸（liǎn）技（jì）术（shù）试图（tú）绕过（guò）人脸识别认证等。

这意味着伴随人工智能技术（shù）的高（gāo）速发（fā）展和加（jiā）持，数字化背后的风险将持续加剧（jù），并且（qiě）演变为“智能化”背后的（de）风险（xiǎn）挑战。

据了解，目前（qián）黑（hēi）产作案越（yuè）来越（yuè）趋于多平台、多链路、团队化（huà）和智能化。这对行业协同、风险响应机制的（de）速（sù）度和准确性提出了更高的要求（qiú），而且还需要（yào）切（qiē）合“数（shù）字（zì）化浪潮”下社（shè）会对于隐私（sī）保护、技术伦理治理等多（duō）方面的需求。

在赵闻飙看来，要对抗“智能化”的风险，就需要“智能化”的手（shǒu）段，这也是“可信AI”技术进入快（kuài）速发展阶段的核心驱动力。可信（xìn）AI技（jì）术要求人工智能技术应当具备可解（jiě）释（shì）性（xìng），以帮助（zhù）人（rén）类理（lǐ）解和（hé）信赖他们的决策；具备鲁棒性（robustness），以抵御黑产的攻击，以保障计算和决策的稳定性和效能（néng）；具（jù）备（bèi）隐（yǐn）私保护的能力（lì），以满足社会和民众对于个人数据资产保护的需（xū）求（qiú）；具（jù）备公平性，强（qiáng）调决策结果的公平（píng）性，同时（shí）关（guān）注技术背后的（de）社会责任和（hé）伦理治理。

“数字时代，安全（quán）是（shì）AI与AI的博弈，而可信AI，则是抵御（yù）风险（xiǎn）的关键能力（lì）。”

面向（xiàng）可（kě）信（xìn）AI技术的下一（yī）代风控体系“IMAGE”

据了解，蚂蚁集团自2015年起投（tóu）入可信AI技术的（de）研究。2016年，全面启动了人工智能（néng）风控防御战略。目前，可（kě）信（xìn）AI技术已在包括反欺诈、反洗钱、反盗（dào）用、企（qǐ）业联合风控（kòng）、数据隐私保护在内的多个风控场景（jǐng）下落地，支撑着（zhe）其全风险（xiǎn）域的防御需求。根（gēn）据今年6月全（quán）球专（zhuān）利权威（wēi）机构IPR Daily发布（bù）的报（bào）告，蚂蚁集（jí）团目前拥有全（quán）球范围内数量最多（duō）的“AI安（ān）全（quán）可信关键技（jì）术”专（zhuān）利，并（bìng）上线部署了（le）以（yǐ）“IMAGE”命名的下一代风（fēng）控（kòng）体系。它包含着“交互式风控”、“多方安全风控”、“智能决（jué）策”、“全图风（fēng）控”、“端云协（xié）同（tóng）风控”五大组成部分。

赵闻飙表示，“全图风控”技（jì）术能（néng）够（gòu）以“图”的形态，聚合“动态（tài）发展变化的（de）风险信（xìn）息”，解决（jué）了（le）传（chuán）统风控中（zhōng）只能依靠（kào）单一或（huò）静态信（xìn）息维度追踪风险的困境，实现对风险变化趋势的（de）预测（cè），提前遏（è）制风险的发生。在反电诈等风控场景（jǐng），对于打击团伙型、多链路作案，具有重（chóng）要意义。而“全图式（shì）”的风险分析和（hé）追踪形（xíng）式，也对人工智（zhì）能的“可解释性”发展提供了更广泛的（de）空间。

而“多方安全风控”和“端云协同风控”则是“智（zhì）能（néng）化”趋势（shì）下，实现风控与（yǔ）隐私保（bǎo）护平衡发展的实践探索。“多方安（ān）全风控（kòng）”实（shí）现了在数据不交（jiāo）换的前提下，多企业（yè）、多平台之间的联合风控（kòng）协作。“端云协同风控”的价值则是保障数（shù）据的使用和保有权真正属于用户。通过（guò）将（jiāng）风控模型部（bù）署在智能终端，如手机上，蚂蚁的（de）技术团队建立起了一（yī）套“终端进行数据计算和决策、云端仅获取决策结果”的风控模式。终端计算，意味着敏感信息被保（bǎo）留在（zài）用户手（shǒu）中，规避了信息传输过程中可能出现的被（bèi）攻击风险。云端仅获取决策，不仅保障了安（ān）全防御和风险控（kòng）制（zhì）不受影响，还节约了云端的计算资源。目前，“端（duān）云协同风控”已经被广（guǎng）泛（fàn）用于支付宝的日常（cháng）风控（kòng）中，在（zài）去年（nián）的（de）双十一期间，98%的风控决策都是在用户智能终端上完成的。

赵（zhào）闻（wén）飙在（zài）分享中强调，传统风控受制（zhì）于技（jì）术成本、数（shù）据规模和算（suàn）法效能，许多（duō）场景还是专家（jiā）经验驱动，而（ér）不是数据智能（néng）驱动。“支付宝（bǎo）每天有数亿笔交易，面对如（rú）此庞大的计算量，一（yī）旦决策产生延迟（chí），就给了黑产可（kě）乘之机。” 通（tōng）过人工智能与金融风控的深度融合，蚂蚁安全实验室打造了能（néng）够实现“智能决策”的（de）AI大（dà）脑（nǎo）——AlphaRisk。其能够在零人工干（gàn）预的（de）全自动（dòng）模式（shì）下，对风（fēng）险进行毫秒级的（de）响（xiǎng）应。但更（gèng）重（chóng）要的是——AlphaRisk具备（bèi）的自学习（xí）、自适应的能力，将极（jí）大地提升人工智能的抗打击能力。AI大脑通（tōng）过对每一（yī）次黑产攻（gōng）击行（háng）为的学习（xí）和研究，不断提升防（fáng）御手段，进行（háng）高效的自我进化。

在技术快速发展的（de）同时，可信AI的公平（píng）性也考验着研究者对社（shè）会责（zé）任的坚守。赵闻飙提到，早在2016年，蚂蚁就成立了针（zhēn）对电信网（wǎng）络诈骗的技（jì）术研（yán）究小组，借助（zhù）包（bāo）括（kuò）“图神经（jīng）网络”“博（bó）弈攻防”在内的一系（xì）列创新（xīn）技（jì）术应（yīng）用，极大地遏制了平（píng）台电诈（zhà）发生率。但许多骗子引导受害人转而（ér）使（shǐ）用其他的支付渠道，社会欺诈问（wèn）题仍旧（jiù）严峻。如何依（yī）靠技术（shù）力量（liàng），真正（zhèng）将（jiāng）诈骗罪（zuì）案止步于（yú）支付环节，成为（wéi）研（yán）究的重点，“交互式风控”也因此应运而生。

贝壳财经记者注意到，区别于以往的安全风控模式，交（jiāo）互式主动风控（kòng）的关键在于“主动”二字——传统的安全（quán）往往依赖于已知风险模式，只有风险发生过（guò），才（cái）知（zhī）道如何（hé）预防，这也使得安全风控往（wǎng）往（wǎng）处于“被动防守”的态势。

对此，赵闻飙表示，安全必（bì）须从静态的被动防守，转变为动（dòng）态的主动对抗，特别（bié）是金融安全。“以交互式风控产品（pǐn）‘叫醒热线’为例，当用户被骗子诱导转账时，AI机器人将向用（yòng）户发出来电提醒（xǐng）。充分学习了欺诈罪案分（fèn）析的AI机器人，能够捕捉用户交流中的（de）关键信息，采取恰当有效（xiào）的反诈（zhà）劝阻话术和措施。为了跟骗子拼速度，目前蚂蚁的反诈（zhà）骗叫醒（xǐng）热（rè）线中（zhōng），有超9成电话（huà）是（shì）由AI打出的，叫醒成（chéng）功率超过了人工客（kè）服。除了事中的防护，如（rú）果用户深度受骗、执意支付，技术人员还开发了‘延迟到账’和‘资金截留’的（de）功能，让欺诈者没有办法支（zhī）取（qǔ）赃款（kuǎn）。”

“人工智能（néng）技术的快（kuài）速发展，引领了第四次工（gōng）业革命的浪潮。而可（kě）信人工智能的研究和落地，则代表（biǎo）了（le）人工智能技术发展的新阶段。在未来，与人类社会深度耦合的人（rén）工智能技术，如何在安全、可（kě）信、公平的（de）原则下，持续发展和进步？这（zhè）是（shì）每一位从业（yè）者和研究者，为推动科（kē）技有序、健康发展都不应回避的命题。”赵（zhào）闻（wén）飙表示。