光華講壇——社會(huì)名流與企業(yè)家論壇第6661期
主題：基于黑箱攻擊的信用卡欺詐檢測(cè)模型安全性評(píng)估框架
主講人：四川大學(xué)教授 肖進(jìn)
主持人：西南財(cái)經(jīng)大學(xué) 管理科學(xué)與工程學(xué)院副院長(zhǎng) 肖輝
時(shí)間：11月7日10:00
地點(diǎn)：通博樓D301會(huì)議室（溫江柳臺(tái)大道555號(hào)）
主辦單位：管理科學(xué)與工程學(xué)院
主講人簡(jiǎn)介：
肖進(jìn)，研究領(lǐng)域智能金融，四川大學(xué)商學(xué)院教授，博導(dǎo)，2018年作為首席專(zhuān)家主持國(guó)家社科重大項(xiàng)目并入選四川省突出貢獻(xiàn)專(zhuān)家和四川省天府萬(wàn)人計(jì)劃天府社科精英，2020年獲得四川省杰出青年基金，2023年入選四川省學(xué)術(shù)和技術(shù)帶頭人，2024年入選國(guó)家萬(wàn)人計(jì)劃哲社領(lǐng)軍人才。共獲得3項(xiàng)四川省科技進(jìn)步獎(jiǎng)二等獎(jiǎng)，和1項(xiàng)四川省優(yōu)秀哲社成果二等獎(jiǎng)1項(xiàng)。
內(nèi)容提要：
機(jī)器學(xué)習(xí)模型已經(jīng)被廣泛應(yīng)用于信用卡欺詐檢測(cè)(credit card fraud detection，CCFD)領(lǐng)域，然而，已有的研究主要關(guān)注模型的檢測(cè)性能，很少關(guān)注其安全性。近年來(lái)，其它領(lǐng)域的研究表明機(jī)器學(xué)習(xí)模型很容易受到對(duì)抗攻擊。目前，黑箱攻擊算法最為常用。已有的黑箱攻擊算法在生成對(duì)抗樣本時(shí)需要向目標(biāo)模型查詢(xún)大量樣本的標(biāo)簽，在現(xiàn)實(shí)的信用卡欺詐中很難滿(mǎn)足這一條件。因此，本研究提出了一個(gè)基于黑箱攻擊的CCFD模型安全性評(píng)估框架；在該框架下，進(jìn)一步提出了一種半監(jiān)督遷移黑箱攻擊(semi-supervised transfer black-box attack，STBA)算法來(lái)評(píng)估已有的CCFD機(jī)器學(xué)習(xí)模型的安全性。該算法不需要向目標(biāo)模型進(jìn)行大量查詢(xún)，而是利用半監(jiān)督學(xué)習(xí)技術(shù)從無(wú)類(lèi)別標(biāo)簽樣本集中選擇性標(biāo)記一部分樣本的類(lèi)別來(lái)輔助訓(xùn)練替代模型，進(jìn)而提高替代模型與目標(biāo)模型判別函數(shù)的相似性。在兩個(gè)真實(shí)CCFD數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)，使用構(gòu)建的2種不同版本的STBA算法來(lái)攻擊包括深度神經(jīng)網(wǎng)絡(luò)在內(nèi)的6種目標(biāo)模型。結(jié)果發(fā)現(xiàn)，和傳統(tǒng)的黑箱攻擊算法相比，STBA算法能夠進(jìn)一步降低CCFD機(jī)器學(xué)習(xí)模型在生成的對(duì)抗樣本集上的分類(lèi)準(zhǔn)確率；面對(duì)STBA算法生成的對(duì)抗樣本，六種CCFD模型都基本喪失了識(shí)別欺詐交易的能力。這證明了本研究提出的安全性評(píng)估框架的可行性和有效性，為銀行評(píng)估和提升CCFD模型的安全性提供了重要參考。
