披露：此處表達(dá)的觀點(diǎn)和觀點(diǎn)僅屬于作者，不代表crypto.news社論的觀點(diǎn)和觀點(diǎn)。
人工智能正在加劇金融犯罪，金融業(yè)的防御能力正在落后。犯罪分子現(xiàn)在使用人工智能來(lái)創(chuàng)建令人信服的深度造假、精心設(shè)計(jì)的網(wǎng)絡(luò)釣魚攻擊并大規(guī)模偽造合成身份。這些策略的進(jìn)展速度比傳統(tǒng)合規(guī)系統(tǒng)能夠跟蹤的更快，暴露了當(dāng)前方法中的致命缺陷。
盡管這種威脅規(guī)模巨大，但許多組織都急于部署自己的人工智能系統(tǒng)，而沒(méi)有確保這些工具是可解釋的、透明的，甚至是完全理解的。除非可解釋性成為用于財(cái)務(wù)合規(guī)的任何人工智能系統(tǒng)的基線要求，否則我們有可能用另一種形式的不透明來(lái)取代一種形式的不透明，這將無(wú)法與公眾或監(jiān)管機(jī)構(gòu)建立信任。
軍備競(jìng)賽已經(jīng)開始
人工智能被用來(lái)使舊的犯罪更快，更便宜，并促進(jìn)新類型犯罪的實(shí)施?？紤]一下最近合成身份欺詐的激增。網(wǎng)絡(luò)犯罪分子使用人工智能將真實(shí)和虛假數(shù)據(jù)縫合成真實(shí)的、捏造的身份。這些個(gè)人資料可以開設(shè)帳戶、獲得信用并繞過(guò)驗(yàn)證系統(tǒng)，同時(shí)與真正的用戶幾乎沒(méi)有區(qū)別。
Deepfake技術(shù)為武器庫(kù)增添了另一件武器?，F(xiàn)在，只需最少的努力就可以產(chǎn)生令人信服的首席執(zhí)行官、監(jiān)管者甚至家庭成員的模仿。這些視頻和音頻片段被用來(lái)發(fā)起欺詐性交易、誤導(dǎo)員工并引發(fā)內(nèi)部數(shù)據(jù)泄露。
甚至網(wǎng)絡(luò)釣魚也發(fā)生了變化。人工智能驅(qū)動(dòng)的自然語(yǔ)言工具可以根據(jù)每個(gè)目標(biāo)的公共數(shù)據(jù)、在線行為和社交背景，制作針對(duì)每個(gè)目標(biāo)量身定制的超個(gè)性化、語(yǔ)法正確的消息。這些不是過(guò)去拼寫錯(cuò)誤的垃圾郵件。它們是定制攻擊，旨在贏得信任和獲取價(jià)值。在加密貨幣領(lǐng)域，網(wǎng)絡(luò)釣魚正在蓬勃發(fā)展，人工智能正在加速這一趨勢(shì)。
合規(guī)工具陷入了前人工智能時(shí)代
挑戰(zhàn)不僅僅在于這些威脅的速度或規(guī)模;還在于攻擊者的創(chuàng)新和防御者的惰性之間的不匹配。傳統(tǒng)的基于規(guī)則的合規(guī)系統(tǒng)是被動(dòng)且脆弱的。它們依賴于預(yù)定義的觸發(fā)器和靜態(tài)模式識(shí)別。
機(jī)器學(xué)習(xí)和預(yù)測(cè)分析提供了更具適應(yīng)性的解決方案，但其中許多工具是不透明的。他們?cè)诓磺宄绾蔚贸鼋Y(jié)論的情況下產(chǎn)生了產(chǎn)出?！昂谙蛔印眴?wèn)題不僅僅是技術(shù)限制。這是一個(gè)令人頭疼的合規(guī)問(wèn)題。
沒(méi)有可解釋性，就沒(méi)有問(wèn)責(zé)制。如果金融機(jī)構(gòu)無(wú)法解釋其人工智能系統(tǒng)如何標(biāo)記交易（或未能標(biāo)記交易），那么它就無(wú)法向監(jiān)管機(jī)構(gòu)、客戶或法院捍衛(wèi)其決定。更糟糕的是，它可能無(wú)法檢測(cè)到系統(tǒng)本身何時(shí)做出有偏見或不一致的決策。
可解釋性是安全要求
一些人認(rèn)為，要求人工智能系統(tǒng)具有可解釋性將減緩創(chuàng)新。那是短視的。可解釋性并不是奢侈品;這是信任和合法性的要求。如果沒(méi)有它，合規(guī)團(tuán)隊(duì)就會(huì)盲目飛行。他們可能會(huì)檢測(cè)到異常情況，但他們不知道原因。他們可能會(huì)批準(zhǔn)模型，但無(wú)法對(duì)其進(jìn)行審計(jì)。
金融部門必須停止將可解釋性視為技術(shù)獎(jiǎng)勵(lì)。這應(yīng)該是部署的一個(gè)條件，尤其是對(duì)于涉及KWC/ML、欺詐檢測(cè)和交易監(jiān)控的工具。這不僅僅是最佳實(shí)踐。這是必不可少的基礎(chǔ)設(shè)施。
在加密貨幣這樣快速發(fā)展的空間，信任已經(jīng)脆弱且審查嚴(yán)格，這變得更加緊迫。人工智能在安全和合規(guī)方面的使用不僅必須有效，而且必須明顯公平、可審計(jì)和可理解。
協(xié)調(diào)一致的回應(yīng)是不容談判的
金融犯罪不再是孤立事件。僅2024年，非法交易額就達(dá)到510億美元，這一數(shù)字可能低估了人工智能增強(qiáng)攻擊的作用。沒(méi)有任何公司、監(jiān)管機(jī)構(gòu)或技術(shù)提供商能夠單獨(dú)應(yīng)對(duì)這一威脅。
協(xié)調(diào)一致的應(yīng)對(duì)措施必須包括：
- 強(qiáng)制要求用于高風(fēng)險(xiǎn)合規(guī)職能的任何人工智能系統(tǒng)具有可解釋性。
- 使共享的威脅情報(bào)能夠在公司之間揭示新的攻擊模式。
- 培訓(xùn)合規(guī)專業(yè)人員詢問(wèn)和評(píng)估人工智能輸出。
- 要求對(duì)欺詐檢測(cè)和KKC中使用的ML系統(tǒng)進(jìn)行外部審計(jì)。
速度永遠(yuǎn)很重要。但沒(méi)有透明度的速度是一種負(fù)擔(dān)，而不是一種功能。
人工智能并不中立，濫用也不是
對(duì)話必須轉(zhuǎn)變。僅僅詢問(wèn)人工智能是否合規(guī)“工作”是不夠的。我們必須問(wèn)一下它是否值得信任?？梢詫弳?wèn)嗎？審核過(guò)？明白了嗎？
不回答這些問(wèn)題將使整個(gè)金融體系面臨風(fēng)險(xiǎn)。不僅僅是犯罪分子，還有我們用來(lái)阻止他們的工具。
如果我們不把透明度建立在我們的防御中，那么我們就不是在捍衛(wèi)這個(gè)系統(tǒng)。我們正在自動(dòng)化它的失敗。
羅伯特·麥克唐納是Bybit的首席法律與合規(guī)官，Bybit是全球交易量第二大加密貨幣交易所。羅伯特在公共部門、傳統(tǒng)金融和加密貨幣行業(yè)擁有近二十年的經(jīng)驗(yàn)，是監(jiān)管合規(guī)、法律治理和打擊金融犯罪方面經(jīng)驗(yàn)豐富的專家。羅伯特在倫敦開始了他的職業(yè)生涯，專門研究金融犯罪，后來(lái)在英國(guó)任職司法部。他的旅程跨越了各大洲，在世界上一些最著名的金融機(jī)構(gòu)擔(dān)任領(lǐng)導(dǎo)職務(wù)，包括全球資產(chǎn)管理巨頭、韓國(guó)領(lǐng)先的電子商務(wù)平臺(tái)和主要加密貨幣交易所幣安。羅伯特在Bybit任職期間，負(fù)責(zé)監(jiān)管由法律顧問(wèn)和合規(guī)專業(yè)人士組成的全球團(tuán)隊(duì)，負(fù)責(zé)應(yīng)對(duì)不斷變化的監(jiān)管格局。他的團(tuán)隊(duì)致力于解決許可、遵守司法管轄要求、反洗錢（ML）、了解客戶（KKC）協(xié)議以及負(fù)責(zé)任的客戶入職問(wèn)題。確保Bybit在其全球業(yè)務(wù)范圍內(nèi)誠(chéng)信和合規(guī)地運(yùn)營(yíng)。
