異常檢測(cè)是識(shí)別某種事物偏離正常和預(yù)期情形的過(guò)程。如果能夠及早檢測(cè)出異常狀況，則可以采取相關(guān)糾正措施，避免引發(fā)嚴(yán)重后果。兒時(shí)的我們玩過(guò)誰(shuí)能在一幅精心編排的圖片中識(shí)別出怪異情況的游戲，這是玩耍時(shí)的異常檢測(cè)。工程師、科學(xué)家和技術(shù)人員歷來(lái)依靠異常檢測(cè)來(lái)防止工業(yè)事故，制止金融欺詐，及早干預(yù)以解決健康風(fēng)險(xiǎn)等。

傳統(tǒng)上，異常檢測(cè)系統(tǒng)依賴于統(tǒng)計(jì)技術(shù)、預(yù)定義規(guī)則和/或人類專業(yè)知識(shí)。但這些方法在可擴(kuò)展性、適應(yīng)性和準(zhǔn)確性方面存在局限性。

在現(xiàn)實(shí)生活中，人工智能異常檢測(cè)的高價(jià)值用例在過(guò)去幾年大幅增長(zhǎng)，預(yù)計(jì)將延續(xù)增長(zhǎng)勢(shì)頭。人工智能(AI)的發(fā)展正在徹底改變異常檢測(cè)領(lǐng)域。它提高了檢測(cè)準(zhǔn)確性，加快了檢測(cè)速度，降低了誤報(bào)率，并實(shí)現(xiàn)了可擴(kuò)展性和成本效益。本文將介紹如何實(shí)施此類解決方案，此外還將提到一些使用案例以供說(shuō)明。

如今，我們遇到的許多異常現(xiàn)象可能不僅僅是偶然現(xiàn)象，而是惡意的人為現(xiàn)象。例如，社交媒體充斥著虛假和深度偽造的圖像和視頻。先進(jìn)的圖形和視頻制作及處理技術(shù)使得這種狀況的出現(xiàn)成為可能。

舉一個(gè)簡(jiǎn)單的例子，我們來(lái)玩一個(gè)游戲，在從社交媒體上找到的一張現(xiàn)代圖片上發(fā)現(xiàn)怪異情況。仔細(xì)研究下面的圖片，記下異常情況。

▲在印度阿迪亞爾漫長(zhǎng)而炎熱的夏天，

婦女前往幾英里遠(yuǎn)的地方取水

傳統(tǒng)的人工智能異常檢測(cè)技術(shù)是否對(duì)這張圖片有效？也許有效。人們對(duì)標(biāo)題中提到的地方的了解程度，加上相關(guān)的常識(shí)、物理學(xué)原理知識(shí)、可行性角度等，可以幫助識(shí)別圖片中的異常情況。據(jù)此，人們可能會(huì)宣布這張圖片是真實(shí)的或偽造的。但這不足以讓其他人相信您的結(jié)論。您需要能夠解釋如何得出這一結(jié)論。這涉及到可解釋性，這是至關(guān)重要的。

什么是“可解釋的人工智能”(XAI)？

XAI是人工智能的子集，側(cè)重于機(jī)器學(xué)習(xí)模型的透明性和可解釋性。使用XAI，人工智能模型的輸出或決策可由人類解釋和理解，以便更容易相信和利用結(jié)果。使用 XAI進(jìn)行異常檢測(cè)可以幫助識(shí)別和理解異常狀況的原因，從而更好地制定對(duì)策并改善系統(tǒng)性能。XAI在異常檢測(cè)方面的主要優(yōu)勢(shì)在于它能夠處理復(fù)雜的數(shù)據(jù)集，提高準(zhǔn)確性，并降低誤報(bào)率和漏報(bào)率。

XAI有哪些不同的使用案例？

人工智能異常檢測(cè)系統(tǒng)可能會(huì)做出對(duì)個(gè)人和整個(gè)社會(huì)產(chǎn)生重大影響的決策。許多使用案例都是關(guān)于“邊緣人工智能”應(yīng)用的，這些應(yīng)用涉及到安保、安全、生產(chǎn)線壽命和客戶友好服務(wù)。此外，在未來(lái)的司法系統(tǒng)和醫(yī)療預(yù)后服務(wù)用例中，沒(méi)有推理的底線決策將會(huì)乏善可陳。XAI為異常檢測(cè)系統(tǒng)提供了一種闡述決策過(guò)程以及通過(guò)學(xué)習(xí)和持續(xù)改進(jìn)造福行業(yè)和社會(huì)的方法。

使用案例：門禁系統(tǒng)（人臉識(shí)別）

門禁系統(tǒng)廣泛通過(guò)人臉識(shí)別進(jìn)行身份驗(yàn)證，它依賴于計(jì)算機(jī)視覺(jué)和人工智能技術(shù)。雖然AI系統(tǒng)在臉部檢測(cè)方面可能表現(xiàn)得非常出色，但許多意外因素可能會(huì)導(dǎo)致無(wú)法識(shí)別臉部。

根據(jù)這種應(yīng)用的目的，可以經(jīng)過(guò)調(diào)整以防止誤報(bào)，并在發(fā)生惡意侵入嘗試時(shí)發(fā)出警報(bào)。但是對(duì)于知道自己的臉部應(yīng)該被識(shí)別的用戶來(lái)說(shuō)，至少可以說(shuō)這很煩人。人臉識(shí)別系統(tǒng)可能在識(shí)別嘴部附近或眼睛周圍時(shí)遇到困難。

XAI可以進(jìn)行相應(yīng)的互動(dòng)，以便用戶摘下面罩或眼鏡之后重試。人工智能系統(tǒng)以學(xué)習(xí)為導(dǎo)向，依靠反饋不斷改進(jìn)其算法。系統(tǒng)可以自我改進(jìn)，即使臉部被部分遮擋，下次仍可能識(shí)別此用戶。另一方面，XAI使系統(tǒng)始終能夠區(qū)分識(shí)別失敗和試圖侵入這兩種狀況，并相應(yīng)地發(fā)出警報(bào)。

使用案例：自主駕駛TSR（交通標(biāo)志識(shí)別）

自主駕駛系統(tǒng)可使用計(jì)算機(jī)視覺(jué)和人工智能技術(shù)識(shí)別限速標(biāo)志并采取相應(yīng)的措施。如果有惡意者或自然老化因素改變了某個(gè)交通標(biāo)志，比方說(shuō)從60英里/小時(shí)變?yōu)?00英里/小時(shí)或80英里/小時(shí)，該怎么辦？這種使用案例可能比面部識(shí)別案例更具挑戰(zhàn)性。

被篡改的600英里/小時(shí)標(biāo)志可以很輕松地被忽略掉，因?yàn)楫?dāng)前道路車輛的時(shí)速根本不能接近600英里/小時(shí)。但是，許多車輛可以輕松達(dá)到80英里/小時(shí)，并且這是許多地方許多道路上的合法限速標(biāo)志。但若該標(biāo)志為偽造的標(biāo)志，則高速行駛可能不僅是非法的，而且在特殊路況下還是相當(dāng)危險(xiǎn)的。

XAI可以確定交通標(biāo)志的有效性，提供結(jié)論概率水平并解釋如何得出該結(jié)論。然后，車輛自主系統(tǒng)可以根據(jù)該結(jié)論采取安全措施。

使用案例：監(jiān)測(cè)工廠機(jī)器的運(yùn)行狀況

對(duì)于企業(yè)而言，工廠機(jī)器的意外和突然停機(jī)可能會(huì)造成非常昂貴的經(jīng)濟(jì)成本。為了避免發(fā)生這種情況，機(jī)器中的傳感器會(huì)持續(xù)監(jiān)測(cè)機(jī)器發(fā)出的聲音，并運(yùn)行人工智能網(wǎng)絡(luò)模型來(lái)分析和檢測(cè)異常狀況。如果檢測(cè)到無(wú)序的聲音或不規(guī)則的頻率（這可能會(huì)導(dǎo)致機(jī)械問(wèn)題），則會(huì)提醒技術(shù)人員在機(jī)器突發(fā)故障前采取預(yù)防措施。

未來(lái)使用案例：促進(jìn)法律聽證和量刑

有人談?wù)撨^(guò)使用人工智能分析法律案件和做出判決。通過(guò)分析法律文書和歷史數(shù)據(jù)，人工智能可以識(shí)別可能與案件相關(guān)的異常數(shù)據(jù)情況。對(duì)人類法官而言，最重要的方面是在審理案件后撰寫的意見書所依據(jù)的理由。

通過(guò)使用XAI，識(shí)別系統(tǒng)可以解釋所發(fā)現(xiàn)的異常情況，從而更好地幫助法官做出決策并提高識(shí)別系統(tǒng)的整體性能。例如，使用XAI可以幫助查明案件中沒(méi)有依據(jù)特定法律先例的原因。

實(shí)施XAI的技術(shù)要求是什么？

對(duì)于大多數(shù)基于XAI的異常檢測(cè)用例而言，出色的計(jì)算機(jī)視覺(jué)、聲音分析、傳感器融合功能和多個(gè)人工智能網(wǎng)絡(luò)模型必不可少。

例如，在人臉識(shí)別用例中，主要的人工智能網(wǎng)絡(luò)模型負(fù)責(zé)檢測(cè)和驗(yàn)證經(jīng)過(guò)訓(xùn)練可識(shí)別的特定個(gè)人，與此模型并行的是一個(gè)相對(duì)精簡(jiǎn)的網(wǎng)絡(luò)，它只在檢測(cè)并驗(yàn)證為“陽(yáng)性”的最小感興趣區(qū)域(ROI)運(yùn)行。輔助網(wǎng)絡(luò)的作用是運(yùn)行異常性和真實(shí)性檢查，防止被深度偽造等方式侵入系統(tǒng)。此過(guò)程開銷必須進(jìn)行優(yōu)化，以最大限度降低功耗，因此將對(duì)篩選的幀和感興趣區(qū)域運(yùn)行混合精度網(wǎng)絡(luò)，并且僅在主網(wǎng)絡(luò)的選擇性輸入/輸出層面運(yùn)行混合精度網(wǎng)絡(luò)。后一個(gè)流程與傳統(tǒng)使用案例略有不同，因此在不同的人工智能處理器模塊之間需要靈活的內(nèi)存架構(gòu)和自適應(yīng)數(shù)據(jù)流。如果檢測(cè)到身份驗(yàn)證為“陰性”或發(fā)現(xiàn)真實(shí)性問(wèn)題，則更大的XAI模型會(huì)出面確定導(dǎo)致失敗的問(wèn)題，并將該信息傳遞到應(yīng)用層以待進(jìn)一步處理。

如何實(shí)施XAI？

大多數(shù)人工智能異常檢測(cè)用例通常都是關(guān)于“邊緣人工智能”應(yīng)用的。這需要快速檢測(cè)異常狀況，確定異常原因并相應(yīng)地報(bào)知，以便實(shí)時(shí)采取適當(dāng)?shù)募m正措施。能夠并行運(yùn)行多個(gè)人工智能網(wǎng)絡(luò)，并在處理器本身也執(zhí)行計(jì)算機(jī)視覺(jué)分析的人工智能處理器是關(guān)鍵所在。根據(jù)使用案例和應(yīng)用情形的不同，可能需要運(yùn)行部分人工智能網(wǎng)絡(luò)，然后對(duì)主題圖像或感測(cè)元素進(jìn)行統(tǒng)計(jì)分析。隨后可能會(huì)對(duì)圖像進(jìn)行處理，然后運(yùn)行第一個(gè)網(wǎng)絡(luò)的其余部分或運(yùn)行另一個(gè)人工智能網(wǎng)絡(luò)來(lái)解釋異常原因。

因此，XAI的實(shí)施需要功能強(qiáng)大的處理器，該處理器應(yīng)具備以下功能：

高度靈活的人工智能處理器，可實(shí)施各種XAI/ML處理流程

內(nèi)存架構(gòu)

多引擎結(jié)構(gòu)

高性能計(jì)算功能

支持多種數(shù)據(jù)類型，包括低精度算術(shù)運(yùn)算

高度并行的處理能力

高級(jí)量化功能

支持最新的神經(jīng)網(wǎng)絡(luò)架構(gòu)

高利用率，以優(yōu)化功耗

內(nèi)置計(jì)算機(jī)視覺(jué)/DSP處理功能

支持?jǐn)?shù)據(jù)和權(quán)重的混合精度推理

用于實(shí)施XAI的CEVA處理器

CEVA是人工智能應(yīng)用開發(fā)處理器和平臺(tái)的領(lǐng)先提供商，其NeuPro-M人工智能處理器專為運(yùn)行XAI網(wǎng)絡(luò)而設(shè)計(jì)。NeuPro-M處理器內(nèi)核可配置多達(dá)8個(gè)引擎，每個(gè)引擎都有自己的視覺(jué)DSP處理器。因此，應(yīng)用層無(wú)需觸及外部DSP、GPU或CPU即可進(jìn)行圖像處理。

根據(jù)應(yīng)用層需求，可以選配適當(dāng)數(shù)量的引擎，以允許運(yùn)行許多不同的人工智能網(wǎng)絡(luò)。這些引擎支持各種神經(jīng)網(wǎng)絡(luò)架構(gòu)，并支持量化功能。比如，應(yīng)用層可以在16位中實(shí)施某些網(wǎng)絡(luò)層，有些在8位中。某些情況下，甚至可以實(shí)施2位網(wǎng)絡(luò)。這種靈活性不僅可以節(jié)省能源和面積，還能提供快速的性能，所有這些都是邊緣人工智能用例的關(guān)鍵因素。在數(shù)據(jù)和權(quán)重的精度不同的情況下，NeuPro-M還支持混合精度。

本文作者：Gil Abraham, Business Development Director and Product Marketing, CEVA

關(guān)于CEVA

CEVA是排名前列的無(wú)線連接和智能傳感技術(shù)以及集成IP解決方案授權(quán)商，旨在打造更智能、更安全、互聯(lián)的世界。我們?yōu)閭鞲衅魅诤稀D像增強(qiáng)、計(jì)算機(jī)視覺(jué)、語(yǔ)音輸入和人工智能應(yīng)用提供數(shù)字信號(hào)處理器、人工智能處理器、無(wú)線平臺(tái)、加密內(nèi)核和配套軟件。這些技術(shù)與我們的Intrinsix IP集成服務(wù)一起提供給客戶，幫助他們解決復(fù)雜和時(shí)間關(guān)鍵的集成電路設(shè)計(jì)項(xiàng)目。許多世界排名前列的半導(dǎo)體廠商、系統(tǒng)公司和OEM利用我們的技術(shù)和芯片設(shè)計(jì)技能，為移動(dòng)、消費(fèi)、汽車、機(jī)器人、工業(yè)、航天國(guó)防和物聯(lián)網(wǎng)等各種終端市場(chǎng)開發(fā)高能效、智能、安全的互聯(lián)設(shè)備。

我們基于DSP的解決方案包括移動(dòng)、物聯(lián)網(wǎng)和基礎(chǔ)設(shè)施中的5G基帶處理平臺(tái)；攝像頭設(shè)備的高級(jí)影像技術(shù)和計(jì)算機(jī)視覺(jué)；適用于多個(gè)物聯(lián)網(wǎng)市場(chǎng)的音頻/語(yǔ)音/話音應(yīng)用和超低功耗的始終開啟/感應(yīng)應(yīng)用。對(duì)于傳感器融合，我們的Hillcrest Labs傳感器處理技術(shù)為耳機(jī)、可穿戴設(shè)備、AR/VR、PC機(jī)、機(jī)器人、遙控器、物聯(lián)網(wǎng)等市場(chǎng)提供廣泛的傳感器融合軟件和慣性測(cè)量單元 (“IMU”) 解決方案。在無(wú)線物聯(lián)網(wǎng)方面，我們的藍(lán)牙(低功耗和雙模)、Wi-Fi 4/5/6/6E (802.11n/ac/ax)、超寬帶(UWB)、NB-IoT和GNSS 平臺(tái)是業(yè)內(nèi)授權(quán)較為廣泛的連接平臺(tái)。