1、 ChatGPT 移動應用程序 威脅分析報告 2023 年 3 月 7 日 摘 要 奇安信病毒響應中心移動安全團隊監測到，自 2022 年 12 月以來，與 ChatGPT 相關的樣本呈現出爆發式增長，已監測到樣本量 1170。在本次檢測中，依靠奇安信QADE引擎強大分析能力，共識別出高風險惡意樣本51個，違規樣本 35 個。在風險樣本中，隱私竊取類樣本占據首位，共有樣本 73 個。DogeRat 木馬家族實時控制受害者設備，遠程控制指令達 20 項。關鍵詞：關鍵詞：ChatGPT、隱私竊取、DogeRat 2 目 錄 第一章 背景.1 第二章 威脅分析.2 一、樣本增長趨勢.2 二、樣本風險

2、分析.3 三、風險樣本分布.4 第三章 典型案例分析.6 一、隱私竊取樣本分析示例.6 二、違規應用樣本分析示例.9 第四章 IOCs 情報.10 1 第一章 背景 自 2022 年 11 月推出以來，ChatGPT 迅速成為備受矚目的人工智能工具之一，其用戶數已超過 1 億。然而，隨著 ChatGPT 的知名度不斷提高，也引發了一些非法人員制作和分發相關應用程序的問題，這些應用程序可能會給用戶帶來巨大的安全風險。據奇安信病毒響應中心移動安全團隊監測，自 2022 年 12 月以來，與 ChatGPT 相關的樣本呈現出爆發式增長的趨勢，目前已經監測到 1170 個相關樣本。這些樣本可能包含病毒

3、、惡意軟件和其他惡意代碼，可能會導致用戶的數據泄露、隱私侵犯和財務損失等嚴重后果。需要明確的是，OpenAI 并沒有發布適用于 Android 系統的 ChatGPT 應用程序，即便開發者可以使用 OpenAI API 提供的 SDK 將其集成到自己的應用程序中。此次報告的目的是對監測到的相關樣本進行威脅分析，以幫助企業和用戶更好地了解相關風險，并采取措施避免造成損失。2 第二章 威脅分析 本次檢測采用奇安信完全自主研發安卓動態引擎 QADE（后文統稱奇安信 QADE 引擎）。奇安信 QADE 引擎是首款既支持對 APP 進行傳統惡意樣本高中低風險檢測，又支持對非法索權和超范圍采集兩大類合規化

4、問題進行檢測的綜合一體化動態自動引擎。其中的自動化合規檢測項包含：1)強制索權 APP 安裝、運行和使用相關功能時，非服務所必需或無合理應用場景下，用戶拒絕相關授權申請后，應用自動退出或關閉的行為。2)過度索權 APP 未及時明確告知用戶索取權限的目的和用途，提前申請超出其業務功能等權限的行為。3)頻繁索權 APP 短時長、高頻次，在用戶明確拒絕權限申請后，頻繁彈窗、反復申請與當前服務場景無關權限的行為。4)無提示收集個人信息 檢測存在無隱私說明提示或者未同意隱私協議便開始收集用戶個人信息。5)高頻次收集個人信息 檢測存在按頻率(每百秒的收集次數超過 2 次)收集用戶個人信息。一、樣本增長趨勢

5、 奇安信病毒響應中心移動安全團隊依靠自身強大的數據監控能力，對當前網絡上傳播的 ChatGPT 相關樣本的進統計分析。研究表明，這些樣本最早出現在 2022 年 12 月份，與OpenAI 發布 ChatGPT 的時間吻合。截至 2023 年 2 月 19 日前，每周樣本新增量以指數級趨勢增長，之后趨于平穩，穩定在每周 200 個左右。3 二、樣本風險分析 在本次測試中，憑借奇安信 QADE 引擎的傳統惡意樣本分析能力和自動化合規檢測能力，發現眾多存在風險的樣本。在傳統惡意樣本分析中，共識別出高風險樣本 51 個，占比 4.4%；中風險樣本 6 個，占比 0.5%；低風險樣本 85 個，占比

6、7.3%。然而，需要提醒的是，未知樣本并非完全安全的應用，因為奇安信 QADE 引擎在惡意樣本研判時以低誤報率為首要原則，使用了非常嚴格的判定規則。因此，在未知樣本中可能存在其他較弱的風險，這也可能會給用戶帶來損失，請謹慎使用。4 在自動化合規檢測中，共檢測出違規應用 35 個，占比 3.0%。三、風險樣本分布 依據 Android 惡意軟件研判和分類標準，惡意樣本行為共分為八大類：惡意扣費、隱私竊取、遠程控制、資費消耗、惡意傳播、系統破壞、誘騙欺詐、流氓行為，同一樣本的多個行為中，以主要風險為標準進行歸類。在此次檢測的樣本中，共命中其中的五類惡意行為，對其分類統計，統計結果表明，第一類是隱私

7、竊取類，占比 50.7%，此類樣本主要目的在于竊取用戶設備和個人信息；第二類是流氓行為類，占比 31.3%，流氓行為屬于低風險范圍，且包含子類較多；第三類為誘騙欺詐類，占比 15.3%，其主要行為即為偽裝成 ChatGPT 來進行惡意樣本傳播；第四類為資費消耗類，占比 2.0%，此類樣本會造成用戶財產損失，有時 5 是在用戶完全無感狀態下，比如發短信、打電話和頻繁聯網等行為；第五類是遠程控制類樣本，占比 0.7%，此類樣本可遠程控制受害者設備。自動化合規檢測結果顯示，違規行為主要體現在頻繁索權，有 29 個樣本命中；其次是過度索權行為，有 19 個樣本命中；然后是無提示收集個人信息的行為，有

8、6 個樣本命中；最后是高頻次收集個人信息的行為，有 2 個樣本命中。其中多個樣本具有多項違規行為。6 第三章 典型案例分析 從上面的統計分析中可以看出此次檢測出的多個惡意風險樣本，這些惡意風險樣本包含眾多的家族類型，在這里我們根據其威脅程度和代表性選取兩個家族的典型樣本做分析示例。一是隱私竊取類的具有嚴重威脅程度的 DogeRat 木馬樣本；二是違規應用類同時具有非法索權和超范圍采集行為的樣本，分別用一節來進行展示。一、隱私竊取樣本分析示例 DogeRat 是一款基于 Telegram 的多功能 Android RAT，無需端口轉發，可以通過移動端應用程序 Telegram 方便的實現對受害者

9、設備的遠程控制操作。此 RAT 武器早先用于Windows 遠控木馬，于 2022 年上線了 Android 平臺，目前已更新到 V3 版本，此次分析的示例樣本即是基于 V3 版本開發。(一)研判結果 通過我們的病毒檢測平臺查詢顯示，靜態引擎和動態引擎都已識別此樣本惡意行為，研判結果風險等級為“危險”。其中靜態引擎 QOWL 特征識別為 Banker 家族木馬，原因為兩個家族具有一些相同的靜態識別特征；動態引擎 QADE 識別為 DogeRat 家族木馬。7 (二)RAT 遠控指令表 DogeRat V3 版本具有實時控制和功能豐富的特點，示例樣本具有采集受害者設備和個人信息、控制受害者設備發

10、送短信和播放音視頻和控制受害者設備傳感器等功能，具體惡意行為參考如下遠控指令表。指令指令 功能功能 指令指令 功能功能 calls 上傳通話記錄 gpsLocation 上傳 GPS 定位 contacts 上傳聯系人 vibrate 振動目標設備 messages 上傳短信收件箱 stop_audio 停止播放 apps 上傳安裝應用列表 ping 連接測試 device_info 上傳設備信息 send_message 發送短信到目標號碼 8 clipboard 上傳剪貼板 send_message_to_all 向受害者所有聯系人發送短信 camera_main 捕捉主攝像頭 file

11、上傳文件/文件夾 camera_selfie 捕捉前置攝像頭 delete_file 刪除文件/文件夾 toast 顯示消息 microphone 捕捉麥克風 show_notification 顯示通知 play_audio 播放目標音視頻(三)情報分析 示例樣本是基于偽裝成 ChatGPT 的社工載荷投遞，所以其除了在應用名稱和圖標上進行偽裝外，還采用自定義網頁視圖為 ChatGPT 的測試地址，這是 DogeRat 自帶的功能。偽裝地址和遠控 C&C 地址在 Assets 下的配置文件中讀取。其遠控 C&C 地址域名為 DogeRat 工具默認域名，主機名為開發者自定義，通過奇安信威脅情

12、報中心查詢，發現 C&C 已被識別為遠控木馬的服務器。9 二、違規應用樣本分析示例 違規應用分析區別于傳統惡意樣本檢測，主要是依賴國家相關法律法規，對應用的合規性進行檢測。檢測結果顯示，示例樣本存在未及時明確告知用戶索取權限的目的和用途，提前申請超出其業務功能等權限的行為，即過度索權行為，索取權限達 10 項；同時，其存在無隱私說明提示，且在未明確告知用戶的情況下，私自上傳用戶設備信息的行為，且在百秒內收集了 2 次，可能造成用戶信息泄露。示例樣本索權過程截圖如下：10 第四章 IOCs 情報 MD5 b6048b413a0bb835b681ce28b1c38f9a c3ba1c39ce774

13、bda33f76d2db6413caa 1133717617685265eccea837a08b0b08 0fa54d13fb1aca17c0e19023c3529868 ad09d87fd1adc680bafaedce49671e7b edbe3585791568fb058b9658e321051b 746d13b676dbe2d1c6c66333efea70f9 45839f8a3e0a91d590a3be6be4e5df9d e71a5b3da02c3faf734f5e35f3497015 acb3a8cad78a318903e16c5bc7f470e4 f02e9856fcf6c39f

14、d37ce84433dd224e c6eecda715539686bc621c391b97f658 017d4f7300d3dc394c9f81606edb7297 1d9a434fce59646ac636060c1dca69fd 6cc735e699a418f19a304f2386080629 2b33d114fb8f3bd7065b46889afc1c44 15f59a21cb48684f00ac298f9fc4a57f 94e3791e3ceec63a17ca1a52c4a35089 f39d9a99441978fa2d4a19097311a098 11 26f9909ee741dab3

15、69f69fd0d8e699ed b7ac17ed0409d771e8ff059f4cfbad41 12c5c8d15de19581147c53cbb5962813 6a481f28affc30aef0d3ec6914d239e4 81e6a150d459642f2f3641c5a4621441 5f6f387edf4dc4382f9953bd57fa4c62 1fefc34211b515f1bc68a35d10678db7 8fd86b3ce10108995dcf134a11b85fa6 dd254bebdf2e3494a85c0776a8931610 7b579f01c672da59c06

16、0884755d4662e 5de7f998006f9aac3c53c8cac5270057 df96322871ec4f9c89528309919ce2c8 79e73c2272d7b3f056ca6d1fba8d3b0d 5dfb29d588a5dadaf26241b83f38afd9 9257970a1393d15a1a0563059d0306a3 4e8d09ca0543a48f649fce72483777f0 e29806582e9bab5026e3902bb04171c2 116a42850c5eaa6b7a266c76b56cf6be dee271f425ad3b7e5d2bfc

17、55b7bfc371 82da8b6beb0b4f9091ec4cc22fcafea2 d8415f0516a2c35398e866ac7156f868 12 c8aa7a66e87a23e16ecacad6d1337dc4 da9ba496f570eaf94a755b661da09cb8 514fbba993f23b7a3d9aca97467aebc1 cb229316df086f05c5ef1ad22f4ca877 577e4fef7a5c41b0296702684eb78fb4 d4d9e4b3618c6b2feeab1d563191a0c9 591f79b4cee6200185c9f200daf2aaa7 b12e47f5bd407c286dc2f8cd134326ee 63c3d4498e6564da2121bea625681fc9 122519c51cf30416cf659dd37b8ba7d5 174539797080a9bcbb3f32c5865700bf