标签: 中国

當人工智能大廠不斷宣揚 AI 能如何改善人類生活時，現實世界中的黑客與詐騙集團也正用驚人的速度將 AI武器化。 Google 於 6 月 12 日正式向美國紐約南區聯邦法院提起了一項歷史性的民事訴訟，控告一家設於中國、代號為Outsider Enterprise (局外人企業) 的跨國網絡犯罪組織。這家組織之所以能每天瘋狂發送百萬條詐騙短訊，底層的核心代碼和精美網頁，竟然全部是利用 Google 自家的 Gemini AI 機器人編寫出來的！ 這也是科技界首宗AI 巨頭因為自家 AI 遭惡意濫用而憤而起訴黑客的里程碑式法律訴訟。目前，聯邦法官已緊急批准了 Google 的限制令申請，允許技術團隊與執法部門動手拆除其底層數位基礎設施。 1. 什麼是Phishing-as-a-Service？$88 美元就能當詐騙總裁 根據 Google 提交長達數十頁的法庭訴狀，這個名為Outsider Enterprise的集團在加密通訊軟體 Telegram 上運營，將網絡詐騙徹底推向了網頁外包 (As-a-Service) 的極致流水線： 笨蛋也能上手的詐騙軟體：他們開發了一款名為Outsider的惡意軟體包，並在 Telegram 上透過自動機器人 (@OutsiderCodeBot) 販售。犯罪分子每週只需支付 88 美元 (約合 HK$680) 的親民租金，就能獲得一套完整的新手詐騙大禮包。 提供近 300 套精美範本：該軟體內置了 290 多個高擬真網頁模板，可以一秒複製出逼真的網頁，專門冒充 Google、YouTube、美國郵政 (USPS) 、以及紐約高速公路電子收費系統 (E-ZPass) ，用來發送包裹未付關稅或過路費欠繳等經典釣魚短訊。 2. 誘騙 Gemini 繞過安全審查，瘋狂生成高仿毒網頁 這項訴訟最讓業界震驚的，是 Outsider 內部居然附帶了詳細的 AI 提示詞武功秘籍，手把手教導那些沒有程式底子的底層小編，如何利用 Gemini 來升級詐騙手段： 偽裝成無辜的工程師：黑客會在 Prompts (提示詞) 中偽裝成正當的網頁工程師，向 Gemini 發送看似無害的求助：請幫我編寫一個符合內聯 CSS 樣式、不含複雜 JavaScript 的『精美禮品兌換頁面 (Gift Redemption Page) 』HTML 代碼。 一鍵代碼移植：Gemini 在不知情的情況下吐出乾淨完美的網頁代碼後，詐騙分子會直接將代碼複製並貼上到 Outsider 的編輯器中，將其一秒改造成能即時側錄受害者鍵盤輸入 (Real-time Keystroke Logging) 的劇毒釣魚頁面，用來盜取美國消費者的信用卡號碼與網銀密碼。 3. 兩週狂炸 250 萬條短訊 在 Google 的官方部落格《The Keyword》中，網絡安全團隊揭露了這家中國犯罪集團在今年 5 月份期間所展現的恐怖AI 算力詐騙規模： 犯罪項目 驚人統計數據 受害者與財務損失 全美超過 100,000 名無辜民眾受騙，財產損失高達數百萬美元。 高仿詐騙網頁 該組織至今已繁衍出 9,000 多個假網站與高達 159萬個 惡意 URL 網址。 Android 用戶大受災 在 5 月 18 日至 6 月 1 日短短兩週內，該組織向全美 Android 手機瘋狂群發了 250 萬條詐騙短訊。 檢舉電話響不停： 在這兩週內，Android 內置的防護系統共收到用戶主動標記了 55,000 條重度垃圾簡訊 —— 換算下來，全美每分鐘就有超過 2 條舉報。 4. Google 聯手 FBI 與三大電信商 這場官司不僅僅是一紙訴狀，更是美國科技界與執法部門首次針對 AI 詐騙展開的聯合作戰： 為了徹底阻斷 Outsider 的肆虐，Google 這次不只自己上法院，更破天荒與 美國聯邦調查局 (FBI) 網絡犯罪科 以及全美三大電信巨頭 —— AT&T、T-Mobile、Verizon 結成鐵三角聯盟。 電信商目前正透過 Google 提供的惡意特徵碼，直接在電信機房底層 (Network Level) 進行硬核攔截，讓這些由 AI 生成的包裹詐騙短訊在寄到用戶的手機收件匣之前，就直接在空中被過濾並蒸發。 隨着 OpenAI 前幾天 (6月10日) 也剛宣布封禁兩個涉嫌利用 ChatGPT 操控美國大選輿論的中國黑客帳號，這場以 AI 攻防 AI的跨國科技暗戰，顯然才剛剛拉開序幕。各位手機用戶平時收到任何涉及補繳護照/包裹費用的簡訊連結，千萬要提高警惕，切勿輕易輸入信用卡密碼！