Anthropic 和 Open AI 前研究員 Jacob Coxon 於9月9日於 X 上宣佈離任，並指責兩間 AI 巨頭不負責任，為了贏得 AI 競賽，放任 AI 自我演進，視人類生命為籌碼，又指業界相信到2030年，AI 將毀滅人類。9月10日，Anthropic 發表150多頁《偵測與應對人工智慧的濫用》的報告，列出種種威脅人類安全的濫用 AI 行為，當中最令人擔憂的是利用 AI 製造武器，甚至乎潛在研發生物武器的情況。

報告承認，由於 AI 算力強大，越來越多本來不具備科研能力的小團隊和個人，利用 AI 進行各種各樣有害行為，令威脅人類安全的風險日增，希望各國政府和公民社會與科技企業能一起及早防預威脅。

報告涵蓋由2025年12月至2026年8月期間，部份用戶濫用 Claude Haiku、Sonnet 和 Opus 模型，進行網路攻擊、輿情操控、監控、詐騙、武器和生物（病毒和毒素）研發等有害行為，亦有一宗非法蒸餾事件，涉及了 Claude Fable 和 Mythos 級模型，這兩大模型具有強大自我完善和自動執行能力，由於演化速度極快，令人類難以干預。

至於濫用者則包括國家資助的團隊、詐騙集團、數據強盜、商業間諜軟件供應商、國家宣傳機構和一些有政治企圖的個人。

生物濫用：病毒和毒素分析和研發

報告指「生物濫用」是 AI 最嚴重的風險來原之一，因為它或有能力增加現有病原體的危命性，甚至創造出全新的病原體，若沒有防預機製，可能會製造出災難性的生物武器。

雖然 Anthropic 沒有足夠證據證明有人濫用其模型研發生物武器，但卻偵察到5宗可疑研究。

第一宗是針對基孔肯雅病毒的「功能增強」研究，即透過基因改造生物體以產生新的或增強的生物特性的研究。雖然用戶強調研究目的是探討該病毒傳播能力及如何逃避身體免疫系統以發展疫苗，但亦能使強化該病毒的傳染性。此外該用戶所在地並沒有 Anthropic 相關 AI 服務，要繞經美國使用，而當 Anthropic 終止其服務後，該用戶又透過 新的身份和賬號繼續相關研究。

第二宗是研究禽流感病毒如何適應哺乳動物，以及該病毒如何引發其他併發症。同樣地，用戶也是來自非 Anthropic 服務的地區，而其研究既可用作救治，亦能引發大規模的傳播。

Anthropic 又偵察到一國家附屬傳染病實驗室為正痘病毒（Orthopoxviruses - 即天花和水豆等病毒）研究，撰寫資助申請書；另外兩項研究則涉及非傳染性新型毒液與毒素，前者可用於治療類似偏頭痛等疾病，但亦曾用於暗殺，後者涉及一種細菌毒素的次單原 （subunit）以及一種被世衛列為最高級別傳染病的出血性熱病蛋白原。

雖然 Anthropic 強調這些案例並沒有生物濫用已構成嚴重威脅，但相關研究往往有雙重性（既可治病又能引發疫情），不能漠視潛在威脅。

研發武器：也門、中國、俄羅斯

Anthropic 亦發現多個用戶利用其 AI 研究武器系統。一個位於也門的用戶，利用 Claude 去發展武器軟件，包括透過手機搖控火箭、一個射程達2000公里的導彈系統和超音速飛強發射裝置。

有三個位處中國的用戶分別利用 Claude 研究武器系統。第一宗涉及撰寫了一份關於反魚雷火控系統計劃書，當中包含對美國相關系統的分析；第二宗涉及開發電碰戰的軟件，利用電磁頻譜來偵測、干擾或欺騙對方的雷達與通訊系統，並壓制對方的防空系統，其針對的系統本來是愛國者與薩德系統，後其轉向台灣的防衛系統。第三宗涉及搜集美國定向能量武器 （directed-energy weapon），包括用來攻擊無人機群的高功率微波武器 （microwave weapon）系統，以及其零部件的供應鍊，撰寫的報告是提交給中國官方。

俄羅斯用戶則利用 Claude 開放無人機群軟件，具備攻擊、偵察、鎖定目標、尋找敵方無人機控制人員等功能，並在沒有人類干預下，自動執行攻擊任務。

中國 AI 公司的「非法蒸鎦」與盜取行動

早前美國政府發表報告指，中國多間 AI 公司以大規模蒸鎦訓練的方法，盜取美國 AI 模型的知識和能力，Anthropic 在報告中指出，相關的「非法蒸鎦」行為，涉及工業規模的地下行動，在未經授權下把某個 AI 模型的能力複製到另一個模型中，涉事者透過盜取其他美國和歐洲用戶的信用卡資料、登入憑證及 API 金鑰，建立複雜的假賬號網絡，以進行大規模的蒸鎦訓練。

而涉及「非法蒸鎦」行為的中國AI 公司包括阿里巴巴的「千問」（Qwen），該行動動用了3,500個假賬號，每天與 Anthropic 的 AI 進行300萬次對話。

此外，研發 Kimi AI 的月之暗面 （Moonshot）除了進行「非法蒸鎦」，更把其客戶的查詢直接透過 5,380個主要位於新加坡和日本的虛假賬戶，直接轉到 Anthropic 的 Opus AI，而這些對話，又用於訓練其 AI 模型。有趣的是，Moonshot 導向 Claude 的查詢，有涉及中國的敏感訊息。有一位與解放軍相關的用戶，要求 AI 助其分析監視影像資料，以釐清被監視者是否有異常行為，那些影像資料來自成都地區數百台攝影機的影像，其中包括位於解放軍設施外、中國電子科技集團公司旗下機構，以及一家大型國有企業外的攝影機影像。另一名國有企業的工程師利用他以為是 Kimi AI，建立內部系統，期間洩露了來自多家中國大型企業的內部程式碼及有效憑證，其中包括多家備受矚目的科技公司。

Deepseek 的行為與 Moonshot 類似，也洩露了一些敏感資料給 Anthropic，包括一家科技公司的內部文件、俄羅斯某個資料庫的憑證、以及中國公民的身份證與個人資料。

智譜曾針對 Anthropic 的 Fable 模型進行「非法蒸鎦」，失敗後轉到 Anthropic 的 Opus 4.6 模型和其他美國 AI 公司的高階模型，該公司主要提取其他 AI 模型的思考模式。智譜在今年6月至7月當中的17日間，以假帳戶與 Anthropic AI 進行了340萬次互動。小米則在今年3至4月當中20日間，以假帳戶與 Anthropic AI 進行40萬次互動。

監控與宣傳

Anthropic 報告中，利用其 AI 展開的監控行動主要來自中國和伊朗。來自中國的用戶監控的對像包括：於敘利亞的維吾爾族人，宗教背景人士（包括天主教、藏傳佛教、法輪功和台灣長老會）、海外中國異見者（包括香港民主派、於各地參與六四悼念者、維吾爾組織、西方人權組織）、監控網上異見者並鎖定目標（包括海外社交媒體用戶、台灣和西方媒體）。

伊朗則利用 Claude 建立國內的監控系統、釣魚網站及惡意程式以控制國內反對聲音。

至於利用 Claude 進行政治宣傳的行為，則遍佈世界各地，包括俄羅斯、伊朗、土耳其、南亞、非洲和歐洲，背後涉及政府、國家資助媒體機構個私營公司。

新的宣傳策略是把 AI 當作新聞機構，讓它建立一個發放資訊的系統及書寫內容，行文會環繞主旋律但有個人風格，令讀者覺得真有其人並會願意追隨，它甚至會刻意製作某些內容以便進入一些特定的網絡社群，如編聯合國議題相關的內容，以吸引留意國際新聞的讀者。

Anthropic 發現的其中一個商業網絡，利用 AI 編寫假新聞並於70個新聞網站發放，再由250個 X 帳號轉發。另一個商業網絡則企圖影響馬來西亞選舉，行動利用真實的人口普查和選舉數據，以及數百萬筆選民紀錄，鎖定最敏感的政治與社會矛盾，如種族、宗教及王室議題，製作內容，並透過1000虛假 X 帳戶傳播及推高某些政治人事言論的瀏覧量。

一個來自伊朗的宣傳，則利用 AI 學習某些真實人物的文筆和聲音，於社交媒體上偽裝成他們行政治宣傳。

一般用戶輕易成為黑客

Anthropic 指出，由於 AI 發展迅速，一些以往要由國家級或大型犯罪集團才能進行的網絡罪行，現在一般人也能做到，有一些 AI 代理工具，如用戶可簡單下載 PentAGI，就可以控制多個 AI 代理，讓它們自行執行複雜的黑客行為。

Anthropic 偵察到的網絡攻擊來自不同類型的用戶，國家級的如俄羅斯就利用 AI 針對烏克蘭和歐洲各國政府，包括外交和國防部門，製作釣魚網站和惡意軟件進行攻擊或盜取機密資料。犯罪集團則利用 AI 尋找購物網站的應用程式漏洞，盜取用戶資料，甚至偽裝該網站去進行交貿和騙取金錢，或向企業索取贖金。亦有在中國湖南的大學生，利用 Claude 去入侵各國政府網絡，撰寫情報報告。歐洲則有一名用戶，利用 Claude 搜集不同政見者資料，並把他們的資料於一個 doxxing 的平台上公開。

雖然 Jacob Coxon和 Anthropic 的擔憂性質不同，前者認為 AI 企業的競賽讓機器能自我學習和執行最終會帶來人類滅亡，後者則認為人類的惡意應用構成的風險更大，不論威脅來自何方，最大的挑戰是，目前尚未有如何解除這些威脅的共識。

（本網歡迎各界投稿，文章內容為作者個人意見，並不代表本網立場。）