美國人工智慧企業Anthropic周四發布最新安全報告，披露過去八個月內出現多宗惡意濫用AI模型的企圖，當中包括有人嘗試利用旗下旗艦聊天機械人Claude，協助研發具備武器化潛力的致命生物病毒，觸發全球AI生物安全警報。

科學家借AI改造蚊媒病毒　擬強化致病性

報告曝光多宗高危濫用個案，其中今年5月一宗案例最為震撼。一名科研人員嘗試透過Claude協助撰寫研究資助申請，計劃改造基孔肯雅病毒。該病毒由蚊蟲傳播、病徵類似瘧疾，研究目標是透過基因突變技術，大幅提升病毒在活體動物身上的致病性與致命性。

Anthropic核查後發現，該研究項目背後機構為軍事科研單位，具備極高武器化風險。公司隨即即時封鎖涉事帳戶、終止相關服務，阻截潛在生物武器研發進度。

合法科研與武器化界線模糊　AI安全防線面臨灰色地帶挑戰

Anthropic威脅情報主管克萊恩坦言，團隊無法百分百判定相關生物研究的真實目的。因為研發疫苗、防疫治療的正當生物科研，與改造病原體、製造生物武器的惡意研究，技術路線高度重疊。

同一套基因編輯、病毒突變數據，既可救人亦可殺人。因此公司採取寧緊勿鬆的保守原則，只要存在武器化嫌疑，一律阻截並終止服務。

新版AI能力躍升　可獨立完成複雜高危科研

報告點出關鍵技術隱憂：Anthropic舊版模型早年測試證實，難以支援高危生物研究；但新一代高階AI模型邏輯推演、數據整合、科研設計能力大幅升級，足以獨立協助使用者完成複雜生物工程、病原改造、基因編輯等精密高危工作，大幅降低研發生物武器的技術門檻。

除生物武器風險外，報告亦披露Claude同期被濫用於導彈研發項目、跨國間諜情報整理等軍事及非法活動，AI濫用場景持續惡化。

資深工程師辭職示警　AI競賽或致人類滅絕

在報告發布前兩日，Anthropic一名資深研究人員高調離職，公開發出末日級警告，直指全球無節制的AI軍備競賽，最終有可能徹底消滅人類文明，業界內部對超級AI的失控風險已瀕臨共識危機。

戰略風險理事會專家韋伯呼籲各國監管機構，必須收緊頂級AI模型的開放權限，僅允許可信、具備資格的正規科研人員存取，杜絕有心人利用技術漏洞製造安全災難。

特朗普淡化AI滅絕風險　只憂美國失去競爭領先地位

面對全球科學界的AI末日警告，美國總統特朗普態度截然相反。他周四回應傳媒提問時，完全否定AI會導致人類滅絕的風險。

特朗普直言自己毫無相關憂慮，唯一擔心是若美國放慢AI發展步伐、收緊監管，將在全球AI競賽中落後，令美國陷入極為被動的劣勢。