OWASP Top 10 for LLM Applications 2025
OWASP十大LLM應用程式風險
LLM 01：Prompt Injection
LLM02: Sensitive Information Disclosure
LLM05: Improper Output Handling
LLM07: System Prompt Leakage
LLM09: Misinformation
OWASP十大LLM應用程式風險
LLM 01：Prompt Injection
LLM02: Sensitive Information Disclosure
LLM05: Improper Output Handling
LLM07: System Prompt Leakage
LLM09: Misinformation
2024年11月新公布2025年版，幫助開發者與安全專業人員對LLM風險的理解，以更全面的方式了解風險與攻擊面，並設法做到防護。
LLM01：提示詞注入（Prompt Injection） 防範措施包括輸入驗證和清理、上下文感知的提示過濾和回應分析以及嚴格的互動日誌記錄。 LLM02：敏感資訊揭露（Sensitive Information Disclosure） 應使用零信任方法處理 LLM 輸出並進行驗證和清理。 LLM03：供應鏈風險（Supply Chain） 可以檢查訓練資料來防範這種情況。 LLM04：資料與模型投毒（Data and Model Poisoning） 可以透過限速、嚴格的使用者身分驗證以及有效的資源分配來防止這種攻擊。 LLM05：不當輸出處理（Improper Output Handling） 必須評估供應商、使用信任的外掛、持續更新模型以及進行簽章等安全措施來防堵此問題。 LLM06：過度代理授權（Excessive Agency） 進行資料清理、實作適當的使用政策並限制返回的資料類型。 LLM07：系統提示詞洩露（System Prompt Leakage） 開發人員必須嚴格遵守安全規則來防止漏洞，例如嚴格的參數輸入和安全的訪問控制準則。 LLM08：向量與嵌入弱點（Vector and Embedding Weaknesses） 過度授權造成的漏洞。開發人員必須限制外掛功能、追蹤使用者授權所有操作都要經過人工批准並在下游系統中實作授權。 LLM09：錯誤資訊（Misinformation） 過度依賴導致的錯誤資訊傳播。為了減輕這種風險，應對關鍵輸出進行人工審查實施機制來驗證資訊的準確性。 LLM10：無限資源耗盡（Unbounded Consumption） 未經授權的訪問可能導致經濟損失、競爭優勢削弱以及敏感資訊外洩的危機。