人工智慧

本週從 GitHub Trending 前 15 名中，篩選出 15 個 AI/LLM 相關專案： 1. chopratejas/headroom → GitHub 連結 Headroom 是一個專為 AI Agents 和 LLM 應用設計的上下文壓縮層，旨在顯著降低運營成本並擴展模型處理長上下文的能力。它能在 RAG 區塊、工具輸出、日誌、文件和對話歷史等資訊送達 LLM 之前進行智能壓縮，宣稱能減少 60-95% 的 token 用量，同時保持原始答案品質。其核心價值在於提供多種壓縮模式——作為 Python/TypeScript 庫嵌入、設立零程式碼修改的 Proxy，或直接包裝主流 AI Agents。Headroom 的獨特之處在於其可逆壓縮 (CCR) 機制，確保原始資料永不丟失，LLM 可在需要時隨時取回。對於希望在不犧牲準確性下，有效管理 token 成本和上下文限制的開發者而言，Headroom 提供了一個實用且高效的解決方案。 2. microsoft/markitdown → GitHub 連結 MarkItDown 是微軟開源的 Python 工具，能將 PDF、Office 文件、圖片、音訊甚至 YouTube 影片等多元檔案高效轉換為 Markdown 格式。它旨在為 AI/LLM 應用解決異構資料預處理的痛點，其關鍵在於保留文件結構（如標題、列表），這對 LLM 理解上下文至關重要。由於主流 LLM 普遍以 Markdown 訓練，MarkItDown 的輸出能顯著提升模型處理效率與準確性。除了強大的本地轉換能力，它還支援整合 Azure Document Intelligence/Content Understanding，提供進階多模態處理與結構化欄位提取。對於需要優化 LLM 資料輸入管線的開發者，MarkItDown 無疑是不可或缺的重要利器。 ...