大型語言模型

本週從 GitHub Trending 前 15 名中，篩選出 15 個 AI/LLM 相關專案： 1. bojieli/ai-agent-book → GitHub 連結 「bojieli/ai-agent-book」是《深入理解 AI Agent：設計原理與工程實踐》這本開源書籍的主倉庫，由李博杰所著。它為 AI/LLM 開發者提供了一套從核心理論到實踐的全面指南，深入解析「Agent = LLM + 上下文 + 工具」的核心公式，旨在解決建構實用 AI Agent 的工程挑戰。該書涵蓋十大章節，從基礎的上下文工程、記憶與知識庫，到工具應用、程式碼生成 Agent、評估與後訓練、多模態交互，乃至多 Agent 協作等關鍵議題。最引人注目的是，它提供了多達 92 個配套實驗項目，其中 70 多個可獨立運行，讓讀者能親手實踐，將抽象理論轉化為具體技能。其全書開源並提供多語言翻譯，不僅降低了學習門檻，也彰顯了知識共享的精神，是當前 AI Agent 領域極具參考價值且實用性高的學習資源。 2. koala73/worldmonitor → GitHub 連結 koala73/worldmonitor 是一個令人注目的即時全球情報儀表板，旨在透過 AI 技術解決資訊過載與情勢感知不足的挑戰。它能聚合來自 500 多個精選來源的新聞，並利用 AI 提煉成簡報，同時整合地緣政治監控、基礎設施追蹤與金融市場數據，以直觀的雙地圖引擎呈現，讓使用者全面掌握全球脈動。在 AI/LLM 領域，World Monitor 備受關注的原因有二。首先，它強調「在地 AI」，支援透過 Ollama 在本地運行大部分核心功能，無須外部 API 金鑰，這大幅降低了隱私與營運成本，展示了邊緣 AI 在實用情境中的巨大潛力。其次，除了整合 Groq 與 OpenRouter 等 LLM 服務進行內容生成外，專案更設計了豐富的程式化介面和代理探索檔案（如 llms.txt），使其能輕易被其他 AI 代理或自動化腳本利用，直接獲取結構化情報，為 AI 驅動的情資分析與決策支援開闢了嶄新的應用途徑。 ...

本週從 GitHub Trending 前 15 名中，篩選出 15 個 AI/LLM 相關專案： 1. chopratejas/headroom → GitHub 連結 Headroom 是一個專為 AI Agents 和 LLM 應用設計的上下文壓縮層，旨在顯著降低運營成本並擴展模型處理長上下文的能力。它能在 RAG 區塊、工具輸出、日誌、文件和對話歷史等資訊送達 LLM 之前進行智能壓縮，宣稱能減少 60-95% 的 token 用量，同時保持原始答案品質。其核心價值在於提供多種壓縮模式——作為 Python/TypeScript 庫嵌入、設立零程式碼修改的 Proxy，或直接包裝主流 AI Agents。Headroom 的獨特之處在於其可逆壓縮 (CCR) 機制，確保原始資料永不丟失，LLM 可在需要時隨時取回。對於希望在不犧牲準確性下，有效管理 token 成本和上下文限制的開發者而言，Headroom 提供了一個實用且高效的解決方案。 2. microsoft/markitdown → GitHub 連結 MarkItDown 是微軟開源的 Python 工具，能將 PDF、Office 文件、圖片、音訊甚至 YouTube 影片等多元檔案高效轉換為 Markdown 格式。它旨在為 AI/LLM 應用解決異構資料預處理的痛點，其關鍵在於保留文件結構（如標題、列表），這對 LLM 理解上下文至關重要。由於主流 LLM 普遍以 Markdown 訓練，MarkItDown 的輸出能顯著提升模型處理效率與準確性。除了強大的本地轉換能力，它還支援整合 Azure Document Intelligence/Content Understanding，提供進階多模態處理與結構化欄位提取。對於需要優化 LLM 資料輸入管線的開發者，MarkItDown 無疑是不可或缺的重要利器。 ...