本週從 GitHub Trending 前 15 名中,篩選出 15 個 AI/LLM 相關專案:


1. Zackriya-Solutions/meetily

→ GitHub 連結

「Zackriya-Solutions/meetily」是一個專注於隱私的 AI 會議助理,旨在解決當前雲端會議工具帶來的數據隱私與合規性風險。它透過 Rust 後端結合 Parakeet 或 Whisper 進行即時轉錄,並利用 Ollama 等本地大型語言模型生成會議摘要,所有處理皆在使用者本機完成,無需將任何敏感資料上傳至雲端。這對於需要嚴格控制數據的專業人士和企業,提供了一個安全且高效的會議管理方案。

這個專案之所以在 AI/LLM 技術社群中備受關注,是因為它徹底實踐了「數據主權」的理念。在 AI 應用日益普及的今天,Meetily 展示了一種強大的本地端 AI 解決方案,支援 GPU 加速,並提供跨平台(macOS、Windows、Linux)部署。對於尋求不犧牲隱私、同時享有 AI 輔助會議效率的開發者和企業而言,Meetily 不僅是開源且可自部署的選項,更為本地端 AI 應用的發展提供了極具價值的參考範本。其 Tauri + Next.js + Rust 的架構也值得技術人員深入探討。


2. openai/codex-plugin-cc

→ GitHub 連結

openai/codex-plugin-cc 是 OpenAI 為 Claude Code 開發的強力外掛,旨在將 Codex AI 能力無縫整合到開發工作流程。它解決了開發者直接在 IDE 中利用 AI 進行程式碼審查、問題偵測及任務委派的痛點。

在 AI/LLM 社群中,它之所以值得關注,是因為不僅提供 /codex:review 進行常規程式碼審查,更引入 /codex:adversarial-review 這種獨特的「對抗性審查」模式,能深度質疑設計決策與潛在風險,對提升程式碼品質至關重要。此外,/codex:rescue 指令讓 AI 承擔除錯、修復等複雜任務,顯著加速開發效率。透過這款外掛,AI 不再只是獨立工具,而是成為開發者的智慧副駕駛,甚至能透過「審查門檻 (review gate)」在程式碼提交前進行自動化把關。這正體現了 AI 更深層次地融入開發工具鏈的趨勢,為協同開發與品質保證模式帶來革新。


3. wonderwhy-er/DesktopCommanderMCP

→ GitHub 連結

Desktop Commander MCP 是一個基於 Model Context Protocol (MCP) 的伺服器,旨在賦予 AI 模型(特別是 Claude)強大的桌面作業系統控制能力。它解決了傳統 AI 工具無法深度與本地檔案系統和終端機互動的痛點,讓 AI 不僅能進行檔案搜尋、讀寫與精確編輯,甚至能執行終端命令、管理程序、進行資料分析及自動化多種任務,將 LLM 的應用從單純的文字互動提升到系統級的操作層面。其獨特之處在於,它能利用既有的 AI 客戶端訂閱(如 Claude Desktop),而非昂貴的 API token 費用,大幅降低使用成本。對於希望將 LLM 轉化為真正「AI 代理」的開發者而言,Desktop Commander 提供了一個安全、高效且功能全面的解決方案,讓 AI 能夠在真實環境中協同工作,極大地提升開發效率和自動化潛力。


4. asgeirtj/system_prompts_leaks

→ GitHub 連結

「asgeirtj/system_prompts_leaks」專案彙整了 Anthropic、OpenAI、Google 等主流 AI 模型(如 Claude、ChatGPT、Gemini、Grok)及多款應用程式的系統提示詞。它揭露了大型語言模型幕後,那些指導其行為、角色與限制的「隱藏指令」。

這份資源對 AI/LLM 技術社群而言價值非凡。它提供了深入了解頂尖 LLM 如何被「塑造」的機會,是學習「官方級」Prompt Engineering 技巧的實用參考。分析這些提示能助我們優化 AI 應用,理解模型運作機制、能力邊界與潛在偏見。專案定期更新,對所有欲掌握 LLM 深層互動邏輯的開發者與研究者而言,極具關注價值。


5. ogulcancelik/herdr

→ GitHub 連結

Herdr 是一個專為終端機環境設計的「代理程式多工器」(agent multiplexer),旨在徹底改變我們管理與協調 AI 代理程式的方式。它解決了在 AI/LLM 開發中,多個代理程式難以追蹤、協同運作與持久化執行的痛點。Herdr 能在單一終端介面中,以直觀的佈局顯示每個代理的即時狀態——無論是「阻塞中」、「工作中」還是「已完成」,且其「分離-重連」功能確保 AI 任務即使斷線也能持續運行,極大地提升了開發與實驗效率。

對於 AI/LLM 領域而言,Herdr 的價值不言而喻。它不僅能讓開發者輕鬆監控複雜的多代理系統,更引人注目的是,Herdr 提供了一套純粹的 Socket API,讓 AI 代理程式自身也能利用 Herdr 的能力來協同工作,例如生成新的終端面板、讀取輸出,甚至等待其他代理完成。這為構建真正具備自我組織能力的多代理系統奠定了基礎,讓 Herdr 不僅是個工具,更可能成為一個「代理程式運行時」。其單一 Rust 二進位檔案的輕量級設計,也保證了高效能。


6. TencentCloud/CubeSandbox

→ GitHub 連結

Instant, Concurrent, Secure & Lightweight Sandbox for AI Agents.
CubeSandbox
Instant, Concurrent, Secure & Lightweight Sandbox Service for AI Agents

中文文档 · Quick Start · Documentation · Changelog · X(Twitter) · End User Program

Cube Sandbox is a high-performance, out-of-the-box secure sandbox service built on RustVMM and KVM. It supports both single-node deployment and easy scaling to multi-node clusters. It is compatible with the E2B SDK and can create a hardware-isolated, fully serviceable sandbox in under 60ms with less than 5MB of memory overhead.

📰 News

  v0.5: AutoPause, Terraform deployer, ARM64 & network policy hardening   AutoPause/AutoResume  — idle sandboxes auto-suspend and wake on the next request.  Terraform one-click cluster deploy   ARM64  native full-stack support  network policy hardening  — per-sandbox traffic tokens, policy-routing egress.   Changelog →  ·  Terraform deploy →    


         
  v0.4: Safer egress, easier ops   Credential vault  — Agents call external APIs as usual; keys never enter the sandbox.  Dashboard  — version matrix and template health checks; see at a glance whether templates need rebuilding after upgrades.   Changelog →  ·  Security proxy guide →  ·  WebUI guide →    


         
  Snapshot, Clone & Rollback at hundred-millisecond granularity  CubeSandbox 0.3.0 introduces the  CubeCoW  Copy-on-Write snapshot engine, enabling event-level snapshots, instant cloning, and rollback to any saved state.  Changelog →    


         
  🎉 Initial open-source release  Cube Sandbox is now open source! Millisecond boot, hardware-level isolation, E2B-compatible sandbox for AI Agents.  Changelog →    

Product Highlights

  ⚡ Sub-60ms boot · High density · Auto pause/resume  Average <60ms cold start, <5MB overhead per instance — run thousands of Agents on one node. Supports automatic sandbox pause and resume for cost optimization   Quick start →    
  🔒 Hardware-level isolation  Each sandbox gets its own Guest OS kernel — no Docker shared-kernel escapes; run untrusted LLM-generated code safely   Architecture →    
  🔌 Seamless E2B migration  Native E2B SDK compatibility — swap one URL env var, zero business code changes   Examples →    


  🖥️ Web console  Manage sandboxes, templates, nodes, and version matrix in the browser — open  :12088  right after install   WebUI guide →    
  🔐 Credential vault  Agents call LLMs and external APIs as usual — keys never enter the sandbox, model context, or logs   Security proxy guide →    
  🛡️ Egress control  Domain allowlists, instant block on unauthorized egress, full audit logs for compliance   Security proxy guide →    


  📸 Snapshot · Clone · Rollback  Hundred-millisecond checkpoints on running sandboxes — roll back or fork from any saved state   v0.3 changelog →    
  📦 Template system  Turn OCI images into templates in one step, install official presets from the Template Store, auto-distribute across nodes   Templates guide →    
  🤖 AgentHub digital assistants  Spin up OpenClaw assistants in one click — snapshots, rollback, and assistant template publishing   Digital assistant →    

Demos

  Installation & Demo    
  Performance Test    
  RL (SWE-Bench)    
  Snapshot · Clone · Rollback    

Benchmarks
In the context of AI Agent code execution, CubeSandbox achieves the perfect balance of security and performance:

Metric  
Docker Container  
Traditional VM  
CubeSandbox  




Isolation Level  
Low (Shared Kernel Namespaces)  
High (Dedicated Kernel)  
Extreme (Dedicated Kernel + eBPF)  


Boot Speed   *Full-OS boot duration  
200ms  
Seconds  
Sub-millisecond (<60ms)  


Memory Overhead  
Low (Shared Kernel)  
High (Full OS)  
Ultra-low (Aggressively stripped, <5MB)  


Deployment Density  
High  
Low  
Extreme (Thousands per node)  


E2B SDK Compatible  
/  
/  
✅ Drop-in  

Cold start benchmarked on bare-metal. 60ms at single concurrency; under 50 concurrent creations, avg 67ms, P95 90ms, P99 137ms — consistently sub-150ms.
Memory overhead measured with sandbox specs ≤ 32GB. Larger configurations may see a marginal increase.

For detailed metrics on startup latency and resource overhead, see the Core Operations Performance Benchmark Report (bare metal) and the PVM Cloud Server Benchmark Report .

  Sub-150ms sandbox delivery under both single and high-concurrency workloads    
  CubeSandbox base memory footprint across various instance sizes   (*Blue: Sandbox specifications; Orange: Base memory overhead). Note that memory consumption increases only marginally as instance sizes scale up.     

Quick Start

⚡ Millisecond-level startup — watch the fast-start flow above.
Cube Sandbox requires an x86_64 Linux environment with KVM support.
The guide walks you through everything in four steps — provisioning a server, installing Cube Sandbox, creating a sandbox template, and running your first agent code. No source build needed, up and running in minutes.
Choose your deployment path:

   🖥 PVM · Cloud VM →      🏆 Recommended    
   🏗 Bare Metal →     
   💻 Dev-Env →      ⚠️  Not recommended — poor performance    

First thing after install: open the Web console

🖥️ Visual management — from overview to creating a sandbox and streaming logs, all in your browser.
After one-click deployment, open in your browser:
http://:12088

Recommended three steps:

Check overview — Open Overview , confirm nodes are Ready and capacity looks healthy
Prepare a template — Install an official preset from Template Store ; skip if you already have a READY template under Templates
Create a sandbox — Sandboxes → + New sandbox , pick a READY template, and view live logs on the detail page within seconds

See the full WebUI console guide .
Deep Dive

Documentation Home — complete guide navigation
☁️ PVM Deployment — deploy on ordinary cloud VMs without bare metal or nested virtualization
Template Concepts — image-to-template concepts and workflows
Example Projects — hands-on examples (code execution, browser automation, OpenClaw integration, RL training, and more)
🖥️ WebUI Console — visual management right after install ( :12088 )
🔐 Security Proxy & Credential Vault — CubeEgress domain filtering, injection, and auditing
🤖 Digital Assistant AgentHub — create and manage OpenClaw assistants (Preview)
💻 Development Environment (QEMU VM) — no KVM access? Try Cube Sandbox inside a disposable OpenCloudOS 9 VM

Architecture

Component  
Responsibility  




CubeAPI  
High-concurrency REST API Gateway (Rust), compatible with E2B. Swap the URL for seamless migration.  


CubeMaster  
Cluster orchestrator. Receives API requests and dispatches them to corresponding Cubelets. Manages resource scheduling and cluster state.  


CubeProxy  
Reverse proxy, compatible with the E2B protocol, routing requests to the appropriate sandbox instances.  


Cubelet  
Compute node local scheduling component. Manages the complete lifecycle of all sandbox instances on the node.  


CubeVS  
eBPF-based virtual switch, providing kernel-level network isolation and security policy enforcement.  


CubeEgress  
OpenResty-based egress security gateway: L7 domain filtering, credential injection, and access auditing; works with CubeVS kernel policies so sandbox traffic cannot bypass inspection.  


CubeHypervisor & CubeShim  
Virtualization layer — CubeHypervisor manages KVM MicroVMs, CubeShim implements the containerd Shim v2 API to integrate sandboxes into the container runtime.  

👉 For more details, please read the Architecture Design Document and CubeVS Network Model .
Community & Contributing
We welcome contributions of all kinds—whether it’s a bug report, feature suggestion, documentation improvement, or code submission!

🐞 Found a Bug or have questions? Submit an issue on GitHub Issues .
💡 Have an Idea? Join the conversation in GitHub Discussions .
🛠️ Want to Code? Check out our CONTRIBUTING.md to learn how to submit a Pull Request.
📝 Want to contribute docs? Submit bilingual PRs to our community doc channels: Troubleshooting , Use Cases , and Integrations .
💬 Want to Chat? Join our Discord .

Roadmap
Coming soon — see the full roadmap for details.

Feature  
Description  




Kubernetes-Native Deployment  
Deploy and operate CubeSandbox entirely within a K8s cluster using CRDs, operators, and native scheduling — no out-of-band orchestration  


Volume Support  
Persistent and shared volume support compatible with the E2B volume protocol  


Cross-Node Pause & Resume  
Suspend a sandbox on one node and resume it on another with full memory and filesystem state preserved  


E2B API Compatibility  
Close remaining gaps with the E2B specification for full drop-in compatibility  


Control Plane / Data Plane Separation  
Decouple the control plane from the data plane so control plane upgrades or failures never affect sandboxes already in flight  


Sandbox Fault Recovery  
Automatic detection and recovery of crashed VMs, stuck shim processes, and network partitions with configurable recovery policies  


Scheduling & Operations Enhancements  
Resource-aware placement, affinity rules, live rebalancing, and node drain with sandbox migration  

License
CubeSandbox is released under the Apache License 2.0 .
The birth of CubeSandbox stands on the shoulders of open-source giants. Special thanks to Cloud Hypervisor , Kata Containers , virtiofsd, containerd-shim-rs, ttrpc-rust, and others. We have made tailored modifications to some components to fit the CubeSandbox execution model, and the original in-file copyright notices are preserved.

Cube Sandbox is listed in the CNCF Landscape .


7. facebook/astryx

→ GitHub 連結

Astryx 是 Meta 釋出的一個開源設計系統,歷經八年發展,已在公司內部支援超過 13,000 個應用。它提供 150 多個可無縫組合的 React 元件、完善的主題系統(包括深色模式)、以及 CLI 工具,旨在解決大型專案中 UI 開發的一致性、可擴展性與效率問題。Astryx 採用 StyleX 編寫,但對外部專案的樣式技術不設限,你可以自由搭配 Tailwind 或 CSS modules,讓開發者能以現有工具輕鬆整合,並透過 CSS custom properties 深度客製化。Astryx 的開放內部結構,也讓元件的組合與擴展更具彈性。

此專案在 AI/LLM 領域特別值得關注,是因為它從設計之初就強調「Built for people and agents」。Astryx 的 API、文件和 CLI 都是為人與 AI 助理共同設計,確保 AI 能以與人類開發者相同的方式理解、操作並利用這套系統。這意味著 AI 助理可以更有效地產生或修改基於 Astryx 的 UI 程式碼,大幅提升開發效率,實現人機協作的新模式。其強大的約定、清晰的文件與指令行工具,都讓 AI 更容易掌握其設計哲學與使用方式。


8. usestrix/strix

→ GitHub 連結

Strix 是一個開源的 AI 滲透測試工具,以 LLM 驅動的自主 AI 代理,模擬駭客行為,動態發現與修復應用資安漏洞。它解決傳統手動測試耗時、誤報高的痛點,提供具 PoC 的漏洞發現。對於 AI/LLM 社群,Strix 值得關注之處,在於其核心運用大型語言模型驅動多代理協作,自動化執行偵察、漏洞利用與驗證。它支援 OpenAI、Anthropic 等主流 LLM,可無縫整合 CI/CD 流程,提供持續性安全防護。它拓展 LLM 複雜決策應用邊界,更展現 AI 在自動化資安的巨大潛力。


9. bradautomates/claude-video

→ GitHub 連結

bradautomates/claude-video 專案賦予 Claude 等 AI 助理「觀看」任何影片的能力,解決了 LLM 僅能處理文本、難以理解影片視覺內容的限制。它整合 yt-dlp 下載與 ffmpeg 智慧擷取關鍵影格及音訊轉錄(支援 Whisper),將多模態數據饋送給 AI。這讓 AI 能深度分析影片呈現、診斷螢幕錄影錯誤或高效總結內容。此為 AI 代理多模態能力的重大突破,拓展了 LLM 在內容分析與實務應用上的邊界,值得技術社群關注。


10. diegosouzapw/OmniRoute

→ GitHub 連結

OmniRoute 是一個開源的 AI Gateway,旨在整合並簡化開發者與多個大型語言模型互動的複雜性。它將超過 230 個 AI 服務供應商(包含 90 多個免費方案)整合到單一 API 端點,有效解決了 API Key 管理混亂、頻繁遇到速率限制及高昂使用費用的痛點。其核心價值在於透過智能路由策略,如自動故障轉移(Auto-fallback),確保在任何一個模型達到限制時,能無縫切換至其他可用的模型,實現「永不停止編碼」的願景。專案最引人注目之處在於其創新的 Token 壓縮技術(如 RTK 與 Caveman),能將提示詞壓縮 15-95%,顯著降低成本並延長免費額度使用壽命。對於 AI/LLM 領域的開發者而言,它不僅是一個強大的工具,更是一個能幫助他們在經濟高效的前提下,充分利用各種 AI 能力的解決方案,極大地提升了開發效率與實驗彈性。


11. stablyai/orca

→ GitHub 連結

stablyai/orca 是一個專為 AI 代理協作而設計的「代理開發環境」(ADE),旨在解決開發者在管理和協調多個 AI 程式碼生成代理時所面臨的痛點。想像一下,你能夠讓 Codex、ClaudeCode 或任何 CLI 代理平行地處理同一個問題,每個代理在獨立的 Git 工作區中運作,隨後輕鬆比較它們的輸出並選擇最佳方案。這對於追求「100x」開發效率的建構者而言,無疑是一項極具吸引力的工具。

Orca 的核心優勢在於其全面的工作流整合能力,包括透過手機監控代理進度、提供平行 Git 工作樹、整合 GitHub 與 Linear 等開發工具,甚至能直接從瀏覽器 UI 擷取元素資訊餵給代理。它不僅簡化了多代理的運行、比較與管理,還提供了統一的介面來審查 AI 產出的程式碼差異並添加評論。在 AI 代理日益成為主流的當下,Orca 提供了一個強大的協作樞紐,讓開發者能更有效率地指揮 AI 協作者,將其成果無縫整合至現有開發流程中,大幅提升了開發效率與協作體驗。


12. alibaba/page-agent

→ GitHub 連結

alibaba/page-agent 是一個基於 JavaScript 的瀏覽器內 AI 代理,它讓任何網頁都能透過自然語言指令來控制介面。這項技術解決了傳統網頁自動化常見的部署複雜性,無需瀏覽器擴充功能、Python 環境或無頭瀏覽器,僅透過一段腳本就能在網頁內實現。對於 AI/LLM 領域而言,PageAgent 值得關注的原因在於它將 LLM 的強大能力直接帶入前端,實現了基於文字的 DOM 操作。它允許使用者整合自己的主流 LLM 模型,將多步驟的網頁操作(如表單填寫、SaaS 產品導航)簡化為一句話指令。這不僅極大地提升了開發者在產品中嵌入 AI Copilot 的效率,也為網頁應用程式帶來了全新的互動模式和無障礙體驗,展示了 LLM 在 GUI 自動化和用戶輔助方面的潛力。


13. tt-a1i/archify

→ GitHub 連結

tt-a1i/archify 是一個引人注目的 AI 代理技能,能夠將平白無奇的英文描述轉化為專業且具備互動性的技術圖表,包含架構、工作流程、序列、資料流及生命週期圖等。它徹底簡化了圖表繪製的門檻,讓工程師無需具備設計技能,即可透過自然語言快速視覺化複雜的系統與流程,極大地提升了技術溝通的效率。生成的圖表是自足的 HTML 檔案,支援深淺主題切換與多種高解析度匯出格式。

Archify 對 AI/LLM 技術社群來說,尤其值得關注其作為「代理技能」的實踐。它透過整合 Claude、Codex CLI 等 LLM,將其能力從純文字生成拓展至結構化視覺輸出。使用者能直接在對話中描述需求,甚至進行迭代修改,而 LLM 則基於語義理解,驅動 Archify 產生精確圖表。這種結合自然語言理解與專業渲染的模式,不僅展示了 LLM 在自動化設計與文件生成領域的潛力,也為未來更多基於 LLM 的視覺化工具開闢了道路。


14. ChromeDevTools/chrome-devtools-mcp

→ GitHub 連結

這個專案 ChromeDevTools/chrome-devtools-mcp 是一個 Model-Context-Protocol (MCP) 伺服器,旨在賦予 AI 程式碼代理(如 Antigravity, Claude, Copilot 等)控制與偵測即時 Chrome 瀏覽器的能力。它透過整合 Chrome DevTools 和 Puppeteer,解決了 AI 代理在網頁環境中進行可靠自動化、深入除錯及效能分析的挑戰。

對於 AI/LLM 領域,這項工具意義重大。傳統 LLM 往往缺乏直接與圖形化介面互動的能力,而 chrome-devtools-mcp 則為其提供了「眼睛與雙手」,使其能執行點擊、導覽、擷取螢幕、分析網路請求與記憶體等多元操作。這使得 LLM 不再只停留在文字生成,而是能直接在瀏覽器中執行複雜任務,收集實時回饋並自我除錯。它是開發能夠真正理解並操作網頁的「代理(agentic)」應用程式的關鍵橋樑,大幅提升了 AI 在網頁自動化、測試和資料收集等場景的實用性與可靠性。


15. iOfficeAI/OfficeCLI

→ GitHub 連結

OfficeCLI 是 iOfficeAI 推出的一款開源指令行工具,專為 AI 代理和開發者設計,提供無需安裝 Microsoft Office 即可全面操作 Word、Excel 和 PowerPoint 文件的解決方案。它以單一執行檔實現跨平台、無頭 (headless) 的文件處理,徹底解決了傳統 Office 自動化對複雜 API、環境依賴及桌面應用程式的痛點,使文件自動化變得前所未有的高效與便捷。

在 AI/LLM 領域,OfficeCLI 展現出卓越價值。它不僅支援透過 CLI 和 JSON 進行文件創建、讀取、修改及分析,更內建高擬真度渲染引擎,能將文件輸出為 HTML 或 PNG,讓 AI 代理「看見」文件佈局,進而修正排版問題,這對多模態 AI 至關重要。結合其內建的公式引擎、模板合併、文件結構傾印及錯誤自癒機制,OfficeCLI 大幅降低了 AI 處理 Office 文件的複雜度與 token 成本,開創了更智慧、更精確的自動化工作流程,是 AI 工程師不可多得的利器。