"Llama-Index"

📦 開源專案

run-llama/llama_index

llama_index：領先的文檔代理和OCR平台 — llama_index是一個強大的文檔代理和OCR平台，能夠有效地處理和搜索大型文檔數據。它提供了多種功能，包括文檔分析、搜索和篩選，幫助用戶快速找到所需的信息。同時，llama_index也支持多種文檔格式和語言，適用於各種應用場景

Python★ 50.9k⑂ 7.8kai-ml

☆

hiyouga/LlamaFactory

LlamaFactory：大型語言模型優化 — LlamaFactory 通過提供一個統一的介面，支持多種微調技術，如 PEFT、LORA 和 QLoRA，從而實現了對多個大型語言模型的高效微調。這個項目對於自然語言處理（NLP）領域具有重要意義，因為它能夠大大提高模型的性能和效率。另外，LlamaFactory 還支持多種模型，包括 GPT、LLaMA 和 Transformers 等

Python★ 73.4k⑂ 9kai-ml

☆

microsoft/BitNet

BitNet：1 位 LLM 推理框架 — BitNet 是一個開源的框架，旨在為 1 位大型語言模型（LLMs）提供高效的推理能力。它使用 Python 進行開發，為開發人員提供了一個簡單易用的介面。通過 BitNet，開發人員可以輕鬆地部署和管理 1 位 LLMs，從而提高推理效率和準確度

C++★ 39.8k⑂ 3.7kai-ml

☆

chatchat-space/Langchain-Chatchat

Langchain-Chatchat：基於 Langchain 與多種語言模型的 RAG 與 Agent 應用 — Langchain-Chatchat 是一個基於 Langchain 的應用，結合了多種語言模型，如 ChatGLM、Qwen 和 Llama，實現了 RAG 和 Agent 的功能。它可以用於聊天機器人、知識圖譜等領域，具有很高的實用價值。通過 Langchain-Chatchat，開發者可以快速打造自己的聊天機器人和知識圖譜系統

Python★ 38.4k⑂ 6.2kai-ml

☆

MiniMax-AI/skills

skills：人工智慧技能開發 — skills是一個開源項目，提供了一個基於C#的技能開發框架，讓開發者可以輕鬆地創建和集成人工智慧技能。這個項目的目的是提供一個簡單和靈活的方式來開發和應用人工智慧技能。同時，skills也提供了一個強大的API，讓開發者可以輕鬆地擴展和自定義技能

C#★ 13.1k⑂ 1.1kother

☆

langfuse/langfuse

langfuse：開源AI工程平台 — langfuse是一個開源的AI工程平台，提供了一系列的工具和功能，包括LLM評估、可觀測性、度量、提示管理、遊樂場和數據集等，同時整合了多個熱門庫，如OpenTelemetry、LangChain、OpenAI SDK、LiteLLM等。這個平台可以幫助開發者更好地管理和優化他們的AI應用。同時，langfuse也支持自托管和多種開源庫的整合，提供了高可定制性和擴展性

TypeScript★ 31.4k⑂ 3.3kdevops

☆

SillyTavern/SillyTavern

SillyTavern：人工智慧聊天前端 — SillyTavern 是一個為 Power Users 設計的 LLM 前端，使用 JavaScript 開發，提供了一個強大的 AI 聊天介面。它讓用戶可以更方便地與 AI 模型進行交互，提高了工作效率。SillyTavern 的出現對於 AI 研究和開發具有重要意義

JavaScript★ 29.9k⑂ 5.7kai-ml

☆

vllm-project/vllm

vllm：高性能LLM推理和服务引擎 — vllm是一個開源的Python項目，提供高性能的LLM推理和服務能力，支持多種硬件平臺，包括AMD、CUDA、TPU等，使用pytorch和transformer等技術，能夠高效地處理LLM的推理和服務，對於LLM的應用和開發具有重要意義。vllm的設計目標是提供一個高吞吐量和記憶體效率的推理和服務引擎，能夠滿足LLM應用的需求。通過使用vllm，開發者可以更容易地部署和管理LLM模型，提高推理和服務的效率和準確性。

Python★ 86.6k⑂ 19.6kai-ml

☆

mozilla-ai/llamafile

llamafile：以單一檔案分佈和運行大型語言模型 — llamafile 的主要功能是將大型語言模型打包成單一檔案，讓用戶可以輕鬆地在不同平台上分佈和運行。這個功能對於開發人員和用戶來說非常重要，因為它可以簡化大型語言模型的部署和運行過程。同時，llamafile 也支持跨平台和本地推理等功能，讓用戶可以更靈活地使用大型語言模型。

C++★ 25.4k⑂ 1.5kai-ml

☆

karpathy/llama2.c

llama2.c：純C語言的Llama 2推理 — llama2.c是一個開源項目，旨在提供一個高效且易於使用的Llama 2推理解決方案。該項目使用純C語言實現，盡量減少依賴第三方庫，從而提高可移植性和性能。通過llama2.c，開發者可以輕鬆地將Llama 2推理功能集成到自己的應用程序中

C★ 19.7k⑂ 2.6kother

☆

ollama/ollama

ollama：開源模型框架 — ollama 是一個基於 Go 的開源框架，旨在簡化使用多種 AI 模型的過程。它支持多種流行的模型，包括 Kimi-K2.6、GLM-5.1 和 DeepSeek 等。通過 ollama，開發人員可以快速地集成和使用這些模型，從而加速自己的開發速度和提高效率。

Go★ 176.5k⑂ 17kai-ml

☆

VectifyAI/PageIndex

PageIndex：基於推理的向量無需文檔索引 — PageIndex 是一個為無向量、推理基礎的RAG設計的文檔索引工具，旨在提升信息檢索和生成的效率。它對於需要強大推理能力而不需要依賴向量數據庫的應用場景尤為重要。

Python★ 34.1k⑂ 3kai-ml

☆

chroma-core/chroma

chroma：人工智慧搜索基礎設施 — chroma 是一個開源的搜索基礎設施，使用 Rust 語言開發，提供高效的搜索和資料管理功能。它可以用於各種人工智慧應用，例如 AI代理和資料庫管理。chroma 的目的是提供一個可擴展和高效的搜索解決方案，滿足人工智慧應用的需求

Rust★ 28.8k⑂ 2.4kai-ml

☆

haotian-liu/LLaVA

LLaVA：視覺指令調整模型 — LLaVA是一個基於視覺指令調整的模型，旨在達到GPT-4V級別的能力，並超越它。它利用視覺和語言的多模態學習，實現了更強大的視覺語言學習能力。這個模型的開發對於聊天機器人和多模態學習領域具有重要意義

Python★ 24.9k⑂ 2.8kai-ml

☆

aristocratos/btop

btop：系統資源監控工具 — btop是一個系統資源監控工具，提供CPU、記憶體、磁碟和網路等資源使用情況的即時統計。它可以幫助用戶了解系統的性能和瓶頸，從而優化系統的配置和使用。通過btop，用戶可以快速地識別系統中的問題和優化機會

C++★ 33.6k⑂ 1.1kother

☆

LMCache/LMCache

LMCache：快速KV緩存層 — LMCache通過提供快速的KV緩存層來提升大型語言模型（LLM）的性能，從而實現更快的推理速度和更低的延遲。這使得LMCache成為LLM應用的必備工具。同時，LMCache支援多種硬件平台，包括AMD、CUDA、ROCM等，確保了其廣泛的適用性。

Python★ 10k⑂ 1.4kai-ml

☆

sinaptik-ai/pandas-ai

pandas-ai：使用LLMs和RAG进行数据分析 — pandas-ai通過LLMs和RAG技術，使得數據分析變得更加簡單和對話式。用戶可以通過聊天的方式與數據庫或數據湖進行交互，從而更容易地獲取所需的數據和信息。這項技術的應用有助於提高數據分析的效率和便捷性。

Python★ 23.7k⑂ 2.3kdata

☆

sgl-project/sglang

sglang：高性能語言模型服務框架 — sglang是一個高性能的服務框架，適用於大型語言模型和多模態模型。它支持多種模型架構，包括Transformer、Moe和Diffusion，能夠提供快速和高效的推理服務。sglang的開發對於自然語言處理和人工智慧領域具有重要意義

Python★ 29.9k⑂ 6.9kai-ml

☆

ZhuLinsen/daily_stock_analysis

daily_stock_analysis：多市场股票智能分析系统 — daily_stock_analysis 是一个使用 LLM 驱动的多市场股票智能分析系统，能够提供多源行情、实时新闻、决策看板与自动推送等功能。该系统支持零成本定时运行，能够帮助用户更好地分析股票市场。同时，daily_stock_analysis 使用 Python 编写，易于维护和扩展。

Python★ 57.9k⑂ 49.8kai-ml

☆

langchain-ai/langgraph

langgraph：建設強健的代理 — langgraph 是一個開源的 Python 框架，能夠幫助開發者建立強健的代理，利用 AI 技術來實現智能代理的功能。這個框架提供了一個簡單的方式來建設和管理代理，能夠應用於各種領域。langgraph 的目的是為了提供一個強健和可擴展的代理建設框架，能夠幫助開發者建立更好的智能代理

Python★ 37.6k⑂ 6.3kai-ml

☆

mem0ai/mem0

mem0：通用人工智慧記憶層 — mem0 是一個 Python 製作的通用記憶層，能夠讓 AI Agent 擁有長期記憶管理功能，從而提升其應用能力。它支持多種 AI 模型，包括 chatbots 和 LLM。這個功能對於開發更先進的 AI 應用程序具有重要意義

TypeScript★ 61.2k⑂ 7.1kai-ml

☆

open-webui/open-webui

open-webui：人性化 AI 界面 — open-webui 是一个開源項目，提供了一個簡單易用的 AI 界面，讓用戶可以輕鬆地與 AI 模型交互。它支持多種 AI 平台，包括 Ollama 和 OpenAI API 等，讓用戶可以根據自己的需求選擇合適的 AI 服務。open-webui 的出現使得 AI 技術更容易被大眾接受和使用

Python★ 146k⑂ 21.2kai-ml

☆

andrewyng/context-hub

context-hub：內容集線器 — context-hub 是一個開源的 JavaScript 專案，旨在提供內容管理和集線功能，讓開發者能夠更容易地管理和整合不同的內容來源。這個專案使用 JavaScript 開發，提供了一個靈活和可擴展的解決方案，讓開發者能夠根據自己的需求進行自訂。同時，context-hub 也提供了一個強大的 API，讓開發者能夠更容易地與其他應用程式和服務進行整合

JavaScript★ 13.8k⑂ 1.2kweb

☆

stanford-oval/storm

storm：基於大型語言模型的知識整理系統 — storm是一個基於大型語言模型的知識整理系統，能夠自動研究特定主題並生成完整的報告，附帶引用文獻。這個系統結合了NLP和機器學習技術，提供了一種高效的知識整理方法。storm的應用潛力廣泛，包括學術研究、商業分析等領域。

Python★ 30k⑂ 2.8kai-ml

☆

qax-os/excelize

excelize：Go 語言 Excel 檔案庫 — excelize 支援各種 Excel 檔案格式，包括 XLAM、XLSM、XLSX、XLTM 和 XLTX。它提供了方便的 API 用於讀寫 Excel 檔案，並支援公式計算、圖表繪製和數據分析。excelize 是一個開源的 Go 語言庫，適用於各種需要處理 Excel 檔案的應用程式

Go★ 20.8k⑂ 1.9kai-ml

☆

kvcache-ai/ktransformers

ktransformers：異構LLM推論/微調優化框架 — ktransformers 是一個靈活的框架，專為異構大語言模型（LLM）的推論和微調優化而設計。它允許用戶在不同的硬件和軟件環境中進行高效的模型部署和調整，從而提高性能和效率。

Python★ 18.8k⑂ 1.5kai-ml

+458 ★☆

datawhalechina/all-in-rag

all-in-rag：大模型應用開發實戰 — all-in-rag 提供了全面的 RAG 技術指南，涵蓋了從基礎到進階的應用開發，是學習和使用大模型的寶貴資源。

Python★ 9.6k⑂ 4.8kai-ml

☆

datawhalechina/happy-llm

happy-llm：大模型构建项目 — happy-llm项目旨在从零开始构建大模型，使用Jupyter Notebook语言开发，涵盖了agent、llm和rag等主题。该项目为构建大模型提供了一个基础框架，能够帮助开发者更好地理解和实现大模型的构建。同时，该项目也是一个开源项目，欢迎开发者参与贡献和学习

Jupyter Notebook★ 32.2k⑂ 3.1kai-ml

☆

olimorris/codecompanion.nvim

codecompanion.nvim：AI編程輔助工具 — codecompanion.nvim是一個基於Lua的Neovim插件，利用AI技術提供智能編程輔助，包括代碼補全、代碼檢查等功能，能夠大大提升開發者的工作效率。這個插件支持多種AI模型，包括Copilot、Claude Code等。通過使用codecompanion.nvim，開發者可以更快速、更準確地完成編程任務

Lua★ 6.8k⑂ 439ai-ml

☆

Hmbown/CodeWhale

CodeWhale：開源代理工具 — CodeWhale是一個開源的代理工具Harness，使用Rust語言開發，提供了一個強大的命令列介面（CLI）和終端使用者介面（TUI），可以幫助用戶更容易地使用LLM和DeepSeek等功能。這個項目的目的是提供一個高度可定制和可擴充的代理工具，讓用戶可以根據自己的需求進行配置和擴充。同時，CodeWhale也是一個社群驅動的項目，歡迎用戶參與開發和貢獻

Rust★ 39.9k⑂ 3.4ktools

☆

rupa/z

z：快速跳轉工具 — z 是一個方便的工具，讓用戶可以快速跳轉到常用的目錄，節省時間和提高生產力。它通過記錄用戶訪問過的目錄，然後允許用戶快速跳轉到這些目錄。這個工具對於經常需要在多個目錄之間切換的用戶尤其有用

Shell★ 17k⑂ 1.2kother

☆

chenfei-wu/TaskMatrix

TaskMatrix：任務管理工具 — TaskMatrix 是一個開源的任務管理工具，使用 Python 編寫。它提供了一個簡單易用的介面來管理和追蹤任務，讓用戶可以輕鬆地組織和優先處理任務。透過 TaskMatrix，用戶可以提高工作效率和生產力。

Python★ 34.1k⑂ 3.2kother

☆

google/langextract

langextract：結構化文本提取库 — langextract 是一个 Python 库，利用大型语言模型（LLMs）从非結構化文本中提取結構化信息。它具有精确的源基准和交互式可视化功能，能夠高效地从复杂文本中提取有用信息。该库在自然语言处理（NLP）领域具有重要意义，能够广泛应用于信息提取、数据分析等领域。

Python★ 37.5k⑂ 2.6kai-ml

☆

moonshine-ai/moonshine

moonshine：低延遲語音處理 — moonshine 提供低延遲的語音轉文字、意圖識別和文字轉語音功能，特别適合用於開發語音代理和用戶界面，提升用戶體驗。

C++★ 10.1k⑂ 526ai-ml

+282 ★☆