"NotebookLM"

MODSetter/SurfSense

SurfSense：開放式 NotebookLM 替代方案 — SurfSense 是一個開放源碼的 NotebookLM 替代方案，讓使用者能夠通過單一平台或 API 探索 Reddit、YouTube、Instagram、TikTok、Indeed、Google Search、Maps 等平台的即時資料。這對於需要綜合多種來源資訊的研究者和開發者來說非常有用。

Python★ 15.5k⑂ 1.5kai-ml

☆

lfnovo/open-notebook

open-notebook：開源筆記本實現 — open-notebook 是一個開源實現的 Notebook LM，提供了更多的彈性和功能，讓用戶可以更輕鬆地進行筆記和學習。這個項目使用 TypeScript 開發，提供了更好的維護性和擴展性。通過 open-notebook，用戶可以更有效地管理自己的筆記和知識

TypeScript★ 36.1k⑂ 4.1kdata

☆

allenai/olmocr

olmocr：PDF 文檔線性化工具包 — olmocr 提供了一個簡單的方法來處理 PDF 文檔，讓用戶可以輕鬆地將其轉換為大型語言模型（LLM）可以接受的格式。這個工具包是基於 Python 開發的，使用簡單且高效。olmocr 的出現可以大大提高 LLM 數據集的準備效率和質量

Python★ 18.5k⑂ 1.5kai-ml

+334 ★☆

mlabonne/llm-course

llm-course：大型語言模型入門課程 — llm-course是一門針對大型語言模型（LLMs）的入門課程，提供詳細的路線圖和Colab筆記本，以幫助學習者快速上手。透過這門課程，學習者可以掌握LLMs的基礎知識和實踐技能，進而應用於機器學習和自然語言處理等領域。同時，課程還提供了現成的Colab筆記本，讓學習者可以直接實踐和驗證所學的知識

★ 81.3k⑂ 9.5kai-ml

☆

SillyTavern/SillyTavern

SillyTavern：人工智慧聊天前端 — SillyTavern 是一個為 Power Users 設計的 LLM 前端，使用 JavaScript 開發，提供了一個強大的 AI 聊天介面。它讓用戶可以更方便地與 AI 模型進行交互，提高了工作效率。SillyTavern 的出現對於 AI 研究和開發具有重要意義

JavaScript★ 29.9k⑂ 5.7kai-ml

☆

chenfei-wu/TaskMatrix

TaskMatrix：任務管理工具 — TaskMatrix 是一個開源的任務管理工具，使用 Python 編寫。它提供了一個簡單易用的介面來管理和追蹤任務，讓用戶可以輕鬆地組織和優先處理任務。透過 TaskMatrix，用戶可以提高工作效率和生產力。

Python★ 34.1k⑂ 3.2kother

☆

vllm-project/vllm

vllm：高性能LLM推理和服务引擎 — vllm是一個開源的Python項目，提供高性能的LLM推理和服務能力，支持多種硬件平臺，包括AMD、CUDA、TPU等，使用pytorch和transformer等技術，能夠高效地處理LLM的推理和服務，對於LLM的應用和開發具有重要意義。vllm的設計目標是提供一個高吞吐量和記憶體效率的推理和服務引擎，能夠滿足LLM應用的需求。通過使用vllm，開發者可以更容易地部署和管理LLM模型，提高推理和服務的效率和準確性。

Python★ 87.2k⑂ 19.9kai-ml

☆

AlexsJones/llmfit

llmfit：硬體兼容模型查找 — llmfit 是一個開源項目，旨在幫助用戶找到適合其硬體的模型。它支持數百個模型和提供者，讓用戶可以輕鬆地找到合適的模型。這個項目使用 Rust 編程語言開發，具有高效和可靠的特點

Rust★ 29.7k⑂ 1.8kai-ml

☆

microsoft/BitNet

BitNet：1 位 LLM 推理框架 — BitNet 是一個開源的框架，旨在為 1 位大型語言模型（LLMs）提供高效的推理能力。它使用 Python 進行開發，為開發人員提供了一個簡單易用的介面。通過 BitNet，開發人員可以輕鬆地部署和管理 1 位 LLMs，從而提高推理效率和準確度

C++★ 39.8k⑂ 3.7kai-ml

☆

hiyouga/LlamaFactory

LlamaFactory：大型語言模型優化 — LlamaFactory 通過提供一個統一的介面，支持多種微調技術，如 PEFT、LORA 和 QLoRA，從而實現了對多個大型語言模型的高效微調。這個項目對於自然語言處理（NLP）領域具有重要意義，因為它能夠大大提高模型的性能和效率。另外，LlamaFactory 還支持多種模型，包括 GPT、LLaMA 和 Transformers 等

Python★ 73.5k⑂ 9kai-ml

☆

yifanfeng97/Hyper-Extract

Hyper-Extract：超圖文本提取 — Hyper-Extract是一個強大的工具，利用LLMs技術將非結構化文本轉換為結構化知識，支援多種提取功能，如圖、超圖和時空提取等。這使得用戶可以輕鬆地從文本中提取有用的信息。同時，Hyper-Extract的命令行界面使得使用更加簡單便捷

Python★ 1.9k⑂ 210ai-ml

+124 ★☆

google/langextract

langextract：結構化文本提取库 — langextract 是一个 Python 库，利用大型语言模型（LLMs）从非結構化文本中提取結構化信息。它具有精确的源基准和交互式可视化功能，能夠高效地从复杂文本中提取有用信息。该库在自然语言处理（NLP）领域具有重要意义，能够广泛应用于信息提取、数据分析等领域。

Python★ 37.9k⑂ 2.6kai-ml

☆

aristocratos/btop

btop：系統資源監控工具 — btop是一個系統資源監控工具，提供CPU、記憶體、磁碟和網路等資源使用情況的即時統計。它可以幫助用戶了解系統的性能和瓶頸，從而優化系統的配置和使用。通過btop，用戶可以快速地識別系統中的問題和優化機會

C++★ 33.6k⑂ 1.1kother

☆

oobabooga/textgen

textgen：本地化LLM桌面应用 — textgen是一個開源的桌面應用程式，提供本地化LLM功能，支持文本、視覺、工具呼叫以及OpenAI/Anthropic兼容API。它的優點在於100%私密，讓使用者能夠安全地使用LLM功能。textgen的開源性也使其具有高度的可擴充性和自訂性

Python★ 47.5k⑂ 6kai-ml

☆

Lordog/dive-into-llms

dive-into-llms：簡短中文描述 — dive-into-llms 是一個編程實踐教程系列，旨在通過實際操作幫助學習者深入理解大語言模型（LLMs）。這個項目對於希望掌握LLM技術的開發者來說非常重要。

Jupyter Notebook★ 45.5k⑂ 5.4kai-ml

+408 ★☆

fairyglade/ly

ly：輕量級終端用戶界面顯示管理器 — ly是一個基於TUI的顯示管理器，提供了一個輕量級和高效的登入管理解決方案。它使用Zig語言開發，支持Linux和BSD系統，提供了對PAM的支持。ly的目的是為用戶提供一個簡單和安全的登入體驗。

Zig★ 7.5k⑂ 350other

☆

pathwaycom/llm-app

llm-app：雲端模板和企業搜索解決方案 — llm-app 是一個雲端模板和企業搜索解決方案，提供即可運行的環境，適用於 RAG、AI 管線和企業搜索，同時支援多種資料來源，能夠實現與實時資料 API 的同步。這個解決方案使用 Jupyter Notebook 作為主要開發語言，同時整合了多種機器學習相關技術，包括 Hugging Face、Open AI 等。llm-app 的設計宗旨是提供一個高效、安全、可擴展的解決方案，適用於各種企業級別的應用場景。

Jupyter Notebook★ 59k⑂ 1.4kai-ml

☆

kvcache-ai/ktransformers

ktransformers：異構LLM推論/微調優化框架 — ktransformers 是一個靈活的框架，專為異構大語言模型（LLM）的推論和微調優化而設計。它允許用戶在不同的硬件和軟件環境中進行高效的模型部署和調整，從而提高性能和效率。

Python★ 18.8k⑂ 1.5kai-ml

+458 ★☆

mozilla-ai/llamafile

llamafile：以單一檔案分佈和運行大型語言模型 — llamafile 的主要功能是將大型語言模型打包成單一檔案，讓用戶可以輕鬆地在不同平台上分佈和運行。這個功能對於開發人員和用戶來說非常重要，因為它可以簡化大型語言模型的部署和運行過程。同時，llamafile 也支持跨平台和本地推理等功能，讓用戶可以更靈活地使用大型語言模型。

C++★ 25.5k⑂ 1.5kai-ml

☆

opendatalab/MinerU

MinerU：文件轉換工具 — MinerU能夠將複雜文件如PDF和Office文檔轉換為LLM-ready的markdown/JSON格式，從而方便用戶將其整合到Agentic工作流中。這個工具可以幫助用戶簡化文件處理流程，提高工作效率。MinerU的轉換功能對於需要處理大量文件的用戶尤其有用

Python★ 72k⑂ 6kai-ml

+380 ★☆

MemTensor/MemOS

MemOS：自我演化記憶作業系統 — MemOS是一個自我演化的記憶作業系統，旨在為大型語言模型和AI代理人提供更好的記憶管理和技能重用功能。它的超級持久記憶和混合檢索功能可以幫助AI代理人更好地學習和適應新的任務和環境。同時，MemOS的跨任務技能重用功能可以節省35.24%的token，提高AI代理人的效率和性能

TypeScript★ 10k⑂ 913ai-ml

☆

lutzroeder/netron

netron：神經網路視覺化工具 — netron是一個視覺化工具，允許用戶瀏覽和分析神經網路、深度學習和機器學習模型。它支持多種模型格式，包括ONNX、PyTorch和TensorFlow。通過netron，用戶可以更好地理解模型的結構和運作，從而提高模型的性能和準確性

JavaScript★ 33.3k⑂ 3.2kai-ml

☆

binary-husky/gpt_academic

gpt_academic：大语言模型实用化交互接口 — gpt_academic是一个模块化设计的项目，支持自定义快捷按钮和函数插件，能够支持Python和C++等项目的剖析和自译解功能。同时，它还支持PDF/LaTex论文的翻译和总结功能，以及并行问询多种LLM模型。通过接入多个LLM模型和服务，gpt_academic为用户提供了一个强大的工具，能够提高他们的工作效率和生产力。

Python★ 71.1k⑂ 8.3kai-ml

☆

karpathy/char-rnn

char-rnn：字符級語言模型 — char-rnn 提供了一種基於字符的語言模型實現，利用 Lua 和 Torch 框架，能夠有效地處理和生成文本數據。這個庫通過多層遞歸神經網路的設計，實現了對字符級語言模型的支持，從而可以用於文本生成、語言翻譯等任務。同時，char-rnn 的實現也展示了 Torch 框架在深度學習任務中的強大能力

Lua★ 12.1k⑂ 2.6kai-ml

☆

ZhuLinsen/daily_stock_analysis

daily_stock_analysis：多市场股票智能分析系统 — daily_stock_analysis 是一个使用 LLM 驱动的多市场股票智能分析系统，能够提供多源行情、实时新闻、决策看板与自动推送等功能。该系统支持零成本定时运行，能够帮助用户更好地分析股票市场。同时，daily_stock_analysis 使用 Python 编写，易于维护和扩展。

Python★ 59.1k⑂ 50.6kai-ml

☆

LMCache/LMCache

LMCache：快速KV緩存層 — LMCache通過提供快速的KV緩存層來提升大型語言模型（LLM）的性能，從而實現更快的推理速度和更低的延遲。這使得LMCache成為LLM應用的必備工具。同時，LMCache支援多種硬件平台，包括AMD、CUDA、ROCM等，確保了其廣泛的適用性。

Python★ 10k⑂ 1.4kai-ml

☆

ollama/ollama

ollama：開源模型框架 — ollama 是一個基於 Go 的開源框架，旨在簡化使用多種 AI 模型的過程。它支持多種流行的模型，包括 Kimi-K2.6、GLM-5.1 和 DeepSeek 等。通過 ollama，開發人員可以快速地集成和使用這些模型，從而加速自己的開發速度和提高效率。

Go★ 176.9k⑂ 17.1kai-ml

☆

mason-org/mason.nvim

mason.nvim：便攜式 Neovim 包管理器 — mason.nvim 是一個為 Neovim 設計的包管理器，允許用戶輕鬆安裝和管理各種工具，包括 LSP 伺服器、DAP 伺服器、linters 和格式化工具。它的便攜式設計使其可以在任何 Neovim 環境中運行，為用戶提供了一種統一的包管理體驗。這使得開發人員可以更容易地管理其 Neovim 環境，從而提高生產力

Lua★ 10.4k⑂ 336other

☆

datawhalechina/happy-llm

happy-llm：大模型构建项目 — happy-llm项目旨在从零开始构建大模型，使用Jupyter Notebook语言开发，涵盖了agent、llm和rag等主题。该项目为构建大模型提供了一个基础框架，能够帮助开发者更好地理解和实现大模型的构建。同时，该项目也是一个开源项目，欢迎开发者参与贡献和学习

Jupyter Notebook★ 32.4k⑂ 3.1kai-ml

☆

akinsho/toggleterm.nvim

toggleterm.nvim：Neovim 終端機管理插件 — toggleterm.nvim 是一個 Neovim Lua 插件，提供了輕鬆管理多個終端機視窗的功能。這個插件可以幫助用戶更高效地使用 Neovim，節省時間和提高生產力。通過 toggleterm.nvim，用戶可以輕鬆地在多個終端機視窗之間切換和管理

Lua★ 5.6k⑂ 207tools

☆

microsoft/WSL

WSL：Windows 子系統 Linux 版 — WSL（Windows Subsystem for Linux）是微軟開發的相容層，允許在 Windows 10 和 11 上原生執行 Linux 應用程式。它提供完整的 Linux 核心介面，支援多種發行版，並與 Windows 檔案系統整合，大幅提升開發者生產力。

C++★ 33.2k⑂ 1.8kother

☆

stanford-oval/storm

storm：基於大型語言模型的知識整理系統 — storm是一個基於大型語言模型的知識整理系統，能夠自動研究特定主題並生成完整的報告，附帶引用文獻。這個系統結合了NLP和機器學習技術，提供了一種高效的知識整理方法。storm的應用潛力廣泛，包括學術研究、商業分析等領域。

Python★ 30k⑂ 2.8kai-ml

☆

AccumulateMore/CV

CV：深度学习筆記 — CV是一個集合了眾多深度學習知識的項目，內容包括了計算機視覺、機器學習、自然語言處理等領域的筆記和資源。該項目對於深度學習的學習者和研究者具有重要的參考價值。同時，該項目也涵蓋了多個熱門的技術和框架，例如Pytorch、Jupyter Notebook等

Jupyter Notebook★ 22.9k⑂ 2.6kai-ml

☆

Mintplex-Labs/anything-llm

anything-llm：本地化人工智慧體驗 — anything-llm是一個基於JavaScript的開源項目，旨在提供一個強大且可自行部署的本地化人工智慧體驗。它結合了多種技術，包括LLM、多模態和向量數據庫，讓用戶可以擁有自己的智慧體驗。這個項目的目的是讓用戶能夠自行控制自己的智慧體驗，而不需要依賴於第三方服務

JavaScript★ 63.9k⑂ 7kai-ml

☆