"高性能計算"

langchain-ai/open_deep_research

open_deep_research：開源深度研究平台 — open_deep_research 提供了一個強大的開源框架，支持各種深度學習模型的開發和研究。它對於希望在深度學習領域進行創新研究的開發者來說極為重要。

Python★ 12.3k⑂ 1.7kother

+23 ★☆

dgraph-io/dgraph

dgraph：高效能圖形資料庫 — dgraph 是一個為即時使用案例設計的高性能圖形資料庫，使用 Go 語言開發。它能夠處理大量的資料和複雜的查詢，適用於各種需要實時資料處理的應用。dgraph 的分散式架構使其能夠水平擴展，滿足大規模應用的需求

Go★ 21.7k⑂ 1.6kbackend

☆

vllm-project/vllm

vllm：高性能LLM推理和服务引擎 — vllm是一個開源的Python項目，提供高性能的LLM推理和服務能力，支持多種硬件平臺，包括AMD、CUDA、TPU等，使用pytorch和transformer等技術，能夠高效地處理LLM的推理和服務，對於LLM的應用和開發具有重要意義。vllm的設計目標是提供一個高吞吐量和記憶體效率的推理和服務引擎，能夠滿足LLM應用的需求。通過使用vllm，開發者可以更容易地部署和管理LLM模型，提高推理和服務的效率和準確性。

Python★ 86.6k⑂ 19.6kai-ml

☆

hpcaitech/ColossalAI

ColossalAI：大型 AI 模型開發框架 — ColossalAI 通過提供高效的數據平行和模型平行計算方法，使大型 AI 模型的訓練和推理過程更快更便宜。這項技術的開發對於推動 AI 研究和應用具有重要意義，尤其是在大型模型和分布式計算領域。同時，ColossalAI 也支持異構訓練和管道平行等先進功能，進一步擴展了其在 AI 研究和開發中的應用價值。

Python★ 41.4k⑂ 4.5kai-ml

☆

taichi-dev/taichi

taichi：高效Python GPU编程 — taichi是一個基於C++的Python库，提供了高效、便捷和高性能的GPU编程能力。它支持多種計算任務，包括计算机图形学、可微分编程和稀疏計算。通过使用taichi，開發者可以輕鬆地實現高性能的計算任務，并將其應用於各種領域

C++★ 28.3k⑂ 2.4kgame

☆

quickemu-project/quickemu

quickemu：快速創建和運行優化的虛擬機器 — quickemu通過優化虛擬機器的設定，讓用戶可以快速創建和運行虛擬機器，支持多種作業系統，包括Windows、macOS和Linux。這個項目使用qemu、kvm和virtio等技術，提供高效和穩定的虛擬機器運行環境。同時，quickemu也支持多種功能，例如EFI、TPM和VirGL，讓用戶可以根據需要定制虛擬機器

Shell★ 15.3k⑂ 682other

☆

aristocratos/btop

btop：系統資源監控工具 — btop是一個系統資源監控工具，提供CPU、記憶體、磁碟和網路等資源使用情況的即時統計。它可以幫助用戶了解系統的性能和瓶頸，從而優化系統的配置和使用。通過btop，用戶可以快速地識別系統中的問題和優化機會

C++★ 33.6k⑂ 1.1kother

☆

LMCache/LMCache

LMCache：快速KV緩存層 — LMCache通過提供快速的KV緩存層來提升大型語言模型（LLM）的性能，從而實現更快的推理速度和更低的延遲。這使得LMCache成為LLM應用的必備工具。同時，LMCache支援多種硬件平台，包括AMD、CUDA、ROCM等，確保了其廣泛的適用性。

Python★ 10k⑂ 1.4kai-ml

☆

heygen-com/hyperframes

hyperframes：用於AI和視頻渲染的框架 — hyperframes是一個強大的框架，允許用戶使用HTML和TypeScript來渲染視頻，同時支持AI代理的應用。它整合了ffmpeg、gsap和puppeteer等庫，提供了高效的渲染功能。hyperframes的出現為AI和視頻渲染領域帶來了新的可能性

TypeScript★ 36.3k⑂ 3.4kai-ml

☆

calcom/cal.diy

cal.diy：開源排程基礎設施 — cal.diy 提供了一個開源的排程基礎設施，讓開發者可以輕鬆地建立自己的排程系統。該項目使用了多種流行的技術，包括 nextjs、postgresql、prisma 和 tailwindcss。通過 cal.diy，開發者可以快速建立一個可靠且高效的排程系統，滿足各種需求。

TypeScript★ 46.6k⑂ 14.5kweb

☆

krahets/hello-algo

hello-algo：動畫圖解、一鍵運行的資料結構與演算法教程 — hello-algo 提供了豐富的資料結構和演算法教程，包含動畫圖解和一鍵運行的功能，支持多種語言如 Java、Python、C++ 等，讓學習者更容易理解和掌握相關概念。這個項目對於想要學習資料結構和演算法的開發者來說非常有幫助。hello-algo 的教程內容豐富，涵蓋了各種主題，包括 LeetCode 等

Java★ 127.7k⑂ 15.2kother

☆

jina-ai/serve

serve：雲原生多模態AI應用框架 — serve是一個基於Python的框架，使用雲原生技術如Kubernetes、Docker和FastAPI等，能夠幫助開發者快速打造多模態AI應用。它支持多種AI模型和框架，如深度學習和機器學習等。serve的雲原生設計使其能夠輕鬆擴展和部署，非常適合大規模AI應用的開發

Python★ 21.9k⑂ 2.2kai-ml

☆

cloudflare/pingora

pingora：用於建構快速、可靠和可演化的網路服務庫 — pingora 是一個 Rust 庫，提供了建構快速、可靠和可演化的網路服務的功能。它可以幫助開發者建立高效和可擴展的網路應用程式。透過使用 pingora，開發者可以簡化網路服務的建構和維護過程

Rust★ 27k⑂ 1.7kother

☆

keras-team/keras

keras：人性化的深度學習框架 — keras 是一個高層神經網絡 API，能夠在 TensorFlow、PyTorch 和 JAX 等多個後端上運行。它提供了簡單易用的 API，讓用戶可以快速地構建和訓練神經網絡模型。keras 的出現使得深度學習技術更加民主化和易於使用

Python★ 64.2k⑂ 19.7kai-ml

☆

BVLC/caffe

caffe：深度學習快速開放框架 — caffe是一個開源的深度學習框架，旨在提供快速和高效的神經網絡計算功能。它支持多種程式語言，包括C++、Python和MATLAB，同時也提供了豐富的API和工具，讓開發者可以輕鬆地使用和擴展。caffe的優勢在於其高性能和高擴展性，使其成為深度學習領域的一個重要工具

C++★ 34.6k⑂ 18.5kai-ml

☆

MemTensor/MemOS

MemOS：自我演化記憶作業系統 — MemOS是一個自我演化的記憶作業系統，旨在為大型語言模型和AI代理人提供更好的記憶管理和技能重用功能。它的超級持久記憶和混合檢索功能可以幫助AI代理人更好地學習和適應新的任務和環境。同時，MemOS的跨任務技能重用功能可以節省35.24%的token，提高AI代理人的效率和性能

TypeScript★ 10k⑂ 913ai-ml

☆

volcano-sh/volcano

volcano：雲原生批量系統 — volcano 是一個開源的批量系統，基於 Kubernetes，提供高性能和可擴展的批量計算能力。它支持多種工作負載，包括 AI、機器學習和大數據處理。volcano 的設計目標是提供一個靈活、可靠和高效的批量系統，以滿足雲原生應用的需求

Go★ 5.8k⑂ 1.5kai-ml

☆

DeusData/codebase-memory-mcp

codebase-memory-mcp：高效代碼智慧伺服器 — codebase-memory-mcp 是一個高效能的代碼智慧伺服器，能夠快速建立代碼庫的知識圖譜，支援158種語言，具有毫秒級查詢效能。它的優點包括單一靜態二進制檔、零依賴，能夠快速索引代碼庫。這使得codebase-memory-mcp成為開發人員的理想工具，能夠提高代碼開發效率和品質

C★ 32.9k⑂ 2.5kbackend

☆

binhnguyennus/awesome-scalability

awesome-scalability：大規模系統擴展性和可靠性模式 — awesome-scalability 提供了大規模系統的設計模式和架構指南，涵蓋了 backend、big-data、distributed-systems 和 system-design 等領域，幫助開發者打造可擴展、可靠和高性能的系統。這個庫對於想要學習大規模系統設計和開發的開發者來說非常有用。同時，awesome-scalability 也提供了 interview 和 interview-practice 相關的資源，幫助開發者準備面試和實踐技能

★ 72.5k⑂ 7kai-ml

☆

ray-project/ray

ray：人工智慧計算引擎 — ray是一個高性能的AI計算引擎，能夠加速機器學習工作負載的運行。它通過核心分佈式運行時和AI庫來實現這一功能。這使得ray對於需要高性能計算的應用程序尤其重要，例如深度學習和強化學習。

Python★ 43.3k⑂ 7.8kai-ml

☆

playcanvas/engine

engine：強大的網頁圖形運行時 — engine 是一個強大的網頁圖形運行時，能夠提供高效的圖形渲染和互動功能。它基於 WebGL、WebGPU、WebXR 和 glTF 等技術，能夠滿足複雜的網頁圖形需求。engine 的應用領域包括遊戲開發、虛擬實境等，能夠為用戶提供豐富的互動體驗

JavaScript★ 16.3k⑂ 1.9kgame

☆

roboflow/supervision

supervision：計算機視覺工具 — supervision是一個計算機視覺工具，使用Python語言開發，提供多種功能，如圖像分類、物體檢測、實例分割等。它支持多種框架，包括PyTorch和TensorFlow，且具有低程式碼開發能力。這個工具對於需要快速開發計算機視覺應用的開發者來說非常重要。

Python★ 48.2k⑂ 4.4kai-ml

☆

pytorch/pytorch

pytorch：Python 張量和動態神經網路庫 — pytorch 是一個開源的 Python 機器學習庫，提供了張量和動態神經網路的功能，能夠在 GPU 上進行加速運算。它的 Autograd 系統可以自動計算梯度，方便用戶進行神經網路的訓練和優化。pytorch 的動態計算圖可以讓用戶更容易地進行神經網路的設計和調試

Python★ 101.8k⑂ 28.4kai-ml

☆

deepspeedai/DeepSpeed

DeepSpeed：深度學習優化庫 — DeepSpeed是一個深度學習優化庫，能夠讓用戶輕鬆實現分佈式訓練和推理，從而提高模型的訓練速度和效率。它支持多種並行技術，包括數據並行、模型並行和管道並行，同時還提供了壓縮和混合專家等功能。DeepSpeed的出現對於大規模深度學習模型的訓練和部署具有重要意義

Python★ 42.7k⑂ 4.9kai-ml

☆

nuclio/nuclio

nuclio：高效能的伺服器無法事件和資料處理平台 — nuclio 是一個高效能的伺服器無法事件和資料處理平台，使用 Go 語言開發，支援 containers、docker、faas、kubernetes 等技術。它可以快速處理大量事件和資料，讓開發人員可以專注於業務邏輯的開發。nuclio 的高效能和可擴展性使其成為 serverless 平台的理想選擇

Go★ 5.7k⑂ 565devops

☆

0xNyk/council-of-high-intelligence

council-of-high-intelligence：多元化AI決策平台 — council-of-high-intelligence通過結合Aristotle、Feynman、Kahneman、Torvalds等多個AI人物，為用戶提供多元化的決策建議。該平台支持多輪決策，確保用戶能夠獲得全面和多角度的建議。這個平台的出現，可以幫助用戶更好地做出艱難的決定

Shell★ 2.8k⑂ 254ai-ml

+161 ★☆

datawhalechina/all-in-rag

all-in-rag：大模型應用開發實戰 — all-in-rag 提供了全面的 RAG 技術指南，涵蓋了從基礎到進階的應用開發，是學習和使用大模型的寶貴資源。

Python★ 9.6k⑂ 4.8kai-ml

☆

ashishpatel26/500-AI-Machine-learning-Deep-learning-Computer-vision-NLP-Projects-with-code

500-AI-Machine-learning-Deep-learning-Computer-vision-NLP-Projects-with-code：人工智慧項目集 — 500-AI-Machine-learning-Deep-learning-Computer-vision-NLP-Projects-with-code 項目收集了多個人工智慧領域的項目，包括機器學習、深度學習、電腦視覺和NLP。這些項目均附帶代碼，供開發者學習和研究。通過這些項目，開發者可以快速入門人工智慧領域，了解各種技術的實現細節。

★ 35.6k⑂ 7.4kai-ml

☆

GokuMohandas/Made-With-ML

Made-With-ML：機器學習應用開發指南 — Made-With-ML 專案是一個全面性的機器學習開發指南，涵蓋了從資料工程到自然語言處理等多個領域，使用者可以學習如何使用 Python、PyTorch 和 Ray 來開發和部署機器學習模型。這個專案對於想要將機器學習應用於實際生產環境的開發者具有重要意義。通過這個專案，開發者可以學習如何提高機器學習模型的質量和效率，同時也可以學習如何使用 MLOps 來管理和維護機器學習模型

Jupyter Notebook★ 48.8k⑂ 7.7kai-ml

☆

deepset-ai/haystack

haystack：開源AI編排框架 — haystack是一個開源的AI編排框架，用于建立生產就緒的LLM應用程序。它允許用戶設計模組化的管道和代理工作流，具有明確的控制權，可應用於可擴展的代理、RAG、多模態應用程序、語義搜索和對話系統。haystack的目的是為了提供一個高效和可擴展的解決方案，用于建設複雜的AI應用程序

MDX★ 25.9k⑂ 2.9kai-ml

☆

polarsource/polar

polar：軟體商業化解決方案 — polar 提供了一個完整的解決方案，讓軟體開發者可以輕鬆地將其產品變成商業化的數位產品。通過使用 polar，開發者可以專注於產品的開發和創新，而不需要擔心銷售和管理的複雜性。同時，polar 也提供了各種工具和服務來支援數位產品的銷售和管理，例如支付、訂閱和商務記錄等。

Python★ 10k⑂ 734web

☆

zml/zml

zml：零損害的模型硬件整合 — zml是一個使用Zig語言建構的項目，旨在實現任何模型在任何硬件上運行的能力，同時結合了@ziglang、@openxla、MLIR和@bazelbuild等技術。這個項目的目的是提供一個高效、靈活的模型部署解決方案，讓開發者可以輕鬆地將模型部署在各種硬件平台上。同時，zml也提供了高性能的模型推理能力，讓開發者可以實現高效的AI應用。

Zig★ 3.9k⑂ 170ai-ml

☆

facebook/zstd

zstd：快速实时压缩算法 — zstd是一种高性能的压缩算法，能够在实时处理数据的同时保持高压缩比。它的设计目标是提供一个快速、可靠和高效的压缩解决方案，适用于各种应用场景。zstd的优点在于其能够在保持高压缩比的同时，提供快速的压缩和解压缩速度

C★ 27.4k⑂ 2.5kother

☆

sgl-project/sglang

sglang：高性能語言模型服務框架 — sglang是一個高性能的服務框架，適用於大型語言模型和多模態模型。它支持多種模型架構，包括Transformer、Moe和Diffusion，能夠提供快速和高效的推理服務。sglang的開發對於自然語言處理和人工智慧領域具有重要意義

Python★ 29.9k⑂ 6.9kai-ml

☆

fubark/cyber

cyber：快速並發腳本引擎 — cyber 是一款高效能的腳本引擎，能夠快速執行腳本並支持並發操作。它使用 Zig 語言開發，具有高性能和低延遲的特點。cyber 的應用場景包括嵌入式系統、遊戲開發和網頁開發等。

Zig★ 1.5k⑂ 59web

☆

milvus-io/milvus

milvus：雲原生向量數據庫 — milvus 是一個雲原生向量數據庫，提供高性能的向量搜索和存儲功能。它支持多種索引算法，包括 Faiss 和 Hnsw，能夠應對大規模的向量搜索任務。milvus 的設計目的是為了滿足人工智慧和機器學習等領域對高性能向量搜索的需求

Go★ 45.3k⑂ 4.1kai-ml

☆

RyanCodrai/turbovec

turbovec：基於TurboQuant的向量索引 — turbovec 是一個基於TurboQuant的向量索引庫，使用Rust實現，並提供了Python接口，使得在高性能計算和數據分析中更加便捷和高效。

Python★ 13.4k⑂ 1.2kother

+280 ★☆