RUDA.

RUST · GPU · HOCHLEISTUNGSRECHNEN

Vom Kernel.
Zum Modell.

Ein Rust-Stack für GPU-Kernels, Rechenbibliotheken, Tensoren und Modelle. Auf der passenden Ebene entwickeln und die Schichten darunter im Blick behalten.

cargo add ruda --features cuda
Loslegen ↗Auf GitHub erkunden →
Rust 2024Direct PTXNative PyTorch
RUDA / COMPUTE STACK+
04
Modelle & TrainingruLLM / ruda-nn / ruda-optim
03
Tensoren & Frameworksruda-tensor / ruda-autodiff / ruda-torch
02
RechenbibliothekenruBLAS / ruDNN / ruFFT / ruTENSOR
01
Kernels & Ausführungruda-kernel / ruda-compiler / runtime
GPU KERNEL → TENSOR → MODEL

01 / BUILD

Ihr Einstiegspunkt.

Kernels schreiben, Modelle trainieren oder native PyTorch-Operatoren nutzen.

01 /

GPU-Kernel schreiben

Rust-Kernel-DSL, Ausführungsmodell und direkten PTX-Pfad erkunden.

02 /

Natives PyTorch nutzen

Native Operatoren, Streams und Training erster Ordnung auf ruda:0.

03 /

Lokales Modell ausführen

Gewichte vorbereiten und Text- und Bildinferenz mit ruLLM nutzen.

02 / COMPUTE

Die passende Bibliothek zur Operation.

Kontrolle im Detail. Komposition auf höherer Ebene. Klare Zuständigkeiten.

ruBLASLineare Algebra & gruppierte MatrixmultiplikationruDNNAttention, Normalisierung & MoEruTENSORTensorkontraktionen & einsumruFFTSchnelle Fourier-TransformationenruSPARSEDünnbesetzte MatrizenruCCLKollektive Kommunikation
Dokumentation erkunden →

03 / GET STARTED

Mit dem Quellcode starten.

Workspace klonen und GPU und Toolchain mit der Installationsanleitung vorbereiten.

Loslegen →
● ● ●TERMINAL
git clone https://github.com/shuqi2077/RUDA.git
cd RUDA

Der NVIDIA-Pfad benötigt Rust/Cargo, Linker, NVIDIA-Treiber und CUDA Toolkit.

Ein verbundener Rechenstack.

Dokumentation erkunden ↗