Compute-Bibliotheksreferenz

English | 简体中文 | 日本語 | Deutsch | Русский

Dokumentation · Tensoren und Frameworks · 中文

Compute-Bibliotheken implementieren Vorgänge, die Laufzeit führt sie auf Geräten aus und das Tensor-Framework setzt sie zusammen. Bibliotheksnamen beschreiben Verantwortlichkeiten, nicht identische APIs oder vollständige Funktionsparität mit ähnlich benannten CUDA-Bibliotheken.

Wählen Sie eine Bibliothek

Bibliothek	Cargo Paket	Rust-Crate	Hauptoperationen
ruBLAS	`rublas`	`rublas`	Matrixmultiplikation, Vektoroperationen, gruppierte Matrixmultiplikation und INT4
ruDNN	`ruDNN`	`rudnn`	Achtung, Faltung, Pooling und MoE
ruTENSOR	`ruTENSOR`	`rutensor`	Allgemeine Tensorkontraktionen, einsum, Reduktionen, Permutationen und elementweise Operationen
ruPRIM	`ruPRIM`	`ruprim`	Reduzierungen, Scans, elementweise Operationen und Indizierung
ruFFT	`ruda-fft`	`rufft`	Real FFT und inverse Transformationen
ruRAND	`ruRAND`	`rurand`	Gleichmäßige, normale und Bernoulli-Verteilungen
ruSPARSE	`ruSPARSE`	`rusparse`	Sparse-Matrix-Formate und -Operationen
ruCCL	`ruCCL`	`ruccl`	Kollektive Kommunikation und Orchestrierung

Schnittstellenschichten

Kernel-/Startschnittstellen akzeptieren Gerätebindungen und Ausführungskonfigurationen für die Kernel- und Bibliotheksentwicklung.
Tensorschnittstellen verarbeiten Zuweisungen, Layouts und Aufrufe und verwenden dabei üblicherweise RudaTensor<R>.
Framework-Schnittstellen werden über Komponenten wie ruda-tensor-device an Bibliotheken weitergeleitet.

Operationen mit demselben Namen auf verschiedenen Ebenen können unterschiedliche Argumente, Rückgabetypen und Fehlerbehandlung haben. Überprüfen Sie Paket, Modulpfad und Funktion gemeinsam. Kernel-Eintrittspunktsignaturen sind keine Tensor-Eintrittspunktsignaturen.

Verwendung der Anleitungen

Jedes Bibliothekshandbuch behandelt seinen Zweck, seine Funktionen, Schnittstellen, Datenverträge und Einschränkungen. Wählen Sie explizit die von einem Allzweckpfad benötigten Funktionen aus, anstatt davon auszugehen, dass Standardeinstellungen für jedes Gerät geeignet sind.