Установка и быстрый запуск
English | 简体中文 | 日本語 | Deutsch | Русский
Документация · Далее: Руководство по программированию · 中文
1. Выберите точку входа.
| Задача | Точка входа |
|---|---|
| Запись ядер GPU | ruda-kernel::dsl и среда выполнения устройства |
| Используйте матричное умножение, БПФ или сокращение. | Вычислительные библиотеки |
| Работа с тензорами и фреймворками | Тензоры и фреймворки |
| Обучение моделей и сохранение состояния | Обучающее руководство |
| Загрузка моделей и создание текста или изображений обработки | Руководство по выводу модели |
| Интеграция бэкенда устройства | Драйвер API |
Используйте Ruda из исходной рабочей области.
2. Подготовьте среду NVIDIA.
Вам понадобится Rust/Cargo, набор инструментов компоновщика для вашей платформы, драйвер NVIDIA GPU и набор инструментов CUDA. Серверная часть CUDA включает NVRTC и зависимости сборки инструментария; включение прямого PTX не удаляет их.
Проверьте свою среду из корневого источника:
rustc --version --verbose
cargo --version
nvidia-smi
nvcc --version
cargo metadata --no-deps --format-version 1 --offline --locked
Эти команды не компилируют Ruda. --offline требует, чтобы зависимости, необходимые для разрешения, кэшировались локально.
Установите CUDA_PATH, чтобы выбрать корень CUDA Toolkit. В Windows укажите каталог установленной версии, а не родительский каталог, содержащий несколько версий. См. интерфейс пути установки CUDA.
3. Постройте пример
Когда среда сборки готова, запустите:
cargo build --locked -p ruda-driver-cuda --features direct-ptx --example ptx-runtime
Для примера ptx-runtime требуется direct-ptx. Включение этой функции само по себе не меняет компилятор по умолчанию.
4. Выберите путь компиляции и запустите.
Выберите один путь в отдельном сеансе PowerShell. Прежде чем продолжить, устраните любую ошибку команды.
Путь CUDA C++/NVRTC по умолчанию:
$env:RUDA_CUDA_COMPILER = 'nvrtc'
cargo run --locked -p ruda-driver-cuda --features direct-ptx --example ptx-runtime
Прямой путь PTX:
$env:RUDA_CUDA_COMPILER = 'ptx'
$env:RUDA_PTX_VERSION = '8.0'
cargo run --locked -p ruda-driver-cuda --features direct-ptx --example ptx-runtime
Версия PTX должна соответствовать вашему целевому GPU и драйверу. См. Справочник по внутренней части PTX.
В примере выполняется сложение FP32 различной длины, проверяются результаты и хвостовые контрольные значения при повторных выполнениях, а также выводятся счетчики кэша. См. Примеры и руководства для дополнительных случаев.
5. Продолжать разработку
Выполните выбор устройства, загрузку данных и запуск ядра в примере, затем прочитайте руководство по программированию. В случае ошибок сборки, загрузки драйвера или выполнения используйте Отладка и диагностика, чтобы определить место сбоя.