https://github.com/selectel/gpu-sharing-k8s
Примеры конфигураций MIG, Timeslicing для шеринга GPU в Kubernetes
https://github.com/selectel/gpu-sharing-k8s
Last synced: 7 months ago
JSON representation
Примеры конфигураций MIG, Timeslicing для шеринга GPU в Kubernetes
- Host: GitHub
- URL: https://github.com/selectel/gpu-sharing-k8s
- Owner: selectel
- License: apache-2.0
- Created: 2023-08-09T14:47:30.000Z (almost 3 years ago)
- Default Branch: main
- Last Pushed: 2024-07-05T13:32:48.000Z (almost 2 years ago)
- Last Synced: 2024-12-26T17:13:15.684Z (over 1 year ago)
- Language: Shell
- Homepage:
- Size: 15.6 KB
- Stars: 1
- Watchers: 4
- Forks: 0
- Open Issues: 0
-
Metadata Files:
- Readme: README.md
- License: LICENSE
Awesome Lists containing this project
README
# Шеринг GPU в Kubernetes
Репозиторий содержит исходники, которые используются в [статье](https://habr.com/ru/companies/selectel/articles/756934/).
Цель данного репозитория состоит в том, чтобы дать примеры использования MIG и Timeslicing в Kubernetes.
Далее идет используемых в статье манифестов, рассортированных по директориям.
## GPU-operator
Директория содержит файл values.yml, который можно использовать при установке чарта [gpu-operator](https://github.com/NVIDIA/gpu-operator).
## Monitoring
Директория содержит манифест для установки pod-monitor. Также в install.sh можно найти инструкцию, как установить prometheus operator.
## Pod-sharing-example
Директория содержит манифест для установки примера с triton-server.
Также манифест HPA, который позволяет настроить горизонтальное масштабирование (см prometheus-adapter).
## Prometheus-adapter
Директория содержит манифесты для установки и настройки prometheus-adapter.
## Timeslicing
Директория содержит манифесты для демонстрации примера с timeslicing.
Также содержит пример использования MIG в сочетании с Timeslicing.