selectel / gpu-sharing-k8s

Примеры конфигураций MIG, Timeslicing для шеринга GPU в Kubernetes

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

Шеринг GPU в Kubernetes

Репозиторий содержит исходники, которые используются в статье.

Цель данного репозитория состоит в том, чтобы дать примеры использования MIG и Timeslicing в Kubernetes.

Далее идет используемых в статье манифестов, рассортированных по директориям.

GPU-operator

Директория содержит файл values.yml, который можно использовать при установке чарта gpu-operator.

Monitoring

Директория содержит манифест для установки pod-monitor. Также в install.sh можно найти инструкцию, как установить prometheus operator.

Pod-sharing-example

Директория содержит манифест для установки примера с triton-server. Также манифест HPA, который позволяет настроить горизонтальное масштабирование (см prometheus-adapter).

Prometheus-adapter

Директория содержит манифесты для установки и настройки prometheus-adapter.

Timeslicing

Директория содержит манифесты для демонстрации примера с timeslicing. Также содержит пример использования MIG в сочетании с Timeslicing.

About

Примеры конфигураций MIG, Timeslicing для шеринга GPU в Kubernetes

License:Apache License 2.0


Languages

Language:Shell 100.0%