Où ranger 40 Go de modèles sans les retélécharger à chaque pod
Ou : le garde-meuble, la valise et le coffre de la voiture, appliqués à des fichiers de vingt gigaoctets.
La réponse courte : pour des modèles que vous réutilisez d’une session à l’autre, le volume réseau est la solution la plus simple et la moins chère chez Runpod : 0,07 $ par gigaoctet et par mois, soit 2,80 $ pour 40 Go, qui survivent à la suppression de tous vos pods. Le disque de volume d’un pod coûte plus cher dès que le pod est arrêté, 8 $ par mois pour les mêmes 40 Go, et le disque de conteneur disparaît à chaque arrêt. En serverless, la règle s’inverse : un volume se lit après le début de la facturation, et Runpod recommande plutôt un modèle en cache ou intégré à l’image. Où ranger ses modèles est l’une des décisions discrètes qui font le coût de serverless ou machine louée.
Quarante gigaoctets, ce n’est pas un chiffre au hasard. Un workflow ComfyUI avec Flux dev, ses encodeurs de texte, quelques LoRA et un modèle vidéo dépasse vite cette taille, et l’image officielle du worker ComfyUI avec Flux dev pèse à elle seule près de 38 Go. Retélécharger tout cela depuis Hugging Face à chaque session, c’est plusieurs minutes de carte graphique payées à regarder une barre de progression.
Runpod propose trois types de stockage pour un pod, décrits dans sa documentation des volumes réseau, plus deux options propres au serverless. Leur prix et leur durée de vie ne se ressemblent pas du tout.
Pour qui : un créateur ou un développeur qui relance régulièrement des pods sur les mêmes modèles et ne veut ni les retélécharger ni payer un pod arrêté.
À partir de : 0,07 $ par gigaoctet et par mois pour un volume réseau, 0,05 $ au-delà d’un téraoctet ; 0,34 $ de l’heure pour une RTX 4090 en pod Community Cloud.
Pour démarrer : ouvrir un compte Runpod, créer un volume réseau dans le centre de données de la carte voulue, puis lancer les pods en y attachant ce volume.
Volume réseau GPU cloud : le prix de 40 Go selon l’endroit où ils dorment
| Stockage | Prix par Go et par mois | 40 Go par mois | Durée de vie |
|---|---|---|---|
| Disque de conteneur d’un pod | 0,10 $ pod allumé | 4 $ | effacé à chaque arrêt du pod |
Disque de volume d’un pod (/workspace) | 0,10 $ allumé, 0,20 $ arrêté | 4 $ à 8 $ | supprimé avec le pod |
| Volume réseau standard | 0,07 $, 0,05 $ au-delà de 1 To | 2,80 $ | indépendant de tout pod |
| Volume réseau haute performance | 0,14 $ | 5,60 $ | indépendant de tout pod |
| Modèle en cache (serverless) | téléchargement non facturé | non chiffré | un modèle Hugging Face par endpoint |
| Modèle intégré à l’image (serverless) | compris dans l’image | non chiffré | reconstruit à chaque version |
Le volume réseau gagne pour trois raisons. Il coûte moins cher au gigaoctet que le disque d’un pod arrêté. Il survit à la suppression du pod, ce qui permet de supprimer les pods au lieu de les arrêter, et donc de ne plus payer leur disque. Et il se partage entre plusieurs pods successifs, monté sur /workspace comme un disque local. Sa taille va de 10 Go à 4 To, peut augmenter mais jamais diminuer.
Il a aussi ses contraintes, et la première surprend souvent. Un volume réseau vit dans un centre de données précis : les pods qui l’utilisent doivent être lancés dans ce centre, et seulement en Secure Cloud. Si la carte voulue y est indisponible, le volume ne vous aide pas. Il n’y a pas non plus de synchronisation automatique entre deux volumes de centres différents. Ensuite, sa vitesse : Runpod annonce 200 à 400 Mo par seconde, avec des pointes à 10 Go par seconde. Charger 40 Go de modèles prend donc entre une minute quarante et trois minutes vingt, beaucoup moins qu’un téléchargement depuis Internet, beaucoup plus qu’un disque local.
Pour remplir un volume sans lancer de pod, Runpod propose une API compatible S3 dans quinze de ses centres de données, avec une clé dédiée, distincte de la clé d’API. Les fichiers de plus de 500 Mo s’envoient en plusieurs parties, ce que font automatiquement les outils S3 courants.
En serverless, le raisonnement change. La documentation des workers précise que la lecture d’un volume réseau se fait après le démarrage du worker, donc pendant la facturation, et le réserve au développement et aux modèles de plus de 500 Go. Pour un modèle Hugging Face, le modèle en cache fait démarrer le worker sur une machine qui l’a déjà ; pour le reste, le modèle intégré à l’image est sur disque avant le démarrage. Aucun des endpoints serverless de ce site n’utilise d’ailleurs de volume réseau.
Dernier point, à ne pas découvrir trop tard : quand le solde du compte tombe à zéro, les pods attachés à un volume sont arrêtés et leurs données conservées, mais le stockage continue d’être facturé, et Runpod prévient que le volume peut finir par être supprimé, sans récupération possible. Une recharge automatique vaut mieux qu’un solde oublié.
Si vous travaillez surtout en serverless
Pour un worker, le modèle en cache ou intégré à l’image démarre plus vite qu’un volume. Les cinq leviers contre le démarrage à froid sont classés dans un worker qui démarre vite.
Si vous lancez votre premier pod
Attacher un volume réseau se décide au lancement du pod, pas après. La marche à suivre complète, du compte à la connexion SSH, est dans ouvrir un compte et lancer un pod.
Si vos modèles dépassent la mémoire de la carte
Stocker 40 Go de modèles ne sert à rien si la carte n’a que 24 Go de mémoire pour les charger. La VRAM nécessaire selon l’usage est détaillée dans le choix de la carte GPU.