groupe-dfo-bbo:misc:calculcanada

Calcul Canada

Cette page wiki n'est pas complète, n'hésitez pas à y ajouter des informations.

Site de Calcul Canada
Wiki général - informations techniques

  • Suivre les instructions. C'est un peu lourd, mais on n'a qu'à le faire une fois, et ensuite on oublie. SVP si vous vous inscrivez, n'hésitez pas à compléter cette section.
  • En s'inscrivant sur Calcul Canada, on a accès aux grappes de Calcul Québec:
    • Cedar, Graham et Béluga d'usage général
    • Niagara, pour les tâches parallèles intensives
    • Hélios, avec GPU

Gestion des fichiers

Vidéo: Pipelines et gestion des données (1h) indique notamment dans quels répertoires mettre quels fichiers afin que les tests roulent plus vite. Notamment:

  • scratch a un espace limité, doit être purgé à chaque mois. Un courriel est envoyé lorsqu'une purge est en vue. Utiliser seulement pour les fichiers temporaires.
  • projet: données permanentes. Ne doit pas contenir de fichiers temporaires; pas de milliers de fichiers.
  • nearline: pour stocker des données. Ne pas mettre de données actives. Ne pas mettre plein de petits fichiers; zipper au besoin. Peut être considéré comme un “entrepôt” pour quelques mois, par exemple lorsqu'un étudiant s'en va.
  • home: pour les sources; aussi les sauvegarder dans git.
  • SLURM_TMPDIR (variable d'environnement) peut être utilisé pour des lectures répétitives, moins long que sur scratch.

Par exemple, pour rouler un problème qui a beaucoup de petits fichiers, l'idéal est d'avoir tous les fichiers zippés, les dézipper dans SLURM_TMPDIR, rouler le problème, tout rezipper et les mettre dans scratch. Attention: Si on les laisse dans SLURM_TMPDIR, ils seront perdus!

  • groupe-dfo-bbo/misc/calculcanada.txt
  • Dernière modification: 2021/01/25 15:39
  • par rochvivi