Déploiement et configuration d’une infrastructure avec Windows HPC Server 2008

 


Article par Barnabé BALP (MSP)

Barnabé BALP est étudiant à Ingésup (Toulouse), école d’experts en informatique. Il affectionne particulièrement le développement d’applications, les sciences et plus particulièrement le calcul intensif (Cluster de calcul, Grid Computing, MPI, OpenMP, CUDA, OpenCL, DirectCompute, etc.).

Jeune auto entrepreneur, Barnabé est également très intéressé par les technologies Microsoft en général et en particulier par Visual Studio pour le développement et Windows HPC Server.

Vous trouverez ci-dessous le début de l’article, n’hésitez pas à télécharger la suite directement en format pdf


Sommaire de l'article

  • Préparer votre déploiement
    • Revoir la conception et les requis système de votre infrastructure Windows HPC Server 2008
    • Comment ajouter des nœuds de calcul à votre cluster
    • Choisir un domaine Active Directory pour votre cluster
    • Choisir un compte d’utilisateur pour l'installation et les tests de diagnostic
    • Choisir une topologie de réseau pour votre cluster
    • Préparer le multicast (facultatif)
    • Préparer l’intégration d’outils scriptable de contrôle de l’alimentation (facultatif)

Ce document est une traduction de celui publié par Microsoft en septembre 2008 « Design and Deployment Guide for Windows HPC Server 2008 », avec toutefois en plus des captures d’écran pour illustrer les manipulations décrites.

Ce guide fournit les informations conceptuelles de base ainsi que la procédure générale à suivre pour la mise en place d’un cluster HPC basé sur Windows HPC Server 2008. Vous pouvez vous référer à ce guide pour le déploiement et la configuration de votre nœud principal (Head Node) dans votre cluster HPC, pour l’ajout de nœuds de calcul (Compute Node) au cluster, ou encore pour vérifier que votre déploiement a été effectué correctement.

**Remarque :**Vous pouvez configurer votre cluster HPC pour « la haute disponibilité » en installant un second nœud principal dans un cluster failover. Si le serveur qui agit en tant que nœud principal dans votre cluster HPC  devient indisponible, l’autre serveur dans le cluster failover le remplace automatiquement. Pour davantage d’information à propos de l’utilisation d’un cluster HPC permettant la fonctionnalité « failover », voirhttps://go.microsoft.com/fwlink/?LinkId=123894.

La check-list suivante décrit l'ensemble du processus de conception et de déploiement d'un cluster Windows HPC Server 2008. Chaque tâche dans cette liste est liée à une section de ce document qui détaille la procédure à effectuer en étapes.

Taches Description
Etape 1 : Préparez votre déploiement Avant de commencer le déploiement de votre cluster HPC, veillez à revoir la liste des prérequis pour la conception et de déploiement de votre infrastructure HPC.
Etape 2 : Déployez le nœud principal (Head Node) Déployez le nœud principal en installant une version 64 bit de Windows Server 2008 et le Microsoft HPC Pack 2008.
Etape 3 : Configurez le nœud principal (Head Node) Configurez le nœud principal en suivant les étapes présentées par la « To-do-List » dans la section configuration de l’interface de management du cluster.
Etape 4 : Ajoutez des nœuds de calcul (Compute Nodes) au cluster Ajoutez les nœuds de calcul au cluster en les déployant à partir de machines vierges, en important un fichier XML, ou en les configurant manuellement.
Etape 5 : Exécuter des tests de diagnostic sur le cluster Exécutez un test de diagnostic pour vérifier que le déploiement a été effectué correctement.
Etape 6 : Exécuter un job test sur le cluster Exécuter quelques jobs basiques pour vérifier que le cluster est opérationnel.

I. Préparer votre déploiement

La première étape dans le déploiement de votre cluster HPC est de prendre quelques décisions importantes, telles que comment seront ajoutés vos nœuds de calcul à votre cluster, ou encore choisir une topologie de réseau pour votre cluster. La check-list suivante décrit les étapes nécessaires à la préparation de votre déploiement.

Check-list : Préparez votre déploiement.

Taches Description
Revoir la conception et les requis système de votre infrastructure Windows HPC Server 2008 Revoir la conception et les requis système pour vous assurer que vous avez toutes les configurations matérielle et logicielle requises pour le déploiement de votre cluster HPC.
Comment ajouter des nœuds de calcul à votre cluster Décider si vous allez ajouter vos nœuds de calcul à votre cluster à partir de machines vierges, avec des nœuds préconfigurés, ou en utilisant un fichier XML.
Choisir un domaine Active Directory pour votre cluster Choisir le domaine Active Directory (AD) auquel le nœud principal et les nœuds de calcul appartiendront.
Choisir un compte d’utilisateur pour l'installation et les tests de diagnostic Choisir un compte d’utilisateur appartenant au domaine AD avec suffisamment de privilèges pour effectuer l’installation et les taches de diagnostic.
Choisir une topologie de réseau pour votre cluster Choisir comment les nœuds de votre cluster seront connectés entre eux et comment le cluster sera connecté au réseau de l’entreprise.
Préparer le multicast (facultatif) Si vous choisissez de déployer des nœuds à partir de machines vierges et que vous voulez diffuser l’image du système d’exploitation en multicast pour votre déploiement, pensez à configurer vos commutateurs (Switch) sur votre réseau correctement.
Préparer l’intégration d’outils scriptable de contrôle de l’alimentation (facultatif) Si vous voulez utiliser vos propres outils de contrôle de l’alimentation pour démarrer, éteindre, et redémarrer des nœuds de calcul à distance, procurez-vous et testez tous les composants nécessaires.

 

Revoir la conception et les requis système de votre infrastructure Windows HPC Server 2008

La section suivante liste quelques considérations techniques à prendre en compte au sujet de la conception de votre infrastructure Windows HPC Server 2008 que ce soit au niveau hardware ou software.

La compatibilité avec des versions antérieures à Windows HPC Server 2008

La liste suivante décrit les compatibilités entre Windows HPC Server 2008 et Windows Compute Cluster Server 2003 :

  • Windows HPC Server 2008 fournit une interface de programmation (API) compatible avec les applications conçu au départ pour Windows Compute Cluster Server 2003. Ces applications peuvent, toutefois, nécessiter quelques changements pour Windows HPC Server 2008. Si vous rencontrer des problèmes lors de l’exécution de vos applications, pensez à consulter les responsables du développement de l’application en question.
  • Windows HPC Server 2008 prend en charge la soumission de jobs à partir d’interfaces clients Windows Compute Cluster Server 2003, par le biais d’outils en ligne de commande, ou encore à partir du Compute Cluster Job Manager et l'API COM.
  • Les outils clients Windows HPC Server 2008, tels que la console d'administration du cluster (HPC Cluster Manager), la console de planification des jobs (HPC Job Manager), les outils en ligne de commande, et les API ne peuvent pas être utilisés pour la gestion ou la soumission de jobs sur un cluster Windows Compute Cluster Server 2003.
  • Les clusters ne peuvent pas être constitués à la fois de nœuds pour Windows Compute Cluster Server 2003 et pour Windows HPC Server 2008.
  • Une installation deWindows HPC Server 2008 et Windows Compute Cluster Server 2003 sur le même ordinateur n'est pas supportée. Ce point vaut également pour les utilitaires clients Windows HPC Server 2008.
  • La mise à niveau d'un nœud principal basé sur Windows Compute Cluster Server 2003 vers Windows HPC Server 2008 n'est pas supportée.

Les rôles du serveur qui sont ajouté au cours de l’installation

L’installation du Microsoft HPC Pack 2008 ajoute les rôles suivants au nœud principal :

  • « Dynamic Host Configuration Protocol » (DHCP), pour fournir toutes les informations relatives à la configuration IP aux nœuds de calcul.
  • « Windows Deployment Services » (WDS), pour déployer les nœuds de calcul à distance.
  • « File Services », pour la gestion de dossiers partagés.
  • « Network Policy and Access Services », qui active « Routing and Remote Access » afin que les services NAT (Network Address Translation) puissent être fournit au cluster.

La configuration matérielle requise

La configuration matérielle requise pour Windows HPC Server 2008 est très similaire à celle des éditions 64 bits de Windows Server 2008.

**Remarque :**Pour plus d'informations sur l'installation de Windows Server 2008, y compris la configuration système requise, consultezhttps://go.microsoft.com/fwlink/?LinkID=119578.

  • Processeur (x64) :
    • Minimum : 1.4 GHz
    • Recommandé : 2 GHz ou plus
  • RAM :
    • Minimum: 512 MB
    • Recommandé : 2 GB ou plus
  • Espace disque disponible :
    • Minimum: 50 GB
    • Recommandé : 80 GB ou plus
  • Lecteur :
    • DVD-ROM drive
  • Carte réseau :
    • Le nombre de cartes réseaux sur le nœud principal et sur les nœuds de calcul dépend de la topologie de réseau que vous choisissez pour votre cluster. Pour plus d'informations sur les différentes topologies de réseau pour cluster HPC, voir l'Annexe 1 : Les réseaux d’un cluster HPC.

La configuration logicielle requise

La liste suivante décrit la configuration logicielle requise pour le nœud principal et les nœuds de calcul dans un cluster Windows HPC Server 2008 :

  • Windows Server 2008 HPC Edition, ou une autre édition 64 bit de Windows Server 2008
  • Microsoft HPC Pack 2008

**Important :****Le Microsoft HPC Pack 2008 ne peut pas être installé sur n'importe quelle édition de Windows Server 2008. A l’exception des outils clients, les outils nécessaires à la fonction de nœud principal ou de nœud de calcul ne peuvent être installés que sur Windows Server 2008 HPC Edition, ou une autre édition 64 bits de Windows Server 2008.

Pour permettre à des utilisateurs de soumettre des jobs à votre cluster HPC, vous pouvez installer les utilitaires clients fournis avec le Microsoft HPC Pack 2008 sur les ordinateurs clients. Ces ordinateurs clients doivent exécuter l'un des systèmes d'exploitation suivants :

  • Windows XP Professionnel avec Service Pack 3 ou plus (x86 ou x64)
  • Windows Vista Enterprise, Business, Home, et Ultimate (x86 ou x64)
  • Windows Server 2003 Standard Edition et Enterprise Edition avec Service Pack 2 ou plus (x86 ou x64)
  • Windows Server 2003 Compute Cluster Edition
  • Windows Server 2003 R2 Standard Edition et Enterprise Edition (x86ou x64)

 

Comment ajouter des nœuds de calcul à votre cluster

Il y a trois manières d’ajouter des nœuds de calcul à votre cluster :

À partir de machines vierges (from bare metal)

Le système d'exploitation et tous les composants nécessaires sont automatiquement installés sur chaque nœud de calcul pour qu’ils soient ajoutés et opérationnels dans le cluster HPC. Aucune installation manuelle du système d'exploitation ou d’un autre logiciel n'est requise.

Ajouter un nœud de calcul préconfiguré

Les nœuds de calcul sont déjà sous Windows Server 2008 HPC Edition, ou une autre édition 64 bits de Windows Server 2008, et le Microsoft HPC Pack 2008 a été installé manuellement sur chaque nœud.

Importer un nœud depuis un fichier XML

On utilise un fichier XML qui contient une liste de tous les nœuds qui seront déployés. Ce fichier XML peut être utilisé pour ajouter des nœuds à partir de machines vierges ou des nœuds préconfigurés. Pour plus d'informations sur les fichiers XML de nœuds, voir l’Annexe 2 : création d'un fichier XML de nœuds.

Points à prendre en considération pour faire son choix

La liste suivante énumère quelques points à prendre en considération lors du choix de la manière d’ajouter des nœuds à votre cluster HPC :

  • Lorsque vous déployez des nœuds à partir de machines vierges, Windows HPC Server 2008 génère automatiquement les noms d'ordinateur pour chaque nœud de calcul. Au cours du processus de configuration de votre nœud principal, vous devrez spécifier la convention d'affectation de nom à utiliser pour générer automatiquement des noms d'ordinateur pour les nouveaux nœuds de calcul.
  • Les noms d'ordinateur sont affectés aux nœuds de calcul dans l'ordre qu'ils sont déployés.
  • Si vous souhaitez ajouter des nœuds de calcul à partir de machines vierges et affecter des noms d'ordinateur d'une autre manière, vous pouvez utiliser un fichier XML de nœuds. Pour plus d'informations à ce sujet, voir l’Annexe 2 : création d'un fichier XML de nœuds.
  • Si vous souhaitez ajouter des nœuds préconfigurés à votre cluster, vous devrez installer manuellement Windows Server 2008 HPC Edition, ou une autre édition 64 bits de Windows Server 2008 sur chaque nœud (si ce n’est pas déjà fait), ainsi que le Microsoft HPC Pack 2008.

 

Choisir un domaine Active Directory pour votre cluster

Le nœud principal et les nœuds de calcul dans votre cluster HPC doivent être appartenir à un domaine Active Directory. Avant de déployer votre cluster HPC, vous devez choisir le domaine Active Directory que vous utiliserez.

Si vous ne disposez pas d'un domaine Active Directory auquel vous pouvez joindre votre cluster, ou si vous préférez ne pas rejoindre un domaine existant, vous pouvez installer le rôle des services de domaine Active Directory (Active Directory Domain Services) sur le nœud principal et le configurer pour qu’il devienne contrôleur de domaine. Pour plus d'informations sur l'installation du rôle des services de domaine Active Directory sur un ordinateur exécutant Windows Server 2008, consultez https://go.microsoft.com/fwlink/?LinkID=119580.

**Attention :****Si vous choisissez d'installer et de configurer un contrôleur de domaine Active Directory sur le nœud principal, contactez votre administrateur réseau quant à la façon correcte d'isoler le nouveau domaine Active Directory à partir du réseau de l'entreprise, ou comment joindre le nouveau domaine d'une forêt Active Directory déjà existante.

 

Choisir un compte d’utilisateur pour l'installation et les tests de diagnostic

Au cours du processus de configuration de votre cluster HPC, vous devez fournir des informations d'identification d’un compte d'utilisateur de domaine qui sera utilisé pour l'installation et les tests de diagnostic. Vous devez donc choisir, avant de commencer le déploiement de votre cluster, un compte existant ou créer un nouveau compte d’utilisateur de domaine.

 Voici une liste des points à prendre en compte lors du choix du compte d’utilisateur :

  • Le compte d’utilisateur que vous choisissez doit appartenir au domaine Active Directory (AD) de votre cluster HPC. Il doit disposer de suffisamment de privilèges pour pouvoir créer des comptes d'ordinateur AD pour chaque nœud de calcul. Alternativement, vous pouvez créer les comptes d'ordinateur manuellement ou demandez à un administrateur du domaine de les créer pour vous.
  • Si votre déploiement nécessite un accès à des ressources sur le réseau de l’entreprise, le compte d’utilisateur doit avoir les autorisations nécessaires pour accéder à ces ressources. Par exemple, pour des fichiers d'installation qui seraient disponibles sur un serveur du réseau.
  • Si vous souhaitezredémarrer des nœuds à distance à partir de la console d'administration du cluster (HPC Cluster Manager), le compte doit être un membre du groupe « Administrateurs » local sur le nœud principal. Cette exigence est nécessaire uniquement si vous ne disposez pas d'outils scriptables de contrôle de l’alimentation que vous pourriez utiliser pour redémarrer à distance des nœuds de calcul.

 

Choisir une topologie de réseau pour votre cluster

Cinq topologies au choix

Windows HPC Server 2008 prend en charge cinq topologies de cluster. Ces topologies se distinguent par la façon dont les nœuds de calcul du cluster sont connectés les uns aux autres et au réseau de l'entreprise. Les cinq topologies de clusters prises en charge sont :

  • Topologie 1 : Les nœuds de calcul sont isolés sur un réseau privé.
  • Topologie 2 : Tous les nœuds sont sur un réseau privé et sur le réseau de l’entreprise.
  • Topologie 3 : Les nœuds de calcul sont isolés sur des réseaux d’application et privé.
  • Topologie 4 : Tous les nœuds sont sur des réseaux d’application, privé ainsi que sur le réseau de l’entreprise.
  • Topologie 5 : Tous les nœuds sont sur le réseau de l’entreprise.

Pour plus d'informations sur chaque topologie de réseau, voir l'Annexe 1 : Les réseaux d’un cluster HPC.

Points à prendre en considération pour faire son choix

Lorsque vous choisissez une topologie de réseau, vous devez prendre en considération votre infrastructure réseau existante :

  • Décider quel réseau dans la topologie que vous avez choisi servira de réseau d’entreprise, de réseau privé et de réseau d'application.
  • Pas de carte réseau connectée au réseau d'entreprise sur le nœud principal avec une configuration automatique (c'est-à-dire, l'adresse IP de la carte ne commence pas par : 169.254). Cette carte doit posséder une adresse IP valide, attribuée dynamiquement ou manuellement (statique).
  • Si vous choisissez une topologie avec un réseau privé et si vous envisagez d'ajouter des nœuds à votre cluster à partir de machines vierges :
    • Assurez-vous qu'il n'y a aucun serveur PXE (Pre-Boot Execution Environment) sur le réseau privé.
    • Si vous souhaitez utiliser un serveur DHCP existant sur votre réseau privé, vérifiez qu'il est configuré pour reconnaître le nœud principal en tant que serveur PXE du réseau.
  • Si vous souhaitez activer le rôle de serveur DHCP de votre nœud principal pour le réseau privé et/ou le réseau d'application et qu’il y a d'autres serveurs DHCP connectés à ces réseaux, vous devez les désactiver.
  • Si vous disposez déjà d'un serveur DNS (Domain Name System) connecté au même réseau que les nœuds de calcul, aucune action n'est nécessaire, mais les nœuds de calcul seront automatiquement désinscrits de ce serveur DNS.
  • Contactez votre administrateur système pour déterminer si la sécurité du protocole Internet (IP sec) est appliquée à votre domaine via les stratégies de groupe. Si c’est le cas, vous pouvez rencontrer des problèmes lors du déploiement. Une solution de contournement est de faire de votre nœud principal un serveur de frontière IP sec (IP sec boundary server)  afin que les nœuds de calcul puissent communiquer avec le nœud principal lorsqu’ils boot en PXE.

 

Préparer le multicast (facultatif)

Si vous déployez des nœuds à partir de machines vierges et souhaitez diffuser en multicast l'image du système d'exploitation que vous utiliserez lors du déploiement, nous recommandons que vous vous prépariez pour la multidiffusion en effectuant les taches suivantes :

  • Activation d’IGMP (Internet Group Management Protocol) sur vos commutateurs réseau (Switch) dans le cas où cette fonctionnalité est disponible. Cela aidera à réduire le trafic de multidiffusion.
  • La désactivation de STP (Spanning Tree Protocol) sur vos commutateurs réseau (Switch) dans le cas où cette fonctionnalité serait activée.

**Remarque :****Pour plus d'informations sur ces paramètres, contactez votre administrateur réseau ou votre fournisseur de matériel réseau.

 

Préparer l’intégration d’outils scriptable de contrôle de l’alimentation (facultatif)

La console d'administration du cluster (HPC Cluster Manager) inclut les actions de démarrage, arrêt et redémarrage à distance des nœuds de calcul. Ces actions sont liées à un fichier contenant un script (CcpPower.cmd) qui effectue ces opérations de contrôle de l’alimentation à l'aide des commandes du système d'exploitation. Vous pouvez remplacer les commandes du système d'exploitation par défaut dans ce fichier avec vos propres scripts de contrôle de l’alimentation, tels que les scripts IPMI (Intelligent Platform Management Interface) qui sont fournis par votre fournisseur de solutions pour cluster.

En prévision de cette intégration, vous devez obtenir tous les scripts nécessaires, les bibliothèques dynamiques (fichiers DLL) et tous les autres composants de vos outils de contrôle de l’alimentation. Une fois tous les composants nécessaires obtenus, testez-les indépendamment et assurez-vous qu'ils fonctionnent comme prévu sur les ordinateurs que vous comptez déployer en tant que nœuds de calcul sur votre cluster.

Pour plus d’informations sur l’utilisation et la modification de CcpPower.cmd pour l'intégrer à vos propres outils scriptable de contrôle de l’alimentation, voir l'Annexe 5 : Les outils scriptable de contrôle de l’alimentation.