Changes between Version 60 and Version 61 of Tutorial/JobSubm

Timestamp:

Jun 12, 2008, 6:01:58 PM (17 years ago)

Author:

/C=FR/O=CNRS/OU=UMR8608/CN=Christophe Diarra/emailAddress=diarra@…

Comment:

--

Tutorial/JobSubm

@@ -398 +398 @@
 ''Note : il ne faut pas mettre de "" autour des éléments contenus dans `Parameters`.''
 
+=== DAG jobs (chainage de jobs) ===
+
+Un 'DAG (directed acyclic graph) job' représente un ensemble de jobs pour lesquels l'exécution d'un ou de plusieurs jobs depend de l'exécution de un ou plusieurs autres jobs. Un DAG job permet de chainer l'exécution d'un ensemble de jobs.
+
+Dans le graph (DAG) les jobs (ou sub-jobs) sont les noeuds (nodes) et les arcs correspondent au dependances.
+
+Les attributs JDL indispensables dans le DAG job sont :
+
+ * 'nodes' : permet de spécifier les différents nodes. Le nom du node est une
+   chaine au choix (ex: nodeA, Calcul1, JobSimulation).
+ * 'file' : permet d'indiquer le nom du fichier contenant le JDL d'un node
+ * 'dependencies' : permet de définir les dependances entre les jobs
+ * 'description' : permet d'écrire directement le JDL d'un node plutôt que d'utiliser l'attribut file
+
+__Remarques__
+
+ * La 'InputSandbox' du DAG est partagée par tous les nodes qui n'en ont pas
+ * Les nodes qui n'ont pas besoin de InputSandbox doivent avoir dans leur .jdl
+{{{
+  InputSandbox = {};
+}}}
+ * Le .jdl du DAG job ne doit pas contenir d'attribut 'OutputSandbox'. Seul les nodes peuvent avoir cet attribut.
+ * Un node peut accéder aux 'InputSandbox' du DAG job ainsi qu'aux 'OutputSandbox' des autres jobs terminés avant lui.
+ * Pour que tous les nodes s'exectuent sur le même CE, mettre dans le .jdl.
+{{{
+NodesCollocation = true;
+}}}
+
+Les dependances entre nodes (jobs) sont décrites de la façon suivantes dans le .JDL du DAG.
+
+ * {nodeSimu, nodeDepou} : signifie que nodeDepou ne peut pas démarrer avant l'exécution réussie de nodeSimu.
+ * {{nodeA, nodeB, nodeC}, nodeD} : signifie que nodeD ne peut pas démarrer avant l'exécution réussie de nodeA, nodeB et nodeC.
+   Par contre les jobs nodeA, nodeB et nodeC s'exécuteront en parallèle car ils sont indépendants.
+ * {{nodeA, nodeB}, {nodeB, nodeC}, {nodeC, nodeD}, ...} : décrit un pipeline de jobs. Les jobs s'exécutent dans l'ordre
+   nodeA->nodeB->nodeC->nodeD->...
+ * Exemple de jdl: dependencies = {{nodeA, nodeB}, {nodeA, nodeC}, {nodeA,mynode}, {{nodeB,nodeC,mynode}, nodeD}};
+   Ce jdl a l'effet suivant: nodeB,nodeC,mynode ne s'exécuteront qu'après l'exécution réussie de nodeA. Ensuite nodeD ne
+   s'exécutera qu'après l'exécution réussiede nodeB,nodeC,mynode.
+
+Pour plus d'informations sur les autres attributs des DAG jobs, consulter le chapitre 'DAG ATTRIBUTES DESCRIPTION' du document https://edms.cern.ch/document/590869/1/
+
+Illustrons tout cela par un exemple. Prenons deux nodes (jobs) nodeA et nodeB. On veut que nodeA s'exécute avant nodeB, car nodeB a besoin d'un fichier de sortie de nodeA.
+
+{{{
+[diarra@ipngrid01 DAG]$ cat dag.jdl
+Type = "dag";
+VirtualOrganisation = "vo.ipno.in2p3.fr";
+MyProxyServer = "myproxy.grif.fr";
+
+# InpuSandbox partage' par tous les nodes qui n'ont pas de InputSandbox
+InputSandbox = {
+  "DAGInput.txt"
+};
+
+nodes = [
+  nodeA =  [
+             file = "nodeA.jdl";
+           ];
+  nodeB =  [
+             file = "nodeB.jdl";
+           ];
+];
+dependencies = {
+  { nodeA, nodeB }
+};
+}}}
+
+'file' précise le fichier contenant le JDL de chaque node. Examinons les JDL des nodes.
+
+__JDL de nodeA__
+
+{{{
+diarra@ipngrid01 DAG]$ cat nodeA.jdl
+Executable    = "nodeA.sh";
+Arguments     = "600 DAGInput.txt nodeAOutput.txt";
+StdOutput     = "std.out";
+StdError      = "std.err";
+InputSandbox = {
+  "nodeA.sh",
+  "nodeAInput.txt",
+  root.InputSandbox
+};
+OutputSandbox = {
+ "std.out",
+ "std.err",
+ "nodeAOutput.txt"
+};
+}}}
+
+nodeA a sa propre 'InputSandbox' mais peut inclure en plus la 'InputSandbox'
+du DAG via la variable 'root.InputSandbox'. Ainsi il peut accéder ici par
+exemple au fichier DAGInput.txt compris dans la 'InputSandbox' du DAG job.
+
+__JDL de nodeB__
+
+{{{
+[diarra@ipngrid01 DAG]$ cat nodeB.jdl
+Executable    = "nodeB.sh";
+Arguments     = "100 nodeAOutput.txt nodeBOutput.txt";
+StdOutput     = "std.out";
+StdError      = "std.err";
+InputSandbox = {
+ "nodeB.sh",
+ root.nodes.nodeA.description.OutputSandbox[2]
+};
+OutputSandbox = {
+ "std.out",
+ "std.err",
+ "nodeBOutput.txt"
+};
+}}}
+
+On voit que nodeB peut accéder au fichier de sortie de nodeA via root.nodes.nodeA.description.OutputSandbox[2] qui est le 3ème fichier de la OutputSandbox du JDL (description) de nodeA du DAG (root);
+
+Dans les fichiers exécutables ('Executable'), il suffit de récupérer les arguments ('Arguments') et de faire le traitement souhaité.
+
+La soumission d'un DAG job se fait comme pour un job normal. On obtient un <dagID> qui permet de controler le dag.
+
+{{{
+[diarra@ipngrid01 DAG]$ glite-wms-job-submit -a -o dag.jid dag.jdl
+}}}
+
+Pour obtenir le status du DAG job :
+
+{{{
+[diarra@ipngrid01 DAG]$ glite-wms-job-status -i dag.jid
+
+*************************************************************
+BOOKKEEPING INFORMATION:
+Status info for the Job : https://grid02.lal.in2p3.fr:9000/IMLwU59oEl76Iv3BsAsFJA
+Current Status:     Done (Success)
+Exit code:          0
+Status Reason:      Job terminated successfully
+Destination:        dagman
+Submitted:          Wed Jun 11 15:13:30 2008 CEST
+*************************************************************
+- Nodes information for:
+    Status info for the Job : https://grid02.lal.in2p3.fr:9000/LwEKbpSL4lZ84gDSOc4T5Q
+    Current Status:     Done (Success)
+    Exit code:          0
+    Status Reason:      Job terminated successfully
+    Destination:        ipngrid12.in2p3.fr:2119/jobmanager-pbs-ipno
+    Submitted:          Wed Jun 11 15:13:30 2008 CEST
+*************************************************************
+
+    Status info for the Job : https://grid02.lal.in2p3.fr:9000/chFdlLNj2S1vIPAkPgv-sg
+    Current Status:     Done (Success)
+    Exit code:          0
+    Status Reason:      Job terminated successfully
+    Destination:        ipngrid12.in2p3.fr:2119/jobmanager-pbs-ipno
+    Submitted:          Wed Jun 11 15:13:30 2008 CEST
+*************************************************************
+}}}
+
+Les sorties récupérées sont rangées dans des sous-directories portant les noms des nodes.
+
+{{{
+diarra@ipngrid01 DAG]$ glite-wms-job-output -i dag.jid
+
+Connecting to the service https://grid09.lal.in2p3.fr:7443/glite_wms_wmproxy_ser
+ver
+================================================================================
+                        JOB GET OUTPUT OUTCOME
+
+Output sandbox files for the DAG/Collection :
+https://grid02.lal.in2p3.fr:9000/IMLwU59oEl76Iv3BsAsFJA
+have been successfully retrieved and stored in the directory:
+/home/diarra/JobOutput/diarra_IMLwU59oEl76Iv3BsAsFJA
+================================================================================
+}}}
+
+On retrouve les sorties:
+{{{
+[diarra@ipngrid01 DAG]$ ls -lR /home/diarra/JobOutput/diarra_IMLwU59oEl76Iv3BsAsFJA/
+/home/diarra/JobOutput/diarra_IMLwU59oEl76Iv3BsAsFJA/:
+total 12
+-rw-r--r--  1 diarra sii  397 Jun 11 15:25 ids_nodes.map
+drwxr-xr-x  2 diarra sii 4096 Jun 11 15:25 nodeA
+drwxr-xr-x  2 diarra sii 4096 Jun 11 15:25 nodeB
+
+/home/diarra/JobOutput/diarra_IMLwU59oEl76Iv3BsAsFJA/nodeA:
+total 8
+-rw-r--r--  1 diarra sii  99 Jun 11 15:25 nodeAOutput.txt
+-rw-r--r--  1 diarra sii   0 Jun 11 15:25 std.err
+-rw-r--r--  1 diarra sii 212 Jun 11 15:25 std.out
+
+/home/diarra/JobOutput/diarra_IMLwU59oEl76Iv3BsAsFJA/nodeB:
+total 8
+-rw-r--r--  1 diarra sii  23 Jun 11 15:25 nodeBOutput.txt
+-rw-r--r--  1 diarra sii  96 Jun 11 15:25 std.err
+-rw-r--r--  1 diarra sii 137 Jun 11 15:25 std.out
+
+}}}
+
+
+
+
+
 
 === Examen en temps réel des fichiers de sortie : Job Perusal ===