| 1 | //---------------------------------------------------------------- | 
|---|
| 2 | // ---- classes de threads pour lecture fichiers minifits | 
|---|
| 3 | // LAL -      R. Ansari - Mai 2009 | 
|---|
| 4 | //---------------------------------------------------------------- | 
|---|
| 5 |  | 
|---|
| 6 |  | 
|---|
| 7 | #include "brfitsrd.h" | 
|---|
| 8 |  | 
|---|
| 9 | #include <stdlib.h> | 
|---|
| 10 | #include <unistd.h> | 
|---|
| 11 | #include <fstream> | 
|---|
| 12 | #include <signal.h> | 
|---|
| 13 | #include "pexceptions.h" | 
|---|
| 14 | #include "timestamp.h" | 
|---|
| 15 | #include "ctimer.h" | 
|---|
| 16 |  | 
|---|
| 17 | #include "brpaqu.h" | 
|---|
| 18 | #include "minifits.h" | 
|---|
| 19 |  | 
|---|
| 20 | #include "resusage.h" // Pour mesure temps elapsed/CPU ... | 
|---|
| 21 | #include "datatable.h" // Pour sauver les entetes de paquet | 
|---|
| 22 | #include <sys/time.h>  // pour gettimeofday | 
|---|
| 23 |  | 
|---|
| 24 | //------------------------------------------------------- | 
|---|
| 25 | // Classe thread de sauvegarde sur fichiers | 
|---|
| 26 | //------------------------------------------------------- | 
|---|
| 27 |  | 
|---|
| 28 | BRFitsReader::BRFitsReader(RAcqMemZoneMgr& mem, vector<string>& infiles, bool fgnotrl) | 
|---|
| 29 | :  memgr(mem), infiles_(infiles), fgnotrl_(fgnotrl) | 
|---|
| 30 | { | 
|---|
| 31 | } | 
|---|
| 32 | void BRFitsReader::Stop() | 
|---|
| 33 | { | 
|---|
| 34 | // cout<< " BRFitsReader:Stop ........ " << endl; | 
|---|
| 35 | stop_=true; | 
|---|
| 36 | } | 
|---|
| 37 | void BRFitsReader::run() | 
|---|
| 38 | { | 
|---|
| 39 | setRC(1); | 
|---|
| 40 |  | 
|---|
| 41 | try { | 
|---|
| 42 | TimeStamp ts; | 
|---|
| 43 | Timer tm("BRFitsReader", false); | 
|---|
| 44 | BRPaqChecker pcheck(!fgnotrl_);  // Verification/comptage des paquets | 
|---|
| 45 |  | 
|---|
| 46 | size_t totnbytesrd = 0; | 
|---|
| 47 | cout << " BRFitsReader::run() - Starting " << ts << " NbFiles=" << infiles_.size() | 
|---|
| 48 | << "  memgr.PaqSize() = " << memgr.PaqSize() << endl; | 
|---|
| 49 |  | 
|---|
| 50 | uint_4  nfileok = 0; | 
|---|
| 51 | uint_8 nbytesrd = 0; | 
|---|
| 52 | /*  Variables pour la logique des zones memoire et numeros de paquets dans la zone memoire */ | 
|---|
| 53 | int mid = -2; | 
|---|
| 54 | Byte* buff = NULL; | 
|---|
| 55 | int kmp = 0; | 
|---|
| 56 | int kmpmax=memgr.NbPaquets(); | 
|---|
| 57 |  | 
|---|
| 58 | int paqsz = 0; | 
|---|
| 59 | for(int ifile=0; ifile<infiles_.size(); ifile++) { | 
|---|
| 60 | string ffname = infiles_[ifile]; | 
|---|
| 61 | // -------------- Lecture de bytes | 
|---|
| 62 | cout << "BRFitsReader::run() [" << ifile <<"]Ouverture/lecture fichier " << ffname << endl; | 
|---|
| 63 | MiniFITSFile mff(ffname, MF_Read); | 
|---|
| 64 | cout << "... Type=" << mff.DataTypeToString() << " NAxis1=" << mff.NAxis1() | 
|---|
| 65 | << " NAxis2=" << mff.NAxis2() << endl; | 
|---|
| 66 | if (mff.DataType() != MF_Byte) { | 
|---|
| 67 | cout << "BRFitsReader::run() PB : DataType!=MF_Byte --> skipping " << endl; | 
|---|
| 68 | continue; | 
|---|
| 69 | } | 
|---|
| 70 | // Les fichier FITS contiennent l'entet (24 bytes), mais pas le trailer (16 bytes) si fgnotrl=true | 
|---|
| 71 | int incpaqsz=0; | 
|---|
| 72 | if (fgnotrl_) { | 
|---|
| 73 | incpaqsz=16; | 
|---|
| 74 | if (ifile==0) cout << " Warning : FITS files without frame trailers ..." << endl; | 
|---|
| 75 | } | 
|---|
| 76 | if (paqsz == 0)  {  // premier passage, on fixe la taille de paquet et on verifie compatibilite avec memgr | 
|---|
| 77 | paqsz = mff.NAxis1()+incpaqsz; | 
|---|
| 78 | if (paqsz != memgr.PaqSize()) { | 
|---|
| 79 | cout << "BRFitsReader::run() mff.NAxis1() incompatible with memgr.PaqSize() -> exception " << endl; | 
|---|
| 80 | throw SzMismatchError(" fits file size incompatible with memgr.PaqSize()"); | 
|---|
| 81 | } | 
|---|
| 82 | } | 
|---|
| 83 | else { | 
|---|
| 84 | if (paqsz != mff.NAxis1()+incpaqsz) { | 
|---|
| 85 | cout << " PB : paqsz=" << paqsz << " != mff.NAxis1()+" << incpaqsz << " --> skipping " << endl; | 
|---|
| 86 | continue; | 
|---|
| 87 | } | 
|---|
| 88 | } | 
|---|
| 89 | if (mid < 0) { | 
|---|
| 90 | mid = memgr.FindMemZoneId(MemZA_Fill); | 
|---|
| 91 | buff = memgr.GetMemZone(mid); | 
|---|
| 92 | if (buff == NULL) { | 
|---|
| 93 | cout << " BRFitsReader::run()/ERROR memgr.GetMemZone(" << mid << ") -> NULL" << endl; | 
|---|
| 94 | setRC(2); | 
|---|
| 95 | return; | 
|---|
| 96 | } | 
|---|
| 97 | kmp=0; | 
|---|
| 98 | } | 
|---|
| 99 | size_t sx = mff.NAxis1(); | 
|---|
| 100 | size_t sy = mff.NAxis2(); | 
|---|
| 101 | int nprt=0; | 
|---|
| 102 | for(int j=0; j<sy; j++) { | 
|---|
| 103 | mff.ReadB(buff+kmp*paqsz, sx, j*sx); | 
|---|
| 104 | BRPaquet paq(NULL, buff+kmp*paqsz, paqsz); | 
|---|
| 105 | bool pqok = pcheck.Check(paq);   // Verification du paquet / FrameCounter | 
|---|
| 106 | if (!pqok && (nprt < 10)) { | 
|---|
| 107 | cout << "--BUG-- i=" << ifile << " mid=" << mid << " j=" << j << " kmp=" << kmp | 
|---|
| 108 | << " paqsz=" << paqsz << endl; | 
|---|
| 109 | nprt++; | 
|---|
| 110 | paq.Print(); | 
|---|
| 111 | } | 
|---|
| 112 | kmp++; | 
|---|
| 113 | if (kmp >= kmpmax)  {   // Zone memoire rempli ! | 
|---|
| 114 | memgr.FreeMemZone(mid, MemZS_Filled); | 
|---|
| 115 | mid = -2; | 
|---|
| 116 | if (j<sy) { | 
|---|
| 117 | mid = memgr.FindMemZoneId(MemZA_Fill); | 
|---|
| 118 | buff = memgr.GetMemZone(mid); | 
|---|
| 119 | if (buff == NULL) { | 
|---|
| 120 | cout << " BRFitsReader::run()/ERROR memgr.GetMemZone(" << mid << ") -> NULL" << endl; | 
|---|
| 121 | setRC(2); | 
|---|
| 122 | return; | 
|---|
| 123 | } | 
|---|
| 124 | kmp=0; | 
|---|
| 125 | } | 
|---|
| 126 | } | 
|---|
| 127 | } | 
|---|
| 128 | nfileok++; | 
|---|
| 129 | size_t nbytesrd = sx*sy; | 
|---|
| 130 | totnbytesrd += nbytesrd; | 
|---|
| 131 | }   // Fin de la boucle sur les fichiers | 
|---|
| 132 | // Gestion d'une zone partiellement remplie | 
|---|
| 133 | if (mid>=0) { | 
|---|
| 134 | for(int k=kmp;k<kmpmax;k++) { | 
|---|
| 135 | Byte* bp=buff+k*paqsz; | 
|---|
| 136 | for(int l=0;l<paqsz;l++) bp[l]=0; | 
|---|
| 137 | } | 
|---|
| 138 | memgr.FreeMemZone(mid, MemZS_Filled); | 
|---|
| 139 | } | 
|---|
| 140 |  | 
|---|
| 141 | //    sprintf(fname,"%s/.log",path_.c_str()); | 
|---|
| 142 | //    ofstream filog(fname); | 
|---|
| 143 | //    filog << " DataProc::run() - starting log file " << ts << endl; | 
|---|
| 144 | //    filog << " NbFiles=" << nfiles_ << " NBloc/File="  << nblocperfile_ << " NMaxMemZones=" << nmax_ << endl; | 
|---|
| 145 |  | 
|---|
| 146 |  | 
|---|
| 147 |  | 
|---|
| 148 | cout << " ------------------  BRFitsReader::run() END ----------------- " << endl; | 
|---|
| 149 | ts.SetNow(); | 
|---|
| 150 | tm.SplitQ(); | 
|---|
| 151 | cout << "  END reading " << ts << " NFileOK=" << nfileok << endl; | 
|---|
| 152 | cout << "  TotalDiskRead= " << totnbytesrd/(1024*1024) << " MBytes Disk-Read rate= " | 
|---|
| 153 | << (double)(totnbytesrd)/1024./tm.PartialElapsedTimems() << " MB/s" << endl; | 
|---|
| 154 | pcheck.Print(cout); | 
|---|
| 155 | cout << " BRFitsReader::run()/Timing: \n"; | 
|---|
| 156 | tm.Print(); | 
|---|
| 157 | cout << " ---------------------------------------------------------- " << endl; | 
|---|
| 158 |  | 
|---|
| 159 | }  // Fin du bloc try | 
|---|
| 160 | catch (MiniFITSException& exc) { | 
|---|
| 161 | cout << " BRFitsReader::run()/catched MiniFITSException " << exc.Msg() << endl; | 
|---|
| 162 | setRC(3); | 
|---|
| 163 | return; | 
|---|
| 164 | } | 
|---|
| 165 | catch(...) { | 
|---|
| 166 | cout << " BRFitsReader::run()/catched unknown ... exception " << endl; | 
|---|
| 167 | setRC(4); | 
|---|
| 168 | return; | 
|---|
| 169 | } | 
|---|
| 170 | setRC(0); | 
|---|
| 171 | return; | 
|---|
| 172 | } | 
|---|