mig-bin/mig-reporter

   1 #!/usr/bin/perl
   2
   3 use strict;
   4 use warnings;
   5
   6 use DBI;
   7 use Data::Dumper;
   8 use XML::LibXML;
   9 use Env qw(
  10     HOME PGHOST PGPORT PGUSER PGDATABASE MIGSCHEMA
  11     MIGBASEWORKDIR MIGBASEGITDIR MIGGITDIR MIGWORKDIR
  12 );
  13 use Pod::Usage;
  14 use Switch;
  15 use Cwd 'abs_path';
  16 use FindBin;
  17 my $mig_bin = "$FindBin::Bin/";
  18 use lib "$FindBin::Bin/";
  19 use Mig;
  20 use open ':encoding(utf8)';
  21
  22 pod2usage(-verbose => 2) if defined $ARGV[0] && $ARGV[0] eq '--help';
  23
  24 my $analyst;
  25 my $next_arg_is_analyst;
  26 my $report_title;
  27 my $next_arg_is_report_title;
  28 my $reports_xml;
  29 my $next_arg_is_reports_xml;
  30 my $tags;
  31 my $next_arg_is_tags;
  32 my $added_page_title;
  33 my $next_arg_is_added_page_title;
  34 my $added_page_file;
  35 my $next_arg_is_added_page_file;
  36 my $i = 0;
  37 my $parser = XML::LibXML->new();
  38 my $lines_per_page = 42;
  39
  40 foreach my $arg (@ARGV) {
  41     if ($arg eq '--report_title') {
  42         $next_arg_is_report_title = 1;
  43         next;
  44     }
  45     if ($next_arg_is_report_title) {
  46         $report_title = $arg;
  47         $next_arg_is_report_title = 0;
  48         next;
  49     }
  50     if ($arg eq '--analyst') {
  51         $next_arg_is_analyst = 1;
  52         next;
  53     }
  54     if ($next_arg_is_analyst) {
  55         $analyst = $arg;
  56         $next_arg_is_analyst = 0;
  57         next;
  58     }
  59     if ($arg eq '--reports_xml') {
  60         $next_arg_is_reports_xml = 1;
  61         next;
  62     }
  63     if ($next_arg_is_reports_xml) {
  64         $reports_xml = $arg;
  65         $next_arg_is_reports_xml = 0;
  66         next;
  67     }
  68     if ($arg eq '--tags') {
  69         $next_arg_is_tags = 1;
  70         next;
  71     }
  72     if ($next_arg_is_tags) {
  73         $tags = $arg;
  74         $next_arg_is_tags = 0;
  75         next;
  76     }
  77     if ($arg eq '--added_page_title') {
  78         $next_arg_is_added_page_title = 1;
  79         next;
  80     }
  81     if ($next_arg_is_added_page_title) {
  82         $added_page_title = $arg;
  83         $next_arg_is_added_page_title = 0;
  84         next;
  85     }
  86     if ($arg eq '--added_page_file') {
  87         $next_arg_is_added_page_file = 1;
  88         next;
  89     }
  90     if ($next_arg_is_added_page_file) {
  91         $added_page_file = $arg;
  92         $next_arg_is_added_page_file = 0;
  93         next;
  94     }
  95 }
  96
  97 if (!defined $tags) {$tags = 'circs.holds.actors.bibs.assets.money'};
  98 if (!defined $analyst) { abort('--analyst must be supplied'); }
  99 if (!defined $report_title) { abort('--report_title must be supplied'); }
 100
 101 my $mig_path = abs_path($0);
 102 $mig_path =~ s|[^/]+$||;
 103 if (!defined $reports_xml) { $reports_xml = $mig_path . '../mig-xml/evergreen_staged_report.xml'; }
 104     else { $reports_xml = $mig_path . '/../mig-xml/' . $reports_xml; }
 105 print "$reports_xml \n";
 106 my $dom = $parser->parse_file($reports_xml);
 107
 108 if (defined $added_page_file or defined $added_page_title) {
 109     abort('must specify --added_page_file and --added_page_title') unless defined $added_page_file and defined $added_page_title;
 110     }
 111 if (defined $added_page_file) { $added_page_file = $MIGGITDIR . $added_page_file; }
 112
 113 my $dbh = Mig::db_connect();
 114 my $report_file = create_report_name($report_title);
 115 $report_file = $MIGGITDIR . $report_file;
 116
 117 open(my $fh, '>', $report_file) or die "Could not open output file!";
 118
 119 write_title_page($report_title,$fh,$analyst);
 120
 121 if (defined $added_page_file and defined $added_page_title) {
 122     print $fh "<<<\n";
 123     print $fh "== $added_page_title\n";
 124     print "$added_page_file\t$added_page_title\n";
 125     open(my $an,'<:encoding(UTF-8)', $added_page_file) or die "Could not open $added_page_file !";
 126     while ( my $line = <$an> ) {
 127         print $fh $line;
 128     }
 129     print $fh "\n";
 130     close $an;
 131 }
 132
 133 foreach my $func ($dom->findnodes('//function')) {
 134     my $fdrop = $func->findvalue('./drop');
 135     my $fcreate = $func->findvalue('./create');
 136     my $fname = $func->findvalue('./name');
 137     my $sdrop = $dbh->prepare($fdrop);
 138     my $screate = $dbh->prepare($fcreate);
 139     print "dropping function $fname ... ";
 140     $sdrop->execute();
 141     print "creating function $fname\n\n";
 142     $screate->execute();
 143 }
 144
 145 $tags = lc($tags);
 146 my @report_tags = split(/\./,$tags);
 147 foreach my $t (@report_tags) {
 148     print "\n\n=========== Starting to process tag $t\n";
 149     print   "==========================================\n";
 150     print_section_header(ucfirst($t),$fh);
 151     my $linecount = $lines_per_page;
 152     my $r;
 153
 154     my @report_names;
 155
 156     foreach my $report ($dom->findnodes('//report')) {
 157         if (index($report->findvalue('./tag'),$t) != -1 and $report->findvalue('./iteration') eq '0') {
 158             push @report_names, $report->findvalue('./name');
 159         }
 160     }
 161
 162     #only has one level of failover now but could change to array of hashes and loops
 163     #but this keeps it simple and in practice I haven't needed more than two
 164     foreach my $rname (@report_names) {
 165         my %report0;
 166         my %report1;
 167         my $check_tables0;
 168         my $check_tables1;
 169
 170         print "\nchecking for $rname ... ";
 171         %report0 = find_report($dom,$t,$rname,'0');
 172         $check_tables0 = check_table($report0{query},$MIGSCHEMA);
 173         if ($check_tables0 == 1) {
 174            $r =  print_query($fh,%report0);
 175         } else {
 176         %report1 = find_report($dom,$t,$rname,'1');
 177         if (defined $report1{query}) {
 178             $check_tables1 = check_table($report1{query},$MIGSCHEMA);
 179             if ($check_tables1 == 1) {$r = print_query($fh,%report1);}
 180             }
 181         }
 182     }
 183 }
 184
 185 print "\n";
 186 close $fh;
 187
 188 ############ end of main logic
 189
 190 sub find_report {
 191     my $dom = shift;
 192     my $tag = shift;
 193     my $name = shift;
 194     my $iteration = shift;
 195     my %report;
 196
 197     print "iteration $iteration ";
 198     foreach my $node ($dom->findnodes('//report')) {
 199         if ($node->findvalue('./tag') =~ $tag and $node->findvalue('./iteration') eq $iteration and $node->findvalue('./name') eq $name) {
 200             print "succeeded ... \n";
 201             %report = (
 202                 name => $node->findvalue('./name'),
 203                 report_title => $node->findvalue('./report_title'),
 204                 query => $node->findvalue('./query'),
 205                 heading => $node->findvalue('./heading'),
 206                 tag => $node->findvalue('./tag'),
 207                 iteration => $node->findvalue('./iteration'),
 208                 note => $node->findvalue('./note'),
 209             );
 210             return %report;
 211         }
 212     }
 213     print "failed ... \n";
 214     return %report = (
 215         name => "eaten by grue"
 216     );
 217 }
 218
 219 sub print_section_header {
 220     my $t = shift;
 221     my $fh = shift;
 222     $t =~ s/_/ /g;
 223     #$t =~ s/(\w+)/\u$1/g;;
 224     print $fh "<<<\n";
 225     print $fh "== $t Reports\n";
 226 }
 227
 228 sub create_report_name {
 229     my $rt = shift;
 230     my @abbr = qw(Jan Feb Mar Apr May Jun Jul Aug Sep Oct Nov Dec);
 231     my ($sec,$min,$hour,$mday,$mon,$year,$wday,$yday,$isdst) = localtime(time);
 232     $year += 1900;
 233     my $date = $year . '_' . $abbr[$mon] . '_' . $mday;
 234     my $report_file = $rt . ' ' . $date . '.asciidoc';
 235     $report_file =~ s/ /_/g;
 236     return $report_file;
 237 }
 238
 239 sub write_title_page {
 240     my $rt = shift;
 241     my $fh = shift;
 242     my $a = shift;
 243
 244     my @abbr = qw(Jan Feb Mar Apr May Jun Jul Aug Sep Oct Nov Dec);
 245     my $l = length($report_title);
 246     my ($sec,$min,$hour,$mday,$mon,$year,$wday,$yday,$isdst) = localtime(time);
 247     $year += 1900;
 248     print $fh "= $rt\n";
 249     print $fh "$mday $abbr[$mon] $year\n";
 250     print $fh "$a\n";
 251     print $fh ":title-logo-image: image::eolilogosmall.png[pdfwidth=3in]\n";
 252     print $fh ":toc:\n";
 253     print $fh "\n";
 254 }
 255
 256 sub check_table {
 257     my $query = shift;
 258     my $MIGSCHEMA = shift;
 259
 260     my $i;
 261     my $return_flag = 1;
 262     my @qe = split(/ /,$query);
 263     $i = @qe;
 264     $i--;
 265     my @tables;
 266     while ($i > -1) {
 267         if ($qe[$i] eq 'FROM' or $qe[$i] eq 'JOIN') {
 268             my $q = $i + 1;
 269             if ($qe[$q] ne '(SELECT') {
 270                 push @tables, $qe[$q];
 271             }
 272         }
 273         $i--;
 274     }
 275     print "checking tables ... ";
 276
 277     $i = 0;
 278     foreach my $table (@tables) {
 279         $table =~ s/\)//g;
 280         $table =~ s/\<//g;
 281         my $sql;
 282         my $schema;
 283         if (index($table,'.') != -1) {
 284             $schema = (split /\./,$table)[0];
 285             $table = (split /\./,$table)[1];
 286         }
 287         if (defined $schema) {
 288             $sql = 'SELECT EXISTS (SELECT 1 FROM information_schema.tables WHERE table_schema = \'' . $schema . '\' AND table_name = \'' . $table . '\');';
 289         } else {
 290             $sql = 'SELECT EXISTS (SELECT 1 FROM information_schema.tables WHERE table_schema = \'' . $MIGSCHEMA . '\' AND table_name = \'' . $table . '\');';
 291         }
 292         my $sth = $dbh->prepare($sql);
 293         $sth->execute();
 294         while (my @row = $sth->fetchrow_array) {
 295             if ($row[0] eq '1') {
 296                     next;
 297                 } else {
 298                     $return_flag = 0;
 299                 }
 300             if ($row[0] eq '0') {$return_flag = 0;}
 301         }
 302     }
 303     if ($return_flag == 1) {print "succeeded ... ";} else {print "failed ... ";}
 304     return $return_flag;
 305 }
 306
 307 sub print_query {
 308     my $fh = shift;
 309     my %report = @_;
 310     my $query = $report{query};
 311     print "$query\n";
 312     my $sth = $dbh->prepare($query);
 313     $sth->execute();
 314
 315     my $header_flag = 0;
 316
 317     while (my @row = $sth->fetchrow_array) {
 318             if ($header_flag == 0) {
 319                 print $fh "\n.*$report{report_title}*\n";
 320                 print $fh "|===\n";
 321                 my @h = split(/\./,$report{heading});
 322                 my $h_length = @h;
 323                 my $h_count = 1;
 324                 while ($h_count <= $h_length) {
 325                     print $fh "|$h[$h_count-1] ";
 326                     $h_count++;
 327                 }
 328                 print $fh "\n";
 329                 $header_flag = 1;
 330             }
 331             my $row_length = @row;
 332             my $r = 1;
 333             while ($r <= $row_length) {
 334                 if (! defined $row[$r-1] ) {
 335                     $row[$r-1] = 'none';
 336                 }
 337                 print $fh "|$row[$r-1] ";
 338                 $r++;
 339             }
 340             print $fh "\n";
 341         }
 342     if ($header_flag == 1) {
 343         print $fh "|===\n\n";
 344         print $fh $report{note};
 345         print $fh "\n\n";
 346     }
 347     print "successfully wrote output for $report{name}.\n\n";
 348 }
 349
 350 sub abort {
 351     my $msg = shift;
 352     print STDERR "$0: $msg", "\n";
 353     exit 1;
 354 }
 355
 356