removing migschema defs from resource mate xml
[migration-tools.git] / mig-bin / mig-reporter
1 #!/usr/bin/perl
2
3 use strict;
4 use warnings;
5
6 use DBI;
7 use Data::Dumper;
8 use XML::LibXML;
9 use Env qw(
10     HOME PGHOST PGPORT PGUSER PGDATABASE MIGSCHEMA
11     MIGBASEWORKDIR MIGBASEGITDIR MIGGITDIR MIGWORKDIR
12 );
13 use Pod::Usage;
14 use Switch;
15 use Cwd 'abs_path';
16 use FindBin;
17 my $mig_bin = "$FindBin::Bin/";
18 use lib "$FindBin::Bin/";
19 use Mig;
20 use open ':encoding(utf8)';
21
22 pod2usage(-verbose => 2) if defined $ARGV[0] && $ARGV[0] eq '--help';
23
24 my $analyst;
25 my $next_arg_is_analyst;
26 my $report_title;
27 my $next_arg_is_report_title;
28 my $reports_xml;
29 my $next_arg_is_reports_xml;
30 my $tags;
31 my $next_arg_is_tags;
32 my $added_page_title;
33 my $next_arg_is_added_page_title;
34 my $added_page_file;
35 my $next_arg_is_added_page_file;
36 my $i = 0;
37 my $parser = XML::LibXML->new();
38 my $lines_per_page = 42;
39
40 foreach my $arg (@ARGV) {
41     if ($arg eq '--report_title') {
42         $next_arg_is_report_title = 1;
43         next;
44     }
45     if ($next_arg_is_report_title) {
46         $report_title = $arg;
47         $next_arg_is_report_title = 0;
48         next;
49     }
50     if ($arg eq '--analyst') {
51         $next_arg_is_analyst = 1;
52         next;
53     }
54     if ($next_arg_is_analyst) {
55         $analyst = $arg;
56         $next_arg_is_analyst = 0;
57         next;
58     }
59     if ($arg eq '--reports_xml') {
60         $next_arg_is_reports_xml = 1;
61         next;
62     }
63     if ($next_arg_is_reports_xml) {
64         $reports_xml = $arg;
65         $next_arg_is_reports_xml = 0;
66         next;
67     }
68     if ($arg eq '--tags') {
69         $next_arg_is_tags = 1;
70         next;
71     }
72     if ($next_arg_is_tags) {
73         $tags = $arg;
74         $next_arg_is_tags = 0;
75         next;
76     }
77     if ($arg eq '--added_page_title') {
78         $next_arg_is_added_page_title = 1;
79         next;
80     }
81     if ($next_arg_is_added_page_title) {
82         $added_page_title = $arg;
83         $next_arg_is_added_page_title = 0;
84         next;
85     }
86     if ($arg eq '--added_page_file') {
87         $next_arg_is_added_page_file = 1;
88         next;
89     }
90     if ($next_arg_is_added_page_file) {
91         $added_page_file = $arg;
92         $next_arg_is_added_page_file = 0;
93         next;
94     }
95 }
96
97 if (!defined $tags) {$tags = 'circs.holds.actors.bibs.assets.money'};
98 if (!defined $analyst) { abort('--analyst must be supplied'); }
99 if (!defined $report_title) { abort('--report_title must be supplied'); }
100
101 my $mig_path = abs_path($0);
102 $mig_path =~ s|[^/]+$||;
103 if (!defined $reports_xml) { $reports_xml = $mig_path . '../mig-xml/evergreen_staged_report.xml'; } 
104     else { $reports_xml = $mig_path . '/../mig-xml/' . $reports_xml; }
105 print "$reports_xml \n";
106 my $dom = $parser->parse_file($reports_xml);
107
108 if (defined $added_page_file or defined $added_page_title) {
109     abort('must specify --added_page_file and --added_page_title') unless defined $added_page_file and defined $added_page_title;
110     }
111 if (defined $added_page_file) { $added_page_file = $MIGGITDIR . $added_page_file; }
112 if ($MIGSCHEMA eq 'full') { $MIGSCHEMA = ''; }
113
114 my $dbh = Mig::db_connect();
115 my $report_file = create_report_name($report_title);
116 $report_file = $MIGGITDIR . $report_file;
117
118 open(my $fh, '>', $report_file) or die "Could not open output file!";
119
120 write_title_page($report_title,$fh,$analyst);
121
122 if (defined $added_page_file and defined $added_page_title) { 
123     print $fh "<<<\n";
124     print $fh "== $added_page_title\n";
125     print "$added_page_file\t$added_page_title\n";
126     open(my $an,'<:encoding(UTF-8)', $added_page_file) or die "Could not open $added_page_file !";
127     while ( my $line = <$an> ) {
128         print $fh $line;
129     }
130     print $fh "\n";
131     close $an;
132 }
133
134 foreach my $func ($dom->findnodes('//function')) {
135     my $fdrop = $func->findvalue('./drop');
136     my $fcreate = $func->findvalue('./create');    
137     my $fname = $func->findvalue('./name');
138     my $sdrop = $dbh->prepare($fdrop);
139     my $screate = $dbh->prepare($fcreate);
140     print "dropping function $fname ... ";
141     $sdrop->execute();
142     print "creating function $fname\n\n";
143     $screate->execute();
144 }
145
146 $tags = lc($tags);
147 my @report_tags = split(/\./,$tags);
148 foreach my $t (@report_tags) {
149     print "\n\n=========== Starting to process tag $t\n";
150     print   "==========================================\n";
151     print_section_header(ucfirst($t),$fh);
152     my $linecount = $lines_per_page;
153     my $r;
154
155     my @report_names;
156
157     foreach my $report ($dom->findnodes('//report')) {
158         if (index($report->findvalue('./tag'),$t) != -1 and $report->findvalue('./iteration') eq '0') {
159             push @report_names, $report->findvalue('./name');
160         }
161     }
162     
163     print Dumper(@report_names);
164
165     #only has one level of failover now but could change to array of hashes and loops
166     foreach my $rname (@report_names) {
167         my %report0;
168         my %report1;
169         my $check_tables0;
170         my $check_tables1;
171
172         print "\nchecking for $rname ... ";
173         %report0 = find_report($dom,$t,$rname,'0');
174         $check_tables0 = check_table($report0{query},$MIGSCHEMA);
175         if ($check_tables0 == 1) {
176            $r =  print_query($fh,%report0); 
177         } else {
178         %report1 = find_report($dom,$t,$rname,'1');
179         if (defined $report1{query}) {
180             $check_tables1 = check_table($report1{query},$MIGSCHEMA);
181             if ($check_tables1 == 1) {$r = print_query($fh,%report1);}    
182             }
183         }
184     }
185 }
186
187 print "\n";
188 close $fh;
189
190 ############ end of main logic
191
192 sub find_report {
193     my $dom = shift;
194     my $tag = shift;
195     my $name = shift;
196     my $iteration = shift;
197     my %report;
198
199     print "iteration $iteration ";
200     foreach my $node ($dom->findnodes('//report')) {
201         if ($node->findvalue('./tag') =~ $tag and $node->findvalue('./iteration') eq $iteration and $node->findvalue('./name') eq $name) {
202             print "succeeded ... ";
203             %report = (
204                 name => $node->findvalue('./name'),
205                 report_title => $node->findvalue('./report_title'),
206                 query => $node->findvalue('./query'),
207                 heading => $node->findvalue('./heading'),
208                 tag => $node->findvalue('./tag'),
209                 iteration => $node->findvalue('./iteration'),
210                 note => $node->findvalue('./note'),
211             );
212             return %report;
213         }
214     }
215     print "failed ... ";
216     return %report = (
217         name => "eaten by grue"
218     );
219 }
220
221 sub print_section_header {
222     my $t = shift;
223     my $fh = shift;
224     $t =~ s/_/ /g;
225     #$t =~ s/(\w+)/\u$1/g;;
226     print $fh "<<<\n";
227     print $fh "== $t Reports\n";
228 }
229
230 sub create_report_name {
231     my $rt = shift;
232     my @abbr = qw(Jan Feb Mar Apr May Jun Jul Aug Sep Oct Nov Dec);
233     my ($sec,$min,$hour,$mday,$mon,$year,$wday,$yday,$isdst) = localtime(time);
234     $year += 1900;
235     my $date = $year . '_' . $abbr[$mon] . '_' . $mday;
236     my $report_file = $rt . ' ' . $date . '.asciidoc';
237     $report_file =~ s/ /_/g;
238     return $report_file;
239 }
240
241 sub write_title_page {
242     my $rt = shift;
243     my $fh = shift;
244     my $a = shift;
245
246     my @abbr = qw(Jan Feb Mar Apr May Jun Jul Aug Sep Oct Nov Dec);
247     my $l = length($report_title);
248     my ($sec,$min,$hour,$mday,$mon,$year,$wday,$yday,$isdst) = localtime(time);
249     $year += 1900;
250     print $fh "= $rt\n"; 
251     print $fh "$mday $abbr[$mon] $year\n";
252     print $fh "$a\n";
253     print $fh ":title-logo-image: image::eolilogosmall.png[pdfwidth=3in]\n";
254     print $fh ":toc:\n";
255     print $fh "\n";
256 }
257
258 sub check_table {
259     my $query = shift;
260     my $MIGSCHEMA = shift;
261
262     my $i = 0;
263     my $return_flag = 1;   
264     my @qe = split(/ /,$query);
265     my @tables = grep /MIGSCHEMA/, @qe;
266
267     print "checking tables ... ";
268     foreach my $table (@tables) {
269         $table =~ s/MIGSCHEMA.//g;
270         $table =~ s/\)//g;
271         $table =~ s/\<//g;
272         my $sql = 'SELECT EXISTS (SELECT 1 FROM information_schema.tables WHERE table_schema = \'' . $MIGSCHEMA . '\' AND table_name = \'' . $table . '\');';
273         my $sth = $dbh->prepare($sql);
274         $sth->execute();
275         while (my @row = $sth->fetchrow_array) {
276             if ($row[0] eq '1') {
277                     next;
278                 } else {
279                     $return_flag = 0;
280                 }
281             if ($row[0] eq '0') {$return_flag = 0;}
282         }
283     }
284     if ($return_flag == 1) {print "succeeded ... ";} else {print "failed ... ";}
285     return $return_flag;
286 }
287
288 sub print_query {
289     my $fh = shift;
290     my %report = @_;
291     my $query = $report{query};
292     print $query;
293     my $sth = $dbh->prepare($query);
294     $sth->execute();
295
296     my $header_flag = 0;
297
298     while (my @row = $sth->fetchrow_array) {
299             if ($header_flag == 0) {
300                 print $fh "\n.*$report{report_title}*\n";
301                 print $fh "|===\n";
302                 my @h = split(/\./,$report{heading});
303                 my $h_length = @h;
304                 my $h_count = 1;
305                 while ($h_count <= $h_length) {
306                     print $fh "|$h[$h_count-1] ";
307                     $h_count++;
308                 }
309                 print $fh "\n";
310                 $header_flag = 1;
311             }
312             my $row_length = @row;
313             my $r = 1;
314             while ($r <= $row_length) {
315                 if (! defined $row[$r-1] ) {
316                     $row[$r-1] = 'none';
317                 }
318                 print $fh "|$row[$r-1] ";
319                 $r++;
320             }
321             print $fh "\n";
322         }
323     if ($header_flag == 1) { 
324         print $fh "|===\n\n"; 
325         print $fh $report{note};
326         print $fh "\n\n";
327     }
328     print "successfully wrote output for $report{name}.\n\n";
329 }
330
331 sub abort {
332     my $msg = shift;
333     print STDERR "$0: $msg", "\n";
334     exit 1;
335 }
336
337