replacing mig_schema with MIGSCHEMA per IRC decision
[migration-tools.git] / mig-bin / mig-reporter
1 #!/usr/bin/perl
2
3 use strict;
4 use warnings;
5
6 use DBI;
7 use Data::Dumper;
8 use XML::LibXML;
9 use Env qw(
10     HOME PGHOST PGPORT PGUSER PGDATABASE MIGSCHEMA
11     MIGBASEWORKDIR MIGBASEGITDIR MIGGITDIR MIGWORKDIR
12 );
13 use Pod::Usage;
14 use Switch;
15 use Cwd 'abs_path';
16 use FindBin;
17 my $mig_bin = "$FindBin::Bin/";
18 use lib "$FindBin::Bin/";
19 use Mig;
20 use open ':encoding(utf8)';
21
22 pod2usage(-verbose => 2) if defined $ARGV[0] && $ARGV[0] eq '--help';
23
24 my $analyst;
25 my $next_arg_is_analyst;
26 my $report_title;
27 my $next_arg_is_report_title;
28 my $reports_xml;
29 my $next_arg_is_reports_xml;
30 my $tags;
31 my $next_arg_is_tags;
32 my $added_page_title;
33 my $next_arg_is_added_page_title;
34 my $added_page_file;
35 my $next_arg_is_added_page_file;
36 my $i = 0;
37 my $parser = XML::LibXML->new();
38 my $lines_per_page = 42;
39
40 foreach my $arg (@ARGV) {
41     if ($arg eq '--report_title') {
42         $next_arg_is_report_title = 1;
43         next;
44     }
45     if ($next_arg_is_report_title) {
46         $report_title = $arg;
47         $next_arg_is_report_title = 0;
48         next;
49     }
50     if ($arg eq '--analyst') {
51         $next_arg_is_analyst = 1;
52         next;
53     }
54     if ($next_arg_is_analyst) {
55         $analyst = $arg;
56         $next_arg_is_analyst = 0;
57         next;
58     }
59     if ($arg eq '--reports_xml') {
60         $next_arg_is_reports_xml = 1;
61         next;
62     }
63     if ($next_arg_is_reports_xml) {
64         $reports_xml = $arg;
65         $next_arg_is_reports_xml = 0;
66         next;
67     }
68     if ($arg eq '--tags') {
69         $next_arg_is_tags = 1;
70         next;
71     }
72     if ($next_arg_is_tags) {
73         $tags = $arg;
74         $next_arg_is_tags = 0;
75         next;
76     }
77     if ($arg eq '--added_page_title') {
78         $next_arg_is_added_page_title = 1;
79         next;
80     }
81     if ($next_arg_is_added_page_title) {
82         $added_page_title = $arg;
83         $next_arg_is_added_page_title = 0;
84         next;
85     }
86     if ($arg eq '--added_page_file') {
87         $next_arg_is_added_page_file = 1;
88         next;
89     }
90     if ($next_arg_is_added_page_file) {
91         $added_page_file = $arg;
92         $next_arg_is_added_page_file = 0;
93         next;
94     }
95 }
96
97 if (!defined $tags) {$tags = 'Circs.Holds.Actors.Bibs.Assets.Money'};
98 if (!defined $analyst) { abort('--analyst must be supplied'); }
99 if (!defined $report_title) { abort('--report_title must be supplied'); }
100
101 my $mig_path = abs_path($0);
102 $mig_path =~ s|[^/]+$||;
103 if (!defined $reports_xml) { $reports_xml = $mig_path . '../mig-xml/evergreen_staged_report.xml'; } 
104     else { $reports_xml = $mig_path . '/../mig-xml/' . $reports_xml; }
105 print "$reports_xml \n";
106 my $dom = $parser->parse_file($reports_xml);
107
108 if (defined $added_page_file or defined $added_page_title) {
109     abort('must specify --added_page_file and --added_page_title') unless defined $added_page_file and defined $added_page_title;
110     }
111 if (defined $added_page_file) { $added_page_file = $MIGGITDIR . $added_page_file; }
112 if ($MIGSCHEMA eq 'full') { $MIGSCHEMA = ''; }
113
114 my $dbh = Mig::db_connect();
115 my $report_file = create_report_name($report_title);
116 $report_file = $MIGGITDIR . $report_file;
117 my $mig_func_schema = $MIGSCHEMA;
118
119 open(my $fh, '>', $report_file) or die "Could not open output file!";
120
121 write_title_page($report_title,$fh,$analyst);
122
123 if (defined $added_page_file and defined $added_page_title) { 
124     print $fh "<<<\n";
125     print $fh "== $added_page_title\n";
126     print "$added_page_file\t$added_page_title\n";
127     open(my $an,'<:encoding(UTF-8)', $added_page_file) or die "Could not open $added_page_file !";
128     while ( my $line = <$an> ) {
129         print $fh $line;
130     }
131     print $fh "\n";
132     close $an;
133 }
134
135 foreach my $func ($dom->findnodes('//function')) {
136     my $fdrop = $func->findvalue('./drop');
137     my $fcreate = $func->findvalue('./create');    
138     my $fname = $func->findvalue('./name');
139     $fdrop =~ s/mig_func_schema/$mig_func_schema/g;
140     $fcreate =~ s/mig_func_schema/$mig_func_schema/g;
141     my $sdrop = $dbh->prepare($fdrop);
142     my $screate = $dbh->prepare($fcreate);
143     print "dropping function $fname ... ";
144     $sdrop->execute();
145     print "creating function $fname\n\n";
146     $screate->execute();
147 }
148
149
150
151 my @report_tags = split(/\./,$tags);
152 foreach my $t (@report_tags) {
153     print "\n\n=========== Starting to process tag $t\n";
154     print   "==========================================\n";
155     print_section_header(ucfirst($t),$fh);
156     my $linecount = $lines_per_page;
157     my $r;
158
159     my @report_names;
160
161     foreach my $report ($dom->findnodes('//report')) {
162         if (index($report->findvalue('./tag'),$t) != -1 and $report->findvalue('./iteration') eq '0') {
163             push @report_names, $report->findvalue('./name');
164         }
165     }
166     
167     print Dumper(@report_names);
168
169     #only has one level of failover now but could change to array of hashes and loops
170     foreach my $rname (@report_names) {
171         my %report0;
172         my %report1;
173         my $check_tables0;
174         my $check_tables1;
175
176         print "\nchecking for $rname ... ";
177         %report0 = find_report($dom,$t,$rname,'0');
178         $check_tables0 = check_table($report0{query},$MIGSCHEMA);
179         if ($check_tables0 == 1) {
180            $r =  print_query($fh,%report0); 
181         } else {
182         %report1 = find_report($dom,$t,$rname,'1');
183         if (defined $report1{query}) {
184             $check_tables1 = check_table($report1{query},$MIGSCHEMA);
185             if ($check_tables1 == 1) {$r = print_query($fh,%report1);}    
186             }
187         }
188     }
189 }
190 # end of main logic
191
192 print "\n";
193 close $fh;
194
195 sub find_report {
196     my $dom = shift;
197     my $tag = shift;
198     my $name = shift;
199     my $iteration = shift;
200     my %report;
201
202     print "iteration $iteration ";
203     foreach my $node ($dom->findnodes('//report')) {
204         if ($node->findvalue('./tag') =~ $tag and $node->findvalue('./iteration') eq $iteration and $node->findvalue('./name') eq $name) {
205             print "succeeded ... ";
206             %report = (
207                 name => $node->findvalue('./name'),
208                 report_title => $node->findvalue('./report_title'),
209                 query => $node->findvalue('./query'),
210                 heading => $node->findvalue('./heading'),
211                 tag => $node->findvalue('./tag'),
212                 iteration => $node->findvalue('./iteration'),
213                 note => $node->findvalue('./note'),
214             );
215             return %report;
216         }
217     }
218     print "failed ... ";
219     return %report = (
220         name => "eaten by grue"
221     );
222 }
223
224 sub print_section_header {
225     my $t = shift;
226     my $fh = shift;
227     $t =~ s/_/ /g;
228     #$t =~ s/(\w+)/\u$1/g;;
229     print $fh "<<<\n";
230     print $fh "== $t Reports\n";
231 }
232
233 sub create_report_name {
234     my $rt = shift;
235     my @abbr = qw(Jan Feb Mar Apr May Jun Jul Aug Sep Oct Nov Dec);
236     my ($sec,$min,$hour,$mday,$mon,$year,$wday,$yday,$isdst) = localtime(time);
237     $year += 1900;
238     my $date = $year . '_' . $abbr[$mon] . '_' . $mday;
239     my $report_file = $rt . ' ' . $date . '.asciidoc';
240     $report_file =~ s/ /_/g;
241     return $report_file;
242 }
243
244 sub write_title_page {
245     my $rt = shift;
246     my $fh = shift;
247     my $a = shift;
248
249     my @abbr = qw(Jan Feb Mar Apr May Jun Jul Aug Sep Oct Nov Dec);
250     my $l = length($report_title);
251     my ($sec,$min,$hour,$mday,$mon,$year,$wday,$yday,$isdst) = localtime(time);
252     $year += 1900;
253     print $fh "= $rt\n"; 
254     print $fh "$mday $abbr[$mon] $year\n";
255     print $fh "$a\n";
256     print $fh ":title-logo-image: image::eolilogosmall.png[pdfwidth=3in]\n";
257     print $fh ":toc:\n";
258     print $fh "\n";
259 }
260
261 sub check_table {
262     my $query = shift;
263     my $MIGSCHEMA = shift;
264
265     my $i = 0;
266     my $return_flag = 1;   
267     my @qe = split(/ /,$query);
268     my @tables = grep /MIGSCHEMA/, @qe;
269
270     print "checking tables ... ";
271     foreach my $table (@tables) {
272         $table =~ s/MIGSCHEMA.//g;
273         $table =~ s/\)//g;
274         $table =~ s/\<//g;
275         my $sql = 'SELECT EXISTS (SELECT 1 FROM information_schema.tables WHERE table_schema = \'' . $MIGSCHEMA . '\' AND table_name = \'' . $table . '\');';
276         my $sth = $dbh->prepare($sql);
277         $sth->execute();
278         while (my @row = $sth->fetchrow_array) {
279             if ($row[0] eq '1') {
280                     next;
281                 } else {
282                     $return_flag = 0;
283                 }
284             if ($row[0] eq '0') {$return_flag = 0;}
285         }
286     }
287     if ($return_flag == 1) {print "succeeded ... ";} else {print "failed ... ";}
288     return $return_flag;
289 }
290
291 sub print_query {
292     my $fh = shift;
293     my %report = @_;
294     my $query = $report{query};
295     $query =~ s/MIGSCHEMA/$MIGSCHEMA/g;
296     $query =~ s/mig_func_schema/$mig_func_schema/g;
297     my $sth = $dbh->prepare($query);
298     $sth->execute();
299
300     my $header_flag = 0;
301
302     while (my @row = $sth->fetchrow_array) {
303             if ($header_flag == 0) {
304                 print $fh "\n.*$report{report_title}*\n";
305                 print $fh "|===\n";
306                 my @h = split(/\./,$report{heading});
307                 my $h_length = @h;
308                 my $h_count = 1;
309                 while ($h_count <= $h_length) {
310                     print $fh "|$h[$h_count-1] ";
311                     $h_count++;
312                 }
313                 print $fh "\n";
314                 $header_flag = 1;
315             }
316             my $row_length = @row;
317             my $r = 1;
318             while ($r <= $row_length) {
319                 if (! defined $row[$r-1] ) {
320                     $row[$r-1] = 'none';
321                 }
322                 print $fh "|$row[$r-1] ";
323                 $r++;
324             }
325             print $fh "\n";
326         }
327     if ($header_flag == 1) { 
328         print $fh "|===\n\n"; 
329         print $fh $report{note};
330         print $fh "\n\n";
331     }
332     print "successfully wrote output for $report{name}.\n\n";
333 }
334
335 sub abort {
336     my $msg = shift;
337     print STDERR "$0: $msg", "\n";
338     exit 1;
339 }
340
341