additional escaping and multiple table options for add_sf9 function
[migration-tools.git] / mig-bin / mig-loadbibs
1 #!/usr/bin/perl
2
3 ###############################################################################
4 =pod
5
6 =item B<loadbibs> --stage_file foo.mrc 
7
8 Takes a load of bibs from a binary marc file and loads them into mig staging table 
9 of bibio_record_entry.
10
11 Takes these optional arguments:
12
13 --append 
14
15 When used it does not drop the staging table and instead adds onto it.  
16
17 --source
18
19 Sets an x_source value on the staging table to the one supplied instead of the 
20 default of none.
21
22 --xml 
23
24 By default the program assumes a USMARC file.  This flag will identify it as 
25 a MARCXML file instead.
26
27 =back
28
29 =cut
30
31 ###############################################################################
32
33 use strict;
34 use warnings;
35
36 use DBI;
37 use Data::Dumper;
38 use MARC::Record;
39 use MARC::Batch;
40 use MARC::File;
41 use MARC::File::XML;
42 use Env qw(
43     HOME PGHOST PGPORT PGUSER PGDATABASE MIGSCHEMA
44     MIGBASEWORKDIR MIGBASEGITDIR MIGGITDIR MIGWORKDIR
45 );
46 use Pod::Usage;
47 use Switch;
48 use Cwd 'abs_path';
49 use FindBin;
50 use UNIVERSAL;
51 use Unicode::Normalize;
52 my $mig_bin = "$FindBin::Bin/";
53 use lib "$FindBin::Bin/";
54 use Mig;
55
56 pod2usage(-verbose => 2) if defined $ARGV[0] && $ARGV[0] eq '--help';
57 pod2usage(-verbose => 1) if ! $ARGV[1];
58
59 my $next_arg_is_file = 0;
60 my $append_is_false = 1;
61 my $next_arg_is_source = 0;
62 my $source = 'default';
63 my $file_is_xml = 0;
64 my $dbh = Mig::db_connect();
65 my $infile;
66 my $i = 0;
67 my $batch;
68 binmode STDIN, ':utf8';
69
70 foreach my $arg (@ARGV) {
71     if ($arg eq '--stage_file') {
72         $next_arg_is_file = 1;
73         next;
74     }
75     if ($next_arg_is_file) {
76         $infile = $arg;
77         $next_arg_is_file = 0;
78         next;
79     }
80     if ($arg eq '--source') {
81         $next_arg_is_source = 1;
82         next;
83     }
84     if ($next_arg_is_file) {
85         $source = $arg;
86         $next_arg_is_source = 0;
87         next;
88     }
89         if ($arg eq '--append') {
90                 $append_is_false = 0;
91                 next;
92         }
93     if ($arg eq '--xml') {
94         $file_is_xml = 1;
95         next;
96     }
97 }
98
99 $dbh->do(qq{
100         DO $$
101         DECLARE
102         t   BOOLEAN;
103         BEGIN
104         SELECT EXISTS(SELECT 1 FROM information_schema.tables WHERE table_schema = '$MIGSCHEMA' AND table_name = 'biblio_record_entry') INTO t;
105         IF t = FALSE THEN
106         PERFORM migration_tools.build_specific_base_staging_table ('$MIGSCHEMA','biblio.record_entry');
107         END IF;
108         END $$;
109 });
110
111 # normal stage table creation
112 if ($append_is_false) { create_stage_table($dbh); }
113
114 #sanity check and create stage table if --append is set but there isn't a stage table
115 my $query = "SELECT EXISTS(SELECT 1 FROM information_schema.tables WHERE table_schema = '$MIGSCHEMA' AND table_name = 'biblio_record_entry_stage')";
116 my $qsth = $dbh->prepare($query);
117 $qsth->execute();
118 my $f;
119 while (my @row = $sth->fetchrow_array) { $f = ($row[0] }
120 if ($f eq 'f') { create_stage_table($dbh); }
121
122 if ($append_is_false == 0) { create_stage_table($dbh); }
123
124 if ($file_is_xml) {
125         $batch = MARC::Batch->new('XML',$infile);
126 } else {
127         $batch = MARC::Batch->new('USMARC',$infile);
128
129 $batch->strict_off();
130
131 while ( my $record = $batch->next() ) {
132         my $xml;
133         if ($file_is_xml) { $xml = $record; } 
134                 else { $xml = $record->as_xml_record(); } 
135         $i++;
136         $xml = clean_marc($xml);
137         $xml = '$_$' . $xml . '$_$';
138         my @warnings = $batch->warnings();
139         my $warning_string;
140         if (@warnings) { $warning_string = "'" . join(':',@warnings) . "'"; } else { $warning_string = "'none'"; }
141         my $sql = "INSERT INTO $MIGSCHEMA.biblio_record_entry_stage (marc,x_source,x_warnings) VALUES ($xml,$source,$warning_string);";
142     my $sth = $dbh->prepare($sql);
143     $sth->execute();
144         report_progress("Records staged", $i) if 0 != $i % 100;
145 }
146
147 $dbh->do(qq/
148     CREATE INDEX ${MIGSCHEMA}_biblio_record_entry_stage_idx ON
149         $MIGSCHEMA.biblio_record_entry_stage (id);
150 /);
151
152 print "Finis.\n";
153
154 sub create_stage_table {
155         my $dbh = shift;
156     $dbh->do(qq{
157         DROP TABLE IF EXISTS $MIGSCHEMA.biblio_record_entry_stage;
158         CREATE UNLOGGED TABLE $MIGSCHEMA.biblio_record_entry_stage (
159             l_bib_id    TEXT,
160             x_source    TEXT,
161             x_warnings  TEXT,
162             x_migrate   BOOLEAN DEFAULT TRUE
163         ) INHERITS ($MIGSCHEMA.biblio_record_entry);
164     });
165 }
166
167 sub clean_marc {
168     my $xml = shift;
169     $xml =~ s/\n//sog;
170     $xml =~ s/^<\?xml.+\?\s*>//go;
171     $xml =~ s/>\s+</></go;
172     $xml =~ s/\p{Cc}//go;
173     $xml = NFC($xml);
174     $xml =~ s/&(?!\S+;)/&amp;/gso;
175     $xml =~ s/([\x{0080}-\x{fffd}])/sprintf('&#x%X;',ord($1))/sgoe;
176     $xml =~ s/[\x00-\x1f]//go;
177     return $xml;
178 }
179
180
181 sub abort {
182     my $msg = shift;
183     print STDERR "$0: $msg", "\n";
184     exit 1;
185 }
186
187 sub report_progress {
188     my ($msg, $counter) = @_;
189     if (defined $counter) {
190         print STDERR "$msg: $counter\n";
191     } else {
192         print STDERR "$msg\n";
193     }
194 }