mig-bin/mig-loadbibs

   1 #!/usr/bin/perl
   2
   3 ###############################################################################
   4 =pod
   5
   6 =item B<loadbibs> --stage_file foo.mrc
   7
   8 Takes a load of bibs from a binary marc file and loads them into mig staging table
   9 of bibio_record_entry.
  10
  11 Takes these optional arguments:
  12
  13 --append
  14
  15 When used it does not drop the staging table and instead adds onto it.
  16
  17 --source
  18
  19 Sets an x_source value on the staging table to the one supplied instead of the
  20 default of none.
  21
  22 --xml
  23
  24 By default the program assumes a USMARC file.  This flag will identify it as
  25 a MARCXML file instead.
  26
  27 =back
  28
  29 =cut
  30
  31 ###############################################################################
  32
  33 use strict;
  34 use warnings;
  35
  36 use DBI;
  37 use Data::Dumper;
  38 use MARC::Record;
  39 use MARC::Batch;
  40 use MARC::File;
  41 use MARC::File::XML;
  42 use Env qw(
  43     HOME PGHOST PGPORT PGUSER PGDATABASE MIGSCHEMA
  44     MIGBASEWORKDIR MIGBASEGITDIR MIGGITDIR MIGWORKDIR
  45 );
  46 use Pod::Usage;
  47 use Switch;
  48 use Cwd 'abs_path';
  49 use FindBin;
  50 use UNIVERSAL;
  51 use Unicode::Normalize;
  52 my $mig_bin = "$FindBin::Bin/";
  53 use lib "$FindBin::Bin/";
  54 use Mig;
  55
  56 pod2usage(-verbose => 2) if defined $ARGV[0] && $ARGV[0] eq '--help';
  57 pod2usage(-verbose => 1) if ! $ARGV[1];
  58
  59 my $next_arg_is_file = 0;
  60 my $append_is_false = 1;
  61 my $next_arg_is_source = 0;
  62 my $source = 'default';
  63 my $file_is_xml = 0;
  64 my $dbh = Mig::db_connect();
  65 my $infile;
  66 my $i = 0;
  67 my $batch;
  68 binmode STDIN, ':utf8';
  69
  70 foreach my $arg (@ARGV) {
  71     if ($arg eq '--stage_file') {
  72         $next_arg_is_file = 1;
  73         next;
  74     }
  75     if ($next_arg_is_file) {
  76         $infile = $arg;
  77         $next_arg_is_file = 0;
  78         next;
  79     }
  80     if ($arg eq '--source') {
  81         $next_arg_is_source = 1;
  82         next;
  83     }
  84     if ($next_arg_is_file) {
  85         $source = $arg;
  86         $next_arg_is_source = 0;
  87         next;
  88     }
  89         if ($arg eq '--append') {
  90                 $append_is_false = 0;
  91                 next;
  92         }
  93     if ($arg eq '--xml') {
  94         $file_is_xml = 1;
  95         next;
  96     }
  97 }
  98
  99 create_child_table($dbh);
 100
 101 # normal stage table creation
 102 if ($append_is_false) { create_stage_table($dbh); }
 103
 104 #sanity check and create stage table if it doesn't exist
 105 my $query = "SELECT EXISTS(SELECT 1 FROM information_schema.tables WHERE table_schema = '$MIGSCHEMA' AND table_name = 'biblio_record_entry_stage')";
 106 my $qsth = $dbh->prepare($query);
 107 $qsth->execute();
 108 my $f;
 109 while (my @row = $qsth->fetchrow_array) { $f = $row[0]; }
 110 if ($f eq 'f') { create_stage_table($dbh); }
 111
 112 if ($append_is_false == 0) { create_stage_table($dbh); }
 113
 114 if ($file_is_xml) {
 115         $batch = MARC::Batch->new('XML',$infile);
 116 } else {
 117         $batch = MARC::Batch->new('USMARC',$infile);
 118 }
 119 $batch->strict_off();
 120
 121 while ( my $record = $batch->next() ) {
 122         my $xml;
 123         if ($file_is_xml) { $xml = $record; }
 124                 else { $xml = $record->as_xml_record(); }
 125         $i++;
 126         $xml = clean_marc($xml);
 127         $xml = '$_$' . $xml . '$_$';
 128         my @warnings = $batch->warnings();
 129         my $warning_string;
 130         if (@warnings) { $warning_string = "'" . join(':',@warnings) . "'"; } else { $warning_string = "'none'"; }
 131         my $sql = "INSERT INTO $MIGSCHEMA.biblio_record_entry_stage (marc,x_source,x_warnings) VALUES ($xml,$source,$warning_string);";
 132     my $sth = $dbh->prepare($sql);
 133     $sth->execute();
 134         report_progress("Records staged", $i) if 0 != $i % 100;
 135 }
 136
 137 $dbh->do(qq/
 138     CREATE INDEX ${MIGSCHEMA}_biblio_record_entry_stage_idx ON
 139         $MIGSCHEMA.biblio_record_entry_stage (id);
 140 /);
 141
 142 print "Finis.\n";
 143
 144 sub create_stage_table {
 145         my $dbh = shift;
 146
 147     $dbh->do("DROP TABLE IF EXISTS $MIGSCHEMA.biblio_record_entry_stage;");
 148     $dbh->do("CREATE UNLOGGED TABLE $MIGSCHEMA.biblio_record_entry_stage (
 149             l_bib_id    TEXT,
 150             x_source    TEXT,
 151             x_warnings  TEXT,
 152             x_migrate   BOOLEAN DEFAULT TRUE
 153         ) INHERITS ($MIGSCHEMA.biblio_record_entry);");
 154
 155     return();
 156 }
 157
 158 sub create_child_table {
 159     my $dbh = shift;
 160
 161     $dbh->do("DO \$\$
 162         DECLARE
 163             t   BOOLEAN;
 164         BEGIN
 165         SELECT EXISTS(SELECT 1 FROM information_schema.tables WHERE table_schema = '$MIGSCHEMA' AND table_name = 'biblio_record_entry') INTO t;
 166         IF t = FALSE THEN
 167             PERFORM migration_tools.build_specific_base_staging_table ('$MIGSCHEMA','biblio.record_entry');
 168         END IF;
 169         END \$\$;");
 170
 171     return ();
 172 }
 173
 174 sub clean_marc {
 175     my $xml = shift;
 176     $xml =~ s/\n//sog;
 177     $xml =~ s/^<\?xml.+\?\s*>//go;
 178     $xml =~ s/>\s+</></go;
 179     $xml =~ s/\p{Cc}//go;
 180     $xml = NFC($xml);
 181     $xml =~ s/&(?!\S+;)/&amp;/gso;
 182     $xml =~ s/([\x{0080}-\x{fffd}])/sprintf('&#x%X;',ord($1))/sgoe;
 183     $xml =~ s/[\x00-\x1f]//go;
 184     return $xml;
 185 }
 186
 187
 188 sub abort {
 189     my $msg = shift;
 190     print STDERR "$0: $msg", "\n";
 191     exit 1;
 192 }
 193
 194 sub report_progress {
 195     my ($msg, $counter) = @_;
 196     if (defined $counter) {
 197         print STDERR "$msg: $counter\n";
 198     } else {
 199         print STDERR "$msg\n";
 200     }
 201 }