dak/contents.py

   1 #!/usr/bin/env python
   2 """
   3 Create all the contents files
   4
   5 @contact: Debian FTPMaster <ftpmaster@debian.org>
   6 @copyright: 2008, 2009 Michael Casadevall <mcasadevall@debian.org>
   7 @copyright: 2009 Mike O'Connor <stew@debian.org>
   8 @copyright: 2011 Torsten Werner <twerner@debian.org>
   9 @license: GNU General Public License version 2 or later
  10 """
  11
  12 ################################################################################
  13
  14 # This program is free software; you can redistribute it and/or modify
  15 # it under the terms of the GNU General Public License as published by
  16 # the Free Software Foundation; either version 2 of the License, or
  17 # (at your option) any later version.
  18
  19 # This program is distributed in the hope that it will be useful,
  20 # but WITHOUT ANY WARRANTY; without even the implied warranty of
  21 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  22 # GNU General Public License for more details.
  23
  24 # You should have received a copy of the GNU General Public License
  25 # along with this program; if not, write to the Free Software
  26 # Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  27
  28 ################################################################################
  29
  30 # <Ganneff> there is the idea to slowly replace contents files
  31 # <Ganneff> with a new generation of such files.
  32 # <Ganneff> having more info.
  33
  34 # <Ganneff> of course that wont help for now where we need to generate them :)
  35
  36 ################################################################################
  37
  38 import sys
  39 import apt_pkg
  40
  41 from daklib.config import Config
  42 from daklib.dbconn import *
  43 from daklib.contents import BinaryContentsScanner, ContentsWriter, \
  44     SourceContentsScanner
  45 from daklib import daklog
  46 from daklib import utils
  47
  48 ################################################################################
  49
  50 def usage (exit_code=0):
  51     print """Usage: dak contents [options] subcommand
  52
  53 SUBCOMMANDS
  54     generate
  55         generate Contents-$arch.gz files
  56
  57     scan-source
  58         scan the source packages in the existing pool and load contents into
  59         the src_contents table
  60
  61     scan-binary
  62         scan the (u)debs in the existing pool and load contents into the
  63         bin_contents table
  64
  65 OPTIONS
  66      -h, --help
  67         show this help and exit
  68
  69 OPTIONS for generate
  70      -s, --suite={stable,testing,unstable,...}
  71         only operate on specified suite names
  72
  73      -c, --component={main,contrib,non-free}
  74         only operate on specified components
  75
  76      -f, --force
  77         write Contents files for suites marked as untouchable, too
  78
  79 OPTIONS for scan-source and scan-binary
  80      -l, --limit=NUMBER
  81         maximum number of packages to scan
  82 """
  83     sys.exit(exit_code)
  84
  85 ################################################################################
  86
  87 def write_all(cnf, suite_names = [], component_names = [], force = None):
  88     Logger = daklog.Logger('contents generate')
  89     ContentsWriter.write_all(Logger, suite_names, component_names, force)
  90     Logger.close()
  91
  92 ################################################################################
  93
  94 def binary_scan_all(cnf, limit):
  95     Logger = daklog.Logger('contents scan-binary')
  96     result = BinaryContentsScanner.scan_all(limit)
  97     processed = '%(processed)d packages processed' % result
  98     remaining = '%(remaining)d packages remaining' % result
  99     Logger.log([processed, remaining])
 100     Logger.close()
 101
 102 ################################################################################
 103
 104 def source_scan_all(cnf, limit):
 105     Logger = daklog.Logger('contents scan-source')
 106     result = SourceContentsScanner.scan_all(limit)
 107     processed = '%(processed)d packages processed' % result
 108     remaining = '%(remaining)d packages remaining' % result
 109     Logger.log([processed, remaining])
 110     Logger.close()
 111
 112 ################################################################################
 113
 114 def main():
 115     cnf = Config()
 116     cnf['Contents::Options::Help'] = ''
 117     cnf['Contents::Options::Suite'] = ''
 118     cnf['Contents::Options::Component'] = ''
 119     cnf['Contents::Options::Limit'] = ''
 120     cnf['Contents::Options::Force'] = ''
 121     arguments = [('h', "help",      'Contents::Options::Help'),
 122                  ('s', "suite",     'Contents::Options::Suite',     "HasArg"),
 123                  ('c', "component", 'Contents::Options::Component', "HasArg"),
 124                  ('l', "limit",     'Contents::Options::Limit',     "HasArg"),
 125                  ('f', "force",     'Contents::Options::Force'),
 126                 ]
 127     args = apt_pkg.parse_commandline(cnf.Cnf, arguments, sys.argv)
 128     options = cnf.subtree('Contents::Options')
 129
 130     if (len(args) != 1) or options['Help']:
 131         usage()
 132
 133     limit = None
 134     if len(options['Limit']) > 0:
 135         limit = int(options['Limit'])
 136
 137     if args[0] == 'scan-source':
 138         source_scan_all(cnf, limit)
 139         return
 140
 141     if args[0] == 'scan-binary':
 142         binary_scan_all(cnf, limit)
 143         return
 144
 145     suite_names     = utils.split_args(options['Suite'])
 146     component_names = utils.split_args(options['Component'])
 147
 148     force = bool(options['Force'])
 149
 150     if args[0] == 'generate':
 151         write_all(cnf, suite_names, component_names, force)
 152         return
 153
 154     usage()
 155
 156
 157 if __name__ == '__main__':
 158     main()