tiffani

   1 #!/usr/bin/env python
   2
   3 ###########################################################
   4 # generates partial package updates list
   5
   6 # idea and basic implementation by Anthony, some changes by Andreas
   7 # parts are stolen from ziyi
   8 #
   9 # Copyright (C) 2004-5  Anthony Towns <aj@azure.humbug.org.au>
  10 # Copyright (C) 2004-5  Andreas Barth <aba@not.so.argh.org>
  11
  12 # This program is free software; you can redistribute it and/or modify
  13 # it under the terms of the GNU General Public License as published by
  14 # the Free Software Foundation; either version 2 of the License, or
  15 # (at your option) any later version.
  16
  17 # This program is distributed in the hope that it will be useful,
  18 # but WITHOUT ANY WARRANTY; without even the implied warranty of
  19 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  20 # GNU General Public License for more details.
  21
  22 # You should have received a copy of the GNU General Public License
  23 # along with this program; if not, write to the Free Software
  24 # Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  25
  26
  27 # < elmo> bah, don't bother me with annoying facts
  28 # < elmo> I was on a roll
  29
  30
  31 ################################################################################
  32
  33 import sys, os, tempfile
  34 import apt_pkg
  35 import utils
  36
  37 ################################################################################
  38
  39 projectB = None;
  40 Cnf = None;
  41 Logger = None;
  42 Options = None;
  43
  44 ################################################################################
  45
  46 def usage (exit_code=0):
  47     print """Usage: tiffani [OPTIONS] [suites]
  48 Write out ed-style diffs to Packages/Source lists
  49
  50   -h, --help            show this help and exit
  51   -c                    give the canonical path of the file
  52   -p                    name for the patch (defaults to current time)
  53   -n                    take no action
  54     """
  55     sys.exit(exit_code);
  56
  57
  58 def tryunlink(file):
  59     try:
  60         os.unlink(file)
  61     except OSError:
  62         print "warning: removing of %s denied" % (file)
  63
  64 def smartstat(file):
  65     for ext in ["", ".gz", ".bz2"]:
  66         if os.path.isfile(file + ext):
  67             return (ext, os.stat(file + ext))
  68     return (None, None)
  69
  70 def smartlink(f, t):
  71     if os.path.isfile(f):
  72         os.link(f,t)
  73     elif os.path.isfile("%s.gz" % (f)):
  74         os.system("gzip -d < %s.gz > %s" % (f, t))
  75     elif os.path.isfile("%s.bz2" % (f)):
  76         os.system("bzip2 -d < %s.bz2 > %s" % (f, t))
  77     else:
  78         print "missing: %s" % (f)
  79         raise IOError, f
  80
  81 def smartopen(file):
  82     if os.path.isfile(file):
  83         f = open(file, "r")
  84     elif os.path.isfile("%s.gz" % file):
  85         f = create_temp_file(os.popen("zcat %s.gz" % file, "r"))
  86     elif os.path.isfile("%s.bz2" % file):
  87         f = create_temp_file(os.popen("bzcat %s.bz2" % file, "r"))
  88     else:
  89         f = None
  90     return f
  91
  92 def pipe_file(f, t):
  93     f.seek(0)
  94     while 1:
  95         l = f.read()
  96         if not l: break
  97         t.write(l)
  98     t.close()
  99
 100 class Updates:
 101     def __init__(self, readpath = None, max = 14):
 102         self.can_path = None
 103         self.history = {}
 104         self.history_order = []
 105         self.max = max
 106         self.readpath = readpath
 107         self.filesizesha1 = None
 108
 109         if readpath:
 110           try:
 111             f = open(readpath + "/Index")
 112             x = f.readline()
 113
 114             def read_hashs(ind, f, self, x=x):
 115                 while 1:
 116                     x = f.readline()
 117                     if not x or x[0] != " ": break
 118                     l = x.split()
 119                     if not self.history.has_key(l[2]):
 120                         self.history[l[2]] = [None,None]
 121                         self.history_order.append(l[2])
 122                     self.history[l[2]][ind] = (l[0], int(l[1]))
 123                 return x
 124
 125             while x:
 126                 l = x.split()
 127
 128                 if len(l) == 0:
 129                     x = f.readline()
 130                     continue
 131
 132                 if l[0] == "SHA1-History:":
 133                     x = read_hashs(0,f,self)
 134                     continue
 135
 136                 if l[0] == "SHA1-Patches:":
 137                     x = read_hashs(1,f,self)
 138                     continue
 139
 140                 if l[0] == "Canonical-Name:" or l[0]=="Canonical-Path:":
 141                     self.can_path = l[1]
 142
 143                 if l[0] == "SHA1-Current:" and len(l) == 3:
 144                     self.filesizesha1 = (l[1], int(l[2]))
 145
 146                 x = f.readline()
 147
 148           except IOError:
 149             0
 150
 151     def dump(self, out=sys.stdout):
 152         if self.can_path:
 153             out.write("Canonical-Path: %s\n" % (self.can_path))
 154
 155         if self.filesizesha1:
 156             out.write("SHA1-Current: %s %7d\n" % (self.filesizesha1))
 157
 158         hs = self.history
 159         l = self.history_order[:]
 160
 161         cnt = len(l)
 162         if cnt > self.max:
 163             for h in l[:cnt-self.max]:
 164                 tryunlink("%s/%s.gz" % (self.readpath, h))
 165                 del hs[h]
 166             l = l[cnt-self.max:]
 167             self.history_order = l[:]
 168
 169         out.write("SHA1-History:\n")
 170         for h in l:
 171             out.write(" %s %7d %s\n" % (hs[h][0][0], hs[h][0][1], h))
 172         out.write("SHA1-Patches:\n")
 173         for h in l:
 174             out.write(" %s %7d %s\n" % (hs[h][1][0], hs[h][1][1], h))
 175
 176 def create_temp_file(r):
 177     f = tempfile.TemporaryFile()
 178     while 1:
 179         x = r.readline()
 180         if not x: break
 181         f.write(x)
 182     r.close()
 183     del x,r
 184     f.flush()
 185     f.seek(0)
 186     return f
 187
 188 def sizesha1(f):
 189     size = os.fstat(f.fileno())[6]
 190     f.seek(0)
 191     sha1sum = apt_pkg.sha1sum(f)
 192     return (sha1sum, size)
 193
 194 def genchanges(Options, outdir, oldfile, origfile, maxdiffs = 14):
 195     if Options.has_key("NoAct"):
 196         print "not doing anything"
 197         return
 198
 199     patchname = Options["PatchName"]
 200
 201     # origfile = /path/to/Packages
 202     # oldfile  = ./Packages
 203     # newfile  = ./Packages.tmp
 204     # difffile = outdir/patchname
 205     # index   => outdir/Index
 206
 207     # (outdir, oldfile, origfile) = argv
 208
 209     newfile = oldfile + ".new"
 210     difffile = "%s/%s" % (outdir, patchname)
 211
 212     upd = Updates(outdir, int(maxdiffs))
 213     (oldext, oldstat) = smartstat(oldfile)
 214     (origext, origstat) = smartstat(origfile)
 215     if not origstat:
 216         print "%s doesn't exist" % (origfile)
 217         return
 218     if not oldstat:
 219         print "initial run"
 220         os.link(origfile + origext, oldfile + origext)
 221         return
 222
 223     if oldstat[1:3] == origstat[1:3]:
 224         print "hardlink unbroken, assuming unchanged"
 225         return
 226
 227     oldf = smartopen(oldfile)
 228     oldsizesha1 = sizesha1(oldf)
 229
 230     # should probably early exit if either of these checks fail
 231     # alternatively (optionally?) could just trim the patch history
 232
 233     if upd.filesizesha1:
 234         if upd.filesizesha1 != oldsizesha1:
 235             print "old file seems to have changed! %s %s => %s %s" % (upd.filesizesha1 + oldsizesha1)
 236
 237     # XXX this should be usable now
 238     #
 239     #for d in upd.history.keys():
 240     #    df = smartopen("%s/%s" % (outdir,d))
 241     #    act_sha1size = sizesha1(df)
 242     #    df.close()
 243     #    exp_sha1size = upd.history[d][1]
 244     #    if act_sha1size != exp_sha1size:
 245     #        print "patch file %s seems to have changed! %s %s => %s %s" % \
 246     #            (d,) + exp_sha1size + act_sha1size
 247
 248     if Options.has_key("CanonicalPath"): upd.can_path=Options["CanonicalPath"]
 249
 250     if os.path.exists(newfile): os.unlink(newfile)
 251     smartlink(origfile, newfile)
 252     newf = open(newfile, "r")
 253     newsizesha1 = sizesha1(newf)
 254     newf.close()
 255
 256     if newsizesha1 == oldsizesha1:
 257         os.unlink(newfile)
 258         oldf.close()
 259         print "file unchanged, not generating diff"
 260     else:
 261         if not os.path.isdir(outdir): os.mkdir(outdir)
 262         print "generating diff"
 263         w = os.popen("diff --ed - %s | gzip -c -9 > %s.gz" %
 264                          (newfile, difffile), "w")
 265         pipe_file(oldf, w)
 266         oldf.close()
 267
 268         difff = smartopen(difffile)
 269         difsizesha1 = sizesha1(difff)
 270         difff.close()
 271
 272         upd.history[patchname] = (oldsizesha1, difsizesha1)
 273         upd.history_order.append(patchname)
 274
 275         upd.filesizesha1 = newsizesha1
 276
 277         os.unlink(oldfile + oldext)
 278         os.link(origfile + origext, oldfile + origext)
 279         os.unlink(newfile)
 280
 281         f = open(outdir + "/Index", "w")
 282         upd.dump(f)
 283         f.close()
 284
 285
 286 def main():
 287     global Cnf, Options, Logger
 288
 289     os.umask(0002);
 290
 291     Cnf = utils.get_conf();
 292     Arguments = [ ('h', "help", "Tiffani::Options::Help"),
 293                   ('c', None, "Tiffani::Options::CanonicalPath", "hasArg"),
 294                   ('p', "patchname", "Tiffani::Options::PatchName", "hasArg"),
 295                   ('r', "rootdir", "Tiffani::Options::RootDir", "hasArg"),
 296                   ('d', "tmpdir", "Tiffani::Options::TempDir", "hasArg"),
 297                   ('m', "maxdiffs", "Tiffani::Options::MaxDiffs", "hasArg"),
 298                   ('n', "n-act", "Tiffani::Options::NoAct"),
 299                 ];
 300     suites = apt_pkg.ParseCommandLine(Cnf,Arguments,sys.argv);
 301     Options = Cnf.SubTree("Tiffani::Options");
 302     if Options.has_key("Help"): usage();
 303
 304     maxdiffs = Options.get("MaxDiffs::Default", "14")
 305     maxpackages = Options.get("MaxDiffs::Packages", maxdiffs)
 306     maxcontents = Options.get("MaxDiffs::Contents", maxdiffs)
 307     maxsources = Options.get("MaxDiffs::Sources", maxdiffs)
 308
 309     if not Options.has_key("PatchName"):
 310         format = "%Y-%m-%d-%H%M.%S"
 311         i,o = os.popen2("date +%s" % (format))
 312         i.close()
 313         Options["PatchName"] = o.readline()[:-1]
 314         o.close()
 315
 316     AptCnf = apt_pkg.newConfiguration()
 317     apt_pkg.ReadConfigFileISC(AptCnf,utils.which_apt_conf_file())
 318
 319     if Options.has_key("RootDir"): Cnf["Dir::Root"] = Options["RootDir"]
 320
 321     if not suites:
 322         suites = Cnf.SubTree("Suite").List()
 323
 324     for suite in suites:
 325         if suite == "Experimental": continue
 326
 327         print "Processing: " + suite
 328         SuiteBlock = Cnf.SubTree("Suite::" + suite)
 329
 330         if SuiteBlock.has_key("Untouchable"):
 331             print "Skipping: " + suite + " (untouchable)"
 332             continue
 333
 334         suite = suite.lower()
 335
 336         architectures = SuiteBlock.ValueList("Architectures")
 337
 338         if SuiteBlock.has_key("Components"):
 339             components = SuiteBlock.ValueList("Components")
 340         else:
 341             components = []
 342
 343         suite_suffix = Cnf.Find("Dinstall::SuiteSuffix");
 344         if components and suite_suffix:
 345             longsuite = suite + "/" + suite_suffix;
 346         else:
 347             longsuite = suite;
 348
 349         tree = SuiteBlock.get("Tree", "dists/%s" % (longsuite))
 350
 351         if AptCnf.has_key("tree::%s" % (tree)):
 352             sections = AptCnf["tree::%s::Sections" % (tree)].split()
 353         elif AptCnf.has_key("bindirectory::%s" % (tree)):
 354             sections = AptCnf["bindirectory::%s::Sections" % (tree)].split()
 355         else:
 356             aptcnf_filename = os.path.basename(utils.which_apt_conf_file());
 357             print "ALERT: suite %s not in %s, nor untouchable!" % (suite, aptcnf_filename);
 358             continue
 359
 360         for architecture in architectures:
 361             if architecture == "all":
 362                 continue
 363
 364             if architecture != "source":
 365                 # Process Contents
 366                 file = "%s/Contents-%s" % (Cnf["Dir::Root"] + tree,
 367                         architecture)
 368                 storename = "%s/%s_contents_%s" % (Options["TempDir"], suite, architecture)
 369                 print "running contents for %s %s : " % (suite, architecture),
 370                 genchanges(Options, file + ".diff", storename, file, \
 371                   Cnf.get("Suite::%s::Tiffani::MaxDiffs::Contents" % (suite), maxcontents))
 372
 373             # use sections instead of components since katie.conf
 374             # treats "foo/bar main" as suite "foo", suitesuffix "bar" and
 375             # component "bar/main". suck.
 376
 377             for component in sections:
 378                 if architecture == "source":
 379                     longarch = architecture
 380                     packages = "Sources"
 381                     maxsuite = maxsources
 382                 else:
 383                     longarch = "binary-%s"% (architecture)
 384                     packages = "Packages"
 385                     maxsuite = maxpackages
 386
 387                 file = "%s/%s/%s/%s" % (Cnf["Dir::Root"] + tree,
 388                            component, longarch, packages)
 389                 storename = "%s/%s_%s_%s" % (Options["TempDir"], suite, component, architecture)
 390                 print "running for %s %s %s : " % (suite, component, architecture),
 391                 genchanges(Options, file + ".diff", storename, file, \
 392                   Cnf.get("Suite::%s::Tiffani::MaxDiffs::%s" % (suite, packages), maxsuite))
 393
 394 ################################################################################
 395
 396 if __name__ == '__main__':
 397     main()