]> git.decadent.org.uk Git - dak.git/blob - ChangeLog
Merge branch 'checksums'
[dak.git] / ChangeLog
1 2008-08-28  Philipp Kern  <pkern@debian.org>
2
3         * daklib/utils.py (check_hashes): adapt to different API, check
4         sizes separately
5
6         * daklib/utils.py (parse_changes, parse_deb822): refactor
7         the string-based logic of parse_changes into a new function
8         parse_deb822; parse_changes itself remains file-based
9
10         * daklib/utils.py (hash_key): gives the key of a hash in the
11         files dict
12
13         * daklib/utils.py (create_hash, check_size): made more readable
14
15         * daklib/utils.py (check_hash): just check the hashes and complain
16         about missing checksums
17
18         * daklib/utils.py (check_hash_fields): function to reject unknown
19         checksums fields
20
21         * daklib/utils.py (_ensure_changes_hash, _ensure_dsc_hash): helper
22         functions for ensure_hashes; check their corresponding manifests'
23         hashes
24
25         * daklib/utils.py (ensure_hashes): retrieve the checksums fields
26         from the original filecontents blob so that they do not need to
27         be present in the .dak; refactored the actual checks by calling
28         the aforementioned helper functions
29
30         * daklib/utils.py (parse_checksums): parse a given checksums field
31         in a manifest and insert the values found into the files dict,
32         checking the file sizes on the way
33
34 2008-08-31  Philipp Kern  <pkern@debian.org>
35
36         * dak/process_new.py (_accept): new helper function to accept
37         an upload regularly, obeying no-action if set
38         * dak/process_new.py (do_accept): use _accept
39         * dak/process_new.py (do_accept_stableupdate): bail out in else
40         on binary uploads, in case we missed something; use the _accept
41         helper
42
43 2008-08-30  Philipp Kern  <pkern@debian.org>
44
45         * dak/process_new.py (is_source_in_queue_dir): join the queue path
46         because os.listdir entries come with their path stripped
47
48 2008-08-30  Philipp Kern  <pkern@debian.org>
49
50         * dak/process_new.py (do_accept_stableupdate): state what we intend
51         to do
52
53 2008-08-26  Philipp Kern  <pkern@debian.org>
54
55         * dak/process_new.py (is_source_in_queue_dir): fix variable usage
56         * dak/process_new.py (move_to_holding): just state what we intend
57         to do in no-action mode
58         * dak/process_new.py (do_accept_stableupdate): fetch summaries,
59         fix invokation of is_source_in_queue_dir, actually accept sourceful
60         uploads in p-u holding
61
62 2008-08-26  Philipp Kern  <pkern@debian.org>
63
64         * dak/process_new.py (do_accept): do not try to free the unchecked
65         lockfile in no-action mode
66
67 2008-08-16  Joerg Jaspert  <joerg@debian.org>
68
69         * config/debian/cron.dinstall: We dont want i18n to ever fail
70         dinstall, add a || true
71
72 2008-08-15  Mark Hymers  <mhy@debian.org>
73
74         * daklib/utils.py: Actually import a module before using it.
75
76         * daklib/utils.py: Actually check we have basedict before trying to
77         use it.
78
79         *  dak/process_accepted.py, dak/process_unchecked.py,
80         daklib/database.py: Don't change get_files_id to use sha1sum and
81         sha256sum.
82
83         * setup/init_pool.sql, dak/check_archive.py, dak/decode_dot_dak.py,
84         dak/process_accepted.py, dak/process_unchecked.py, daklib/database.py,
85         daklib/queue.py, daklib/utils.py: Attempt to add sha1sum and
86         sha256sums into the database.  The complication is that we have to
87         keep backwards compatibility with the .dak files already in existance.
88         Note that import_archive hasn't been hacked to deal with this yet.
89
90 2008-08-14  Joerg Jaspert  <joerg@debian.org>
91
92         * config/debian/cron.dinstall: Added the i18n retrieval of package
93         description translations
94
95 2008-08-12  Joerg Jaspert  <joerg@debian.org>
96
97         * config/debian/cron.dinstall: Complicate the i18n export a little
98         by using date/hour based directories which we then link into the
99         web view. They contain a signed timestamp file now, which means
100         the i18n people can take a long time to generate files, yet we
101         still know exactly on which dataset their data is based on, and
102         can then verify it with that. Ensures we only get descriptions for
103         packages we know off (or knew of in the past 2 days).
104
105 2008-08-11  Joerg Jaspert  <joerg@debian.org>
106
107         * web/dinstall.html: Added
108
109         * config/debian/dak.conf: Added back the pgp keyrings for now, as
110         it seems that we should keep it for a few more days, until we
111         somehow got ll those oldtimers to get a newer key into the
112         keyring. Unfortunately our logic to look for uploads done from
113         that keyring wasnt the most perfect one, so well, it is actually
114         used. Damn.
115
116 2008-08-09  Joerg Jaspert  <joerg@debian.org>
117
118         * config/debian/dak.conf: No longer use the pgp keyring - no
119         uploads recorded for any of the pgp keys for a long time.
120
121         * config/debian/cron.dinstall: Export the i18n foo.
122
123 2008-08-08  Joerg Jaspert  <joerg@debian.org>
124
125         * config/debian/cron.dinstall: Create a hardlinked tree of the
126         ftp/ in mirror/ so we have more atomic mirror updates for the
127         buildds
128
129         * config/debian/cron.unchecked: Added signing of buildd incoming
130
131 2008-08-07  Philipp Kern  <pkern@debian.org>
132
133         * dak/process_new.py (do_accept): handle uploads to (oldstable-)
134           proposed-updates differently and put them into p-u holding
135           for review instead of unconditionally accepting them into
136           p-u proper; additional care needed to be taken to look
137           out for the source if a binary-only upload is being handled
138
139 2008-08-07  Joerg Jaspert  <joerg@debian.org>
140
141         * dak/cruft_report.py (parse_nfu): call utils.warn instead of warn
142         (main): Only do the nfu stuff if nfu is a check we want to run
143         later.
144         (main): And another place where we dont want to do nfu foo unless
145         we need nfu
146
147         * dak/make_suite_file_list.py (main): Fix a bug that has been
148         there for ages, but "just" never triggered.
149
150 2008-08-07  Stephen Gran  <sgran@debian.org>
151
152         * Drop use of exec to eval variable interpolation
153 2008-08-07  Joerg Jaspert  <joerg@debian.org>
154
155         * dak/process_accepted.py (install): Error out with the new
156         exception if we dont know the source package for a file we want to
157         install. Shouldn't ever hit us, but better safe than sorry.
158
159         * daklib/dak_exceptions.py (dakerrors): new exception - no source field.
160
161 2008-08-05  Joerg Jaspert  <joerg@debian.org>
162
163         * config/debian/cron.unchecked: disable the ssh-move insanity (and
164         as soon as rietz is back online - replace it with a one-line scp
165         or rsync statement followed by a one-line rm)
166         And now replaced this 128 line perl "not-invented-here" with a
167         one-line rsync command, using a feature rsync only understands
168         since sarge - damn new-fangled technology.
169
170 2008-08-05  Joachim Breitner <nomeata@debian.org>
171
172         * dak/cruft_report.py: In full mode, report out-of-date binaries on
173         architectures that have set Not-For-Us for that package.
174
175         * scripts/nfu/get-w-b-db: Script to fetch the wanna-build database
176         dump from http://buildd.debian.org/
177
178         * config/debian/cron.weekly: Run the above script
179
180 2008-08-03  Mark Hymers <mhy@debian.org>
181
182         * dak/process_new.py: Apply jvw's patch so that process_new shows
183         packages which need binary uploads sorted earlier than other packages.
184
185 2008-07-26  Joerg Jaspert  <joerg@debian.org>
186
187         * templates/reject-proposed-updates.rejected,dak/reject_proposed_updates.py:
188         applied a patch by luk modifying the stable rejection mails to fit
189         reality a bit more
190
191         * config/debian/dak.conf: no m68k in testing, so no m68k in t-p-u
192         r4 now
193
194 2008-06-19  Thomas Viehmann  <tv@beamnet.de>
195
196         * dak/process_unchecked.py (check_dsc,check_hashes): Catch
197         UnknownFormatError and reject
198
199 2008-06-15  Joerg Jaspert  <joerg@debian.org>
200
201         * config/debian/cron.weekly: Work around a git bug until git is
202         fixed upstream and the fix is on backports.org
203
204         * config/debian/cron.dinstall: (various ssh calls): Make them use
205         batchmode/connect/setuptimeout to not take too long with
206         connections... Also || true them, no need to die in dinstall if
207         one host isn't reachable.
208         Also do not die when the ldap server is unreachable, just ignore
209         that error.
210
211         * README: Updated mailing list location
212
213 2008-06-14  Otavio Salvador  <otavio@debian.org>
214
215         * docs/manpages/clean-suites.1.sgml: Minor typo fix
216
217         * dak/import_archive.py: Add support to udeb packages
218
219         * dak/control_suite.py (main): Handle SystemError exception in
220         case of a incompatible commandline parameter
221
222         * dak/check_overrides.py (main): Use case-insensitive comparing
223         for codename
224
225 2008-06-14  Joerg Jaspert  <joerg@debian.org>
226
227         * scripts/debian/byhand-task: Merged patch from Frans Pop to
228         fail on byhand-task uploads if they do not go to unstable.
229
230         * config/debian/cron.weekly: Do a little git cleanup work too.
231
232         * config/debian/cron.buildd: Add batchmode and also
233         Connect/SetupTimeout parameters to ssh
234
235         * config/debian/cron.dinstall (POSTDUMP): Compress all
236         uncompressed psql backups
237
238 2008-06-08  Joerg Jaspert  <joerg@debian.org>
239
240         * dak/process_unchecked.py (check_urgency): Lowercase urgency
241         before we (eventually) warn on it. Patch taken from Russ Allbery.
242
243 2008-06-01  Otavio Salvador  <otavio@debian.org>
244
245         * daklib/queue.py (check_valid): allow debian-installer specific
246         sources to have 'debian-installer' section.
247
248 2008-05-28  Frans Pop  <fjp@debian.org>
249
250         * add autobyhand support for task overrides (from tasksel)
251
252 2008-05-27  Joerg Jaspert  <joerg@debian.org>
253
254         * config/debian/pseudo-packages.maintainers: Change ftp.debian.org
255         pseudopackage maintainer name.
256
257 2008-05-12  Joerg Jaspert  <joerg@debian.org>
258
259         * dak/transitions.py: use yaml.dump instead of syck.dump, as syck
260         seems to have a bug in its dump(), causing it to write illegal entries
261         And also do this for load.
262
263 2008-05-10  Stephen Gran   <sgran@debian.org>
264        * tools/debianqueued-0.9/debianqueued: First pass at a send_mail
265          implementation that sucks less
266        * Update debian/control to reflect new perl dependency
267
268 2008-05-09  Joerg Jaspert  <joerg@debian.org>
269
270         * dak/override.py (main): substitute value in X-Debian-Package
271         header
272
273         * templates/override.bug-close: Add X-Debian-Package header
274         * templates/reject-proposed-updates.rejected: dito
275         * templates/queue.rejected: dito
276         * templates/process-unchecked.new: dito
277         * templates/process-unchecked.bug-nmu-fixed: dito
278         * templates/process-unchecked.bug-experimental-fixed: dito
279         * templates/process-unchecked.bug-close: dito
280         * templates/process-unchecked.announce: dito
281         * templates/process-unchecked.accepted: dito
282         * templates/process-new.prod: dito
283         * templates/process-accepted.unaccept: dito
284         * templates/process-accepted.install: dito
285         * templates/process-unchecked.override-disparity: dito
286
287 2008-05-08  Joerg Jaspert  <joerg@debian.org>
288
289         * templates/override.bug-close: Add X-Debian header
290         * templates/rm.bug-close: dito
291         * templates/reject-proposed-updates.rejected: dito
292         * templates/queue.rejected: dito
293         * templates/process-unchecked.new: dito
294         * templates/process-unchecked.bug-nmu-fixed: dito
295         * templates/process-unchecked.bug-experimental-fixed: dito
296         * templates/process-unchecked.bug-close: dito
297         * templates/process-unchecked.announce: dito
298         * templates/process-unchecked.accepted: dito
299         * templates/process-new.prod: dito
300         * templates/process-accepted.unaccept: dito
301         * templates/process-accepted.install: dito
302         * templates/process-unchecked.override-disparity: dito, but also
303         mention that people should include the package lists with the
304         override disparities.
305
306 2008-05-06  Joerg Jaspert  <joerg@debian.org>
307
308         * config/debian/cron.dinstall: Put the timestamp stuff into an own
309         function, call that from everywhere. Also change the timestamp
310         format to not be local dependent.
311
312 2008-05-05  Joerg Jaspert  <joerg@debian.org>
313
314         * daklib/dak_exceptions.py (dakerrors): add TransitionsError
315         * dak/transitions.py: Use it, instead of the own definition
316
317 2008-05-05  Mark Hymers  <mhy@debian.org>
318
319         * daklib/dak_exceptions.py: Add a default message and tidy up our string
320         representation
321
322 2008-05-05  Joerg Jaspert  <joerg@debian.org>
323
324         * daklib/dak_exceptions.py: New file, central place for all those
325         own exceptions dak may raise.
326
327         * daklib/utils.py: Use dak_exceptions and delete all those string
328         exception raising stuff, which is depcreated.
329         During that delete the unknown_hostname_exc, as it wasnt used.
330
331         * dak/import_archive.py: use the new Exception class
332         * dak/rm.py: dito
333         * dak/generate_releases.py: dito
334         * dak/queue_report.py: dito
335         * daklib/queue.py: dito
336
337 2008-05-04  Joerg Jaspert  <joerg@debian.org>
338
339         * daklib/queue.py: Various pychecker cleanups
340
341         * dak/import_keyring.py: Remove unused daklib.logging and Logger
342         and add the actually used daklib/utils
343
344         * dak/examine_package.py: remove daklib.queue import, never used
345
346         * dak/check_proposed_updates.py: Import stuff from daklib as
347         "import daklib.foo as foo"
348         * dak/clean_proposed_updates.py: likewise
349         * dak/clean_queues.py: likewise
350         * dak/clean_suites.py: likewise
351         * dak/compare_suites.py: likewise
352         * dak/cruft_report.py: likewise
353         (get_suite_binaries): Seperated in own function, out of main. More
354         of main should be splitted. (Or well, cruft_report redesigned a
355         little, so its easier to run on multiple suites with differing tests)
356
357         * dak/examine_package.py: likewise
358         * dak/find_null_maintainers.py: likewise
359         * dak/generate_index_diffs.py: likewise
360         * dak/generate_releases.py: likewise
361         * dak/import_archive.py: likewise
362         * dak/import_ldap_fingerprints.py: likewise
363         * dak/import_users_from_passwd.py: likewise
364         * dak/init_db.py: likewise
365         * dak/init_dirs.py: likewise
366         * dak/ls.py: likewise
367         * dak/make_maintainers.py: likewise
368         * dak/make_overrides.py: likewise
369         * dak/make_suite_file_list.py: likewise
370         * dak/new_security_install.py: likewise
371         * dak/override.py: likewise
372         * dak/process_accepted.py: likewise
373         * dak/process_new.py: likewise
374         * dak/process_unchecked.py: likewise
375         * dak/rm.py: likewise
376         * dak/show_new.py: likewise
377         * dak/split_done.py: likewise
378         * dak/stats.py: likewise
379         * dak/transitions.py: likewise
380
381         * dak/check_archive.py (check_files_not_symlinks): Remove
382         long-time unused and commented code. Import stuff from daklib as
383         "import daklib.foo as foo"
384
385 2008-05-04  Thomas Viehmann  <tv@beamnet.de>
386
387         * dak/process_unchecked.py (check_signed_by_key): cater for uid_email
388         None in sponsor notification
389
390 2008-05-03  Joerg Jaspert  <joerg@debian.org>
391
392         * dak/examine_package.py: clean up pychecker warnings (merged with
393         Thomas changes to the NEW display)
394
395 2008-05-03  Mark Hymers <mhy@debian.org>
396
397         * dak/check_archive.py: clean up pychecker warnings
398         * dak/check_overrides.py: likewise
399         * dak/check_proposed_updates.py: likewise
400         * dak/clean_proposed_updates.py: likewise
401         * dak/clean_queues.py: likewise
402         * dak/control_overrides.py: likewise
403         * dak/control_suite.py: likewise
404         * dak/decode_dot_dak.py: likewise
405         * dak/examine_package.py: likewise
406         * dak/process_new.py: likewise
407         * dak/process_unchecked.py: likewise
408         * dak/queue_report.py: likewise
409         * dak/reject_proposed_updates.py: likewise
410         * dak/security_install.py: likewise
411         * dak/show_new.py: likewise
412         * dak/stats.py: likewise
413         * dak/symlink_dists.py: likewise
414         * dak/transitions.py: likewise
415
416 2008-05-03  Joerg Jaspert  <joerg@debian.org>
417
418         * config/debian/cron.daily: Rename to
419         * config/debian/cron.dinstall: this, as its not really something run
420         daily for some time now. And while dinstall is an OLD name, its
421         recognized pretty well within Debian
422         Also add some more timing information
423         Do not allow automated [o-]p-u-new processing to break dinstall
424
425 2008-05-03  Thomas Viehmann  <tv@beamnet.de>
426
427         * web/,web/style.css: add web dir and current style.css
428
429         * dak/examine_package.py, dak/show_new.py: improve NEW html pages,
430         based on mock-up by M. Ferrari.
431         remove Checksums-* from examine-package output
432
433 2008-05-03  Thomas Viehmann  <tv@beamnet.de>
434
435         * dak/process_unchecked.py (check_hashes): Reject on error while
436         parsing Checksums-*.
437
438 2008-05-02  Joerg Jaspert  <joerg@debian.org>
439
440         * config/debian/pseudo-packages*: Removed listarchives, closes #468667
441         added wiki.debian.org (currently pointing to debian-www), closes #194206
442         added security-tracker, closes #436152
443         added release.debian.org, closes #451005
444
445         * config/debian/cron.buildd: Cleanup unreachable code. (If someone
446         still wants it - its in revision control...)
447
448         * config/debian/cron.daily: Modify call to update-ftpstats to only
449         use files log/2*, instead of log/*, so it ignores the new cron/
450         subdir. Makes sure it can't get confused, and is also safe for
451         nearly thousand years. If this code is really in use in year 3000,
452         im sure people can adjust it! :)
453
454         * config/debian/vars: Add logdir as a place for cronjob log output
455
456         * config/debian/cron.daily: Use a logfile and be more verbose of
457         whats going on.
458           Also moved the commented VACUUM ; VACUUM ANALYZE calls over to
459         cron.weekly, ...
460         * config/debian/cron.weekly: likewise,
461           ... and activate those calls again. Once a week, as an
462         additional safety bet to be sure the stuff does get run is ok,
463         even if we have autovacuum by default.
464
465 2008-05-02  Thomas Viehmann  <tv@beamnet.de>
466
467         * dak/process_unchecked.py (check_hashes): fix typo in
468           checksum reject message.
469
470 2008-05-02  Joerg Jaspert  <joerg@debian.org>
471
472         * config/debian/extensions.py: used reindent.py from the python
473         2.x source examples to get all dak code use the same indentation
474         style, no longer a mix of 4 spaces / 1 tab.
475         * dak/check_archive.py: likewise
476         * dak/check_overrides.py: likewise
477         * dak/check_proposed_updates.py: likewise
478         * dak/clean_proposed_updates.py: likewise
479         * dak/clean_queues.py: likewise
480         * dak/clean_suites.py: likewise
481         * dak/compare_suites.py: likewise
482         * dak/control_overrides.py: likewise
483         * dak/control_suite.py: likewise
484         * dak/cruft_report.py: likewise
485         * dak/dak.py: likewise
486         * dak/decode_dot_dak.py: likewise
487         * dak/examine_package.py: likewise
488         * dak/find_null_maintainers.py: likewise
489         * dak/generate_index_diffs.py: likewise
490         * dak/generate_releases.py: likewise
491         * dak/import_archive.py: likewise
492         * dak/import_keyring.py: likewise
493         * dak/import_ldap_fingerprints.py: likewise
494         * dak/import_users_from_passwd.py: likewise
495         * dak/init_db.py: likewise
496         * dak/init_dirs.py: likewise
497         * dak/ls.py: likewise
498         * dak/make_maintainers.py: likewise
499         * dak/make_overrides.py: likewise
500         * dak/make_suite_file_list.py: likewise
501         * dak/mirror_split.py: likewise
502         * dak/new_security_install.py: likewise
503         * dak/override.py: likewise
504         * dak/poolize.py: likewise
505         * dak/process_accepted.py: likewise
506         * dak/process_new.py: likewise
507         * dak/process_unchecked.py: likewise
508         * dak/queue_report.py: likewise
509         * dak/reject_proposed_updates.py: likewise
510         * dak/rm.py: likewise
511         * dak/security_install.py: likewise
512         * dak/show_new.py: likewise
513         * dak/split_done.py: likewise
514         * dak/stats.py: likewise
515         * dak/symlink_dists.py: likewise
516         * dak/test/001/test.py: likewise
517         * dak/test/002/test.py: likewise
518         * dak/transitions.py: likewise
519         * daklib/extensions.py: likewise
520         * daklib/logging.py: likewise
521         * daklib/queue.py: likewise
522         * daklib/utils.py: likewise
523         * scripts/debian/insert_missing_changedby.py: likewise
524
525         * dak/process_new.py (recheck): Make the path check more robust,
526         so we no longer have to keep process_new seperate trees between
527         security and normal archive.
528
529 2008-04-27  Joerg Jaspert  <joerg@debian.org>
530
531         * dak/process_accepted.py (Urgency_Log.__init__): Warn if the
532         configured path does not exist or is not writeable by us. Use a
533         tmp path if so, so we do not lose the urgencies in such cases.
534
535         * config/debian/dak.conf: Changed path for UrgencyLog
536         Same for the ReleaseTransitions file
537
538         * config/debian/cron.daily: Notify qa user on merkel of dinstall
539         start, Remove the britney call
540
541 2008-04-26  Joerg Jaspert  <joerg@debian.org>
542
543         * dak/process_new.py: Call end() whenever we try to leave by
544         pressing Q
545
546         * config/debian/cron.daily: Also report NBS in experimental
547
548 2008-04-25  Joerg Jaspert  <joerg@debian.org>
549
550         * dak/cruft_report.py (main): Make it possible to look at
551         experimental too, especially NBS
552
553         * dak/split_done.py (main): Only move files into their subdirs if
554         they are older than 30 days. That enables us to run this script as
555         part of a cronjob.
556
557         * config/debian/cron.weekly: Run dak split-done
558
559 2008-04-23  Thomas Viehmann  <tviehmann@debian.org>
560
561         * dak/process_unchecked.py: add changes["sponsoremail"]
562           for sponsored uploads if desired
563         * daklib/queue.py: add changes["sponsoremail"] to
564           Subst["__MAINTAINER_TO__"] if present
565         * daklib/utils.py: add functions
566           is_email_alias to check which accounts allow email forwarding,
567           which_alias_file to find the alias file, and
568           gpg_get_key_addresses to find uid addresses for a given
569             fingerprint
570
571 2008-04-22  Joerg Jaspert  <joerg@debian.org>
572
573         * setup/init_pool.sql: added a function/aggregate for the release
574         team to base some script on it.
575
576         * config/debian/cron.daily: push katie@merkel to immediately start
577         the sync of projectb there.
578
579 2008-04-21  Joerg Jaspert  <joerg@debian.org>
580
581         * scripts/debian/expire_dumps: New script, expires old database
582         dumps, using a scheme to keep more of the recent dumps.
583
584         * config/debian/cron.daily: Use the new script. Also - compress
585         all files older than 7 days, instead of 30.
586
587         * dak/process_accepted.py (install): Do not break if a
588         source/maintainer combination is already in src_uploaders, "just"
589         warn us.
590
591 2008-04-20  Thomas Viehmann  <tviehmann@debian.org>
592
593         * daklib/utils.py (build_file_list): Deal with "Format 3 style"
594         Format lines (ie. those having extra text appended).
595
596 2008-04-19  Joerg Jaspert  <joerg@debian.org>
597
598         * dak/process_unchecked.py (check_files): Sanity check the
599         provides field, which closes #472783
600
601 2008-04-18  Joerg Jaspert  <joerg@debian.org>
602
603         * config/debian/dak.conf: Add mapping stable-proposed-updates
604           -> proposed-updates.
605
606         * dak/transitions.py (load_transitions): Additionally check for
607         invalid package list indentation
608
609 2008-04-17  Joerg Jaspert  <joerg@debian.org>
610
611         * config/debian/dak.conf: Add TempPath statement for the Release
612         Transitions script
613
614         * dak/transitions.py (temp_transitions_file): Use the TempPath
615         (write_transitions_from_file): Check if the file we should get our
616         transitions from is in our TempPath, error out if it isnt
617         (main): Check for TempPath existance
618
619 2008-04-12  James Troup  <troup@debian.org>
620
621         * dak/clean_proposed_updates.py: add support for -s/--suite and
622         -n/--no-action.
623
624 2008-04-11  Anthony Towns  <ajt@debian.org>
625
626         * dak/utils.py: build_file_list() extra parameters so it can
627         build a file list for checksums-foo fields. Don't use float() to
628         compare formats, because Format: 1.10 should compare greater than
629         Format: 1.9 (use "1.9".split(".",1) and tuple comparison instead)
630
631         * dak/process_unchecked.py: check_md5sum becomes check_hashes
632         and check_hash. If changes format is 1.8 or later, also check
633         checksums-sha1 and checksums-sha256 for both .changes and .dsc,
634         and reject on presence/absence of un/expected checksums-* fields.
635
636 2008-04-07  Joerg Jaspert  <joerg@debian.org>
637
638         * daklib/utils.py (build_file_list): Check for dpkg .changes
639         adjusted to reject newer (and right now broken) 1.8 version, until
640         dpkg (or debsign) is fixed and doesn't produce invalid .changes anymore
641
642 2008-03-22  Joerg Jaspert  <joerg@debian.org>
643
644         * dak/transitions.py (load_transitions): Check if all our keys are
645         defined, if there are only keys defined we want and also the types
646         of the various keys.
647
648 2008-03-22  Anthony Towns  <ajt@debian.org>
649
650         * dak/edit_transitions.py: Add --import option.
651         Add --use-sudo option. Use fcntl locking for writing.
652         Move writing into a function (write_transitions).
653         Reinvoke self using sudo and --import if necessary.
654         Move temporary file creation into a function, use mkstemp.
655         Rename to "dak transitions".
656
657 2008-03-21  Joerg Jaspert  <joerg@debian.org>
658
659         * dak/edit_transitions.py (edit_transitions): Use sudo to copy the
660         edited file back in place
661         (check_transitions): Use proper locking and also use sudo to copy
662         the new file in place
663
664 2008-03-21  Anthony Towns <ajt@debian.org>
665
666         * config/debian/extensions.py: Add infrastructure for replacing
667         functions in dak modules; add upload blocking for dpkg.
668
669 2008-03-12  Joerg Jaspert  <joerg@debian.org>
670
671         * dak/edit_transitions.py: Done a number of cleanups to make code
672         working. Also changed the way prompting/answering goes, to not
673         have to import daklib/queue.
674         (edit_transitions): When done with a successful edit - also print
675         a final overview about defined transitions
676
677 2008-03-11  Joerg Jaspert  <joerg@debian.org>
678
679         * dak/process_unchecked.py: Import syck module directly, not "from
680         syck import *"
681         (check_transition): Do the check for sourceful upload in here
682         Also adjust the syck loading commands, rename new_vers to
683         expected, curvers to current, to make it more clear what they mean.
684
685         * daklib/database.py (get_suite_version): Renamed from
686         get_testing_version. Also changed the cache variables name
687
688         * The above changes are based on modifications from Anthony.
689
690         * dak/dak.py (init): Renamed check -> edit transitions
691
692         * dak/edit_transitions.py: Renamed from check_transitions.py
693         (main): Also rename new_vers/curvers to expected/current
694         Basically a nice rewrite, so it now does checks and edit,
695         depending on how you call it. Check also removes old transitions,
696         if user wants it.
697
698 2008-03-02  Joerg Jaspert  <joerg@debian.org>
699
700         * debian/control (Suggests): Add python-syck to Depends:
701
702         * dak/dak.py (init): Tell it about check_transitions
703
704         * dak/check_transitions.py (usage): Added, checks the transitions
705         file (if any)
706
707         * daklib/database.py (get_testing_version): Added. Returns the
708         version for the source in testing, if any
709
710         * dak/process_unchecked.py (check_transition): Added. Checks if a
711         release team member defined a transition, and rejects based on
712         that data.
713         (process_it): Use it.
714         (check_transition): Warn on broken transitions file and return,
715         not doing anything.
716         (check_transition): Moved out of here, into daklib/queue
717         (process_it): Call check_transitions only if
718         changes[architecture] has source included.
719         (check_transition): Now call the database.get_testing_version
720
721 2008-02-09  Christoph Berg <myon@debian.org>
722
723         * daklib/queue.py (get_type): fubar does not exist in global
724         namespace.
725
726         * setup/add_constraints.sql setup/init_pool.sql: Add changedby column
727         to source table, and move src_uploaders after source so the REFERNCES
728         clause works.
729         * dak/process_accepted.py (install): Fill the changedby column from
730         the information found in the .changes. This will allow to identify
731         NMUs and sponsored uploads more precisely in tools querying projectb.
732         * scripts/debian/insert_missing_changedby.py: Script to import yet
733         missing fields from filippo's uploads-history DB.
734
735 2008-02-06  Joerg Jaspert  <joerg@debian.org>
736
737         * daklib/utils.py (check_signature): Make variable key available,
738         so we can access it.
739
740 2008-01-07  Joerg Jaspert  <joerg@debian.org>
741
742         * dak/examine_package.py (check_deb): Remove linda call. It
743         provides no added benefit to lintian anymore.
744
745 2008-01-07  Joerg Jaspert  <joerg@debian.org>
746
747         * dak/examine_package.py (check_deb): Remove linda call. It
748         provides no added benefit to lintian anymore.
749
750 2008-01-06  Joerg Jaspert  <joerg@debian.org>
751
752         * dak/examine_package.py (do_lintian): lintian now supports html
753         coloring, so use it.
754         (do_command): Dont escape html chars if param escaped = 1
755
756 2008-01-06  Joerg Jaspert  <joerg@debian.org>
757
758         * dak/examine_package.py (do_lintian): lintian now supports html
759         coloring, so use it.
760         (do_command): Dont escape html chars if param escaped = 1
761
762 2007-12-31  Anthony Towns  <ajt@debian.org>
763
764         * dak/process_new.py (recheck): pass "" for prefix_str to reject()
765         when processing result of check_dsc_against_db so we don't promote
766         warnings to rejections.
767
768 2007-12-31  Anthony Towns  <ajt@debian.org>
769
770         * dak/process_new.py (recheck): pass "" for prefix_str to reject()
771         when processing result of check_dsc_against_db so we don't promote
772         warnings to rejections.
773
774 2007-12-30  Joerg Jaspert  <joerg@debian.org>
775
776         * dak/dak.py (init): add show-new. This is based on a patch
777         submitted by Thomas Viehmann in Bug #408318, but large parts of
778         handling it are rewritten and show-new is done by me.
779
780         * dak/queue_report.py (table_row): Add link to generated html page
781         for NEW package.
782
783         * dak/show_new.py: new file, generates html overview for NEW
784         packages, similar to what we see with examine-package.
785
786         * config/debian/cron.hourly: Add show-new call
787
788         * config/debian/dak.conf: Add HTMLPath for Show-New
789
790         * dak/examine_package.py (print_copyright): ignore stderr when
791         finding copyright file.
792         (main): add html option
793         (html_escape): new function
794         (escape_if_needed): ditto
795         (headline): ditto
796         (colour_output): ditto
797         (print_escaped_text): ditto
798         (print_formatted_text): ditto
799         - use those functions everywhere where we generate output, as they
800         easily know if we want html or not and just DTRT
801         (do_lintian): new function
802         (check_deb): use it
803         (output_deb_info): Use print_escaped_text, not print_formatted_text.
804         Also import daklib.queue, determine_new now lives there
805
806         Also add a variable to see if we want html output. Default is
807         disabled, show_new enables it for its use.
808         Most of html, besides header/footer are in examine_package instead
809         of show_new, as it makes it a whole lot easier to deal with it at
810         the point the info is generated.
811
812
813         * dak/process_new.py (determine_new): Moved out of here.
814         (check_valid): Moved out of here.
815         (get_type): Moved out of here.
816
817         * daklib/queue.py (determine_new): Moved here.
818         (check_valid): Moved here.
819         (get_type): Moved here.
820
821         * dak/init_db.py (do_section): Remove non-US code
822
823         * dak/make_overrides.py (main): ditto
824
825         * dak/process_new.py (determine_new): ditto
826
827         * daklib/queue.py (Upload.in_override_p),
828         (Upload.check_override): ditto
829
830         * daklib/utils.py (extract_component_from_section):,
831         (poolify): ditto
832
833         * dak/import_archive.py (update_section): ditto
834
835         * dak/symlink_dists.py (fix_component_section): ditto
836
837         * scripts/debian/mkmaintainers: ditto
838
839         * scripts/debian/update-mirrorlists (masterlist): ditto
840
841         * config/debian-non-US/*: Remove subdir
842
843         * scripts/debian/update-readmenonus: Removed.
844
845
846 2007-12-30  Joerg Jaspert  <joerg@debian.org>
847
848         * dak/dak.py (init): add show-new. This is based on a patch
849         submitted by Thomas Viehmann in Bug #408318, but large parts of
850         handling it are rewritten and show-new is done by me.
851
852         * dak/queue_report.py (table_row): Add link to generated html page
853         for NEW package.
854
855         * dak/show_new.py: new file, generates html overview for NEW
856         packages, similar to what we see with examine-package.
857
858         * config/debian/cron.hourly: Add show-new call
859
860         * config/debian/dak.conf: Add HTMLPath for Show-New
861
862         * dak/examine_package.py (print_copyright): ignore stderr when
863         finding copyright file.
864         (main): add html option
865         (html_escape): new function
866         (escape_if_needed): ditto
867         (headline): ditto
868         (colour_output): ditto
869         (print_escaped_text): ditto
870         (print_formatted_text): ditto
871         - use those functions everywhere where we generate output, as they
872         easily know if we want html or not and just DTRT
873         (do_lintian): new function
874         (check_deb): use it
875         (output_deb_info): Use print_escaped_text, not print_formatted_text.
876         Also import daklib.queue, determine_new now lives there
877
878         Also add a variable to see if we want html output. Default is
879         disabled, show_new enables it for its use.
880         Most of html, besides header/footer are in examine_package instead
881         of show_new, as it makes it a whole lot easier to deal with it at
882         the point the info is generated.
883
884
885         * dak/process_new.py (determine_new): Moved out of here.
886         (check_valid): Moved out of here.
887         (get_type): Moved out of here.
888
889         * daklib/queue.py (determine_new): Moved here.
890         (check_valid): Moved here.
891         (get_type): Moved here.
892
893         * dak/init_db.py (do_section): Remove non-US code
894
895         * dak/make_overrides.py (main): ditto
896
897         * dak/process_new.py (determine_new): ditto
898
899         * daklib/queue.py (Upload.in_override_p),
900         (Upload.check_override): ditto
901
902         * daklib/utils.py (extract_component_from_section):,
903         (poolify): ditto
904
905         * dak/import_archive.py (update_section): ditto
906
907         * dak/symlink_dists.py (fix_component_section): ditto
908
909         * scripts/debian/mkmaintainers: ditto
910
911         * scripts/debian/update-mirrorlists (masterlist): ditto
912
913         * config/debian-non-US/*: Remove subdir
914
915         * scripts/debian/update-readmenonus: Removed.
916
917
918 2007-12-28  Anthony Towns  <ajt@debian.org>
919
920         * daklib/utils.py (check_signature): add NOTATION_DATA and
921         NOTATION_NAME to known keywords.
922
923         * daklib/queue.py (Upload.check_source_against_db):
924
925         * dak/make_suite_file_list.py: add -f/--force option.
926
927         * dak/generate_releases.py: add -a/--apt-conf=FILE and
928         -f/--force-touch options.  Pull version info from the database.
929         Make suite description optional.
930
931         * config/debian/dak.conf: update
932         Reject-Proposed-Updates::MoreInfoURL.  Comment out
933         Suite::Stable::Version and ::Description.
934
935         * config/debian/apt.conf: Add hurd-i386 to unstable
936         debian-installer stanza.
937
938 2007-12-28  Joerg Jaspert  <joerg@debian.org>
939
940         * KEYEXPIRED is actually a known keyword. We do check it earlier
941         on and reject in case the sig is bad (or unknown)
942
943 2007-12-28  Anthony Towns  <ajt@debian.org>
944
945         * daklib/utils.py (check_signature): add NOTATION_DATA and
946         NOTATION_NAME to known keywords.
947
948         * daklib/queue.py (Upload.check_source_against_db):
949
950         * dak/make_suite_file_list.py: add -f/--force option.
951
952         * dak/generate_releases.py: add -a/--apt-conf=FILE and
953         -f/--force-touch options.  Pull version info from the database.
954         Make suite description optional.
955
956         * config/debian/dak.conf: update
957         Reject-Proposed-Updates::MoreInfoURL.  Comment out
958         Suite::Stable::Version and ::Description.
959
960         * config/debian/apt.conf: Add hurd-i386 to unstable
961         debian-installer stanza.
962
963 2007-12-28  Joerg Jaspert  <joerg@debian.org>
964
965         * KEYEXPIRED is actually a known keyword. We do check it earlier
966         on and reject in case the sig is bad (or unknown)
967
968 2007-12-24  Joerg Jaspert  <joerg@debian.org>
969
970         * Also run lintian on the .dsc file to check the source itself.
971
972         * Fix the direct usage of ar | tar etc to get the copyright file
973         and use dpkg-deb, which is made for this and makes us able to
974         process data.tar.bz2 (or whatever format it will be in the
975         future).
976
977 2007-12-24  Joerg Jaspert  <joerg@debian.org>
978
979         * Also run lintian on the .dsc file to check the source itself.
980
981         * Fix the direct usage of ar | tar etc to get the copyright file
982         and use dpkg-deb, which is made for this and makes us able to
983         process data.tar.bz2 (or whatever format it will be in the
984         future).
985
986 2007-12-21  Joerg Jaspert  <joerg@debian.org>
987
988         * Remove the (now useless) check for a pre-depends on dpkg for
989           binaries that contain bzip2 compressed data tarballs.
990
991 2007-12-21  Joerg Jaspert  <joerg@debian.org>
992
993         * Remove the (now useless) check for a pre-depends on dpkg for
994           binaries that contain bzip2 compressed data tarballs.
995
996 2007-08-28  Anthony Towns  <ajt@debian.org>
997
998         * process_unchecked.py: Add support for automatic BYHAND
999         processing.
1000         * config/debian/dak.conf, scripts/debian/byhand-tag: Automatic
1001         processing of tag-overrides.
1002         * examine_package.py: Summarise duplicate copyright file entries
1003         (same md5sum) with a reference to the previous instance, rather
1004         than repeating them.
1005         * process_new.py: When rejecting from the p-u-new or o-p-u-new
1006         holding queues, don't worry if dak has its own reasons for
1007         rejecting the package as well as the SRMs.
1008
1009 2007-08-28  Anthony Towns  <ajt@debian.org>
1010
1011         * process_unchecked.py: Add support for automatic BYHAND
1012         processing.
1013         * config/debian/dak.conf, scripts/debian/byhand-tag: Automatic
1014         processing of tag-overrides.
1015         * examine_package.py: Summarise duplicate copyright file entries
1016         (same md5sum) with a reference to the previous instance, rather
1017         than repeating them.
1018         * process_new.py: When rejecting from the p-u-new or o-p-u-new
1019         holding queues, don't worry if dak has its own reasons for
1020         rejecting the package as well as the SRMs.
1021
1022 2007-06-19  Anthony Towns  <ajt@debian.org>
1023
1024         * Add nm.debian.org pseudopackage
1025
1026 2007-06-19  Anthony Towns  <ajt@debian.org>
1027
1028         * Add nm.debian.org pseudopackage
1029
1030 2007-06-18  Anthony Towns  <ajt@debian.org>
1031
1032         * daklib/logging.py: Set umask to not exclude group-writability
1033         so we don't get reminded at the start of each month. Thanks to
1034         Random J.
1035         * dak/override.py: More changes from Herr von Wifflepuck: warn
1036         if section of source is different to binary section; restore
1037         functionality on source-only overrides; croak if trying to set
1038         priority of a source override; never set priority of source
1039         overrides; correct typo in logging (s/priority/section/ at
1040         one place)
1041
1042         * config/debian/apt.conf.oldstable: Added for oldstable point releases.
1043         * config/debian/cron.daily: auotmatically accept/reject
1044         oldstable-proposed-updates based on COMMENTS directory
1045
1046 2007-06-18  Anthony Towns  <ajt@debian.org>
1047
1048         * config/debian/apt.conf, config/debian/apt.conf.stable,
1049         config/debian/dak.conf: update for 4.0r0 (etch), and 3.1r6
1050         (sarge), support for oldstable-proposed-updates, dropping m68k
1051         from etch, creating etch-m68k suite, creating lenny.
1052
1053         * config/debian/vars: update for lenny
1054
1055         * config/debian/dak.conf: typo fix for Dinstall::GPGKeyring,
1056         drop upload limitations, add release postgres user
1057
1058         * dak/process_new.py: support for automatically accepting and rejecting
1059         packages from proposed-updates holding queues via COMMENTS directory
1060         * cron.daily: automatically process COMMENTS-based approvals
1061         and rejections for proposed-updates holding queues
1062
1063         * dak/process_unchecked.py: add support for oldproposedupdates
1064         holding queue
1065
1066         * dak/control_suite.py: allow control-suite to work with etch-m68k
1067
1068         * dak/generate_releases.py: unlink old Release files before updating
1069         them if nlinks > 1 (ie, if two files used to be the same, maybe they
1070         shouldn't be when generate-releases is run)
1071
1072         * dak/generate_releases.py: add a couple of commented lines to make
1073         it easier to deal with point releases
1074
1075         * dak/make_overrides.py: generate overrides for !contrib udebs
1076
1077         * docs/README.stable-point-release: update docs for doing a
1078         point release
1079
1080 2007-06-18  Anthony Towns  <ajt@debian.org>
1081
1082         * daklib/logging.py: Set umask to not exclude group-writability
1083         so we don't get reminded at the start of each month. Thanks to
1084         Random J.
1085         * dak/override.py: More changes from Herr von Wifflepuck: warn
1086         if section of source is different to binary section; restore
1087         functionality on source-only overrides; croak if trying to set
1088         priority of a source override; never set priority of source
1089         overrides; correct typo in logging (s/priority/section/ at
1090         one place)
1091
1092         * config/debian/apt.conf.oldstable: Added for oldstable point releases.
1093         * config/debian/cron.daily: auotmatically accept/reject
1094         oldstable-proposed-updates based on COMMENTS directory
1095
1096 2007-06-18  Anthony Towns  <ajt@debian.org>
1097
1098         * config/debian/apt.conf, config/debian/apt.conf.stable,
1099         config/debian/dak.conf: update for 4.0r0 (etch), and 3.1r6
1100         (sarge), support for oldstable-proposed-updates, dropping m68k
1101         from etch, creating etch-m68k suite, creating lenny.
1102
1103         * config/debian/vars: update for lenny
1104
1105         * config/debian/dak.conf: typo fix for Dinstall::GPGKeyring,
1106         drop upload limitations, add release postgres user
1107
1108         * dak/process_new.py: support for automatically accepting and rejecting
1109         packages from proposed-updates holding queues via COMMENTS directory
1110         * cron.daily: automatically process COMMENTS-based approvals
1111         and rejections for proposed-updates holding queues
1112
1113         * dak/process_unchecked.py: add support for oldproposedupdates
1114         holding queue
1115
1116         * dak/control_suite.py: allow control-suite to work with etch-m68k
1117
1118         * dak/generate_releases.py: unlink old Release files before updating
1119         them if nlinks > 1 (ie, if two files used to be the same, maybe they
1120         shouldn't be when generate-releases is run)
1121
1122         * dak/generate_releases.py: add a couple of commented lines to make
1123         it easier to deal with point releases
1124
1125         * dak/make_overrides.py: generate overrides for !contrib udebs
1126
1127         * docs/README.stable-point-release: update docs for doing a
1128         point release
1129
1130 2007-03-05  Anthony Towns  <ajt@debian.org>
1131
1132         * config/debian/dak.conf: update for 3.1r5.
1133         * scripts/debian/ssh-move: add ssh-move script from debbugs
1134         * config/debian/cron.unchecked: push version info to debbugs using
1135         ssh-move.
1136
1137 2007-03-05  Anthony Towns  <ajt@debian.org>
1138
1139         * config/debian/dak.conf: update for 3.1r5.
1140         * scripts/debian/ssh-move: add ssh-move script from debbugs
1141         * config/debian/cron.unchecked: push version info to debbugs using
1142         ssh-move.
1143
1144 2007-02-14  James Troup  <troup@ries.debian.org>
1145
1146         * docs/README.config: remove Dinstall::GroupOverrideFilename.
1147         * config/debian/dak.conf: likewise.
1148         * config/debian-non-US/dak.conf: likewise.
1149         * config/debian-security/dak.conf: likewise.
1150
1151         * daklib/queue.py (Upload.close_bugs): no longer handle NMUs or
1152         experimental differently, just close the bugs and let version
1153         tracking sort it out.
1154          (nmu_p): remove entire class - now unused.
1155          (Upload.__init__): don't use nmu_p.
1156
1157 2007-02-14  James Troup  <troup@ries.debian.org>
1158
1159         * docs/README.config: remove Dinstall::GroupOverrideFilename.
1160         * config/debian/dak.conf: likewise.
1161         * config/debian-non-US/dak.conf: likewise.
1162         * config/debian-security/dak.conf: likewise.
1163
1164         * daklib/queue.py (Upload.close_bugs): no longer handle NMUs or
1165         experimental differently, just close the bugs and let version
1166         tracking sort it out.
1167          (nmu_p): remove entire class - now unused.
1168          (Upload.__init__): don't use nmu_p.
1169
1170 2007-02-08  Anthony Towns  <ajt@debian.org>
1171
1172         * config/debian/dak.conf: update for 3.1r4.  Use new 'etch'
1173         signing key.  Drop maximum index diffs down to 14.
1174
1175         * config/debian/apt.conf: add udeb support for non-free (testing,
1176         unstable) and experimental.
1177         * config/debian/dak.conf: likewise.
1178
1179         * dak/generate_releases.py (main): handle udebs in any component.
1180
1181         * daklib/queue.py (Upload.build_summaries): handle files without a
1182         'type' gracefully.
1183
1184         * dak/generate_releases.py (print_sha256_files): new function.
1185         (main): use it.
1186
1187         * dak/process_accepted.py (stable_install): fix name of template
1188         mail.
1189
1190         * dak/process_unchecked.py (is_stableupdate): fix invocation of
1191         database.get_suite_id().
1192
1193         * templates/process-new.bxa_notification: Update on request
1194         of/after discussion with BIS staff.
1195
1196         * scripts/debian/mkfilesindices: also handle proposed-updates.
1197
1198 2007-02-08  Ryan Murray  <rmurray@debian.org>
1199
1200         * config/debian/cron.monthly: use $ftpgroup instead of hardcoding
1201         group name for chgrp of mail archives.
1202
1203         * daklib/queue.py (Upload.check_dsc_against_db): handle multiple
1204         orig.tar.gz's by picking the first one by file id.
1205
1206         * dak/override.py (main): limit to binary overrides only for now.
1207         (usage): update to match.
1208
1209         * config/debian/cron.daily: track when we have the accepted lock
1210         and clean it up on exit if we have it.  Take/check the
1211         cron.unchecked lock just before traping to cleanup on exit.
1212         Remove potato override handling.  Remove any dangling symlinks in
1213         /srv/incoming.d.o/buildd.  Clean up apt-ftparchive's databases.
1214
1215         * config/debian/apt.conf: change default compression scheme for
1216         both Sources and Packages to gzip and bzip2 rather than
1217         uncompressed and gzip (Packages) and gzip (Sources).  Use old
1218         defaults for proposed-updates.
1219
1220         * dak/control_overrides.py (main): refuse to operate on
1221         untouchable suites.
1222
1223         * config/debian/pseudo-packages.maintainers: drop install,
1224         installation, boot-floppy, slink-cd, potato-cd and
1225         nonus.debian.org.  Update base.
1226         * config/debian/pseudo-packages.description: likewise.
1227
1228         * daklib/utils.py (re_srchasver): new regex.
1229         (parse_changes): use regex to split 'Source (Version)' style
1230         Source fields into 'source' and 'source-version'.
1231
1232         * config/debian/cron.daily: use $base instead of hardcoding path
1233         name.
1234
1235         * scripts/debian/mkfilesindices: source 'vars' file and use it's
1236         variables instead of hardcoding path names.
1237
1238         * config/debian/apt.conf: switch from /org to /srv.
1239         * config/debian/apt.conf.buildd: likewise.
1240         * config/debian/apt.conf.stable: likewise.
1241         * config/debian/cron.daily: likewise.
1242         * config/debian/cron.hourly: likewise.
1243         * config/debian/cron.monthly: likewise.
1244         * config/debian/cron.unchecked: likewise.
1245         * config/debian/cron.weekly: likewise.
1246         * config/debian/dak.conf: likewise.
1247         * config/debian/vars: likewise.
1248         * scripts/debian/mkfilesindices: likewise.
1249
1250 2007-02-08  James Troup  <james@nocrew.org>
1251
1252         * dak/process_unchecked.py (check_signed_by_key): new function to
1253         ensure .changes files are signed by an authorized uploader.
1254         (process_it): use it.
1255
1256         * config/debian/dak.conf (Binary-Upload-Restrictions): new stanza
1257         to configure per suite/component/architecture binary upload
1258         restrictions.
1259
1260 2007-02-08  Anthony Towns  <ajt@debian.org>
1261
1262         * config/debian/dak.conf: update for 3.1r4.  Use new 'etch'
1263         signing key.  Drop maximum index diffs down to 14.
1264
1265         * config/debian/apt.conf: add udeb support for non-free (testing,
1266         unstable) and experimental.
1267         * config/debian/dak.conf: likewise.
1268
1269         * dak/generate_releases.py (main): handle udebs in any component.
1270
1271         * daklib/queue.py (Upload.build_summaries): handle files without a
1272         'type' gracefully.
1273
1274         * dak/generate_releases.py (print_sha256_files): new function.
1275         (main): use it.
1276
1277         * dak/process_accepted.py (stable_install): fix name of template
1278         mail.
1279
1280         * dak/process_unchecked.py (is_stableupdate): fix invocation of
1281         database.get_suite_id().
1282
1283         * templates/process-new.bxa_notification: Update on request
1284         of/after discussion with BIS staff.
1285
1286         * scripts/debian/mkfilesindices: also handle proposed-updates.
1287
1288 2007-02-08  Ryan Murray  <rmurray@debian.org>
1289
1290         * config/debian/cron.monthly: use $ftpgroup instead of hardcoding
1291         group name for chgrp of mail archives.
1292
1293         * daklib/queue.py (Upload.check_dsc_against_db): handle multiple
1294         orig.tar.gz's by picking the first one by file id.
1295
1296         * dak/override.py (main): limit to binary overrides only for now.
1297         (usage): update to match.
1298
1299         * config/debian/cron.daily: track when we have the accepted lock
1300         and clean it up on exit if we have it.  Take/check the
1301         cron.unchecked lock just before traping to cleanup on exit.
1302         Remove potato override handling.  Remove any dangling symlinks in
1303         /srv/incoming.d.o/buildd.  Clean up apt-ftparchive's databases.
1304
1305         * config/debian/apt.conf: change default compression scheme for
1306         both Sources and Packages to gzip and bzip2 rather than
1307         uncompressed and gzip (Packages) and gzip (Sources).  Use old
1308         defaults for proposed-updates.
1309
1310         * dak/control_overrides.py (main): refuse to operate on
1311         untouchable suites.
1312
1313         * config/debian/pseudo-packages.maintainers: drop install,
1314         installation, boot-floppy, slink-cd, potato-cd and
1315         nonus.debian.org.  Update base.
1316         * config/debian/pseudo-packages.description: likewise.
1317
1318         * daklib/utils.py (re_srchasver): new regex.
1319         (parse_changes): use regex to split 'Source (Version)' style
1320         Source fields into 'source' and 'source-version'.
1321
1322         * config/debian/cron.daily: use $base instead of hardcoding path
1323         name.
1324
1325         * scripts/debian/mkfilesindices: source 'vars' file and use it's
1326         variables instead of hardcoding path names.
1327
1328         * config/debian/apt.conf: switch from /org to /srv.
1329         * config/debian/apt.conf.buildd: likewise.
1330         * config/debian/apt.conf.stable: likewise.
1331         * config/debian/cron.daily: likewise.
1332         * config/debian/cron.hourly: likewise.
1333         * config/debian/cron.monthly: likewise.
1334         * config/debian/cron.unchecked: likewise.
1335         * config/debian/cron.weekly: likewise.
1336         * config/debian/dak.conf: likewise.
1337         * config/debian/vars: likewise.
1338         * scripts/debian/mkfilesindices: likewise.
1339
1340 2007-02-08  James Troup  <james@nocrew.org>
1341
1342         * dak/process_unchecked.py (check_signed_by_key): new function to
1343         ensure .changes files are signed by an authorized uploader.
1344         (process_it): use it.
1345
1346         * config/debian/dak.conf (Binary-Upload-Restrictions): new stanza
1347         to configure per suite/component/architecture binary upload
1348         restrictions.
1349
1350 2006-10-09  James Troup  <james.troup@canonical.com>
1351
1352         * dak/process_unchecked.py (check_timestamps): change match to
1353         search as recent versions of python-apt prefix the string with 'E: '.
1354
1355 2006-10-09  James Troup  <james.troup@canonical.com>
1356
1357         * dak/process_unchecked.py (check_timestamps): change match to
1358         search as recent versions of python-apt prefix the string with 'E: '.
1359
1360 2006-06-26  Ryan Murray  <rmurray@debian.org>
1361
1362         * dak/process_unchecked.py (check_files): strip optional source version
1363         from Source: field in changes file, and ensure what is left is a valid
1364         package name.
1365
1366 2006-06-26  Ryan Murray  <rmurray@debian.org>
1367
1368         * dak/process_unchecked.py (check_files): strip optional source version
1369         from Source: field in changes file, and ensure what is left is a valid
1370         package name.
1371
1372 2006-06-23  Ryan Murray  <rmurray@debian.org>
1373
1374         * dak/process_unchecked.py (check_files): also check ProposedUpdates
1375         queue for source.
1376
1377 2006-06-23  Ryan Murray  <rmurray@debian.org>
1378
1379         * dak/process_unchecked.py (check_files): also check ProposedUpdates
1380         queue for source.
1381
1382 2006-06-18  Ryan Murray  <rmurray@debian.org>
1383
1384         * dak/scripts/debian/update-ftpstats: look for dak named processes in
1385         the log, too.
1386
1387         * dak/process_unchecked.py (check_files): only check embargoed and
1388         unembargoed queues if the keys are set.
1389
1390         * dak/config/debian-security/apt.conf: set Packages::Compress to gzip
1391         and bzip2 for etch.
1392
1393 2006-06-18  Ryan Murray  <rmurray@debian.org>
1394
1395         * dak/scripts/debian/update-ftpstats: look for dak named processes in
1396         the log, too.
1397
1398         * dak/process_unchecked.py (check_files): only check embargoed and
1399         unembargoed queues if the keys are set.
1400
1401         * dak/config/debian-security/apt.conf: set Packages::Compress to gzip
1402         and bzip2 for etch.
1403
1404 2006-06-16  James Troup  <james@nocrew.org>
1405
1406         * dak/dak.py (init): add new-security-install.
1407
1408         * dak/new_security_install.py: cleanups and adapt for new naming
1409         scheme and other changes.
1410
1411 2006-06-16  Anthony Towns  <ajt@debian.org>
1412
1413         * dak/new_security_install.py: initial version imported from
1414         klecker.
1415
1416 2006-06-16  James Troup  <james@nocrew.org>
1417
1418         [Merged changes from klecker - original author unknown.]
1419
1420         * daklib/queue.py (Upload.dump_vars): also save changes["adv id"].
1421
1422         * dak/security_install.py (do_upload): fix check for oldstable and
1423         upload file list handling.
1424
1425         * dak/process_unchecked.py (check_files): update "check for
1426         source" code to also look in Embargoed and Unembargoed queues.
1427         (is_unembargo): fix handling of Dir::Queue::Disembargo.
1428
1429         * dak/decode_dot_dak.py (main): add support for changes["adv id"].
1430
1431         * config/debian-security/vars (disembargo): add.
1432
1433         * config/debian-security/dak.conf (Dinstall::SigningKeyIds):
1434         update.
1435         (Process-Unchecked::AcceptedLockFile): add.
1436         (Suite::Testing): clean up Version and Description.
1437         (SuiteMappings): add silent map from etch-secure to testing.
1438
1439         * config/debian-security/cron.unchecked: add support for
1440         disembargoed queues.
1441
1442         * config/debian-security/apt.conf.buildd: add bzip2ed Packages
1443         files too.
1444
1445         * config/debian-security/apt.conf: add amd64 to architectures for
1446         testing-security.
1447
1448 2006-06-11  James Troup  <troup@spohr.debian.org>
1449
1450         * config/debian/cron.daily: invoke process-accepted not
1451         process-unchecked.
1452
1453         * config/debian/vars (scriptsdir): new variable.
1454         * config/debian/cron.daily: use it.
1455
1456         * scripts/debian/mkmaintainers: put Maintainers_Versions-non-US in
1457         $base/misc/ instead of versioned $masterdir.  Correct 'dak
1458         make-maintainers' invocation to look in $configdir for
1459         pseudo-packages.maintainers.
1460
1461         * daklib/queue.py (Upload.do_reject): use correct name for
1462         rejection template.
1463
1464 2006-06-11  James Troup  <james@nocrew.org>
1465
1466         * dak/override.py (main): temporarily add content of old X-Katie
1467         header back as the PTS apparently filters on it.
1468         * dak/process_accepted.py (main): likewise.
1469         * dak/process_new.py (main): likewise.
1470         * dak/process_unchecked.py (main): likewise.
1471         * dak/reject_proposed_updates.py (main): likewise.
1472         * dak/rm.py (main): likewise.
1473         * daklib/queue.py (Upload.do_reject): likewise.
1474
1475         * config/debian/cron.unchecked: set -u to error out on undefined
1476         variables.  Preset LOCKDAILY to "" accordingly.
1477         * config/debian/cron.hourly: likewise.
1478         * config/debian/cron.monthly: likewise.
1479         * config/debian/cron.weekly: likewise.
1480
1481         * config/debian/vars (configdir): add new variable pointing to
1482         this directory.
1483
1484         * config/debian/cron.daily: use $configdir inplace of $masterdir
1485         when that's what we mean, and don't cd into $masterdir just to run
1486         dak scripts as we don't need to do that anymore.
1487         * config/debian/cron.hourly: likewise.
1488         * config/debian/cron.unchecked: likewise.
1489         * config/debian/cron.weekly: likewise.
1490
1491         * config/debian/dak.conf
1492         (Import-Users-From-Passwd::KnownPostgres): temporarily add 'katie'
1493         user back to list of known users as it's non-trivial to entirely
1494         change the owner of a database with postgresql 7.4.
1495
1496         * daklib/queue.py (Upload.source_exists): use string object
1497         methods rather than string module.
1498         (Upload.get_anyversion): likewise.
1499
1500         * daklib/utils.py (validate_changes_file_arg): update filename
1501         slicing to cope with new .dak filenames.
1502
1503         * dak/ls.py (main): add back 'heidi' as a valid argument for
1504         -f/--format as people are using it in scripts and breaking that
1505         without warning seems rude.
1506
1507 2006-05-21  James Troup  <james@nocrew.org>
1508
1509         * dak/rm.py (main): use string .isdigit() rather than
1510         utils.str_isnum().
1511         * dak/process_new.py (edit_overrides): likewise.
1512
1513         * daklib/utils.py (str_isnum): removed accordingly.  Also drop
1514         string import.
1515
1516 2006-05-21  James Troup  <james@nocrew.org>
1517
1518         * dak/check_archive.py (check_indices_files_exist): use list
1519         comprehension instead of map().  No longer need to import
1520         deprecated string module as a side-effect.
1521         * dak/check_overrides.py (process): likewise.
1522         (main): likewise.
1523         * dak/cruft_report.py (do_obsolete_source): likewise.
1524         (main): likewise.
1525         * dak/ls.py (main): likewise.
1526         * dak/make_suite_file_list.py (write_filelists): likewise.
1527         * dak/process_accepted.py (stable_install): likewise.
1528         * dak/rm.py (main): likewise.
1529         * dak/stats.py (number_of_packages): likewise.
1530         * daklib/logging.py (Logger.log): likewise.
1531         * daklib/queue.py (Upload.source_exists): likewise.
1532         (Upload.cross_suite_version_check): likewise.
1533         * daklib/utils.py (parse_args): likewise.
1534
1535 2006-05-21  James Troup  <james@nocrew.org>
1536
1537         * daklib/utils.py (process_gpgv_output): new function, split out
1538         of check_signature().
1539         (check_signature): adapt accordingly.
1540         (retrieve_key): new function that will try to retrieve the key
1541         that signed a given file from a keyserver.
1542         (check_signature): add 'autofetch' argument that if not set
1543         defaults to the value of Dinstall::KeyAutoFetch (if that exists).
1544         If 'autofetch' is true, invoke retrieve_key().
1545
1546         * docs/README.config: document Dinstall::KeyAutoFetch and
1547         Dinstall:KeyServer.
1548
1549 2006-05-20  James Troup  <james@nocrew.org>
1550
1551         * dak/find_null_maintainers.py (main):
1552         s/createtimestamp/createTimestamp/ to make things work with modern
1553         slapd.
1554
1555         * config/debian/dak.conf: Update StableRejector, MoreInfoURL,
1556         Stable::Version and Stable::Description for 3.1r2.
1557
1558         * config/debian-non-US/dak.conf: sync with klecker - update
1559         version number of 3.0 and MoreInfoURL.
1560
1561         * docs/README.stable-point-release: Add notes about updating
1562         dak.conf and Reject-Proposed-Updates section in particular.
1563         s/woody/stable/.  Also need to update README.html.
1564
1565         * scripts/debian/mklslar: drop support for uncompressed ls-lR file.
1566
1567         * config/debian/apt.conf: Add udeb tree for proposed-updates.
1568
1569 2006-05-20  Ryan Murray  <rmurray@debian.org>
1570
1571         * scripts/debian/update-ftpstats: new script to update daily
1572         architecture size graph data.
1573
1574         * config/debian/cron.buildd: sync with spohr - due to ftp-master /
1575         buildd split, simply ssh to buildd.d.o and call 'trigger.often'
1576         there.
1577
1578         * config/debian/cron.daily: ssh to buildd and run 'trigger.daily'
1579         before we finish.  Don't push to merkel.
1580
1581         * dak/process_unchecked.py (check_changes): Also look in
1582         ProposedUpdates queue dir.
1583         (check_files): likewise.
1584
1585 2006-05-20  Anthony Towns  <ajt@debian.org>
1586
1587         * scripts/debian/mkfilesindices: new script to generate file
1588         indices used for partial mirroring.
1589
1590         * config/debian/cron.daily: add progress timestamps.
1591
1592         * config/debian/dak.conf: update Dinstall::SigningKeyIds. Add
1593         amd64 to testing, unstable and experimental.  Drop sh from
1594         experimental.  Move Experimental to dists/experimental.  Add
1595         Dir::ProposedUpdates.  Add Architectures::amd64.
1596
1597         * config/debian/apt.conf: add amd64 to testing, unstable and
1598         experimental.  Drop uncompressed Packages files from testing. Drop
1599         sh from experimental.  Move experimental to dists/experimental/.
1600
1601         * config/debian/vars (archs): add amd64.
1602
1603         * dak/process_unchecked.py (action): Add support for
1604         proposed-updates approval queue.
1605         (is_stableupdate): new function - checks if the upload is targeted
1606         at proposed-updates.
1607         (do_stableupdate): likewise - moves upload to proposed-updates
1608         holding area.
1609
1610         * dak/process_new.py (do_new): warn if original or new target
1611         suite are invalid.
1612
1613         * dak/generate_releases.py (print_md5sha_files): less whitespace
1614         between the hash and size.
1615
1616         * dak/generate_index_diffs.py (genchanges): don't say we're not
1617         doing anything.  Better formatting of other messages.
1618         (main): don't skip experimental and remove some 'doing stuff'
1619         prints.
1620
1621 2006-05-18  James Troup  <james@nocrew.org>
1622
1623         * dak/clean_suites.py (clean_binaries): remove debug print of SQL
1624         query.
1625
1626         * dak/init_dirs.py: pylint cleanups - long lines, unused globals,
1627         docstrings, untabify, don't shadow builtins, lowercase non-global
1628         variable names, spaces after commas.  Also bail if given any
1629         arguments since we don't accept any.
1630         * dak/init_db.py: likewise.  Also split large main() into
1631         subfunctions and rename get() to sql_get().
1632
1633         * dak/init_db.py (main): check returned value from
1634         database.get_archive_id().
1635
1636         * dak/dak.py: renamed from shell.py.  Update to support new source
1637         layout.  Created init() and usage() functions.  Various
1638         pylint-inspired cleanups.  Use daklib utils.warn() and
1639         utils.fubar().  Change 'functionality' variable to only have
1640         (command, description) and always invoke main() when running the
1641         module.  Also support -h.
1642
1643 2006-05-17  James Troup  <james@nocrew.org>
1644
1645         * dak/check_archive.py: remove $Id$ and $Revision$ strings.  Update
1646         imports of and calls to daklib modules.  Change script name
1647         everywhere, i.e. in output, mails, comments and configuration tree
1648         + filenames.  Also update references to other renamed scripts,
1649         classes and templates.  Use '.dak' instead of '.katie' for the
1650         queue info storage files.
1651         (Renamed from tea)
1652         * dak/check_overrides.py: likewise.  (Renamed from cindy)
1653         * dak/check_proposed_updates.py: likewise.  (Renamed from jeri)
1654         * dak/clean_proposed_updates.py: likewise.  (Renamed from halle)
1655         * dak/clean_queues.py: likewise.  (Renamed from shania)
1656         * dak/clean_suites.py: likewise.  (Renamed from rhona)
1657         * dak/compare_suites.py: likewise.  (Renamed from andrea)
1658         * dak/control_overrides.py: likewise.  (Renamed from natalie)
1659         * dak/control_suite.py: likewise.  (Renamed from heidi)
1660         * dak/cruft_report.py: likewise.  (Renamed from rene)
1661         * dak/decode_dot_dak.py: likewise.  (Renamed from ashley)
1662         * dak/find_null_maintainers.py: likewise.  (Renamed from rosamund)
1663         * dak/generate_index_diffs.py: likewise.  (Renamed from tiffani)
1664         * dak/generate_releases.py: likewise.  (Renamed from ziyi)
1665         * dak/import_archive.py: likewise.  (Renamed from neve)
1666         * dak/import_ldap_fingerprints.py: likewise. (Renamed from emilie)
1667         * dak/import_users_from_passwd.py: likewise. (Renamed from julia)
1668         * dak/init_db.py: likewise. (Renamed from alyson)
1669         * dak/init_dirs.py: likewise. (Renamed from rose)
1670         * dak/ls.py: likewise. (Renamed from madison)
1671         * dak/make_maintainers.py: likewise.  (Renamed from charisma)
1672         * dak/make_overrides.py: likewise.  (Renamed from denise)
1673         * dak/make_suite_file_list.py: likewise.  (Renamed from jenna)
1674         * dak/mirror_split.py: likewise.  (Renamed from billie)
1675         * dak/override.py: likewise.  (Renamed from alicia)
1676         * dak/poolize.py: likewise.  (Renamed from catherine)
1677         * dak/process_accepted.py: likewise.  (Renamed from kelly)
1678         * dak/process_new.py: likewise.  (Renamed from lisa)
1679         * dak/process_unchecked.py: likewise.  (Renamed from jennifer)
1680         * dak/queue_report.py: likewise.  (Renamed from helena)
1681         * dak/reject_proposed_updates.py: likewise.  (Renamed from lauren)
1682         * dak/rm.py: likewise.  (Renamed from melanie)
1683         * dak/security_install.py: likewise.  (Renamed from amber)
1684         * dak/split_done.py: likewise.  (Renamed from nina)
1685         * dak/stats.py: likewise.  (Renamed from saffron)
1686         * dak/symlink_dists.py: likewise.  (Renamed from saffron)
1687         * daklib/database.py: likewise.  (Renamed from db_access)
1688         * daklib/queue.py: likewise.  'Katie' class -> 'Upload'. (Renamed from katie)
1689         * daklib/utils.py: likewise.
1690
1691         * dak/cruft_report.py: Use '[auto-cruft]' as the magic "this removal
1692         doesn't need to notify anyone" string.
1693         * dak/rm.py: likewise, look for '[auto-cruft]' as the magic string.
1694
1695         * dak/process_accepted.py (init): drop -V/--version argument.
1696         * dak/process_new.py (init): likewise.
1697         * dak/process_unchecked.py (init): likewise.
1698         * dak/reject_proposed_updates.py (init): likewise
1699
1700         * dak/shell.py: Renamed from dak.  ".katie" -> ".dak"
1701
1702         * dak/stats.py: in usage() output change STAT to MODE.
1703
1704 2006-05-15  James Troup  <james@nocrew.org>
1705
1706         * dak/queue_report.py: remove unused encodings imports.
1707
1708         * dak/mirror_split.py: drop unused pg, pwd, db_access and logging
1709         imports.  Initalize 'Cnf' as a global.
1710         (BillieDB._internal_recurse): fix 'util.' typo.
1711
1712         * dak/import_ldap_fingerprints.py (main): drop unused time import and
1713         commented out time check for LDAP search.
1714
1715 2005-12-16  Ryan Murray  <rmurray@debian.org>
1716
1717         * halle: add support for udebs
1718         * kelly: stable_install: add support for binNMU versions
1719
1720 2005-12-05  Anthony Towns  <aj@erisian.com.au>
1721
1722         * katie.py: Move accept() autobuilding support into separate function 
1723         (queue_build), and generalise to build different queues
1724
1725         * db_access.py: Add get_or_set_queue_id instead of hardcoding accepted=0
1726
1727         * jennifer: Initial support for enabling embargo handling with the
1728         Dinstall::SecurityQueueHandling option.
1729         * jennifer: Shift common code into remove_from_unchecked and move_to_dir
1730         functions.
1731
1732         * katie.conf-security: Include embargo options
1733         * katie.conf-security: Add Lock dir
1734         * init_pool.sql-security: Create disembargo table
1735         * init_pool.sql-security: Add constraints for disembargo table
1736
1737 2005-11-26  Anthony Towns  <aj@erisian.com.au>
1738
1739         * Merge of changes from klecker, by various people
1740
1741         * amber: special casing for not passing on amd64 and oldstable updates
1742         * amber: security mirror triggering
1743         * templates/amber.advisory: updated advisory structure
1744         * apt.conf.buildd-security: update for sarge's release
1745         * apt.conf-security: update for sarge's release
1746         * cron.buildd-security: generalise suite support, update for sarge's release
1747         * cron.daily-security: update for sarge's release, add udeb support
1748         * vars-security: update for sarge's release
1749         * katie.conf-security: update for sarge's release, add amd64 support,
1750         update signing key
1751
1752         * docs/README.names, docs/README.quotes: include the additions
1753
1754 2005-11-25  Anthony Towns  <aj@erisian.com.au>
1755
1756         * Changed accepted_autobuild to queue_build everywhere.
1757         * Add a queue table.
1758         * Add a "queue" field in the queue_build table (currently always 0)
1759
1760         * jennifer: Restructure to make it easier to support special
1761         purpose queues between unchecked and accepted.
1762
1763 2005-11-25  Anthony Towns  <aj@erisian.com.au>
1764
1765         * Finishing merge of changes from spohr, by various people still
1766
1767         * jennifer: If changed-by parsing fails, set variables to "" so REJECT
1768         works
1769         * jennifer: Re-enable .deb ar format checking
1770         * katie.py: Convert to +bX binNMU special casing
1771         * rhona: Add some debug output when deleting binaries
1772         * cron.daily: Add emilie
1773         * cron.unchecked: Add lock files
1774
1775 2005-11-15  Anthony Towns  <aj@erisian.com.au>
1776
1777         * Merge of changes from spohr, by various people.
1778
1779         * tiffani: new script to do patches to Packages, Sources and Contents
1780         files for quicker downloads.
1781         * ziyi: update to authenticate tiffani generated files
1782
1783         * dak: new script to provide a single binary with less arbitrary names
1784         for access to dak functionality.
1785
1786         * cindy: script implemented
1787
1788         * saffron: cope with suites that don't have a Priority specified
1789         * heidi: use get_suite_id()
1790         * denise: don't hardcode stable and unstable, or limit udebs to unstable
1791         * denise: remove override munging for testing (now done by cindy)
1792         * helena: expanded help, added new, sort and age options, and fancy headers
1793         * jennifer: require description, add a reject for missing dsc file
1794         * jennifer: change lock file
1795         * kelly: propogation support
1796         * lisa: honour accepted lock, use mtime not ctime, add override type_id
1797         * madison: don't say "dep-retry"
1798         * melanie: bug fix in output (missing %)
1799         * natalie: cope with maintainer_override == None; add type_id for overrides
1800         * nina: use mtime, not ctime
1801
1802         * katie.py: propogation bug fixes
1803         * logging.py: add debugging support, use | as the logfile separator
1804
1805         * katie.conf: updated signing key (4F368D5D)
1806         * katie.conf: changed lockfile to dinstall.lock
1807         * katie.conf: added Lisa::AcceptedLockFile, Dir::Lock
1808         * katie.conf: added tiffani, cindy support
1809         * katie.conf: updated to match 3.0r6 release
1810         * katie.conf: updated to match sarge's release
1811
1812         * apt.conf: update for sarge's release
1813         * apt.conf.stable: update for sarge's release
1814         * apt.conf: bump daily max Contents change to 25MB from 12MB
1815
1816         * cron.daily: add accepted lock and invoke cindy
1817         * cron.daily: add daily.lock
1818         * cron.daily: invoke tiffani
1819         * cron.daily: rebuild accepted buildd stuff
1820         * cron.daily: save rene-daily output on the web site
1821         * cron.daily: disable billie
1822         * cron.daily: add stats pr0n
1823
1824         * cron.hourly: invoke helena
1825
1826         * pseudo-packages.maintainers,.descriptions: miscellaneous updates
1827         * vars: add lockdir, add etch to copyoverrides
1828         * Makefile: add -Ipostgresql/server to CXXFLAGS
1829
1830         * docs/: added README.quotes
1831         * docs/: added manpages for alicia, catherine, charisma, cindy, heidi,
1832         julia, katie, kelly, lisa, madison, melanie, natalie, rhona.
1833
1834         * TODO: correct spelling of "conflicts"
1835
1836 2005-05-28  James Troup  <james@nocrew.org>
1837
1838         * helena (process_changes_files): use MTIME rather than CTIME (the
1839         C's not for 'creation', stupid).
1840         * lisa (sort_changes): likewise.
1841
1842         * jennifer (check_distributions): use has_key rather than an 'in'
1843         test which doesn't work with python2.1.  [Probably by AJ]
1844
1845 2005-03-19  James Troup  <james@nocrew.org>
1846
1847         * rene (main): use Suite::<suite>::UdebComponents to determine
1848         what components have udebs rather than assuming only 'main' does.
1849
1850 2005-03-18  James Troup  <james@nocrew.org>
1851
1852         * utils.py (rfc2047_encode): use codecs.lookup() rather than
1853         encodings.<encoding>.Codec().decode() as encodings.utf_8 no longer
1854         has a Codec() module in python2.4.  Thanks to Andrew Bennetts
1855         <andrew@ubuntu.com>.
1856
1857 2005-03-06  Joerg Jaspert  <ganneff@debian.org>
1858
1859         * helena: add -n/--new HTML output option and improved sorting
1860         options.
1861
1862 2005-03-06  Ryan Murray  <rmurray@debian.org>
1863
1864         * shania(main): use Cnf::Dir::Reject instead of REJECT
1865
1866 2005-02-08  James Troup  <james@nocrew.org>
1867
1868         * rene (main): add partial NBS support by checking that binary
1869         packages are built by their real parent and not some random
1870         stranger.
1871         (do_partial_nbs): likewise.
1872
1873 2005-01-18  James Troup  <james@nocrew.org>
1874
1875         * katie.py (Katie.build_summaries): avoid leaking file handle when
1876         extracting package description.
1877         (Katie.force_reject): remember and close each file descriptor we
1878         use.
1879         (Katie.do_reject): s/file/temp_fh/ to avoid pychecker warning.
1880         s/reason_file/reason_fd/ because it's a file descriptor.
1881         (Katie.check_dsc_against_db): avoid leaking file handle whenever
1882         invoking apt_pkg.md5sum().
1883
1884         * jennifer (check_deb_ar): new function: sanity check the ar
1885         contents of a .deb.
1886         (check_files): use it.
1887         (check_timestamps): check for data.tar.bz2 if data.tar.gz can't be
1888         found.
1889         (check_files): accept 'raw-installer' as an alias for 'byhand'.
1890
1891 2005-01-14  Anthony Towns  <ajt@debian.org>
1892
1893         * kelly: when UNACCEPTing, don't double up the "Rejecting:"
1894
1895         * propup stuff (thanks to Andreas Barth)
1896         * katie.conf: add stable MustBeOlderThan testing, add -security
1897           propup
1898         * jennifer: set distribution-version in .katie if propup may be needed
1899         * katie.py: add propogation to cross_suite_version_check
1900
1901 2004-11-27  James Troup  <james@nocrew.org>
1902
1903         * nina: new script to split monolithic queue/done into date-based
1904         hierarchy.
1905
1906         * rene (usage): document -s/--suite.
1907         (add_nbs): use .setdefault().
1908         (do_anais): likewise.
1909         (do_nbs): don't set a string to "" and then += it.
1910         (do_obsolete_source): new function - looks for obsolete source
1911         packages (i.e source packages whose binary packages are ALL a)
1912         claimed by someone else and b) newer when built from the other
1913         source package).
1914         (main): support -s/--suite.  Add 'obsolete source' to both 'daily'
1915         and 'full' check modes.  Check for obsolete source packages.
1916         linux-wlan-ng has been fixed - remove hideous bodge.
1917
1918         * jennifer (check_distributions): support 'reject' suite map type.
1919
1920         * utils.py (validate_changes_file_arg): s/file/filename/.
1921         s/fatal/require_changes/.  If require_changes is -1, ignore errors
1922         and return the .changes filename regardless.
1923         (re_no_epoch): s/\*/+/ as there must be a digit in an epoch.
1924         (re_no_revision): don't escape '-', it's not a special character.
1925         s/\*/+/ as there must be at least one non-dash character after the
1926         dash in a revision.  Thanks to Christian Reis for noticing both of
1927         these.
1928
1929         * ashley (main): pass require_changes=-1 to
1930         utils.validate_changes_file_arg().
1931
1932         * pseudo-packages.maintainers (kernel): switch to 'Debian Kernel
1933         Team <debian-kernel@lists.debian.org>'.
1934
1935         * katie.py (Katie.in_override_p): fix .startswith() usage.
1936
1937         * katie.conf (Dinstall::DefaultSuite): add as 'unstable'.
1938         (Lauren::MoreInfoURL): update to 3.0r3.
1939         (Suite::Stable::Version): likewise.
1940         (Suite::Stable::Description): likewise.
1941
1942         * cron.daily: disable automatic task override generation.
1943
1944         * cindy (process): restrict "find all packages" queries by
1945         component.  Respect Options["No-Action"].
1946         (main): add -n/--no-action support.  Only run on unstable.  Rename
1947         type to otype (pychecker).
1948
1949 2004-11-27  Daniel Silverstone  <dsilvers@digital-scurf.org>
1950
1951         * katie.conf (Billie::BasicTrees): add all architectures.
1952         (Billie::CombinationTrees): remove 'welovehp' and 'embedded', add
1953         'everything'.
1954
1955         * cron.daily: Update a 'current' symlink when creating the
1956         post-daily-cron-job database backup to aid mirroring to merkel.
1957         Run billie.
1958
1959         * billie (BillieTarget.poolish_match): handle .udeb too.
1960
1961 2004-10-13  Ryan Murray  <rmurray@debian.org>
1962
1963         * amber (do_upload): Sort changes files in "katie" order so that
1964           source always arrives before binary-only rebuilds
1965
1966 2004-10-05  James Troup  <james@nocrew.org>
1967
1968         * jennifer (check_dsc): correct reject message on invalid
1969         Maintainer field.
1970
1971 2004-09-20  James Troup  <james@nocrew.org>
1972
1973         * alicia: remove unused 'pwd' import.
1974
1975         * tea (check_override): underline suite name in output properly.
1976
1977         * rene (main): read a compressed Packages file.
1978         * tea (validate_packages): likewise.
1979
1980         * katie.py (re_fdnic): add 'r' prefix.
1981         (re_bin_only_nmu_of_mu): likewise.
1982         (re_bin_only_nmu_of_nmu): likewise.
1983
1984         * madison (main): retrieve component information too and display
1985         it if it's not 'main'.
1986         * melanie (reverse_depends_check): likewise.
1987
1988         * utils.py (pp_dep): renamed...
1989         (pp_deps): ... to this.
1990         * jeri (check_dep): update calls to utils.pp_deps().
1991         * melanie (reverse_depends_check): likewise.
1992
1993         * jennifer (check_changes): move initalization of email variables
1994         from here...
1995         (process_it): ...to here as we no longer always run
1996         check_changes().  Don't bother to initialize
1997         changes["architecture"].
1998
1999         * denise (list): renamed to...
2000         (do_list): ...this to avoid name clash with builtin 'list'.
2001         Similarly, s/file/output_file/, s/type/otype/.  Use .setdefault()
2002         for dictionaries.
2003         (main): Likewise for name clash avoidance and also
2004         s/override_type/suffix/.  Adjust call to do_list().
2005
2006 2004-09-01  Ryan Murray  <rmurray@debian.org>
2007
2008         * tea (check_files): check the pool/ directory instead of dists/
2009
2010 2004-08-04  James Troup  <james@nocrew.org>
2011
2012         * jenna (cleanup): use .setdefault() for dictionaries.
2013         (write_filelists): likewise.
2014
2015         (write_filelists): Use utils.split_args() not split() to split
2016         command line arguments.
2017         (stable_dislocation_p): likewise.
2018
2019         (write_filelists): Add support for mapping side of suite-based
2020         "Arch: all mapping".
2021         (do_da_do_da): ensure that if we're not doing all suites that we
2022         process enough to be able correct map arch: all packages.
2023
2024         * utils.py (cant_open_exc): correct exception string,
2025         s/read/open/, s/.$//.
2026
2027         * templates/amber.advisory: update to match reality a little
2028         better.
2029
2030         * melanie (reverse_depends_check): read Packages.gz rather than
2031         Packages.
2032
2033         * jennifer (check_files): check for unknown component before
2034         checking for NEWness.
2035
2036         * katie.py (Katie.in_override_p): use .startswith in favour of a
2037         slice.
2038
2039         * docs/melanie.1.sgml: document -R/--rdep-check.
2040
2041 2004-07-12  Daniel Silverstone  <dsilvers@digital-scurf.org>
2042
2043         * billie (main): Make the verbatim lists include all the README
2044           elements.
2045         * docs/README.names: Add billie in (correcting oversight)
2046
2047 2004-07-01  James Troup  <james@nocrew.org>
2048
2049         * emilie (main): handle woody's case-sensitive python-ldap,
2050         s/keyfingerprint/keyFingerPrint/.
2051
2052 2004-06-25  James Troup  <james@nocrew.org>
2053
2054         * debian/control (Depends): add dpkg-dev since jennifer uses
2055         dpkg-source.
2056
2057 2004-06-24  James Troup  <james@nocrew.org>
2058
2059         * melanie (main): s/file/temp_file/ and close file handle before
2060         removing the temporary file.
2061         (main): don't warn about needing a --carbon-copy if in no-action
2062         mode.
2063
2064         * rene (do_nbs): pcmcia-cs has been fixed - remove hideous bodge.
2065         (main): likewise.
2066
2067         * test/006/test.py (main): check bracketed email-only form.
2068
2069         * utils.py (fix_maintainer): if the Maintainer string is bracketed
2070         email-only, strip the brackets so we don't end up with
2071         <<james@nocrew.org>>.
2072
2073 2004-06-20  James Troup  <james@nocrew.org>
2074
2075         * jennifer (process_it): only run check_changes() if
2076         check_signature() returns something.  (Likewise)
2077
2078         * utils.py (changes_compare): if there's no changes["version"] use
2079         "0" rather than None.  (Avoids a crash on unsigned changes file.)
2080
2081 2004-06-17  Martin Michlmayr  <tbm@cyrius.com>
2082
2083         * jeri (pp_dep): moved from here to ...
2084         * utils.py (pp_dep): here.
2085
2086         * melanie (main): add reverse dependency checking.
2087
2088 2004-06-17  James Troup  <james@nocrew.org>
2089
2090         * jennifer (check_dsc): s/dsc_whitespace_rules/signing_rules/.
2091         * tea (check_dscs): likewise.
2092
2093         * utils.py (parse_changes): s/dsc_whitespace_rules/signing_rules/,
2094         change from boolean to a variable with 3 possible values, 0 and 1
2095         as before, -1 means don't require a signature.  Makes
2096         parse_changes() useful for parsing arbitary RFC822-style files,
2097         e.g. 'Release' files.
2098         (check_signature): add support for detached signatures by passing
2099         the files the signature is for as an optional third argument.
2100         s/filename/sig_filename/g.  Add a fourth optional argument to
2101         choose the keyring(s) to use.  Don't os.path.basename() the
2102         sig_filename before checking it for taint.
2103         (re_taint_free): allow '/'.
2104
2105 2004-06-11  James Troup  <james@nocrew.org>
2106
2107         * tea (check_files): make override.unreadable optional.
2108         (validate_sources): close the Sources file handle.
2109
2110         * docs/README.first: clarify that 'alyson' and running
2111         add_constraints.sql by hand is something you only want to do if
2112         you're not running 'neve'.
2113
2114         * docs/README.config (Location::$LOCATION::Suites): document.
2115
2116         * db_access.py (do_query): also print out the result of the query.
2117
2118 2004-06-10  James Troup  <james@nocrew.org>
2119
2120         * katie.py (Katie.cross_suite_version_check): post-woody versions
2121         of python-apt's apt_pkg.VersionCompare() function apparently
2122         returns variable integers for less than or greater than results -
2123         update our result checking to match.
2124         * jenna (resolve_arch_all_vs_any): likewise.
2125         * charisma (main): likewise.
2126
2127 2004-06-09  James Troup  <james@nocrew.org>
2128
2129         * jennifer (process_it): s/changes_valid/valid_changes_p/.  Add
2130         valid_dsc_p and don't run check_source() if check_dsc() failed.
2131         (check_dsc): on fatal failures return 0 so check_source() isn't
2132         run (since it makes fatal assumptions about the presence of
2133         mandatory .dsc fields).
2134         Remove unused and obsolete re_bad_diff and re_is_changes regexps.
2135
2136 2004-05-07  James Troup  <james@nocrew.org>
2137
2138         * katie.conf (Rhona::OverrideFilename): unused and obsolete, remove.
2139         * katie.conf-non-US (Rhona::OverrideFilename): likewise.
2140
2141         * katie.conf (Dir::Override): remove duplicate definition.
2142
2143         * neve (get_or_set_files_id): add an always-NULL last_used column
2144         to output.
2145
2146 2004-04-27  James Troup  <james@nocrew.org>
2147
2148         * apt.conf-security (tree "dists/stable/updates"): add
2149         ExtraOverride - noticed by Joey Hess (#246050).
2150         (tree "dists/testing/updates"): likewise.
2151
2152 2004-04-20  James Troup  <james@nocrew.org>
2153
2154         * jennifer (check_files): check for existing .changes or .katie
2155         files of the same name in the Suite::<suite>::Copy{Changes,Katie}
2156         directories.
2157
2158 2004-04-19  James Troup  <james@nocrew.org>
2159
2160         * jennifer (check_source): handle failure to remove the temporary
2161          directory (used for source tree extraction) better, specifically:
2162          if we fail with -EACCES, chmod -R u+rwx the temporary directory
2163          and try again and if that works, REJECT the package.
2164
2165 2004-04-17  James Troup  <james@nocrew.org>
2166
2167         * docs/madison.1.sgml: document -b/--binary-type,
2168         -g/--greaterorequal and -G/--greaterthan.
2169
2170         * madison (usage): -b/--binary-type only takes a single argument.
2171         Document -g/--greaterorequal and -G/--greaterthan.
2172         (main): add support for -g/--greaterorequal and -G/--greaterthan.
2173
2174 2004-04-12  Daniel Silverstone  <dsilvers@digital-scurf.org>
2175
2176         * billie: Cleaned up a load of comments, added /README.non-US to
2177           the verbatim matches list.
2178
2179 2004-04-07  Daniel Silverstone  <dsilvers@digital-scurf.org>
2180
2181         * utils.py (size_type): Make it use real binary megabytes and
2182           kilobytes, instead of the marketing terms used before.
2183
2184 2004-04-07  James Troup  <james@nocrew.org>
2185
2186         * katie.py (Katie.check_dsc_against_db): in the case we're
2187         ignoring an identical-to-existing orig.tar.gz remember the path to
2188         the existent version in pkg.orig_tar_gz.  Adjust query to grab
2189         location.path too to be able to do so.
2190
2191 2004-04-03  James Troup  <james@nocrew.org>
2192
2193         * debian/control (Depends): add python2.1-email | python (>= 2.2)
2194         needed for new utils.rfc2047_encode() function.
2195
2196         * utils.py (re_parse_maintainer): allow whitespace inside the
2197         email address.
2198         (Error): new exception base class.
2199         (ParseMaintError): new exception class.
2200         (force_to_utf8): new function.
2201         (rfc2047_encode): likewise.
2202         (fix_maintainer): rework.  use force_to_utf8() to force name and
2203         rfc822 return values to always use UTF-8.  use rfc2047_encode() to
2204         return an rfc2047 value.  Validate the address to catch missing
2205         email addresses and (some) broken ones.
2206
2207         * katie.py (nmu_p.is_an_nmu): adapt for new utils.fix_maintainer()
2208         by adopting foo2047 return value.
2209         (Katie.dump_vars): add changedby2047 and maintainer2047 as
2210         mandatory changes fields.  Promote changes and maintainer822 to
2211         mandatory fields.
2212         (Katie.update_subst): default maintainer2047 rather than
2213         maintainer822.  User foo2047 rather than foo822 when setting
2214         __MAINTAINER_TO__ or __MAINTAINER_FROM__.
2215
2216         * jennifer (check_changes): set default changes["maintainer2047"]
2217         and changes["changedby2047"] values rather than their 822
2218         equivalents.  Makes changes["changes"] a mandatory field.  Adapt
2219         to new utils.fix_maintainer() - reject on exception and adopt
2220         foo2047 return value.
2221         (check_dsc): if a mandatory field is missing don't do any further
2222         checks and as a result reduce paranoia about dsc[var] existence.
2223         Validate the maintainer field by calling new
2224         utils.fix_maintainer().
2225
2226         * ashley (main): add changedby2047 and maintainer2047 to mandatory
2227         changes fields.  Promote maintainer822 to a mandatory changes
2228         field.  add "pool name" to files fields.
2229
2230         * test/006/test.py: new file - tests for new
2231         utils.fix_maintainer().
2232
2233 2004-04-01  James Troup  <james@nocrew.org>
2234
2235         * templates/lisa.prod (To): use __MAINTAINER_TO__ not __MAINTAINER__.
2236
2237         * jennifer (get_changelog_versions): create a symlink mirror of
2238         the source files in the temporary directory.
2239         (check_source): if check_dsc_against_db() couldn't find the
2240         orig.tar.gz bail out.
2241
2242         * katie.py (Katie.check_dsc_against_db): if the orig.tar.gz is not
2243         part of the upload store the path to it in pkg.orig_tar_gz and if
2244         it can't be found set pkg.orig_tar_gz to -1.
2245
2246         Explicitly return the second value as None in the (usual) case
2247         where we don't have to reprocess.  Remove obsolete diagnostic
2248         logs.
2249
2250         * lisa (prod_maintainer): don't return anything, no one cares. (pychecker)
2251
2252         * utils.py (temp_filename): new helper function that wraps around
2253         tempfile.mktemp().
2254
2255         * katie.py (Katie.do_reject): use it and don't import tempfile.
2256         * lisa (prod_maintainer): likewise.
2257         (edit_note): likewise.
2258         (edit_new): likewise.
2259         * lauren (reject): likewise.
2260         * melanie (main): likewise.
2261         * neve (do_sources): likewise.
2262         * rene (main): likewise.
2263         * tea (validate_sources): likewise.
2264
2265 2004-03-31  James Troup  <james@nocrew.org>
2266
2267         * tea (validate_sources): remove unused 's' temporary variable.
2268
2269 2004-03-15  James Troup  <james@nocrew.org>
2270
2271         * jennifer (check_dsc): check changes["architecture"] for
2272         source before we do anything else.
2273
2274 2004-03-21  Daniel Silverstone  <dsilvers@digital-scurf.org>
2275
2276         * billie: Added
2277         * katie.conf (Billie): Added sample Billie stanza to katie.conf
2278
2279 2004-03-12  James Troup  <james@nocrew.org>
2280
2281         * docs/README.config (Dir::Queue::BTSVersionTrack): document.
2282
2283         * katie.conf (Dir::Queue::BTSVersionTrack): define.
2284
2285         * katie.py (Katie.accept): add support for DebBugs Version
2286         Tracking by writing out .versions (generated in jennifer's
2287         get_changelog_versions()) and .debinfo (mapping of binary ->
2288         source) files.
2289
2290         * ashley (main): add dsc["bts changelog"].
2291
2292         * katie.py (Katie.dump_vars): store dsc["bts changelog"] too.
2293
2294         * jennifer (check_diff): obsoleted by check_source(), removed.
2295         (check_source): new function: create a temporary directory and
2296         move into it and call get_changelog_versions().
2297         (get_changelog_versions): new function: extract the source package
2298         and optionally parse debian/changelog to obtain the version
2299         history for the BTS.
2300         (process_it): call check_source() rather than check_diff().
2301
2302 2004-03-08  James Troup  <james@nocrew.org>
2303
2304         * lisa (edit_index): Fix logic swapo from 'use "if varfoo in
2305         listbar" rather than "if listbar.count(varfoo)"' change on
2306         2004-02-24.
2307
2308 2004-03-05  James Troup  <james@nocrew.org>
2309
2310         * alicia (main): don't warn about not closing bugs - we don't
2311         manage overrides through the BTS.
2312
2313 2004-02-27  Martin Michlmayr  <tbm@cyrius.com>
2314
2315         * docs/README.config: lots of updates and corrections.
2316         * docs/README.first: likewise.
2317
2318         * docs/README.config: drop unused Dir::Queue::Root.
2319         * katie.conf-non-US: likewise.
2320         * katie.conf: likewise.
2321         * katie.conf-security: likewise.
2322
2323 2004-02-27  James Troup  <james@nocrew.org>
2324
2325         * rose (process_tree): use 'if var in [ list ]' rather than long
2326         'if var == foo or var == bar or var == baz'.  Suggested by Martin
2327         Michlmayr.
2328
2329         * jennifer (check_files): reduce 'if var != None' to 'if var' as
2330         suggested by Martin Michlmayr.
2331         * catherine (poolize): likewise.
2332         * charisma (main): likewise.
2333         * halle (check_changes): likewise.
2334         * heidi (main): likewise.
2335         (process_file): likewise.
2336         * kelly (install): likewise.
2337         (stable_install): likewise.
2338         * utils.py (fix_maintainer): likewise.
2339
2340         * apt.conf: add support for debian-installer in testing-proposed-updates.
2341         * katie.conf (Suite::Testing-Proposed-Updates::UdebComponents):
2342         add - set to main.
2343
2344         * mkmaintainers: add "-T15" option to wget of non-US packages file
2345         so that we don't hang cron.daily if non-US is down.
2346
2347         * templates/lisa.prod (Subject): Prefix with "Comments regarding".
2348
2349         * templates/jennifer.bug-close: add Source and Source-Version
2350         pseudo-headers that may be used for BTS Version Tracking someday
2351         [ajt@].
2352
2353         * rene (do_nbs): special case linux-wlan-ng like we do for pcmcia.
2354         (main): likewise.
2355
2356         * cron.unchecked: it's /org/ftp.debian.org not ftp-master.
2357
2358 2004-02-25  James Troup  <james@nocrew.org>
2359
2360         * katie.conf (SuiteMappings): don't map testing-security to
2361         proposed-updates.
2362
2363 2004-02-24  James Troup  <james@nocrew.org>
2364
2365         * katie.py (Katie.__init__): remove unused 'values' field.
2366
2367         * utils.py (extract_component_from_section): use 's.find(c) != -1'
2368         rather than 's.count(c) > 0'.
2369
2370         * katie.py (Katie.source_exists): use "if varfoo in listbar"
2371         rather than "if listbar.count(varfoo)".
2372         * halle (check_joey): likewise.
2373         * jeri (check_joey): likewise.
2374         * lisa (edit_index): likewise.
2375         * jenna (stable_dislocation_p): likewise.
2376
2377         * jennifer (main): remove unused global 'nmu'.
2378
2379 2004-02-03  Daniel Silverstone  <dsilvers@digital-scurf.org>
2380
2381         * pseudo-packages.maintainers (ftp.debian.org): Changed the maintainer
2382           to be ftpmaster@ftp-master.debian.org to bring it into line with how
2383           the dak tools close bugs.
2384
2385 2004-02-02  Daniel Silverstone  <dsilvers@digital-scurf.org>
2386
2387         * katie.conf (Alicia): Added an Alicia section with email address
2388         * templates/alicia.bug-close: Added
2389         * docs/alicia.1.sgml: Added the docs for the -d/--done argument
2390         * alicia (main): Added a -d/--done argument
2391
2392 2004-02-02  Daniel Silverstone  <dsilvers@digital-scurf.org>
2393
2394         * templates/lisa.prod: Oops, missed a BITCH->PROD conversion
2395
2396 2004-01-29  Daniel Silverstone  <dsilvers@digital-scurf.org>
2397
2398         * lisa (prod_maintainer): Added function to prod the maintainer without
2399           accepting or rejecting the package
2400         * templates/lisa.prod: Added this template for the prodding mail
2401
2402         * .cvsignore: Added neve-files which turns up in new installations
2403
2404 2004-01-30  Daniel Silverstone  <dsilvers@digital-scurf.org>
2405
2406         * alicia (usage): Fixed usage message to offer section and priority
2407           as seperately optional arguments.
2408         * alicia (main): Added a % (arg) interpolation needed when only
2409           one of section or priority is provided and it cannot be found.
2410
2411 2004-01-29  Daniel Silverstone  <dsilvers@digital-scurf.org>
2412
2413         * alicia: Added
2414         * docs/alicia.1.sgml: Added
2415         * docs/Makefile: Added alicia to the list of manpages to build
2416         * docs/README.names: Noted what alicia does
2417         * docs/README.first: Noted where alicia is useful
2418
2419 2004-01-21  James Troup  <james@nocrew.org>
2420
2421         * madison (main): add -b/--binary-type.
2422         (usage): likewise.
2423
2424         * denise (main): generate debian-installer overrides for testing
2425         too.
2426         * apt.conf: add support for debian-installer in testing.
2427         * katie.conf (Suite::Testing::UdebComponents): set to main.
2428
2429         * katie.conf (Dinstall::SigningKeyIds): 2004 key.
2430         * katie.conf-non-US (Dinstall::SigningKeyIds): likewise.
2431         * katie.conf-security (Dinstall::SigningKeyIds): likewise.
2432
2433         * utils.py (parse_changes): don't process data not inside the
2434         signed data.  Thanks to Andrew Suffield <asuffield@debian.org> for
2435         pointing this out.
2436         * test/005/test.py (main): new test to test for above.
2437
2438 2004-01-04  James Troup  <james@nocrew.org>
2439
2440         * jenna (write_filelists): correct typo, s/Components/Component/
2441         for Options.
2442
2443 2004-01-04  Ryan Murray  <rmurray@debian.org>
2444
2445         * cron.buildd: move update of overrides and Packages file...
2446         * cron.unchecked: to here.
2447         * katie.conf-non-US: (Dinstall::SingingKeyIds) update for 2003v2 key
2448         * katie.conf-security: likewise
2449
2450 2003-11-20  James Troup  <james@nocrew.org>
2451
2452         * jenna (main): don't use utils.try_with_debug(), it produces way
2453         too much output.
2454
2455         * halle (check_changes): don't error out if a .changes refers to a
2456         non-existent package, just warn and skip the file.
2457
2458         * docs/README.stable-point-release: mention halle and .changes
2459         obsoleted by removal through melanie.  Update for 3.0r2.
2460
2461         * katie.conf (Suite::Stable::Version): bump to 3.0r2.
2462         (Suite::Stable::Description): update for 3.0r2.
2463         (Lauren::MoreInfoURL): likewise.
2464         * katie.conf-non-US (Suite::Stable::Version): likewise.
2465         (Suite::Stable::Description): likewise.
2466         (Lauren::MoreInfoURL): likewise.
2467
2468         * apt.conf.stable (Default): don't define MaxContentsChange.
2469         * apt.conf.stable-non-US (Default): likewise.
2470
2471         * lauren (reject): hack to work around partial replacement of an
2472         upload, i.e. one or more binaries superseded by another source
2473         package.
2474
2475 2003-11-17  James Troup  <james@nocrew.org>
2476
2477         * pseudo-packages.maintainers: point installation-reports at
2478         debian-boot@l.d.o rather than debian-testing@l.d.o at jello@d.o's
2479         request.
2480
2481         * utils.py (parse_changes): calculate the number of lines once
2482         with len() rather than max().
2483
2484         * jennifer (check_dsc): handle the .orig.tar.gz disappearing from
2485         files, since check_dsc_against_db() deletes the .orig.tar.gz
2486         entry.
2487
2488 2003-11-13  Ryan Murray  <rmurray@debian.org>
2489
2490         * apt.conf: specify a src override file for debian-installer
2491
2492 2003-11-10  James Troup  <james@nocrew.org>
2493
2494         * fernanda.py (strip_pgp_signature): new function - strips PGP
2495         signature from a file and returns the modified contents of the
2496         file in a string.
2497         (display_changes): use it.
2498         (read_dsc): likewise.
2499
2500 2003-11-09  Ryan Murray  <rmurray@debian.org>
2501
2502         * cron.buildd: export accepted_autobuild table for unstable, and use
2503         it to generate the incoming Packages/Sources rather than having apt
2504         walk the directory.
2505         * apt.conf.buildd: use exported table from cron.buildd to generate
2506         Packages/Sources
2507
2508 2003-11-07  James Troup  <james@nocrew.org>
2509
2510         * kelly: import errno.
2511
2512         * katie.py (Katie.build_summaries): sort override disparities.
2513
2514         * kelly (install): set dsc_component based on the .dsc's component
2515         not a random binaries.
2516
2517 2003-10-29  James Troup  <james@nocrew.org>
2518
2519         * katie.py (Katie.build_summaries): don't assume changes["source"]
2520         exists since it might not.
2521
2522 2003-10-20  James Troup  <james@nocrew.org>
2523
2524         * pseudo-packages.maintainers: update security.d.o to use
2525         team@s.d.o at joy@'s request.
2526
2527 2003-10-17  James Troup  <james@nocrew.org>
2528
2529         * jennifer (check_dsc): use .startswith rather than .find() == 0.
2530
2531 2003-10-17  Martin Michlmayr  <tbm@cyrius.com>
2532
2533         * tea (chk_bd_process_dir): use .endswith rather than slice.
2534
2535 2003-10-14  James Troup  <james@nocrew.org>
2536
2537         * tea (check_build_depends): new function.
2538         (chk_bd_process_dir): likewise.  Validates build-depends in .dsc's
2539         in the archive.
2540         (main): update for new function.
2541         (usage): likewise.
2542
2543         * katie.py (Katie.do_reject): sanitize variable names,
2544         s/reject_filename/reason_filename/, s/fd/reason_fd/.  Move shared
2545         os.close() to outside if clause.
2546
2547         * jennifer (check_dsc): check build-depends and
2548         build-depends-indep by running them past apt_pkg.ParseSrcDepends.
2549         Fold the ARRAY check into the same code block and tidy up it's
2550         rejection message.
2551         (check_changes): ensure that the Files field is non-empty.
2552         Suggested by Santiago Vila <sanvila@unex.es>
2553         (check_changes): normalize reject messages.
2554         (check_dsc): instead of doing most of the checks inside a for loop
2555         and an if, find the dsc_filename in a short loop over files first
2556         and then do all the checks.  Add check for more than one .dsc in a
2557         .changes which we can't handle.  Normalize reject messages.
2558
2559 2003-10-13  James Troup  <james@nocrew.org>
2560
2561         * katie.conf (Dinstall::Reject::NoSourceOnly): set to true.
2562         * katie.conf-non-US (Dinstall::Reject::NoSourceOnly): likewise.
2563
2564         * jennifer (check_files): Set 'has_binaries' and 'has_source'
2565         variables while iterating over 'files'.  Don't regenerate it when
2566         checking for source if source is mentioned.
2567
2568         Reject source only uploads if the config variable
2569         Dinstall::Reject::NoSourceOnly is set.
2570
2571 2003-10-03  James Troup  <james@nocrew.org>
2572
2573         * rene (main): add nasty hardcoded reference to debian-installer
2574         so we detect NBS .udebs.
2575
2576 2003-09-29  James Troup  <james@nocrew.org>
2577
2578         * apt.conf (old-proposed-updates): remove.
2579         * apt.conf-non-US (old-proposed-updates): likewise.
2580
2581 2003-09-24  James Troup  <james@nocrew.org>
2582
2583         * tea (check_files_not_symlinks): new function, ensure files
2584         mentioned in the database aren't symlinks.  Includes code to
2585         update any files that are like this to their real filenames +
2586         location; commented out by though.
2587         (usage): update for new function.
2588         (main): likewise.
2589
2590 2003-09-24  Anthony Towns  <ajt@debian.org>
2591
2592         * vars: external-overrides variable added
2593         * cron.daily: Update testing/unstable Task: overrides from joeyh
2594         managed external source.
2595
2596 2003-09-22  James Troup  <james@nocrew.org>
2597
2598         * kelly (install): if we can't move the .changes into queue/done,
2599         fail don't warn and carry on.  The old behaviour pre-dates NI and
2600         doesn't make much sense now since jennifer checks both
2601         queue/accepted and queue/done for any .changes files it's
2602         processing.
2603
2604         * utils.py (move): don't throw exceptions on existing files or
2605         can't overwrite, instead just fubar out.
2606
2607         * jennifer (check_dsc): also check Build-Depends-Indep for
2608         ARRAY-lossage.  Noticed by Matt Zimmerman <mdz@debian.org>.
2609
2610 2003-09-18  James Troup  <james@nocrew.org>
2611
2612         * katie.py (Katie.close_bugs): only log the bugs we've closed
2613         once.
2614
2615         * kelly (main): log as 'kelly', not 'katie'.
2616
2617 2003-09-16  James Troup  <james@nocrew.org>
2618
2619         * katie.py (Katie.check_binary_against_db): likewise noramlize.
2620
2621         * jennifer (check_changes): normalize reject message for "changes
2622         file already exists" to be %s: <foo>.
2623         (check_dsc): add a check for 'Build-Depends: ARRAY(<hex>)'
2624         produced by broken dpkg-source in 1.10.11.  Tone down and
2625         normalize rejection message for incompatible 'Format' version
2626         numbers.
2627         (check_diff): likewise tone down and normalize.
2628
2629 2003-09-07  James Troup  <james@nocrew.org>
2630
2631         * utils.py (parse_changes): if dsc_whitespace_rules is false,
2632         don't bomb out on bogus empty lines.
2633         (build_file_list): check for changes["files"] earlier.  use Dict
2634         to create files[name] dictionary.
2635         (send_mail): don't bother validating arguments.
2636         (check_signature): minor improvements to some of the rejection
2637         messages including listing the key id of the key that wasn't found
2638         in the keyring.
2639         (wrap): new function.
2640
2641         * tea: add new check 'validate-indices' that ensures all files
2642         mentioned in indices (Packages, Sources) files do in fact exist.
2643
2644         * catherine (poolize): use a local re_isadeb which handles legacy
2645         (i.e. no architecture) style .deb filenames.
2646
2647         * rosamund: new script.
2648
2649         * rhona (check_binaries): when checking for binary packages not in
2650         a suite, don't bother selecting files that already have a
2651         last_used date.
2652         (check_sources): likewise.
2653
2654         * rhona: change all SQL EXISTS sub-query clauses to use the
2655         postgres suggested convention of "SELECT 1 FROM".
2656         * andrea (main): likewise.
2657         * tea (check_override): likewise.
2658         * catherine (main): likewise.
2659
2660         * katie.conf (Suite): remove OldStable and Old-Proposed-Updates
2661         entries and in other suites MustBeNewerThan's.
2662         (SuiteMappings): likewise
2663         * katie.conf-non-US: likewise.
2664         * katie.conf-security: likewise.
2665
2666         * apt.conf-security: remove oldstable.
2667         * apt.conf.stable: likewise.
2668         * apt.conf.stable-non-US: likewise.
2669         * cron.buildd-security: likewise.
2670         * cron.daily-security: likewise.
2671         * vars-security (suites): likewise.
2672         * wanna-build/trigger.daily: likewise.
2673
2674         * claire.py (clean_symlink): move...
2675         * utils.py (clean_symlink): here.
2676
2677         * claire.py (find_dislocated_stable): update accordingly.
2678
2679 2003-08-16  Anthony Towns  <ajt@debian.org>
2680
2681         * katie.py (source_exists): expand the list of distributions
2682         the source may exist in to include any suite that's mapped to
2683         the destination suite (even transitively (a->b->c)). This should
2684         unbreak binary uploads to *-proposed-updates.
2685
2686 2003-08-09  Randall Donald  <rdonald@debian.org>
2687
2688         * lisa (recheck): change changes["distribution"].keys() to
2689         Katie.pkg.changes...
2690
2691 2003-08-08  Randall Donald  <rdonald@debian.org>
2692
2693         * katie.py: only tag bugs as fixed-in-experimental for
2694         experimental uploads
2695
2696 2003-07-26  Anthony Towns  <ajt@debian.org>
2697
2698         * katie.py (source_exists): add an extra parameter to limit the
2699         distribution(s) the source must exist in.
2700         * kelly, lisa, jennifer: update to use the new source_exists
2701
2702 2003-07-15  Anthony Towns  <ajt@debian.org>
2703
2704         * ziyi: quick hack to support a FakeDI line in apt.conf to generate
2705         checksums for debian-installer stuff even when it's just a symlink to
2706         another suite
2707
2708         * apt.conf: add the FakeDI line
2709
2710 2003-06-09  James Troup  <james@nocrew.org>
2711
2712         * kelly (check): make sure the 'file' we're looking for in 'files'
2713         hasn't been deleted by katie.check_dsc_against_db().
2714
2715 2003-05-07  James Troup  <james@nocrew.org>
2716
2717         * helena (time_pp): fix s/years/year/ typo.
2718
2719 2003-04-29  James Troup  <james@nocrew.org>
2720
2721         * madison (usage): document -c/--component.
2722
2723         * madison (usage): Fix s/seperated/separated/.
2724         * melanie (usage): likewise.
2725         * jenna (usage): likewise.
2726
2727 2003-04-24  James Troup  <james@nocrew.org>
2728
2729         * cron.daily-non-US: if there's nothing for kelly to install, say
2730         so.
2731
2732         * jennifer (check_timestamps): print sys.exc_value as well as
2733         sys.exc_type when capturing exceptions.  Prefix 'timestamp check
2734         failed' with 'deb contents' to make it clearer what timestamp(s)
2735         are being checked.
2736
2737 2003-04-15  James Troup  <james@nocrew.org>
2738
2739         * cron.daily-non-US: only run kelly if there are some .changes
2740         files in accepted.
2741
2742         * rene: add -m/--mode argument which can be either daily (default)
2743         or full.  In daily mode only 'nviu' and 'nbs' checks are run.
2744         Various changes to make this possible including a poor attempt at
2745         splitting main() up a little.  De-hardcode suite numbers from SQL
2746         queries and return quietly from do_nviu() if experimental doesn't
2747         exist (i.e. non-US).  Hardcode pcmcia-cs as dubious NBS since it
2748         is.
2749
2750         * debian/control (Depends): remove python-zlib as it's obsolete.
2751
2752         * charisma (main): don't slice the \n off strings when we're
2753         strip()-ing it anyway.
2754         * heidi (set_suite): likewise.
2755         (process_file): likewise.
2756         * natalie (process_file): likewise.
2757
2758 2003-04-08  James Troup  <james@nocrew.org>
2759
2760         * katie.py (Katie.check_dsc_against_db): improve the speed of two
2761         slow queries by using one LIKE '%foo%' and then matching against
2762         '%s' or '/%s$' in python.  Also only join location when we need it
2763         (i.e. the .orig.tar.gz query).  On auric, this knocks ~3s of each
2764         query, so 6s for each sourceful package.
2765
2766         * cron.daily: invoke rene and send the report to ftpmaster.
2767         * cron.daily-non-US: likewise.
2768
2769 2003-03-14  James Troup  <james@nocrew.org>
2770
2771         * utils.py (send_mail): default filename to blank.
2772         * amber (make_advisory): adapt.
2773         * jennifer (acknowledge_new): likewise.
2774         * katie.py (Katie.close_bugs): likewise.
2775         (Katie.announce): likewise.
2776         (Katie.accept): likewise.
2777         (Katie.check_override): likewise.
2778         (Katie.do_reject): likewise.
2779         * kelly (do_reject): likewise.
2780         (stable_install): likewise.
2781         * lisa (do_bxa_notification): likewise.
2782         * lauren (reject): likewise.
2783         * melanie (main): likewise.
2784
2785         * rene (add_nbs): check any NBS packages against unstable to see
2786         if they haven't been removed already.
2787
2788         * templates/katie.rejected: remove paragraph about rejected files
2789         since they're o-rwx due to c-i-m and the uploader can't do
2790         anything about them and shania will take care of them anyway.
2791
2792         * madison (usage): update usage example to use comma seperation.
2793         * melanie (usage): likewise.
2794
2795         * utils.py (split_args): new function; splits command line
2796         arguments either by space or comma (whichever is used).  Also has
2797         optional-but-default DWIM spurious space detection to avoid
2798         'command -a i386, m68k' problems.
2799         (parse_args): use it.
2800         * melanie (main): likewise.
2801
2802         * melanie (main): force the admin to tell someone if we're not
2803         doing a rene-led removal (or closing a bug, which counts as
2804         telling someone).
2805
2806 2003-03-05  James Troup  <james@nocrew.org>
2807
2808         * katie.conf (Section): add embedded, gnome, kde, libdevel, perl
2809         and python sections.
2810         * katie.conf-security (Section): likewise.
2811
2812         * add_constraints.sql: add uid and uid_id_seq to grants.
2813
2814         * lisa (determine_new): also warn about adding overrides to
2815         oldstable.
2816
2817         * madison (main): make the -S/--source-and-binary query obey
2818         -s/--suite restrictions.
2819
2820 2003-03-03  James Troup  <james@nocrew.org>
2821
2822         * madison (main): if the Archive_Maintenance_In_Progress lockfile
2823         exists, warn the user that our output might seem strange.  (People
2824         get confused by multiple versions in a suite which happens
2825         post-kelly but pre-jenna.)
2826
2827 2003-02-21  James Troup  <james@nocrew.org>
2828
2829         * kelly (main): we don't need to worry about StableRejector.
2830
2831         * melanie (main): sort versions with apt_pkg.VersionCompare()
2832         prior to output.
2833
2834         * lauren: new script to manually reject packages from
2835         proposed-updates.  Updated code from pre-NI kelly (nee katie).
2836
2837 2003-02-20  James Troup  <james@nocrew.org>
2838
2839         * kelly (init): remove unused -m/--manual-reject argument.
2840
2841         * katie.py (Katie.force_reject): renamed from force_move to make
2842         it more explicit what this function does.
2843         (Katie.do_reject): update to match.
2844
2845         * utils.py (prefix_multi_line_string): add an optional argument
2846         include_blank_lines which defaults to 0.  If non-zero, blank lines
2847         will be includes in the output.
2848
2849         * katie.py (Katie.do_reject): don't add leading space to each line
2850         of the reject message.  Include blank lines when showing the
2851         message to the user.
2852
2853 2003-02-19  Martin Michlmayr  <tbm@cyrius.com>
2854
2855         * utils.py (fix_maintainer): replace pointless re.sub() with
2856         simple string format.
2857
2858 2003-02-11  James Troup  <james@nocrew.org>
2859
2860         * lisa (edit_overrides): only strip-to-one-char and upper-case
2861         non-numeric answers.  Fixes editing of items with indices >= 10;
2862         noticed by Randall.
2863         (edit_overrides): correct order of arguments to "not a valid
2864         index" error message.
2865
2866         * jenna (cleanup): call resolve_arch_all_vs_any() rather than
2867         remove_duplicate_versions(); thanks to aj for the initial
2868         diagnosis.
2869         (remove_duplicate_versions): correct how we return
2870         dominant_versions.
2871         (resolve_arch_all_vs_any): arch_all_versions needs to be a list of
2872         a tuple rather than just a tuple.
2873
2874 2003-02-10  James Troup  <james@nocrew.org>
2875
2876         * emilie: new script - sync fingerprint and uid tables with a
2877         debian.org LDAP DB.
2878
2879         * init_pool.sql: new table 'uid'; contains user ids.  Reference it
2880         in 'fingerprint'.
2881
2882         * db_access.py (get_or_set_uid_id): new function.
2883
2884         * jennifer (main): update locking to a) not used FCNTL (deprecated
2885         in python >= 2.2) and b) acknowledge upstream's broken
2886         implementation of lockf (see Debian bug #74777), c) try to acquire
2887         the lock non-blocking.
2888         * kelly (main): likewise.
2889
2890         * contrib/python_1.5.2-fcntl_lockf.diff: obsolete, removed.
2891
2892         * madison (main): only append the package to new_packages if it's
2893         not already in there; fixes -S/--source-and-binary for cases where
2894         the source builds a binary package of the same name.
2895
2896 2003-02-10  Anthony Towns  <ajt@debian.org>
2897
2898         * madison (main): use explicit JOIN syntax for
2899         -S/--source-and-binary queries to reduce the query's runtime from
2900         >10 seconds to negligible.
2901
2902 2003-02-08  James Troup  <james@nocrew.org>
2903
2904         * rene (main): in the NVIU output, append items to lists, not
2905         extend them; fixes amusing suggestion that "g n u m e r i c" (sic)
2906         should be removed.
2907
2908 2003-02-07  James Troup  <james@nocrew.org>
2909
2910         * apt.conf (tree "dists/unstable"): Add bzip2-ed Packages and
2911         Sources [aj].
2912
2913         * pseudo-packages.maintainers (bugs.debian.org): s/Darren
2914         O. Benham/Adam Heath/.
2915
2916         * katie.conf (Suite::Stable::Version): bump to 3.0r1a.
2917         (Suite::Stable::Description): update for 3.0r1a.
2918         (Dinstall::SigningKeyIds): update for 2003 key [aj].
2919
2920         * utils.py (gpgv_get_status_output): rename from
2921         get_status_output().
2922
2923         * neve (check_signature): use gpgv_get_status_output and Dict from
2924         utils().  Add missing newline to error message about duplicate tokens.
2925
2926         * saffron (per_arch_space_use): also print space used by source.
2927         (output_format): correct string.join() invocation.
2928
2929         * jennifer (check_signature): ignored duplicate EXPIRED tokens.
2930
2931 2003-02-04  James Troup  <james@nocrew.org>
2932
2933         * cron.buildd: correct generation of Packages/Sources and grep out
2934         non-US/non-free as well as non-free.
2935
2936 2003-02-03  Ryan Murray  <rmurray@debian.org>
2937
2938         * cron.buildd: generate quinn-diff output with full Packages/Sources
2939           files to get out-of-date vs. uncompiled right.
2940         * apt.conf.buildd: no longer generate uncompressed files, as they
2941           are generated in cron.buildd instead
2942         * add -i option to quinn-diff to ignore binary-all packages
2943         * apt.conf.buildd: remove and readd udeb to extensions.  If the udebs
2944           aren't in the packages file, the arch that uploaded them will build
2945           them anyways...
2946
2947 2003-01-30  James Troup  <james@nocrew.org>
2948
2949         * rene (main): only print suggested melanie command when there's
2950         some NBS to remove.
2951
2952 2003-01-30  Ryan Murray  <rmurray@debian.org>
2953
2954         * cron.buildd: fix incorrectly inverted lockfile check
2955
2956 2003-01-29  Ryan Murray  <rmurray@debian.org>
2957
2958         * cron.buildd: generate override.sid.all3.src
2959         * apt.conf.buildd: use generated override.sid.all3.src
2960
2961 2003-01-27  Martin Michlmayr  <tbm@cyrius.com>
2962
2963         * utils.py (get_status_output): moved from jennifer.
2964         (Dict): likewise.
2965         (check_signature): likewise.
2966
2967         * jennifer (get_status_output): moved to utils.py.
2968         (Dict): likewise.
2969         (check_signature): likewise.
2970
2971         * utils.py (check_signature): add an argument to specifiy which
2972         function to call when an error was found.
2973         (check_signature): document this function better.
2974
2975         * jennifer (check_files): pass the reject function as an argument
2976         to utils.check_signature.
2977         (process_it): likewise.
2978
2979 2003-01-20  James Troup  <james@nocrew.org>
2980
2981         * rene (main): lots of changes to improve the output and make it
2982         more useful.
2983
2984         * katie.py (Katie.check_override): make the override messages
2985         clearer (hopefully).
2986
2987 2002-12-26  James Troup  <james@nocrew.org>
2988
2989         * ziyi (usage): document the ability to pass suite(s) as
2990         argument(s).
2991         (main): read apt.conf after checking for -h/--help.
2992
2993         * tea (main): take the check to run as an argument.
2994
2995         * saffron.R: R script to graph daily install runs.
2996
2997         * saffron: new script; various stats functions.
2998
2999         * rhona (main): connect to the database after checking for -h/--help.
3000
3001         * neve (do_da_do_da): if no -a/--action option is given, bail out.
3002
3003         * melanie (main): sort versions with utils.arch_compare_sw().
3004
3005         * madison (usage): alphabetize order of options.
3006         * melanie (usage): likewise.
3007
3008         * kelly (usage): fix usage short description (we aren't dinstall).
3009
3010         * julia (usage): fix usage description and alphabetize order of
3011         options.
3012
3013         * jeri (usage): fix usage short description.
3014
3015         * jennifer (main): move --help and --version checks from here...
3016         (init): to here so that they work with an empty katie.conf.
3017         * kelly: likewise.
3018
3019         * alyson (usage): new function.
3020         (main): use it.
3021         * andrea: likewise.
3022         * ashley: likewise.
3023         * cindy: likewise.
3024         * denise: likewise.
3025         * helena: likewise.
3026         * neve: likewise.
3027         * rene: likewise.
3028         * rose: likewise.
3029         * tea: likewise.
3030
3031         * apt.conf.stable (tree "dists/stable"): add missing ExtraOverride
3032         entry that caused tasks to be omitted from 3.0r1.
3033
3034 2002-12-10  James Troup  <james@nocrew.org>
3035
3036         * jennifer (check_files): sanity check the Depends field to ensure
3037         it's non-empty if present since apt chokes on an empty one.
3038         Thanks to Ryan Murray for the idea.
3039
3040 2002-12-08  James Troup  <james@nocrew.org>
3041
3042         * katie.conf-security (Helena::Directories): new; include accepted
3043         in addition to byhand and new.
3044
3045         * helena (process_changes_files): use utils.arch_compare_sw().
3046         Justify things based on the longest [package, version,
3047         architecture].  Reduce '[note]' to '[N]' to save space, and remove
3048         the commas in architecture and version lists for the same reason.
3049         (main): make directories we process configurable through
3050         Helena::Directories in the config file; if that doesn't exist
3051         default to the old hardcoded values (byhand & new).
3052
3053         * utils.py (arch_compare_sw): moved here from madison.
3054         * madison (main): adjust to compensate.
3055
3056 2002-12-06  James Troup  <james@nocrew.org>
3057
3058         * ziyi (main): fix "suite foo not in apt.conf" msg to use the
3059         right filename.
3060
3061 2002-12-05  James Troup  <james@nocrew.org>
3062
3063         * katie.conf-non-US (Julia::KnownPostgres): add 'udmsearch'.
3064
3065 2002-11-28  Randall Donald  <rdonald@debian.org>
3066
3067         * fernanda.py (read_control): fix typo of 'Architecture'.
3068
3069 2002-11-26  James Troup  <james@nocrew.org>
3070
3071         * lisa (check_pkg): call less with '-R' so we see the colour from
3072         Randall's fernanda changes.
3073
3074         * neve (process_sources): if Directory points to a legacy location
3075         but the .dsc isn't there; assume it's broken and look in the pool.
3076         (update_section): new, borroed from alyson.
3077         (do_da_do_da): use it.
3078         (process_packages): add suite_it to the cache key used for
3079         arch_all_cache since otherwise we only add a package to the first
3080         suite it's in and ignore any subsequent ones.
3081
3082         * katie.conf-non-US (Location): fixed to reflect reality (all
3083         suites, except old-proposed-updates (which is legacy-mixed)) are
3084         pool.
3085
3086         * utils.py (try_with_debug): wrapper for print_exc().
3087         * jenna (main): use it.
3088         * neve (main): likewise.
3089
3090 2002-11-25  Randall Donald  <rdonald@debian.org>
3091
3092         * fernanda.py (main): added -R to less command line for raw control
3093         character support to print colours
3094         (check_deb): Instead of running dpkg -I on deb file, call
3095         output_deb_info, the new colourized control reporter.
3096         (check_dsc): add call to colourized dsc info reader, read_dsc, instead
3097         of printing out each .dsc line.
3098         (output_deb_info): new function. Outputs each key/value pair from
3099         read_control except in special cases where we highlight section,
3100         maintainer, architecture, depends and recommends.
3101         (create_depends_string): new function. Takes Depends tree and looks
3102         up it's compontent via projectb db, colourizes and constructs a
3103         depends string in original order.
3104         (read_dsc): new function. reads and parses .dsc info via
3105         utils.parse_changes. Build-Depends and Build-Depends-Indep are
3106         colourized.
3107         (read_control): new function. reads and parses control info via
3108         apt_pkg. Depends and Recommends are split in to list structures,
3109         Section and Architecture are colourized. Maintainer is colourized
3110         if it has a localhost.localdomain address.
3111         (split_depends): new function. Creates a list of lists of
3112         dictionaries of depends (package,version relation). Top list is
3113         colected from comma delimited items. Sub lists are | delimited.
3114         (get_comma_list): new function. splits string input among commas
3115         (get_or_list): new function. splits string input among | delimiters
3116         (get_depends_parts): new function. Creates dictionary of package name
3117         and version relation from dependancy string.
3118         Colours for section and depends are per component. Unfound depends
3119         are in bold. Lookups using version info is not supported yet.
3120
3121 2002-11-22  James Troup  <james@nocrew.org>
3122
3123         * katie.conf-security (Julia::KnownPostgres): add 'www-data' and
3124         'udmsearch'.
3125
3126         * amber (make_advisory): string.atol() is deprecated and hasn't
3127         been ported to string methods.  Use long() instead.
3128
3129         * init_pool.sql: explicitly specify the encoding (SQL_ASCII) when
3130         creating the database since we'll fail badly if it's created with
3131         e.g. UNICODE encoding.
3132
3133         * rose (main): AptCnf is a global.
3134
3135         * neve (get_location_path): new function determines the location
3136         from the the first (left-most) directory of a Filename/Directory.
3137         (process_sources): don't need 'location' anymore.  Use
3138         utils.warn().  Use the Directory: field for each package to find
3139         the .dsc.  Use get_location_path() to determine the location for
3140         each .dsc.
3141         (process_packages): do't need 'location' anymore.  Use
3142         utils.warn().  Use get_location_path().
3143         (do_sources): don't need 'location', drop 'prefix' in favour of
3144         being told the full path to the Sources file, like
3145         process_packages().
3146         (do_da_do_da): main() renamed, so that main can call us in a
3147         try/except.  Adapt for the changes in do_sources() and
3148         process_packages() above.  Assume Sources and Packages file are in
3149         <root>/dists/<etc.>.  Treat pool locations like we do legacy ones.
3150
3151         * katie.conf-security (Location): fixed to reflect reality (all
3152         suites are pool, not legacy).
3153
3154         * utils.py (print_exc): more useful (i.e. much more verbose)
3155         traceback; a recipe from the Python cookbook.
3156         * jenna (main): use it.
3157         * neve (main): likewise.
3158
3159 2002-11-19  James Troup  <james@nocrew.org>
3160
3161         * kelly (install): fix brain-damaged CopyChanges/CopyKatie
3162         handling which was FUBAR for multi-suite uploads.  Now we just
3163         make a dictionary of destinations to copy to and iterate over
3164         those.
3165
3166         * fernanda.py (check_deb): run linda as well as lintian.
3167
3168 2002-10-21  James Troup  <james@nocrew.org>
3169
3170         * melanie (main): change X-Melanie to X-Katie and prefix it with
3171         'melanie '.
3172
3173         * lisa (main): prefix X-Katie with 'lisa '.
3174
3175         * jennifer (clean_holding): fix typo in string method changes;
3176         s/file.find(file/file.find(/.
3177
3178         * cron.daily: invoke helena and send the report to ftpmaster.
3179         * cron.daily-non-US: likewise.
3180
3181 2002-10-16  James Troup  <james@nocrew.org>
3182
3183         * kelly (check): call reject() with a blank prefix when parsing
3184         the return of check_dsc_against_db() since it does its own
3185         prefix-ing.
3186
3187         * rose: new script; only handles directory creation initally.
3188
3189         * katie.conf (Dinstall::NewAckList): obsolete, removed.
3190         * katie.conf-non-US (Dinstall::NewAckList): likewise.
3191
3192 2002-10-06  James Troup  <james@nocrew.org>
3193
3194         * rene (main): remove bogus argument handling.
3195
3196         * kelly: katie, renamed.
3197         * cron.daily: adapt for katie being renamed to kelly.
3198         * cron.daily-non-US: likewise.
3199         * amber (main): likewise.
3200
3201         * Changes for python 2.1.
3202
3203         * kelly: time.strftime no longer requires a second argument of
3204         "time.localtime(time.time())".
3205         * logging.py: likewise.
3206         * rhona: likewise.
3207         * shania (init): likewise.
3208
3209         * amber: use augmented assignment.
3210         * catherine (poolize): likewise.
3211         * claire.py (fix_component_section): likewise.
3212         * halle (check_changes): likewise.
3213         * helena: likewise.
3214         * jenna: likewise.
3215         * jennifer: likewise.
3216         * jeri: likewise.
3217         * katie.py: likewise.
3218         * kelly: likewise.
3219         * lisa: likewise.
3220         * madison (main): likewise.
3221         * melanie: likewise.
3222         * natalie: likewise.
3223         * neve: likewise.
3224         * rhona: likewise.
3225         * tea: likewise.
3226         * utils.py: likewise.
3227         * ziyi: likewise.
3228
3229         * amber: use .endswith.
3230         * fernanda.py: likewise.
3231         * halle (main): likewise.
3232         * jennifer: likewise.
3233         * jeri: likewise.
3234         * katie.py: likewise.
3235         * kelly: likewise.
3236         * lisa: likewise.
3237         * neve: likewise.
3238         * shania (main): likewise.
3239         * utils.py: likewise.
3240
3241         * alyson: use string methods.
3242         * amber: likewise.
3243         * andrea: likewise.
3244         * ashley: likewise.
3245         * catherine: likewise.
3246         * charisma: likewise.
3247         * claire.py: likewise.
3248         * db_access.py: likewise.
3249         * denise: likewise.
3250         * halle: likewise.
3251         * heidi: likewise.
3252         * helena: likewise.
3253         * jenna: likewise.
3254         * jennifer: likewise.
3255         * jeri: likewise.
3256         * julia: likewise.
3257         * katie.py: likewise.
3258         * kelly: likewise.
3259         * lisa: likewise.
3260         * logging.py: likewise.
3261         * madison: likewise.
3262         * melanie: likewise.
3263         * natalie: likewise.
3264         * neve: likewise.
3265         * rene: likewise.
3266         * tea: likewise.
3267         * utils.py: likewise.
3268         * ziyi: likewise.
3269
3270 2002-09-20  Martin Michlmayr  <tbm@cyrius.com>
3271
3272         * utils.py (parse_changes): use <string>.startswith() rather than
3273         string.find().
3274
3275 2002-08-27  Anthony Towns  <ajt@debian.org>
3276
3277         * katie.py (in_override_p): when searching for a source override,
3278         and the dsc query misses, search for both udeb and deb overrides
3279         as well. Should fix the UNACCEPT issues with udebs.
3280
3281 2002-08-24  James Troup  <james@nocrew.org>
3282
3283         * melanie (main): remove gratuitous WHERE EXISTS sub-select from
3284         source+binary package finding code which was causing severe
3285         performance degradation with postgres 7.2.
3286
3287 2002-08-14  James Troup  <james@nocrew.org>
3288
3289         * julia (main): use the pwd.getpwall() to get system user info
3290         rather than trying to read a password file.  Add a -n/--no-action
3291         option.
3292
3293         * cron.hourly: julia no longer takes any arguments.
3294         * cron.hourly-non-US: likewise.
3295
3296 2002-08-07  James Troup  <james@nocrew.org>
3297
3298         * katie (install): handle multi-suite uploads when CopyChanges
3299         and/or CopyKatie are in use, ensuring we only copy stuff once.
3300
3301 2002-08-01  Ryan Murray  <rmurray@debian.org>
3302
3303         * wanna-build/trigger.daily: initial commit, with locking
3304         * cron.buildd: add locking against daily run
3305
3306 2002-07-30  James Troup  <james@nocrew.org>
3307
3308         * melanie (main): readd creation of suite_ids_list so melanie is
3309         remotely useful again.
3310
3311         * katie.conf: adopt for woody release; diable
3312         StableDislocationSupport, add oldstable, adjust other suites and
3313         mappings, fix up location.
3314         * katie.conf-non-US: likewise.
3315         * katie.conf-security: likewise.
3316
3317         * apt.conf.stable: adapt for woody release; add oldstable, adjust
3318         stable.
3319         * apt.conf.stable-non-US: likewise.
3320
3321         * apt.conf-security: adapt for woody release; adding oldstable,
3322         oldstable, adjust stable and testing.
3323         * cron.daily-security: likewise.
3324         * cron.buildd-security: likewise.
3325
3326         * apt.conf: adapt for woody release; rename woody-proposed-updates
3327         to testing-proposed-updates and proposed-updates to
3328         old-proposed-updates.
3329         * apt.conf-non-US: likewise.
3330
3331         * vars-non-US (copyoverrides): add sarge.
3332         * vars (copyoverrides): likewise.
3333
3334         * vars-security (suites): add oldstable.
3335
3336 2002-07-22  Ryan Murray  <rmurray@debian.org>
3337
3338         * apt.conf.security-buildd: use suite codenames instead of
3339           distnames.
3340
3341 2002-07-16  James Troup  <james@nocrew.org>
3342
3343         * denise (main): fix filenames for testing override files.
3344
3345 2002-07-14  James Troup  <james@nocrew.org>
3346
3347         * jennifer (process_it): call check_md5sums later so we can check
3348         files in the .dsc too
3349         (check_md5sums): check files in the .dsc too.  Check both md5sum
3350         and size.
3351
3352         * melanie (main): use parse_args() and join_with_commas_and() from
3353         utils.  If there's nothing to do, say so and exit, don't ask for
3354         confirmation etc.
3355
3356         * amber (join_with_commas_and): moved from here to ...
3357         * utils.py (join_with_commas_and): here.
3358
3359 2002-07-13  James Troup  <james@nocrew.org>
3360
3361         * madison (main): use parse_args() from utils.  Support
3362         -c/--component.
3363
3364         * jenna (parse_args): moved from here to ...
3365         * utils.py (parse_args): here.
3366
3367         * katie.conf (Architectures): minor corrections to the description
3368         for arm, mips and mipsel.
3369         * katie.conf-non-US (Architectures): likewise.
3370         * katie.conf-security (Architectures): likewise.
3371
3372         * cron.daily-security: use natalie's new -a/--add functionality to
3373         flesh out the security overrides.
3374
3375 2002-07-12  James Troup  <james@nocrew.org>
3376
3377         * cron.buildd (ARCHS): add arm.
3378
3379         * katie.conf: 2.2r7 was released.
3380         * katie.conf-non-US: likewise.
3381
3382         * utils.py (parse_changes): handle a multi-line field with no
3383         starting line.
3384
3385 2002-06-25  James Troup  <james@nocrew.org>
3386
3387         * templates/amber.advisory (To): add missing email address since
3388         __WHOAMI__ is only a name.
3389
3390         * katie.conf-security (Melane::LogFile): correct to go somewhere
3391         katie has write access to.
3392         (Location::/org/security.debian.org/ftp/dists/::Suites): add
3393         Testing.
3394
3395         * natalie: add support for -a/-add which adds packages only
3396         (ignoring changes and deletions).
3397
3398         * katie.py (Katie.announce): Dinstall::CloseBugs is a boolean so
3399         use FindB, not get.
3400
3401 2002-06-22  James Troup  <james@nocrew.org>
3402
3403         * jennifer (check_files): validate the package name and version
3404         field.  If 'Package', 'Version' or 'Architecture' are missing,
3405         don't try any further checks.
3406         (check_dsc): likewise.
3407
3408         * utils.py (re_taint_free): add '~' as a valid character.
3409
3410 2002-06-20  Anthony Towns  <ajt@debian.org>
3411
3412         * katie.conf-non-US: add OverrideSuite for w-p-u to allow uploads
3413
3414 2002-06-09  James Troup  <james@nocrew.org>
3415
3416         * jennifer (check_files): reduce useless code.
3417
3418         * cron.daily-security: run symlinks -dr on $ftpdir.
3419
3420         * vars-security (ftpdir): add.
3421
3422 2002-06-08  James Troup  <james@nocrew.org>
3423
3424         * neve (update_override_type): transaction is handled higher up in
3425         main().
3426         (update_priority): likewise.
3427         (process_sources): remove code that makes testing a duplicate of
3428         stable.
3429         (process_packages): likewise.
3430
3431         * templates/amber.advisory: add missing mail headers.
3432
3433         * cron.daily-security: also call apt-ftparchive clean for
3434         apt.conf.buildd-security.
3435         * cron.weekly: likewise.
3436
3437         * amber (do_upload): write out a list of source packages (and
3438         their version) uploaded for testing.
3439         (make_advisory): add more Subst mappings for the mail headers.
3440         (spawn): check for suspicious characters in the command and abort
3441         if their found.
3442
3443 2002-06-07  James Troup  <james@nocrew.org>
3444
3445         * ziyi (main): remove the 'nonus'/'security' hacks and use
3446         Dinstall::SuiteSuffix (if it exists) instead.  Always try to write
3447         the lower level Release files, even if they don't exist.  fubar
3448         out if we can't open a lower level Release file for writing.
3449
3450         * katie.conf-non-US (Dinstall): add SuiteSuffix, used to simplify
3451         ziyi.
3452         * katie.conf-security (Dinstall): likewise.
3453
3454         * amber (do_upload): renamed from get_file_list().  Determine the
3455         upload host from the original component.
3456         (init): Add a -n/--no-action option.  Fix how we get changes_files
3457         (i.e. from the return value of apt_pkg.ParseCommandLine(), not
3458         sys.argv).  Add an Options global.
3459         (make_advisory): support -n/--no-action.
3460         (spawn): likewise.
3461         (main): likewise.
3462         (usage): document -n/--no-action.
3463
3464         * cron.buildd-security: fix path to Packages-arch-specific in
3465         quinn-diff invocation.
3466
3467         * katie.conf-security (Dinstall::AcceptedAutoBuildSuites): change
3468         to proper suite names (i.e. stable, testing) rather than codenames
3469         (potato, woody).
3470         (Dinstall::DefaultSuite): likewise.
3471         (Suite): likewise.
3472         (Location::/org/security.debian.org/ftp/dists/::Suites): likewise.
3473         * vars-security (suites): likewise.
3474         * apt.conf-security: likewise.
3475
3476         * katie.conf-security (Component): add "updates/" prefix.
3477         (Suite::*::Components): likewise.
3478         (ComponentMappings): new; map all {ftp-master,non-US} components
3479         -> updates/<foo>.
3480
3481         * katie.conf-security (Natalie): removed; the options have
3482         defaults and ComponentPosition is used by alyson which doesn't
3483         work on security.d.o.
3484         (Amber): replace UploadHost and UploadDir with ComponentMappings
3485         which is a mapping of components -> URI.
3486         (Suite::*::CodeName): strip bogus "/updates" suffix hack.
3487         (SuiteMappings): use "silent-map" in preference to "map".
3488
3489         * cron.unchecked-security: fix call to cron.buildd-security.
3490
3491         * cron.daily-security: map local suite (stable) -> override suite
3492         (potato) when fixing overrides.  Correct component in natalie call
3493         to take into account "updates/" prefix.  Fix cut'n'waste in
3494         override.$dist.all3 generation, the old files weren't being
3495         removed, so they were endlessly growing.
3496
3497         * neve (main): don't use .Find for the CodeName since we require
3498         it.  Location::*::Suites is a ValueList.
3499         (check_signature): ignore duplicate SIGEXPIRED tokens.  Don't bomb
3500         out on expired keys, just warn.
3501         (update_override_type): new function; lifted from alyson.
3502         (update_priority): likewise.
3503         (main): use update_{override_type,priority}().
3504
3505         * jennifer (check_distributions): remove redunant test for
3506         SuiteMappings; ValueList("does-not-exist") returns [] which is
3507         fine.  Add support for a "silent-map" type which doesn't warn
3508         about the mapping to the user.
3509         (check_files): add support for ComponentMappings, similar to
3510         SuiteMappings, but there's no type, just a source and a
3511         destination and the original component is stored in "original
3512         component".
3513         * katie.py (Katie.dump_vars): add "original component" as an
3514         optionsal files[file] dump variable.
3515
3516         * claire.py (find_dislocated_stable): dehardcode 'potato' in SQL
3517         query.  Add support for section-less legacy locations like current
3518         security.debian.org through YetAnotherConfigBoolean
3519         'LegacyStableHasNoSections'.
3520         * katie.conf-security (Dinstall): LegacyStableHasNoSections is true.
3521
3522         * utils.py (real_arch): moved here from ziyi.
3523         * ziyi (real_arch): moved to utils.py.
3524         * ziyi (main): likewise.
3525
3526         * claire.py (find_dislocated_stable): use real_arch() with
3527         filter() to strip out source and all.
3528         * neve (main): likewise.
3529         * rene (main): likewise.
3530         * jeri (parse_packages): likewise.
3531
3532 2002-06-06  James Troup  <james@nocrew.org>
3533
3534         * tea (check_missing_tar_gz_in_dsc): modifed patch from Martin
3535         Michlmayr <tbm@cyrius.com> to be more verbose about what we're
3536         doing.
3537
3538 2002-05-23  Martin Michlmayr  <tbm@cyrius.com>
3539
3540         * jeri (check_joey): check if the line contains two elements
3541         before accessing the second.  Also, strip trailing spaces as well
3542         as the newline.
3543         * halle (check_joey): likewise.
3544
3545 2002-06-05  James Troup  <james@nocrew.org>
3546
3547         * cron.unchecked-security: new file; like cron.unchecked but if
3548         there's nothing to do exit so we don't call cron.buildd-security.
3549
3550         * apt.conf.buildd-security: new file.
3551
3552         * vars (archs): alphabetize.
3553         * vars-non-US (archs): likewise.
3554
3555         * vars-security: add unchecked.
3556
3557         * madison (main): reduce rather bizarrely verbose and purposeless
3558         code to print arches to a simple string.join.
3559
3560         * katie.conf (Suites::Unstable): add UdebComponents, a new
3561         valuelist of suites, used by jenna to flesh out the list of
3562         <suite>_main-debian-installer-binary-<arch>.list files generated.
3563         (Dinstall): add StableDislocationSupport, a new boolean used by
3564         jenna to enable or disable stable dislocation support
3565         (i.e. claire), as true.
3566
3567         * katie.conf (Dinstall): add StableDislocationSupport, a new
3568         boolean used by jenna to enable or disable stable dislocation
3569         support (i.e. claire), as true.
3570         * katie.conf-non-US: likewise.
3571         * katie.conf-security: likewise.
3572
3573         * cron.daily-security: generate .all3 overrides for the buildd
3574         support.  Freshen a local copy of Packages-arch-specific from
3575         buildd.debian.org.
3576
3577         * claire.py (find_dislocated_stable): disable the support for
3578         files in legacy-mixed locations since none of the Debian archives
3579         have any anymore.
3580
3581         * helena: new script; produces a report on NEW and BYHAND
3582         packages.
3583
3584         * jenna: rewritten from scratch to fix speed problems.  Run time
3585         on auric goes down from 31.5 minutes to 3.5 minutes.  Of that 3.5
3586         minutes, 105 seconds are the monster query and 70 odd seconds is
3587         claire.
3588
3589         * apt.conf.buildd (Default): remove MaxContentsChange as it's
3590         irrelevant.
3591
3592 2002-06-05  Ryan Murray  <rmurray@debian.org>
3593
3594         * cron.buildd-security: new file.
3595
3596 2002-06-05  Matt Kraai  <kraai@alumni.cmu.edu>
3597
3598         * denise (list): take a file argument and use it.
3599         (main): don't abuse sys.stdout, just write to the file.
3600
3601         * claire.py (usage): Fix misspelling.
3602         (clean_symlink): Simplify.
3603         (find_dislocated_stable): Avoid unnecessary work.
3604
3605 2002-05-29  James Troup  <james@nocrew.org>
3606
3607         * cameron: removed; apt-ftparchive can simply walk the directory.
3608
3609 2002-05-26  Anthony Towns  <ajt@debian.org>
3610
3611         * katie.conf{,-non-US}: Map testing to testing-proposed-updates
3612         for the autobuilders.
3613
3614 2002-05-24  Ryan Murray  <rmurray@debian.org>
3615
3616         * cron.buildd: update override files before running apt-ftparchive
3617
3618 2002-05-23  Martin Michlmayr  <tbm@cyrius.com>
3619
3620         * amber (main): remove extra space in prompt.
3621
3622         * utils.py (validate_changes_file_arg): use original filename in
3623         error messages.
3624
3625         * jeri (check_joey): close file after use.
3626         (parse_packages): likewise.
3627         (main): setup debug option properly.
3628
3629         * melanie (main): remove unused packages variable and simplify the
3630         code to build up con_packages by using repr().
3631
3632 2002-05-23  James Troup  <james@nocrew.org>
3633
3634         * lisa (recheck): when we reject, also return 0 so the package is
3635         skipped.
3636         (sg_compare): fix note sorting.
3637         (recheck): remove the .katie file after rejection.
3638
3639         * katie.py (Katie.accept): accepted auto-build support take 3;
3640         this time adding support for security.  Security needs a) non-pool
3641         files copied rather than symlinked since accepted is readable only
3642         by katie/security and www-data needs to be able to see the files,
3643         b) needs per-suite directories.  SpecialAcceptedAutoBuild becomes
3644         AcceptedAutoBuildSuites and is a ValueList containing the suites.
3645         SecurityAcceptedAutoBuild is a new boolean which controls whether
3646         or not normal or security style is used.  The unstable_accepted
3647         table was renamed to accepted_autobuild and a suite column added.
3648         Also fix a bug noticed by Ryan where an existent orig.tar.gz
3649         didn't have it's last_used/in_accepted flags correctly updated.
3650         * katie (install): likewise.
3651         * rhona (clean_accepted_autobuild): likewise.
3652
3653 2002-05-22  James Troup  <james@nocrew.org>
3654
3655         * lisa (sort_changes): new function; sorts changes properly.
3656         Finally.
3657         (sg_compare): new function; helper for sort_changes().  Sorts by
3658         have note and time of oldest upload.
3659         (indiv_sg_compare): new function; helper for sort_changes().
3660         Sorts by source version, have source and filename.
3661         (main): use sort_changes().
3662         (changes_compare): obsoleted; removed.
3663
3664 2002-05-20  James Troup  <james@nocrew.org>
3665
3666         * rhona (clean_accepted_autobuild): don't die if a file we're
3667         trying to remove doesn't exist.  Makes rhona more friendly to
3668         katie/katie.py crashes/bugs without any undue cost.
3669
3670 2002-05-19  James Troup  <james@nocrew.org>
3671
3672         * lisa (main): if sorting a large number of changes give some
3673         feedback.
3674         (recheck): new function, run the same checks (modulo NEW,
3675         obviously) as katie does, if they fail do the standard
3676         reject/skip/quit dance.
3677         (do_pkg): use it.
3678
3679         * katie (install): don't try to unlink the symlink in the
3680         AcceptedAutoBuild support if the destination is not a symlink (or
3681         doesn't exist).  Avoids unnecessary bombs on previous partial
3682         accepts and will still bomb hard if the file exists and isn't a
3683         symlink.
3684
3685         * utils.py: blah, commands _is_ used when the mail stuff isn't
3686         commented out like it is in my test environment.
3687
3688         * lisa (changes_compare): "has note" overrides everything else.
3689         Use .katie files rather than running parse_changes, faster and
3690         allows "has note" to work.  Correct version compare, it was
3691         reversed.  Ctime check should only kick in if the source packages
3692         are not the same.
3693         (print_new): print out and return any note.  Rename 'ret_code' to
3694         'broken'.
3695         (edit_new): renamed from spawn_editor.  Don't leak file
3696         descriptors.  Clean up error message if editor fails.
3697         (edit_note): new function, allows one to edit notes.
3698         (do_new): add note support, editing and removing.
3699         (init): kill -s/--sort; with notes we always want to use our
3700         sorting method.
3701         (usage): likewise.
3702
3703         * katie.py (Katie.dump_vars): add "lisa note" as an optional
3704         changes field.
3705
3706         * utils.py (build_file_list): rename 'dsc' to 'is_a_dsc' and have
3707         it default to 0.  Adapt tests to assume it's boolean.
3708         * fernanda.py (check_changes): adjust call appropriately.
3709         * halle (check_changes): likewise.
3710         * jennifer (check_changes): likewise.
3711         * jeri (check_changes): likewise.
3712         * shania (flush_orphans): likewise.
3713
3714         * jennifer (check_dsc): pass is_a_dsc by name when calling
3715         build_file_list() for clarity.
3716         * shania (flush_orphans): likewise.
3717         * tea (check_missing_tar_gz_in_dsc): likewise.
3718
3719         * jennifer (check_dsc): pass dsc_whitespace_rules by name when
3720         calling parse_changes() for clarity.
3721         * tea (check_dscs): likewise.
3722
3723         * utils.py (parse_changes): make dsc_whitespace_rules default to
3724         not true.
3725         * halle (check_changes): adjust call appropriately.
3726         * jennifer (check_changes): likewise.
3727         * jeri (check_changes): likewise.
3728         * lisa (changes_compare): likewise.
3729         * utils.py (changes_compare): likewise.
3730         * melanie (main): likewise.
3731         * shania (flush_orphans): likewise.
3732         * fernanda.py (check_changes): likewise.
3733
3734 2002-05-18  James Troup  <james@nocrew.org>
3735
3736         * katie.py (Katie.dump_vars): make the .katie file unreadable,
3737         it's not useful and by and large a duplication of information
3738         available in readable format in other files.
3739
3740 2002-05-16  Ryan Murray  <rmurray@debian.org>
3741
3742         * melanie: Dir::TemplatesDir -> Dir::Templates
3743
3744 2002-05-15  Ryan Murray  <rmurray@debian.org>
3745
3746         * cameron: correct the use of os.path.join
3747
3748 2002-05-15  Anthony Towns  <ajt@debian.org>
3749
3750         * ziyi: Update to match the new format for Architectures/Components
3751         in katie.conf.
3752
3753 2002-05-14  James Troup  <james@nocrew.org>
3754
3755         * amber: new script; 'installer' wrapper script for the security
3756         team.
3757
3758         * katie.py (Katie.announce): remove unused 'dsc' local
3759         variable. (pychecker)
3760
3761         * ziyi: pre-define AptCnf and out globals to None. (pychecker)
3762
3763         * neve: don't import sys, we don't use it. (pychecker)
3764         (check_signature): fix return type mismatch. (pychecker)
3765
3766         * utils.py: don't import commands, we don't use it.  (pychecker)
3767
3768         * katie (install): SpecialAcceptedAutoBuild is a boolean.
3769
3770         * katie.py (Katie.dump_vars): don't store "oldfiles", it's
3771         obsoleted by the change to "othercomponents" handling in jennifer
3772         detailed below.
3773         (Katie.cross_suite_version_check): new function; implements
3774         cross-suite version checking rules specified in the conf file
3775         while also enforcing the standard "must be newer than target
3776         suite" rule.
3777         (Katie.check_binary_against_db): renamed, since it's invoked once
3778         per-binary, "binaries" was inaccurate.  Use
3779         cross_suite_version_check() and don't bother with the "oldfiles"
3780         rubbish as jennifer works out "othercomponents" herself now.
3781         (Katie.check_source_against_db): use cross_suite_version_check().
3782
3783         * katie (check): the version and file overwrite checks
3784         (check_{binary,source,dsc}_against_db) are not per-suite.
3785
3786         * jennifer (check_files): less duplication of
3787         'control.Find("Architecture", "")' by putting it in a local
3788         variable.
3789         (check_files): call check_binary_against_db higher up since it's
3790         not a per-suite check.
3791         (check_files): get "othercomponents" directly rather than having
3792         check_binary_against_db do it for us.
3793
3794         * heidi (main): 'if x:', not 'if x != []:'.
3795         * katie.py (Katie.in_override_p): likewise.
3796         (Katie.check_dsc_against_db): likewise.
3797         * natalie (main): likewise.
3798         * rene (main): likewise.
3799         * ziyi (real_arch): likewise.
3800
3801         * alyson (main): Suite::%s::Architectures, Suite::%s::Components
3802         and OverrideType are now value lists, not lists.
3803         * andrea (main): likewise.
3804         * cindy (main): likewise.
3805         * claire.py (find_dislocated_stable): likewise.
3806         * denise (main): likewise.
3807         * jenna (main): likewise.
3808         * jennifer (check_distributions): likewise.
3809         (check_files): likewise.
3810         (check_urgency): likewise (Urgency::Valid).
3811         * jeri (parse_packages): likewise.
3812         * neve (main): likewise (and Location::%s::Suites).
3813         * rene (main): likewise.
3814
3815 2002-05-13  James Troup  <james@nocrew.org>
3816
3817         * katie.py (Katie.check_source_against_db): correct case of reject
3818         message to be consistent with binary checks.
3819
3820         * jennifer (get_status_output): don't leak 2 file descriptors per
3821         invocation.
3822         (check_signature): add missing '\n' to "duplicate status token"
3823         error message.
3824
3825 2002-05-09  James Troup  <james@nocrew.org>
3826
3827         * utils.py (validate_changes_file_arg): new function; validates an
3828         argument which should be a .changes file.
3829         * ashley (main): use it.
3830         * lisa (main): likewise.
3831
3832         * katie.py (Katie.check_dsc_against_db): since there can be more
3833         than one .orig.tar.gz make sure we don't assume the .orig.tar.gz
3834         entry still exists in files.
3835
3836         * jennifer (check_dsc): handle the .orig.tar.gz disappearing from
3837         files, since check_dsc_against_db() deletes the .orig.tar.gz
3838         entry.
3839
3840         * cameron: cleanups.
3841
3842         * utils.py (changes_compare): change sort order so that source
3843         name and source version trump 'have source'; this should fix
3844         UNACCEPT problems in katie where -1 hppa+source & i386, -2
3845         i386&source & hppa lead to -1 i386 unaccept.  Problem worked out
3846         by Ryan.
3847
3848         * lisa (main): allow the arguments to be .katie files too.
3849
3850 2002-05-07  Ryan Murray  <rmurray@debian.org>
3851
3852         * cron.buildd: add s390 to arch list again
3853
3854 2002-05-05  Ryan Murray  <rmurray@debian.org>
3855
3856         * cron.buildd: new script, update w-b database from unstable_accepted
3857         table
3858         * cameron: new script, take list in unstable_accepted and write out
3859         a file list for apt-ftparchive
3860         * apt.conf.buildd: new apt configuration for Packages/Sources for
3861         unstable_accepted
3862         * vars: add s390 to arch list.
3863
3864 2002-05-03  James Troup  <james@nocrew.org>
3865
3866         * neve (main): don't hard code the calling user as that doesn't
3867         work with modern postgres installs.  Fix psql invocation for
3868         init_pool.sql (database name required).  Dont' hard code the
3869         database name.
3870         (process_sources): add support for fingerprint and install_date.
3871         (process_packages): add support for fingerprint.
3872         (do_sources): pass in the directory, fingerprint support needs it.
3873         (get_status_output): borrowed from jennifer.
3874         (reject): likewise.
3875         (check_signature): likewise.
3876
3877         * katie (install): only try to log urgencies if Urgency_Logger is
3878         defined.
3879         (main): only initialize Urgency_Logger is Dir::UrgencyLog is
3880         defined; only close Urgency_Logger if it's defined.
3881
3882         * catherine (poolize): adapt for Dir rationalization.
3883         * claire.py (find_dislocated_stable): likewise.
3884         * denise (main): likewise.
3885         * halle (check_joey): likewise.
3886         * jenna: likewise.
3887         * jennifer: likewise.
3888         * jeri: likewise.
3889         * katie.py: likewise.
3890         * katie: likewise.
3891         * lisa (do_bxa_notification): likewise.
3892         * logging.py (Logger.__init__): likewise
3893         * rene (main): likewise.
3894         * rhona (clean): likewise.
3895         * shania (init): likewise.
3896         * tea: likewise.
3897         * ziyi: likewise.
3898
3899         * lisa (add_overrides): Dinstall::BXANotify is a boolean, use
3900         FindB, not FindI.
3901
3902         * rhona (clean_accepted_autobuild): SpecialAcceptedAutoBuild is a
3903         boolean, use FindB, not get.
3904
3905         * katie.py (Katie.check_dsc_against_db): ignore duplicate
3906         .orig.tar.gz's which are an exact (size/md5sum) match.
3907
3908         * ashley (main): really allow *.katie files as arguments too;
3909         noticed by aj.
3910
3911         * sql-aptvc.cpp: postgres.h moved to a "server" subdirectory.
3912
3913 2002-05-03  Anthony Towns  <ajt@debian.org>
3914
3915         * ziyi: support for security.
3916
3917 2002-05-02  James Troup  <james@nocrew.org>
3918
3919         * jennifer (accept): call Katie.check_override() unconditional as
3920         no-mail check moved into that function.
3921         (do_byhand): likewise.
3922
3923         * katie.py (Katie.check_override): don't do anything if we're a)
3924         not sending mail or b) the override disparity checks have been
3925         disbled via Dinstall::OverrideDisparityCheck.
3926
3927         * jennifer (check_files): don't hard code Unstable as the suite
3928         used to check for architecture validity; use
3929         Dinstall::DefaultSuite instead, if it exists.
3930         (accept): conditionalize
3931
3932         * katie.py (Katie.update_subst): support global maintainer
3933         override with Dinstall::OverrideMaintainer.
3934
3935         * jennifer (check_distributions): new function, Distribution
3936         validation and mapping.  Uses new SuiteMappings variable from
3937         config file to abstract suite mappings.
3938         (check_changes): call it.
3939
3940         * natalie: renamed; nothing imports or likely will for some time.
3941
3942         * denise (main): remove unused natalie import and init().
3943
3944         * natalie.py (init): removed.
3945         (main): initalize here instead and don't hardcode the database
3946         name.
3947
3948 2002-04-30  James Troup  <james@nocrew.org>
3949
3950         * katie.py (Katie.close_bugs): new function, split out from
3951         announce().
3952         (Katie.announce): only call close_bugs() if Dinstall::CloseBugs is
3953         true.
3954         (Katie.close_bugs): new function, split out
3955         (Katie.close_bugs): return immediately if there are no bugs to
3956         close.
3957
3958         * jennifer (acknowledge_new): adapt for new utils.TemplateSubst().
3959         * katie (do_reject): likewise.
3960         (stable_install): likewise.
3961         * katie.py (Katie.announce): likewise.
3962         (Katie.accept): likewise.
3963         (Katie.check_override): likewise.
3964         (Katie.do_reject): likewise.
3965         * lisa (do_bxa_notification): likewise.
3966         * melanie (main): likewise.
3967
3968         * utils.py (TemplateSubst): change second argument to be a
3969         filename rather than a template since every caller opened a file
3970         on the fly which was ugly and leaked file descriptor.
3971
3972 2002-04-29  James Troup  <james@nocrew.org>
3973
3974         * katie.py (Katie.announce): (modified) patch from Raphael Hertzog
3975         <hertzog@debian.org> to send 'accepted' announce mails to the
3976         PTS. [#128140]
3977
3978 2002-04-24  James Troup  <james@nocrew.org>
3979
3980         * init_pool.sql (unstable_accepted): add two new fields to
3981         unstable_accepted; in_accepted is a boolean indicating whether or
3982         not the file is in accepted and last_used is a timestamp used by
3983         rhona to determine when to remove symlinks for installed packages.
3984
3985         * katie.py (Katie.accept): auto-build support take 2.  Create
3986         symlinks for all files into a seperate directory.  Add files to
3987         unstable_accepted as paths to the new directory; mark them as
3988         being in accepted for cameron.  Properly conditionalize it on a
3989         configuration variable.
3990
3991         * katie (install): likewise.  Update symlinks to point into the
3992         pool; mark the files for later deletion by rhona and mark them as
3993         not being in accepted for cameron.
3994
3995         * rhona (clean_accepted_autobuild): new function.
3996
3997 2002-04-22  James Troup  <james@nocrew.org>
3998
3999         * jennifer (check_files): handle db_access.get_location_id()
4000         returning -1 properly/better.
4001
4002         * rhona (clean_fingerprints): new function.
4003
4004 2002-04-21  James Troup  <james@nocrew.org>
4005
4006         * utils.py (touch_file): unused; remove.
4007         (plural): likewise.
4008
4009         * jennifer (check_files): close file descriptor used to get the
4010         control file.
4011         (check_md5sums): likewise.
4012         (callback): likewise.
4013
4014         * katie.py (Katie.do_reject): handle manual rejects much better;
4015         call the editor first and get confirmation from the user before
4016         proceeding.
4017
4018         * jennifer (check_signature): prefix_multi_line_string() moved to
4019         utils.
4020
4021         * utils.py (prefix_multi_line_string): moved here from jennifer.
4022
4023 2002-04-20  James Troup  <james@nocrew.org>
4024
4025         * lisa (main): handle non-existent files.
4026
4027         * ashley (main): allow *.katie files as arguments too.
4028
4029 2002-04-19  James Troup  <james@nocrew.org>
4030
4031         * katie.py (Katie.accept): add stuff to help auto-building from
4032         accepted; if the .orig.tar.gz is not part of the upload (i.e. it's
4033         in the pool), create a symlink to it in the accepted directory and
4034         add the .dsc and .{u,}deb(s) to a new 'unstable_accepted' table.
4035
4036         * katie (install): undo the "auto-building from accepted" stuff
4037         (i.e. remove the .orig.tar.gz symlink and remove the files from
4038         unstable_accepted table).
4039
4040 2002-04-16  James Troup  <james@nocrew.org>
4041
4042         * jennifer (upload_too_new): fix typo which was causing all
4043         timestamp comparisons to be against the .changes file.  Also move
4044         back to the original directory so we do the comparisons against
4045         accurate timestamps.
4046
4047         * tea (check_missing_tar_gz_in_dsc): new function.
4048
4049         * jennifer (check_dsc): add a check to ensure there is a .tar.gz
4050         file mentioned in the .dsc.
4051
4052         * lisa (main): use X-Katie in the mail headers, not X-Lisa; that
4053         way mails reach debian-{devel-,}changes@l.d.o.
4054
4055 2002-04-02  Ryan Murray  <rmurray@debian.org>
4056
4057         * cron.daily: run shania after rhona
4058         * cron.daily-non-US: likewise.
4059
4060 2002-04-01  James Troup  <james@nocrew.org>
4061
4062         * katie: re-add proposed-updates/stable install support.
4063
4064         * katie.py (Katie.dump_vars): add changes["changes"] as an
4065         optional field; should be mandatory later.
4066
4067 2002-03-31  James Troup  <james@nocrew.org>
4068
4069         * katie (install): support a Suite::<foo>::CopyKatie similar to
4070         CopyChanges.  Done seperately because .katie files don't need to
4071         be mirrored and will probably be copied to another directory as a
4072         result.
4073
4074         * halle (main): add missing debug to options.
4075
4076 2002-03-29  James Troup  <james@nocrew.org>
4077
4078         * madison (main): add a -r/--regex option.
4079
4080 2002-03-26  James Troup  <james@nocrew.org>
4081
4082         * lisa: don't trample on changes["distribution"]; make a copy of
4083         it as changes["suite"] instead and use that.
4084
4085 2002-03-16  Anthony Towns  <ajt@debian.org>
4086
4087         * templates/lisa.bxa_notification: Fix some grammatical errors.
4088         Encourage contact via bxa@ftp-master email address.
4089
4090 2002-03-15  James Troup  <james@nocrew.org>
4091
4092         * jennifer (check_timestamps): remove bogus raise in except.
4093
4094 2002-03-15  Anthony Towns  <ajt@debian.org>
4095
4096         * cron.monthly: rotate mail/archive/bxamail as well as
4097         mail/archive/mail. This is for a complete archive of
4098         correspondence with the BXA.
4099
4100 2002-03-14  Anthony Towns  <ajt@debian.org>
4101
4102         * crypto-in-main changes.
4103
4104         * utils.py (move, copy): add an optional perms= parameter to let you
4105         set the resulting permissions of the moved/copied file
4106         * katie.py (force_move): rejected/morgued files should be unreadable
4107         * jennifer (do_byhand, acknowledge_new): pending new and byhand files
4108         should be unreadable.
4109
4110 2002-03-07  Ryan Murray  <rmurray@debian.org>
4111
4112         * katie (install): check for existance of "files id" key as well as
4113         it being set to a valid value.
4114         * katie (install): check for existense and valid value for location
4115         id as well
4116
4117 2002-03-05  Ryan Murray  <rmurray@debian.org>
4118
4119         * katie.py (do_reject): reread the reason file after editing it.
4120
4121 2002-02-25  James Troup  <james@nocrew.org>
4122
4123         * jennifer (check_changes): don't enforce sanity in .changes file
4124         names since it doesn't seem to be possible; pcmica-cs and similar
4125         freak show packages in particular cause real problems.
4126
4127         * katie.py (Katie.check_dsc_against_db): initialize 'found' for
4128         each dsc_file since the .orig.tar.gz checking code now uses it as
4129         a boolean.  Fixes bizarro rejections which bogusly claimed
4130         .diff.gz md5sum/size was incorrect.
4131
4132 2002-02-24  James Troup  <james@nocrew.org>
4133
4134         * katie (process_it): reset reject_message.
4135
4136 2002-02-22  James Troup  <james@nocrew.org>
4137
4138         * db_access.py(set_files_id): disable use of
4139         currval('files_id_seq') because it was taking 3 seconds on auric
4140         which is insane (most calls take < 0.01) and simply call
4141         get_files_id() for the return value instead.
4142
4143         * katie.py (Katie.do_query): convenience function; unused by
4144         default, useful for profiling.
4145         * db_access.py (do_query): likewise.
4146
4147         * katie (install): fix insert SQL call when binary has no source.
4148
4149         * lisa (determine_new): auto-correct non-US/main to non-US.
4150         (determine_new): add a warning when adding things to stable.
4151         (edit_index): use our_raw_input().
4152         (edit_overrides): likewise.
4153         (do_new): likewise.  Use re.search() not re.match() since the
4154         default answer may not be the first one.
4155         (do_byhand): likewise.
4156         (do_new): Default to 'S'kip and never 'A'dd.
4157
4158         * jennifer (action): pass prompt to our_raw_input().
4159         * melanie (game_over): likewise.
4160         * katie (action): likewise.
4161
4162         * utils.py (our_raw_input): add an optional prompt argument to
4163         make the function more usable as a drop in replacement for
4164         raw_input().
4165
4166         * jennifer (check_files): correct reject() to not double prefix
4167         when using katie.py based functions.
4168         (check_dsc): likewise.
4169
4170         * katie.py (Katie.reject): prepend a new line if appropriate
4171         rathen than appending one to avoid double new lines when caller
4172         adds one of his own.
4173
4174         * lisa (determine_new): warn if the package is also in other
4175         components.
4176
4177 2002-02-20  James Troup  <james@nocrew.org>
4178
4179         * jennifer (check_files): if .changes file lists "source" in
4180         Architecture field, there must be a .dsc.
4181
4182 2002-02-15  James Troup  <james@nocrew.org>
4183
4184         * ashley (main): add some missing fields.
4185
4186         * katie.py (Katie.check_dsc_against_db): fix to take into account
4187         the fact that the .orig.tar.gz might be in byhand, accepted or
4188         new.  Also fix calling of reject().
4189         (Katie.check_binaries_against_db): fix calling of reject().
4190         (Katie.check_source_against_db): likewise.
4191         (Katie.dump_vars): add missing variables used for bug closures.
4192
4193         * lisa (changes_compare_by_time): sort by reverse time.
4194
4195         * katie.py (Katie.accept): log.
4196         (Katie.dump_vars): missing has_key test for optional changes fields.
4197
4198         * jennifer (main): print "Accepted blah blah" to stdout, not stderr.
4199         (process_it): traceback goes to stderr, not stdout.
4200         (acknowledge_new): log.
4201         (do_byhand): likewise.
4202
4203         * katie.py (Katie.update_subst): fix typo (Cnf vs. self.Cnf).
4204
4205         * add_constraints.sql: add grants for the new fingerprint table.
4206
4207 2002-02-13  James Troup  <james@nocrew.org>
4208
4209         * katie (do_reject): basename the .changes filename before trying
4210         to use it to construct the .reason filename.
4211         (process_it): call Katie.update_subst() so do_reject() DTRT with
4212         the mail template.
4213         (do_reject): setup the mail template correctly.
4214
4215 2002-02-12  James Troup  <james@nocrew.org>
4216
4217         * tea (process_dir): renamed 'arg' to 'unused' for clarity.
4218         (check_files): don't abuse global dictionaries.
4219         (Ent): use all variables.
4220         (check_timestamps): don't abuse global dictionaries.
4221
4222         * fernanda.py: renamed to .py so lisa can import it.
4223         (check_dsc): remove unused local variables (pychecker).
4224         (display_changes): split off from check_changes.
4225
4226         * katie: rewritten; most of the functionality moves to jennifer;
4227         what's left is the code to install packages once a day from the
4228         'accepted' directory.
4229
4230         * jennifer: new program, processes packages in 'unchecked'
4231         (i.e. most of the non-install functionality of old katie).
4232
4233         * katie.py: common functions shared between the clique of
4234         jennifer, lisa and katie.
4235
4236         * lisa: new program; handles NEW and BYHAND packages.
4237
4238         * jeri (usage): new function.
4239         (main): use it.
4240         (check_package): remove unused local variable (pychecker).
4241
4242         * init_pool.sql: new table fingerprint.  Add fingerprint colums to
4243         binaries and source.  Add install_date to source.
4244
4245         * halle (usage): new function.
4246         (main): use it.  Remove unused options.
4247         (check_changes): remove unused local variable (pychecker).
4248
4249         * add_constraints.sql: add fingerprint references.
4250
4251         * db_access.py (get_or_set_fingerprint_id): new function.
4252
4253         * ashley (main): new program; dumps the contents of a .katie file
4254         to stdout.
4255
4256         * alyson (main): remove option handling since we don't actually
4257         support any.
4258         * cindy (main): likewise.
4259
4260         * remove unnecessary imports and pre-define globals (pychecker).
4261
4262 2002-02-11  Anthony Towns  <ajt@debian.org>
4263
4264         * added installation-report and upgrade-report pseudo-packages
4265
4266 2002-01-28  Martin Michlmayr  <tbm@cyrius.com>
4267
4268         * katie (update_subst): use Dinstall::TrackingServer.
4269         * melanie (main): likewise.
4270
4271 2002-01-27  James Troup  <james@nocrew.org>
4272
4273         * shania (main): it's IntLevel not IntVal; thanks to tbm@ for
4274         noticing, jgg@ for fix.
4275
4276 2002-01-19  James Troup  <james@nocrew.org>
4277
4278         * utils.py (extract_component_from_section): handle non-US
4279         non-main properly.
4280
4281 2002-01-12  James Troup  <james@nocrew.org>
4282
4283         * madison: add support for -S/--source-and-binary which displays
4284         information for the source package and all it's binary children.
4285
4286 2002-01-13  Anthony Towns  <ajt@debian.org>
4287
4288         * katie.conf: Remove Catherine Limit and bump stable to 2.2r5
4289         * katie.conf: Add Dinstall::SigningKeyIds option, set to the 2001
4290           and 2002 key ids.
4291         * katie.conf-non-US: Likewise.
4292         * ziyi: Suppoer Dinstall::SigningKeyIds to sign a Release file with
4293           multiple keys automatically. This is probably only useful for
4294           transitioning from an expired (or revoked?) key.
4295
4296 2002-01-08  Ryan Murray  <rmurray@debian.org>
4297
4298         * debian/python-dep: new file that prints out python:Depends for
4299           substvars
4300         * debian/control: use python:Depends, build-depend on python
4301           lower Depends: on postgresql to Suggests:
4302         * debian/rules: determine python version, install to the correct
4303           versioned dir
4304
4305 2001-12-18  Anthony Towns  <ajt@debian.org>
4306
4307         * ziyi: unlink Release files before overwriting them (in case they've
4308           been merged)
4309         * ziyi: always include checksums/sizes for the uncompressed versions
4310           of Sources and Packages, even if they're not present on disk
4311
4312 2001-11-26  Ryan Murray  <rmurray@debian.org>
4313
4314         * ziyi (main): add SigningPubKey config option
4315         * katie.conf: use SigningPubKey config option
4316         * katie.conf-non-US: likewise
4317
4318 2001-11-24  James Troup  <james@nocrew.org>
4319
4320         * katie (acknowledge_new): log newness.
4321
4322 2001-11-24  Anthony Towns  <ajt@debian.org>
4323
4324         * ziyi (real_arch): bail out if some moron forgot to reset
4325         untouchable on stable.
4326         (real_arch): source Release files.
4327
4328 2001-11-19  James Troup  <james@nocrew.org>
4329
4330         * claire.py (main): don't use apt_pkg.ReadConfigFileISC and
4331         utils.get_conf().
4332         * shania (main): likewise.
4333
4334         * rhona (main): add default options.
4335
4336         * db_access.py (get_archive_id): case independent.
4337
4338         * katie (action): sort files so that ordering is consistent
4339         between mails; noticed/requested by Joey.
4340
4341 2001-11-17  Ryan Murray  <rmurray@debian.org>
4342
4343         * utils.py: add get_conf function, change startup code to read all
4344           config files to the Cnf that get_conf returns
4345           use the component list from the katie conf rather than the hardcoded
4346           list.
4347         * all scripts: use new get_conf function
4348         * shania: fix try/except around changes files
4349         * jenna: only do debian-installer if it is a section in Cnf
4350
4351 2001-11-16  Ryan Murray  <rmurray@debian.org>
4352
4353         * shania (main): Initialize days to a string of a number.
4354                  (main): Initialize Cnf vars before reading in Cnf
4355
4356 2001-11-14  Ryan Murray  <rmurray@debian.org>
4357
4358         * shania (main): Initialize days to a number.
4359
4360 2001-11-04  James Troup  <james@nocrew.org>
4361
4362         * docs/Makefile: use docbook-utils' docbook2man binary.
4363
4364         * Change all "if foo == []" constructs into "if not foo".
4365
4366         * katie (check_changes): when installing into stable from
4367         proposed-updates, remove all non-stable target distributions.
4368         (check_override): don't check for override disparities on stable
4369         installs.
4370         (stable_install): update install_bytes appropriately.
4371         (reject): stable rejection support; i.e. don't remove files when
4372         rejecting files in the pool, rather remove them from the
4373         proposed-update suite instead, rhona will do the rest.
4374         (manual_reject): support for a stable specific template.
4375         (main): setup up stable rejector in subst.
4376
4377 2001-11-04  Martin Michlmayr  <tbm@cyrius.com>
4378
4379         * debian/control (Build-Depends): docbook2man has been superseded
4380         by docbook-utils.
4381
4382         * neve (main): exit with a more useful error message.
4383         (update_suites): Suite::<suite>::Version, Origin and Description
4384         are not required, so don't fail if they don't exist.
4385
4386         * db_access.py (get_archive_id): return -1 on error rather than
4387         raise an exception.
4388         (get_location_id): likewise.
4389
4390         * madison (main): don't exit on the first not-found package,
4391         rather exit with an appropriate return code after processing all
4392         packages.
4393
4394 2001-11-03  James Troup  <james@nocrew.org>
4395
4396         * claire.py (find_dislocated_stable): add per-architecture
4397         symlinks for dislocated architecture: all debs.
4398
4399 2001-10-19  Anthony Towns  <ajt@debian.org>
4400
4401         * apt.conf*, katie.conf*: add mips, mipsel, s390 to testing.
4402
4403 2001-10-10  Anthony Towns  <ajt@debian.org>
4404
4405         * claire.py (fix_component_section): do _not_ assign to None under
4406         any circumstances
4407
4408 2001-10-07  Martin Michlmayr  <tbm@cyrius.com>
4409
4410         * melanie (main): don't duplicate architectures when removing from
4411         more than one suite.
4412
4413         * heidi (main, process_file, get_list): report suite name not ID.
4414
4415         * naima (nmu_p): be case insensitive.
4416
4417         * naima (action): more list handling clean ups.
4418
4419         * melanie (main): clean up lists handling to use string.join and
4420         IN's.
4421
4422         * madison (main): clean up suite and architecture argument parsing
4423         to use slices less and string.join more.
4424
4425         * utils.py (parse_changes): Use string.find() instead of slices for
4426         string comparisons thereby avoid hardcoding the length of strings.
4427         * ziyi (main): likewise.
4428
4429 2001-10-07  James Troup  <james@nocrew.org>
4430
4431         * Remove mode argument from utils.open_files() calls if it's the
4432         default, i.e. 'r'.
4433
4434 2001-09-27  James Troup  <james@nocrew.org>
4435
4436         * katie (init): new function; options clean up.
4437         (usage): add missing options, remove obsolete ones.
4438         (main): adapt for the two changes above.  If the lock file or
4439         new-ack log file don't exist, create them.  Don't try to open the
4440         new-ack log file except running in new-ack mode.
4441
4442         * alyson (main): initialize all the tables that are based on the
4443         conf file.
4444
4445         * utils.py (touch_file): like touch(1).
4446         (where_am_i): typo.
4447
4448         * catherine (usage): new.
4449         (main): use it.  options cleanup.
4450         * claire.py: likewise.
4451         * fernanda: likewise.
4452         * heidi: likewise.
4453         * jenna: likewise.
4454         * shania: likewise.
4455         * ziyi: likewise.
4456
4457         * andrea: options cleanup.
4458         * charisma: likewise.
4459         * julia: likewise.
4460         * madison: likewise.
4461         * melanie: likewise.
4462         * natalie: likewise.
4463         * rhona: likewise.
4464         * tea: likewise.
4465
4466 2001-09-26  James Troup  <james@nocrew.org>
4467
4468         * utils.py: default to sane config file locations
4469         (/etc/katie/{apt,katie}.conf.  They can be the actual config files
4470         or they can point to the real ones through use of a new Config
4471         section.  Based on an old patch by Adam Heath.
4472         (where_am_i): use the new default config stuff.
4473         (which_conf_file): likewise.
4474         (which_apt_conf_file): likewise.
4475
4476         * charisma (main): output defaults to
4477         `Package~Version\tMaintainer'; input can be of either form.  When
4478         parsing the new format do version comparisons, when parsing the
4479         old format assume anything in the extra file wins.  This fixes the
4480         problem of newer non-US packages being overwhelmed by older
4481         versions still in stable on main.
4482
4483 2001-09-17  James Troup  <james@nocrew.org>
4484
4485         * natalie.py (list): use result_join().
4486
4487         * denise (main): result_join() moved to utils.
4488
4489         * utils.py (result_join): move to utils; add an optional seperator
4490         argument.
4491
4492 2001-09-14  James Troup  <james@nocrew.org>
4493
4494         * heidi (set_suite): new function; does --set like natalie does,
4495         i.e. turns it into a sequence of --add's and --remove's
4496         internally.  This is a major win (~20 minute run time > ~20
4497         seconds) in the common, everday (i.e. testing) case.
4498         (get_id): common code used by set_suite() and process_file().
4499         (process_file): call set_suite() and get_id().
4500         (main): add logging support.
4501
4502         * julia: new script; syncs PostgeSQL with (LDAP-generated) passwd
4503         files.
4504
4505         * utils.py (parse_changes): use slices or simple string comparison
4506         in favour of regexes where possible.
4507
4508         * sql-aptvc.cpp (versioncmp): rewritten to take into account the
4509         fact that the string VARDATA() points to are not null terminated.
4510
4511         * denise (result_join): new function; like string.join() but
4512         handles None's.
4513         (list): use it.
4514         (main): likewise.
4515
4516         * charisma (main): python-pygresql 7.1 returns None not "".
4517
4518 2001-09-14  Ryan Murray  <rmurray@debian.org>
4519
4520         * natalie.py (list): handle python-pygresql 7.1 returning None.
4521
4522 2001-09-10  Martin Michlmayr  <tbm@cyrius.com>
4523
4524         * madison (main): return 1 if no package is found.
4525
4526 2001-09-08  Martin Michlmayr  <tbm@cyrius.com>
4527
4528         * madison (main): better error handling for incorrect
4529         -a/--architecture or -s/--suite arguments.
4530         (usage): new.
4531         (main): use it.
4532
4533 2001-09-05  Ryan Murray  <rmurray@debian.org>
4534
4535         * charisma, madison, katie: remove use of ROUser
4536         * katie.conf,katie.conf-non-US: remove defintion of ROUser
4537
4538 2001-08-26  James Troup  <james@nocrew.org>
4539
4540         * katie (nmu_p.is_an_nmu): use maintaineremail to check for group
4541         maintained packages at cjwatson@'s request.
4542
4543 2001-08-21  James Troup  <james@nocrew.org>
4544
4545         * madison (main): add -a/--architecture support.
4546
4547         * jenna: use logging instead of being overly verbose on stdout.
4548
4549 2001-08-11  Ryan Murray  <rmurray@debian.org>
4550
4551         * melanie: add functional help option
4552
4553 2001-08-07  Anthony Towns  <ajt@debian.org>
4554
4555         * apt.conf, katie.conf: Add ia64 and hppa to testing.
4556
4557 2001-07-28  James Troup  <james@nocrew.org>
4558
4559         * katie (check_dsc): ensure source version is >> than existing
4560         source in target suite.
4561
4562 2001-07-25  James Troup  <james@nocrew.org>
4563
4564         * natalie.py: add logging support.
4565
4566         * utils.py (open_file): make the second argument optional and
4567         default to read-only.
4568
4569         * rene (main): work around broken source packages that duplicate
4570         arch: all packages with arch: !all packages (no longer allowed
4571         into the archive by katie).
4572
4573 2001-07-13  James Troup  <james@nocrew.org>
4574
4575         * katie (action): don't assume distribution is a dictionary.
4576         (update_subst): don't assume architecture is a dictionary and that
4577         maintainer822 is defined.
4578         (check_changes): recognise nk_format exceptions.
4579         (check_changes): reject on 'testing' only uploads.
4580         (check_files): when checking to ensure all packages are newer
4581         versions check against arch-all packages too.
4582         (check_dsc): enforce the existent of a sane set of mandatory
4583         fields.  Ensure the version number in the .dsc (modulo epoch)
4584         matches the version number in the .changes file.
4585
4586         * utils.py (changes_compare): ignore all exceptions when parsing
4587         the changes files.
4588         (build_file_list): don't UNDEF on a changes file with no format
4589         field.
4590
4591 2001-07-07  James Troup  <james@nocrew.org>
4592
4593         * katie (nmu_p.is_an_nmu): check 'changedby822' for emptiness
4594         rather than 'changedbyname' to avoid false negatives on uploads
4595         with an email-address-only Changed-By field.
4596         (check_dsc): don't overwrite reject_message; append to it.
4597         (check_signature): likewise.
4598         (check_changes): likewise.
4599         (announce): condition logging on 'action'.
4600
4601         * logging.py: new logging module.
4602
4603         * katie: Cleaned up code by putting Cnf["Dinstall::Options"]
4604         sub-tree into a separate (global) variable.
4605         (check_dsc): ensure format is 1.0 to retain backwards
4606         compatability with dpkg-source in potato.
4607         (main): only try to obtain the lock when not running in no-action
4608         mode.
4609         Use the new logging module.
4610
4611         * christina: initial version; only partially usable.
4612
4613 2001-06-28  Anthony Towns  <ajt@debian.org>
4614
4615         * apt.conf: Add ExtraOverrides to auric.
4616
4617 2001-06-25  James Troup  <james@nocrew.org>
4618
4619         * katie (nmu_p.is_an_nmu): the wonderful dpkg developers decided
4620         they preferred the name 'Uploaders'.
4621
4622 2001-06-23  James Troup  <james@nocrew.org>
4623
4624         * katie (check_files): fix typo in uncommon rejection message,
4625         s/sourceversion/source version/.
4626
4627         * denise (main): we can't use print because stdout has been
4628         redirected.
4629
4630         * katie (source_exists): new function; moved out of check_files()
4631         and added support for binary-only NMUs of earlier sourceful NMUs.
4632
4633         * rhona (clean): find_next_free has moved.
4634
4635         * utils.py (find_next_free): new function; moved here from rhona.
4636         Change too_many to be an argument with a default value, rather
4637         than a hardcoded variable.
4638
4639         * shania: rewritten to work better; REJECTion reminder mail
4640         handling got lost though.
4641
4642 2001-06-22  James Troup  <james@nocrew.org>
4643
4644         * rhona (main): remove unused override code.
4645
4646         * fernanda (main): remove extraneous \n's from utils.warn calls.
4647         * natalie.py (list): likewise.
4648
4649         * catherine, cindy, denise, heidi, jenna, katie, neve, rhona, tea:
4650         use utils.{warn,fubar} where appropriate.
4651
4652 2001-06-21  James Troup  <james@nocrew.org>
4653
4654         * katie (nmu_p): new class that encapsulates the "is a nmu?"
4655         functionality.
4656         (nmu_p.is_an_nmu): add support for multiple maintainers specified
4657         by the "Maintainers" field in the .dsc file and maintainer groups.
4658         (nmu_p.__init__): read in the list of group maintainer names.
4659         (announce): use nmu_p.
4660
4661 2001-06-20  James Troup  <james@nocrew.org>
4662
4663         * rene (main): hardcode the suite experimental is compared to by
4664         name rather than number.
4665
4666         * katie (check_files): differentiate between doesn't-exist and
4667         permission-denied in "can not read" rejections; requested by edd@.
4668         (check_dsc): use os.path.exists rather than os.access to allow the
4669         above check to kick in.
4670
4671         * heidi (process_file): read all input before doing anything and
4672         use transactions.
4673
4674 2001-06-15  James Troup  <james@nocrew.org>
4675
4676         * fernanda: new script; replaces old 'check' shell script
4677         nastiness.
4678
4679 2001-06-14  James Troup  <james@nocrew.org>
4680
4681         * katie: actually import traceback module to avoid amusing
4682         infinite loop.
4683
4684 2001-06-10  James Troup  <james@nocrew.org>
4685
4686         * utils.py (extract_component_from_section): fix to handle just
4687         'non-free' and 'contrib'.  Also fix to handle non-US in a
4688         completely case insensitive manner as a component.
4689
4690 2001-06-08  James Troup  <james@nocrew.org>
4691
4692         * madison (arch_compare): sort function that sorts 'source' first
4693         then alphabetically.
4694         (main): use it.
4695
4696 2001-06-05  Jeff Licquia  <jlicquia@progeny.com>
4697
4698         * catherine (poolize): explicitly make poolized_size a long so it
4699         doesn't overflow when poolizing e.g. entire archives.
4700
4701 2001-06-01  James Troup  <james@nocrew.org>
4702
4703         * utils.py (send_mail): throw exceptions rather than exiting.
4704
4705         * katie (process_it): catch exceptions and ignore them.
4706
4707 2001-06-01  Michael Beattie  <mjb@debian.org>
4708
4709         * added update-mailingliststxt and update-readmenonus to update
4710         those files, respectively. modified cron.daily{,-non-US} to
4711         use them.
4712
4713 2001-05-31  Anthony Towns  <ajt@debian.org>
4714
4715         * rhona: make StayOfExecution work.
4716
4717 2001-05-31  James Troup  <james@nocrew.org>
4718
4719         * rhona (find_next_free): fixes to not overwrite files but rename
4720         them by appending .<n> instead.
4721         (clean): use find_next_free and use dated sub-directories in the
4722         morgue.
4723
4724         * utils.py (move): don't overwrite files unless forced to.
4725         (copy): likewise.
4726
4727 2001-05-24  James Troup  <james@nocrew.org>
4728
4729         * katie (check_files): determine the source version here instead
4730         of during install().
4731         (check_files): check for existent source with bin-only NMU
4732         support.
4733         (main): sort the list of changes so that the source-must-exist
4734         check Does The Right Thing(tm).
4735
4736         * utils.py (changes_compare): new function; sorts a list of
4737         changes files by 'have-source', source, version.
4738         (cc_fix_changes): helper function.
4739         (parse_changes): use compiled regexes.
4740         (fix_maintainer): likewise.
4741
4742         * rene (main): warn about packages in experimental that are
4743         superseded by newer versions in unstable.
4744
4745 2001-05-21  James Troup  <james@nocrew.org>
4746
4747         * rene (main): add support for checking for ANAIS (Architecture
4748         Not Allowed In Source) packages.
4749
4750 2001-05-17  James Troup  <james@nocrew.org>
4751
4752         * katie (check_changes): initalize `architecture' dictionary in
4753         changes global so that if we can't parse the changes file for
4754         whatever reason we don't undef later on.
4755
4756         * utils.py (parse_changes): fix handling of multi-line fields
4757         where the first line did have data.
4758
4759 2001-05-05  Anthony Towns  <ajt@debian.org>
4760
4761         * ziyi: Add "NotAutomatic: yes" to experimental Release files.
4762         (It should always have been there. Ooopsy.)
4763
4764 2001-05-03  Anthony Towns  <ajt@debian.org>
4765
4766         * jenna: Cleanup packages that move from arch:any to arch:all or
4767         vice-versa.
4768
4769 2001-04-24  Anthony Towns  <ajt@debian.org>
4770
4771         * ziyi: add ``SHA1:'' info to Release files. Also hack them up to
4772         cope with debian-installer and boot-floppies' md5sum.txt.
4773
4774 2001-04-16  James Troup  <james@nocrew.org>
4775
4776         * katie (check_changes): add missing %s format string argument.
4777         (stable_install): temporary work around for morgue location to
4778         move installed changes files into.
4779         (stable_install): helps if you actually read in the template.
4780         (manual_reject): fix for editing of reject messages which was
4781         using the wrong variable name.
4782
4783         * jenna (generate_src_list): typo; s/package/source/; fixes undef crash.
4784
4785 2001-04-13  James Troup  <james@nocrew.org>
4786
4787         * katie (manual_reject): Cc the installer.
4788         (reject): don't.
4789         (check_changes): remove unused maintainer-determination code.
4790         (update_subst): add support for Changed-By when setting the
4791         *MAINTAINER* variables.
4792
4793         * rene (bar): new function to check for packages on architectures
4794         when they shouldn't be.
4795
4796         * natalie.py (main): use fubar() and warn() from utils.
4797
4798         * utils.py (whoami): new mini-function().
4799         * melanie (main): use it.
4800         * katie (manual_reject): likewise.
4801
4802 2001-04-03  James Troup  <james@nocrew.org>
4803
4804         * katie (action): ignore exceptions from os.path.getmtime() so we
4805         don't crash on non-existent changes files (e.g. when they are
4806         moved between the start of the install run in cron.daily and the
4807         time we get round to processing them).
4808
4809         * madison (main): also list source and accept -s/--suite.
4810
4811         * jenna (generate_src_list): missing \n in error message.
4812
4813         * katie (update_subst): add sane defaults for when changes is
4814         skeletal.
4815
4816 2001-03-29  James Troup  <james@nocrew.org>
4817
4818         * melanie (main): use fubar() and warn() from utils.  Remember who
4819         the maintainer for the removed packages are and display that info
4820         to the user.  Readd support for melanie-specific Bcc-ing that got
4821         lost in the TemplateSubst transition.
4822
4823         * utils.py (fubar): new function.
4824         (warn): like wise.
4825
4826         * db_access.py (get_maintainer): as below.
4827
4828         * charisma (get_maintainer): moved the bulk of this function to
4829         db_access so that melanie can use it too.
4830
4831         * claire.py (find_dislocated_stable): restrict the override join
4832         to those entries where the suite is stable; this avoids problems
4833         with packages which have moved to new sections (e.g. science)
4834         between stable and unstable.
4835
4836 2001-03-24  James Troup  <james@nocrew.org>
4837
4838         * catherine (poolize): new function; not really independent of
4839         main() fully, yet.
4840         (main): use it.
4841
4842         * katie (stable_install): __SUITE__ needs to be space prefixed
4843         because buildd's check for 'INSTALLED$'.
4844
4845 2001-03-22  James Troup  <james@nocrew.org>
4846
4847         * utils.py (regex_safe): also need to escape '.'; noticed by ajt@.
4848
4849         * jenna: rewritten; now does deletions on a per-suite level
4850         instead of a per-suite-component-architecture-type level.  This
4851         allows mutli-component packages to be auto-cleaned (and as a
4852         bonus, reduces the code size and duplication).
4853
4854 2001-03-22  Anthony Towns  <ajt@debian.org>
4855
4856         * ziyi (main): fix ziyi to overwrite existing Release.gpg files
4857         instead of just giving a gpg error.
4858
4859 2001-03-21  James Troup  <james@nocrew.org>
4860
4861         * madison (main): use apt_pkg.VersionCompare to sort versions so
4862         that output is correctly sorted for packages like debhlper.
4863         Noticed by ajt@.
4864
4865         * tea (check_source_in_one_dir): actually find problematic source
4866         packages.
4867
4868         * katie (check_dsc): remember the orig.tar.gz's location ID if
4869         it's not in a legacy suite.
4870         (check_diff): we don't use orig_tar_id.
4871         (install): add code to handle sourceful diff-only upload of
4872         packages which change components by copying the .orig.tar.gz into
4873         the new component, if it doesn't already exist there.
4874         (process_it): reset orig_tar_location (as above).
4875
4876         * melanie (main): use template substiution for the bug closing
4877         emails.
4878         (main): don't hardcode bugs.debian.org or packages.debian.org
4879         either; use configuration items.
4880
4881         * katie: likewise.
4882
4883         * natalie.py (init): use None rather than 'localhost' for the
4884         hostname given to pg.connect.
4885
4886         * utils.py (TemplateSubst): new function; lifted from
4887         userdir-ldap.
4888
4889 2001-03-21  Ryan Murray  <rmurray@debian.org>
4890
4891         * katie (announce): fix the case of non-existent
4892         Suite::$SUITE::Announce.
4893
4894 2001-03-20  Ryan Murray  <rmurray@debian.org>
4895
4896         * debian/rules (binary-indep): install melanie into /usr/bin/ not
4897         /usr/.
4898
4899         * alyson (main): use config variable for database name.
4900         * andrea (main): likewise.
4901         * catherine (main): likewise.
4902         * charisma (main): likewise.
4903         * cindy (main): likewise.
4904         * claire.py (main): likewise.
4905         * denise (main): likewise.
4906         * heidi (main): likewise.
4907         * jenna (main): likewise.
4908         * katie (main): likewise.
4909         * madison (main): likewise.
4910         * melanie (main): likewise.
4911         * neve (main): likewise.
4912         * rhona (main): likewise.
4913         * tea (main): likewise.
4914
4915 2001-03-15  James Troup  <james@nocrew.org>
4916
4917         * rhona (check_sources): fixed evil off by one (letter) error
4918         which was causing only .dsc files to be deleted when cleaning
4919         source packages.
4920
4921         * charisma (get_maintainer_from_source): remove really stupid and
4922         gratuitous IN sub-query and replace with normal inner join.
4923         (main): connect as read-only user nobody.
4924
4925         * rhona (clean_maintainers): rewritten to use SELECT and sub-query
4926         with EXISTS.
4927         (check_files): likewise; still disabled by default though.
4928         (clean_binaries): add ' seconds' to the mysterious number in the
4929         output.
4930         (clean): likewise.
4931
4932         * tea (check_files): add missing global declaration on db_files.
4933
4934 2001-03-14  James Troup  <james@nocrew.org>
4935
4936         * rhona: rewritten large chunks. Removed a lot of the silly
4937         selecting into dictionaries and replaced it with 'where exists'
4938         based sub queries.  Added support for StayOfExecution.  Fix the
4939         problem with deleting dsc_files too early and disable cleaning of
4940         unattached files.
4941
4942 2001-03-14  Anthony Towns  <ajt@debian.org>
4943
4944         * katie (announce): also check Changed-By when trying to detect
4945         NMUs.
4946
4947 2001-03-06  Anthony Towns  <ajt@debian.org>
4948
4949         * ziyi (main): Generate Release.gpg files as well, using the key from
4950         Dinstall::SigningKey in katie.conf, if present. That key has to be
4951         passwordless, and hence kept fairly secretly.
4952
4953 2001-03-02  James Troup  <james@nocrew.org>
4954
4955         * utils.py (str_isnum): new function; checks to see if the string
4956         is a number.
4957
4958         * shania (main): fix _hideous_ bug which was causing all files > 2
4959         weeks old to be deleted from incoming, even if they were part of a
4960         valid upload.
4961
4962 2001-02-27  James Troup  <james@nocrew.org>
4963
4964         * melanie (main): accept new argument -C/--carbon-copy which
4965         allows arbitarty carbon-copying of the bug closure messages.
4966         Cleaned up code by putting Cnf["Melanie::Options"] sub-tree into a
4967         separate variable.
4968
4969 2001-02-27  Anthony Towns  <ajt@debian.org>
4970
4971         * ziyi: new program; generates Release files.
4972
4973 2001-02-25  James Troup  <james@nocrew.org>
4974
4975         * katie (reject): add missing '\n' to error message.
4976         (manual_reject): likewise.
4977         (install): catch exceptions from moving the changes file into DONE
4978         and ignore them.
4979
4980         * tea (check_md5sums): new function.
4981
4982 2001-02-25  Michael Beattie  <mjb@debian.org>
4983
4984         * melanie: use $EDITOR if available.
4985
4986 2001-02-15  James Troup  <james@nocrew.org>
4987
4988         * utils.py (parse_changes): don't crash and burn on empty .changes
4989         files.  Symptoms noticed by mjb@.
4990
4991 2001-02-15  Adam Heath  <doogie@debian.org>
4992
4993         * denise (main): use an absolute path for the output filename.
4994
4995         * sql-aptvc.cpp: don't #include <utils/builtins.h> as it causes
4996         compile errors with postgresql-dev >= 7.0.
4997
4998 2001-02-12  James Troup  <james@nocrew.org>
4999
5000         * rene: initial version.
5001
5002         * andrea: initial version.
5003
5004         * catherine (main): remove obsolete assignment of arguments.
5005
5006 2001-02-09  James Troup  <james@nocrew.org>
5007
5008         * catherine: first working version.
5009
5010 2001-02-06  James Troup  <james@nocrew.org>
5011
5012         * katie (check_files): validate the priority field; i.e. ensure it
5013         doesn't contain a '/' (to catch people prepending the priority
5014         with the component rather than the section).
5015         (check_override): don't warn about source packages; the only check
5016         is on section and we have no GUI tools that would use the Section
5017         field for a Sources file.
5018         (announce): use tags rather than severities for NMUs.  Requested
5019         by Josip Rodin <joy@>. [#78035]
5020
5021 2001-02-04  James Troup  <james@nocrew.org>
5022
5023         * tea (check_override): new function; ensures packages in suites
5024         are also in the override file.  Thanks to bod@ for noticing that
5025         such packages existed.
5026
5027         * katie: move file type compiled regular expressions to utils as
5028         catherine uses them too.
5029         (check_changes): always default maintainer822 to the installer
5030         address so that any bail out won't cause undefs later.
5031         (check_files): update file type re's to match above.
5032         (stable_install): likewise.
5033         (reject): handle any except from moving the changes files.  Fixes
5034         crashes on unreadable changes files.
5035
5036         * melanie (main): add an explanation of why things are not removed
5037         from testing.
5038
5039 2001-01-31  James Troup  <james@nocrew.org>
5040
5041         * melanie (main): ignore a) no message, b) removing from stable or
5042         testing when invoked with -n/--no-action.
5043
5044         * katie (check_override): lower section before checking to see if
5045         we're whining about 'non-US' versus 'non-US/main'.
5046
5047         * sql-aptvc.cpp: new file; wrapper around apt's version comparison
5048         function so that we can use inside of PostgreSQL.
5049
5050 2001-01-28  James Troup  <james@nocrew.org>
5051
5052         * katie: updated to pass new flag to parse_changes() and deal with
5053         the exception raised on invalid .dsc's if appropriate.
5054         * shania (main): likewise.
5055         * melanie (main): likewise.
5056
5057         * tea (check_dscs): new function to validate all .dsc files in
5058         unstable.
5059
5060         * utils.py (parse_changes): if passed an additional flag, validate
5061         the .dsc file to ensure it's extractable by dpkg-source.
5062         Requested by Ben Collins <bcollins@>.
5063
5064 2001-01-27  James Troup  <james@nocrew.org>
5065
5066         * madison (main): connect to the DB as nobody.
5067
5068         * katie (check_files): remove support for -r/--no-version-check
5069         since it makes no sense under katie (jenna will automatically
5070         remove the (new) older version) and was evil in any event.
5071         (check_changes): add missing new line to rejection message.
5072         (check_dsc): likewise.
5073         (process_it): reset reject_message here.
5074         (main): not here.  Also remove support for -r.
5075
5076 2001-01-26  James Troup  <james@nocrew.org>
5077
5078         * katie (check_override): don't whine about 'non-US/main' versus
5079         'non-US'.
5080
5081 2001-01-26  Michael Beattie  <mjb@debian.org>
5082
5083         * natalie.py (usage): new function.
5084         (main): use it.
5085
5086 2001-01-25  Antti-Juhani Kaijanaho  <gaia@iki.fi>
5087
5088         * update-mirrorlists: Update README.non-US too (request from Joy).
5089
5090 2001-01-25  James Troup  <james@nocrew.org>
5091
5092         * katie (reject): catch any exception from utils.move() and just
5093         pass, we previously only caught can't-overwrite errors and not
5094         can't-read ones.
5095
5096         * jenna (generate_src_list): use ORDER BY in selects to avoid
5097         unnecessary changes to Packages files.
5098         (generate_bin_list): likewise.
5099
5100         * utils.py (extract_component_from_section): separated out from
5101         build_file_list() as it's now used by claire too.
5102
5103         * claire.py (find_dislocated_stable): rewrite the query to extract
5104         section information and handle component-less locations properly.
5105         Thanks to ajt@ for the improved queries.
5106         (fix_component_section): new function to fix components and
5107         sections.
5108
5109 2001-01-23  James Troup  <james@nocrew.org>
5110
5111         * katie (check_files): set file type for (u?)debs first thing, so
5112         that if we continue, other functions which rely on file type
5113         existing don't bomb out.  If apt_pkg or apt_inst raise an
5114         exception when parsing the control file, don't try any other
5115         checks, just drop out.
5116         (check_changes): new test to ensure there is actually a target
5117         distribution.
5118
5119 2001-01-22  James Troup  <james@nocrew.org>
5120
5121         * katie (usage): s/dry-run/no-action/.  Noticed by Peter Gervai
5122         <grin@>.
5123         (check_changes): when mapping to unstable, remember to actually
5124         add unstable to the suite list and not just remove the invalid
5125         suite.
5126
5127 2001-01-21  James Troup  <james@nocrew.org>
5128
5129         * katie (check_files): catch exceptions from debExtractControl()
5130         and reject packages which raise any.
5131
5132 2001-01-19  James Troup  <james@nocrew.org>
5133
5134         * katie (check_signature): basename() file name in rejection
5135         message.
5136
5137 2001-01-18  James Troup  <james@nocrew.org>
5138
5139         * katie (in_override_p): remember the section and priority from
5140         the override file so we can check them against the package later.
5141         (check_override): new function; checks section and priority (for
5142         binaries) from the package against the override file and mails the
5143         maintainer about any disparities.
5144         (install): call check_override after announcing the upload.
5145
5146 2001-01-16  James Troup  <james@nocrew.org>
5147
5148         * utils.py (build_file_list): catch ValueError's from splitting up
5149         the files field and translate it into a parse error.
5150
5151         * tea: add support for finding unreferenced files.
5152
5153         * katie (in_override_p): add support for suite-aliasing so that
5154         proposed-updates uploads work again.
5155         (check_changes): catch parses errors from utils.build_file_list().
5156         (check_dsc): likewise.
5157         (check_diff): yet more dpkg breakage so we require even newer a
5158         version.
5159
5160         * jenna (generate_bin_list): don't do nasty path munging that's no
5161         longer needed.
5162
5163         * denise (main): support for non-US; and rename testing's override
5164         files so they're based on testing's codename.
5165
5166 2001-01-16  Martin Michlmayr  <tbm@cyrius.com>
5167
5168         * melanie: add to the bug closing message explaining what happens
5169         (or rather doesn't) with bugs against packages that have been
5170         removed.
5171
5172 2001-01-14  James Troup  <james@nocrew.org>
5173
5174         * charisma (main): fix silly off-by-one error; suite priority
5175         checking was done using "less than" rather than "less than or
5176         equal to" which was causing weird hesienbugs with wrong Maintainer
5177         fields.
5178
5179 2001-01-10  James Troup  <james@nocrew.org>
5180
5181         * katie (in_override_p): adapted to use SQL-based overrides.
5182         read_override_file function disappears.
5183
5184         * db_access.py: add new functions get_section_id, get_priority_id
5185         and get_override_type_id.
5186         (get_architecture_id): return -1 if the architecture is not found.
5187
5188         * heidi: switch %d -> %d in all SQL queries.
5189         (get_list): Use string.join where appropriate.
5190
5191         * rhona (in_override_p): don't die if the override file doesn't
5192         exist.
5193         (main): warn if the override file doesn't exist.
5194
5195         * alyson: new script; will eventually sync the config file and the
5196         SQL database.
5197
5198         * natalie.py: new script; manipulates overrides.
5199
5200         * melanie: new script; removes packages from suites.
5201
5202 2001-01-08  James Troup  <james@nocrew.org>
5203
5204         * katie (re_bad_diff): whee; dpkg 1.8.1.1 didn't actually fix
5205         anything it just changed the symptom.  Recognise the new breakage
5206         and reject them too.
5207
5208 2001-01-07  James Troup  <james@nocrew.org>
5209
5210         * katie (check_dsc): when adding the cwd copy of the .orig.tar.gz
5211         to the .changes file, be sure to set up files[filename]["type"]
5212         too.
5213
5214 2001-01-06  James Troup  <james@nocrew.org>
5215
5216         * katie (check_diff): new function; detects bad diff files
5217         produced by dpkg 1.8.1 and rejects thems.
5218         (process_it): call check_diff().
5219         (check_dsc): gar.  Add support for multiple versions of the
5220         .orig.tar.gz file in the archive from -sa uploads.  Check md5sum
5221         and size against all versions and use one which matches if
5222         possible and exclude any that don't from being poolized to avoid
5223         file overwrites.  Thanks to broonie@ for providing the example.
5224         (install): skip any files marked as excluded as above.
5225
5226 2001-01-05  James Troup  <james@nocrew.org>
5227
5228         * heidi (process_file): add missing argument to error message.
5229
5230 2001-01-04  James Troup  <james@nocrew.org>
5231
5232         * heidi (main): fix handling of multiple files by reading all
5233         files not just the first file n times (where n = the number of
5234         files passed as arguments).
5235
5236 2001-01-04  Anthony Towns  <ajt@debian.org>
5237
5238         * katie (check_dsc): proper fix for the code which locates the
5239         .orig.tar.gz; check for '<filename>$' or '^<filename>$'.
5240
5241 2000-12-20  James Troup  <james@nocrew.org>
5242
5243         * rhona: replace IN's with EXISTS's to make DELETE time for
5244         binaries and source sane on auric.  Add a -n/--no-action flag and
5245         make it stop actions if used.  Fixed a bug in binaries deletion
5246         with no StayOfExecution (s/</<=/).  Add working -h/--help and
5247         -V/--version.  Giving timing info on deletion till I'm sure it's
5248         sane.
5249
5250         * katie (check_changes): map testing to unstable.
5251
5252         * madison: new script; shows versions in different architectures.
5253
5254         * katie (check_dsc): ensure size matches as well as md5sum;
5255         suggested by Ben Collins <bcollins@debian.org> in Debian Bug
5256         #69702.
5257
5258 2000-12-19  James Troup  <james@nocrew.org>
5259
5260         * katie (reject): ignore the "can't overwrite file" exception from
5261         utils.move() and leave the files where they are.
5262         (reject): doh! os.access() test was reversed so we only tried to
5263         move files which didn't exist... replaced with os.path.exists()
5264         test the right way round.
5265
5266         * utils.py (move): raise an exception if we can't overwrite the
5267         destination file.
5268         (copy): likewise.
5269
5270 2000-12-18  James Troup  <james@nocrew.org>
5271
5272         * rhona: first working version.
5273
5274         * db_access.py (get_files_id): force both sizes to be integers.
5275
5276         * katie (main): use size_type().
5277
5278         * utils.py (size_type): new function; pretty prints a file size.
5279
5280 2000-12-17  James Troup  <james@nocrew.org>
5281
5282         * charisma (main): do version compares so that older packages do
5283         not override newer ones and process source first as source wins
5284         over binaries in terms of who we think of as the Maintainer.
5285
5286 2000-12-15  James Troup  <james@nocrew.org>
5287
5288         * katie (install): use the files id for the .orig.tar.gz from
5289         check_dsc().
5290         (install): limit select for legacy source to a) source in legacy
5291         or legacy-mixed type locations and b) distinct on files.id.
5292         (install): rather than the bizarre insert new, delete old method
5293         for moving legacy source into the pool, use a simple update of
5294         files.
5295         (process_it): initalize some globals before each process.
5296
5297 2000-12-14  James Troup  <james@nocrew.org>
5298
5299         * katie (in_override_p): index on binary_type too since .udeb
5300         overrides are in a different file.
5301         (read_override_file): likewise.
5302         (check_files): correct filename passed to get_files_id().
5303         (check_dsc): we _have_ to preprend '/' to the filename to avoid
5304         mismatches like jabber.orig.tar.gz versus libjabber.orig.tar.gz.
5305         (check_dsc): remember the files id of the .orig.tar.gz, not the
5306         location id.
5307
5308 2000-12-13  James Troup  <james@nocrew.org>
5309
5310         * utils.py (poolify): force the component to lower case except for
5311         non-US.
5312
5313         * katie (in_override_p): handle .udeb-specific override files.
5314         (check_files): pass the binary type to in_override_p().
5315         (check_dsc): remember the location id of the old .orig.tar.gz in
5316         case it's not in the pool.
5317         (install): use location id from dsc_files; which is where
5318         check_dsc() puts it for old .orig.tar.gz files.
5319         (install): install files after all DB work is complete.
5320         (reject): basename() the changes filename.
5321         (manual_reject): likewise.
5322
5323         * shania: new progam; replaces incomingcleaner.
5324
5325 2000-12-05  James Troup  <james@nocrew.org>
5326
5327         * katie (check_changes): if inside stable and can't find files
5328         from the .changes; assume it's installed in the pool and chdir()
5329         to there.
5330         (check_files): we are not installing for stable installs, so don't
5331         check for overwriting existing files.
5332         (check_dsc): likewise.
5333         (check_dsc): reorder .orig.tar.gz handling so that we search in
5334         the pool first and only then fall back on any .orig.tar.gz in the
5335         cwd; this avoids false positives on the overwrite check when
5336         people needlessly reupoad the .orig.tar.gz in a non-sa upload.
5337         (install): if this is a stable install, bail out to
5338         stable_install() immediately.
5339         (install): dsc_files handling was horribly broken. a) we need to
5340         add files from the .dsc and not the .changes (duh), b) we need to
5341         add the .dsc file itself to dsc_files (to be consistent with neve
5342         if for no other reason).
5343         (stable_install): new function; handles installs from inside
5344         proposed-updates to stable.
5345         (acknowledge_new): basename changes_filename before doing
5346         anything.
5347         (process_it): absolutize the changes filename to avoid the
5348         requirement of being in the same directory as the .changes file.
5349         (process_it): save and restore the cwd as stable installs can
5350         potentially jump into the pool to find files.
5351
5352         * jenna: dislocated_files support using claire.
5353
5354         * heidi (process_file): select package field from binaries
5355         explicitly.
5356
5357         * db_access.py (get_files_id): fix cache key used.
5358
5359         * utils.py (build_file_list): fix 'non-US/non-free' case in
5360         section/component splitting.
5361         (move): use os.path.isdir() rather than stat.
5362         (copy): likewise.
5363
5364         * claire.py: new file; stable in non-stable munger.
5365
5366         * tea: new file; simply ensures all files in the DB exist.
5367
5368 2000-12-01  James Troup  <james@nocrew.org>
5369
5370         * katie (check_dsc): use regex_safe().
5371         (check_changes): typo in changes{} key:
5372         s/distributions/distribution/.
5373         (install): use changes["source"], not files[file]["source"] as the
5374         latter may not exist and the former is used elsewhere.  Commit the
5375         SQL transaction earlier.
5376
5377         * utils.py (regex_safe): new function; escapes characters which
5378         have meaning to SQL's regex comparison operator ('~').
5379
5380 2000-11-30  James Troup  <james@nocrew.org>
5381
5382         * katie (install): pool_location is based on source package name,
5383         not binary package.
5384
5385         * utils.py (move): if dest is a directory, append the filename
5386         before chmod-ing.
5387         (copy): ditto.
5388
5389         * katie (check_files): don't allow overwriting of existing .debs.
5390         (check_dsc): don't allow overwriting of existing source files.
5391
5392 2000-11-27  James Troup  <james@nocrew.org>
5393
5394         * katie (check_signature): don't try to load rsaref; it's
5395         obsolete.
5396         (in_override_p): don't try to lookup override entries for packages
5397         with an invalid suite name.
5398         (announce): don't assume the suite name is valid; use Find() to
5399         lookup the mailing list name for announcements.
5400
5401         * utils.py (where_am_i): typo; hostname is in the first element,
5402         not second.
5403
5404         * db_access.py (get_suite_id): return -1 on an unknown suite.
5405
5406 2000-11-26  James Troup  <james@nocrew.org>
5407
5408         * katie (install): fix CopyChanges handling; typo in in checking
5409         Cnf for CopyChanges flag and was calling non-existent function
5410         copy_file.
5411
5412         * utils.py (copy): new function; clone of move without the
5413         unlink().
5414
5415 2000-11-25  James Troup  <james@nocrew.org>
5416
5417         * utils.py (build_file_list): handle non-US prefixes properly
5418         (i.e. 'non-US' -> 'non-US/main' and 'non-US/libs' -> 'non-US/main'
5419         + 'libs' not 'non-US/libs').
5420         (send_mail): add '-odq' to sendmail invocation to avoid DNS lookup
5421         delays.  This is possibly(/probably) exim speicifc and (like other
5422         sendmail options) needs to be in the config file.
5423
5424 2000-11-24  James Troup  <james@nocrew.org>
5425
5426         * rhona (check_sources): we need file id from dsc_files; not id.
5427         Handle non .dsc source files being re-referenced in dsc_files.
5428
5429         * katie (in_override_p): strip out any 'non-US' prefix.
5430         (check_files): use utils.where_am_i() rather than hardcoding.
5431         (check_files): validate the component.
5432         (install): use utils.where_am_i() rather than hardcoding.
5433         (install): fix mail to go to actual recepient.
5434         (reject): likewise.
5435         (manual_reject): likewise.
5436         (acknowledge_new): likewise.
5437         (announce): likewise.
5438
5439         * db_access.py (get_component_id): ignore case when searching for
5440         the component and don't crash if the component can't be found, but
5441         return -1.
5442         (get_location_id): handle -1 from get_component_id().
5443
5444         * jenna (generate_src_list): don't bring 'suite' into our big
5445         multi-table-joining select as we already know the 'suite_id'.
5446         (generate_bin_list): likewise.
5447
5448         * neve (main): don't quit if not on ftp-master.
5449         (process_packages): remove unused variable 'suite_codename'.
5450
5451         * utils.py (move): actually move the file.
5452         (build_file_list): handle non-US prefixes in the section.
5453
5454         * catherine (main): use which_conf_file().
5455         * charisma (main): likewise.
5456         * heidi (main): likewise.
5457         * jenna (main): likewise.
5458         * katie (main): likewise.
5459         * neve (main): likewise.
5460         * rhona (main): likewise.
5461
5462         * utils.py (where_am_i): new routine; determines the archive as
5463         understood by other 'dak' programs.
5464         (which_conf_file): new routine; determines the conf file to read.
5465
5466 2000-11-17  James Troup  <james@nocrew.org>
5467
5468         * katie (install): fix where .changes files for proposed-updates
5469         go.
5470
5471 2000-11-04  James Troup  <james@nocrew.org>
5472
5473         * jenna (main): handle architecture properly if no
5474         -a/--architecture argument is given, i.e. reset architecture with
5475         the values for the suite for each suite.
5476
5477         * Add apt_pkg.init() to the start of all scripts as it's now
5478         required by python-apt.
5479
5480 2000-10-29  James Troup  <james@nocrew.org>
5481
5482         * jenna (generate_bin_list): take an additional argument 'type'
5483         and use it in the SELECT.
5484         (main): if processing component 'main', process udebs and debs.
5485
5486         * neve (process_packages): set up 'type' in 'binaries' (by
5487         assuming .deb).
5488
5489         * katie (re_isadeb): accept ".udeb" or ".deb" as a file ending.
5490         (check_files): set up files[file]["dbtype"].
5491         (install): use files[file]["dbtype"] to set up the 'type' field in
5492         the 'binaries' table.
5493
5494         * init_pool.sql: add a 'type' field to the 'binaries' table to
5495         distinguisgh between ".udeb" and ".deb" files.
5496
5497         * utils.py (move): scrap basename() usage; use a "dir_p(dest) :
5498         dest ? dirname(dest)" type check instead.
5499
5500         * katie (check_dsc): handle the case of an .orig.tar.gz not found
5501         in the pool without crashing.  Also handle the case of being asked
5502         to look for something other than an .orig.tar.gz in the pool.
5503
5504 2000-10-26  James Troup  <james@nocrew.org>
5505
5506         * katie (install): fix filenames put into files table during
5507         poolification of legacy source.
5508
5509         * utils.py (move): work around a bug in os.path.basename() which
5510         cunningly returns '' if there is a trailing slash on the path
5511         passed to it.
5512
5513         * katie (check_dsc): Remove more cruft.  If we find the
5514         .orig.tar.gz in the pool and it's in a legacy (or legacy-mixed)
5515         location, make a note of that so we can fix things in install().
5516         (install): as above.  Move any old source out of legacy locations
5517         so that 'apt-get source' will work.
5518         (process_it): reset the flag that indicates to install that the
5519         source needs moved.
5520
5521         * cron.daily: more.  Nowhere near complete yet though.
5522
5523         * katie (install): don't run os.makedirs, a) utils.move() does
5524         this now, b) we weren't removing the user's umask and were
5525         creating dirs with SNAFU permissions.
5526         (check_dsc): rewrite the .orig.tar.gz handling to take into
5527         account, err, package pools.  i.e. look anywhere in the pool
5528         rather than faffing around with two simple paths.
5529
5530         * neve (process_sources): add the .dsc to dsc_files too.
5531
5532 2000-10-25  James Troup  <james@nocrew.org>
5533
5534         * neve (process_sources): don't duplicate .orig.tar.gz's.
5535
5536 2000-10-23  James Troup  <james@nocrew.org>
5537
5538         * utils.py (re_extract_src_version): moved here.
5539
5540         * neve: move re_extract_src_version to utils.
5541         (process_packages): reflect change.
5542
5543         * katie (install): reflect change.
5544
5545 2000-10-19  James Troup  <james@nocrew.org>
5546
5547         * jenna (generate_src_list): handle locations with null
5548         components.
5549         (generate_bin_list): likewise.
5550