generate_releases: replace hashfuncs initialization with a legible version

Group knowledge of hash function and corresponding name in our db and in
Release files in a class instead of playing clever but unreadable
tricks.

Suggested by Colin Watson.

Signed-off-by: Julien Cristau <jcristau@debian.org>

Move Release files to zzz-dists

This makes sure the Release files are synced last, after all Packages
indices (and their correspondig by-hash files).

Remove more changelog-related settings

These seem to no longer be used as of c91ff0bda6190f7b80b7976b578c10e68f97c5b1

dak.conf: Remove changelog export path

This is controlled via the database, however
fcfcdcc15785c01785b18fecc903b3aef2b367f6 left the setting in
config/debian/dak.conf.

debian-security/dak.conf: Remove `Security-Install` block

It doesn't seem to be used anywhere.

debian-security/dak.conf: Remove references to non-US

debian-security/dak.conf: set changelog export directory

Merge remote-tracking branch 'jcristau/by-hash-v4'

Add by-hash support

Add a per-suite boolean to enable by-hash; store the by-hash files in
the db, and record when they stopped being referenced, so that
clean-suites can delete them after the archive's stayofexecution time.

In generate-release, where we have checksums for all the things,
hardlink files to the by-hash dir for each of the suite's configured
hash methods.

Signed-off-by: Julien Cristau <jcristau@debian.org>
---
changes in v2:
- use archive.stayofexecution as delay before removing files from
  by-hash
- don't assume any particular ordering for suite.checksums

changes in v3:
- rebase on latest master, update115 is now update116
- handle missing files in clean_byhash

changes in v4:
- use hardlinks instead of symlinks
- don't initialize `unreferenced` to its default value
- in clean_byhash, remove useless fetchall, and handle ENOENT from
  unlink instead of checking for existence beforehand

Add python-debianbts as a dependency in setup/README (Closes: #823118)

Needed to run the test suite:

    ======================================================================
    ERROR: test_importing_rm (test_imports.ImportTestCase)
    ----------------------------------------------------------------------
    Traceback (most recent call last):
      File "/srv/daksrc/tests/test_imports.py", line 15, in test_fn
        __import__('dak', fromlist=[cmd])
      File "/srv/daksrc/dak/rm.py", line 54, in <module>
        from daklib.rm import remove
      File "/srv/daksrc/dak/daklib/rm.py", line 52, in <module>
        import debianbts as bts
    ImportError: No module named debianbts

Signed-off-by: Luke Faraone <lfaraone@debian.org>

Notify w-b earlier

Before Debian LTS started to use the security archive, all uploads that
would trigger buildds would be sourceful uploads to a policy queue. So
new packages entering the build queues and pushing the public mirrors
would likely not happen in the same cron.unchecked run.

With Debian LTS, uploads would go to both the build queues and trigger a
public mirror push. If the mirror push takes more than three minutes,
cron.buildd would however not notify w-b of changes.

This patch moves the w-b notification right behind the update of the
build queues and before the mirror push to avoid the problem. Ideally
we would not rely on anything happening within the last three minutes
though.

dak: don't ignore SystemExit

Let the python interpreter handle it and actually exit with the right
status, otherwise when a sub-command calls sys.exit(1) we end up exiting
0 instead, which is confusing if not dangerous.

Signed-off-by: Julien Cristau <jcristau@debian.org>

Publish security archive on all changes

With "wheezy" being used for Debian LTS, the archive needs to be
published not only when policy queue uploads are accepted, but also
when direct uploads to "wheezy" arrive.

The same applies to uploads to "jessie-kfreebsd".

Keep track of when a package was last added to a suite

Work with newer SQLAlchemy versions

Newer SQLAlchemy versions seem to track the `binary` attribute of
`BinaryMetadata`.  This means the association proxy in `DBBinary`
would first create a `BinaryMetadata` with `binary` set to `None`,
flush this to the database and then set the actual value of `binary`
we want.  However the flush fails, as `NULL` is not allowed for the
`binary_id` column.

The problem can be avoided by not setting `binary` to `None`.  This is
treated as an "undefined value" by SQLAlchemy and changing it later
means the database row never sees `NULL`.

The same applies to the `source` attribute of `SourceMetadata`.

Move more specific source file regexes before general ones

The orig tarball regexes match also the orig tarball detached
signatures because they are not anchored at the end, and the loop
short-circuits on first match. So we have to move them before their
more general counterparts.

Fixes commit 84f230b6cfb4b3eb1ef5fbe672e121b1a8e7aabb.

Read files in chunks

Calling `f.read()` would read the entire file at once which is
wasteful. It's also not intended given the read loop.

Also replace a use of `readline()` with `read(65536)` as well where we
want to read the entire file and not only single lines.

Do not pass all file descriptiors to external process.

Fix support for detached upstream signatures

We should only allow upstream tarballs with detached signatures, but not
native tarballs, «<source>_<version>.orig.asc» or «<source>_<version>.asc»
filenames. We also need to allow this on all relevant regexes. This commit
fixes and refactors the regexes to implement the above, and to make it
easier to modify a single place in the future.

Fixes commit 4911282cbf231b116872a6f16eb838f7862ebc36.

Closes: #759401

Stop using undefined reject function in check_dsc_files

When there's an unknown file in a source package, the function spits
this:

  ,---
  Processing raised an exception: global name 'reject' is not defined.
  Traceback (most recent call last):
    File "/srv/ftp-master.debian.org/dak/dak/daklib/archive.py", line 966, in check
      chk().check(self)
    File "/srv/ftp-master.debian.org/dak/dak/daklib/checks.py", line 497, in check
      rejects = utils.check_dsc_files(dsc_fn, control, source.files.keys())
    File "/srv/ftp-master.debian.org/dak/dak/daklib/utils.py", line 343, in check_dsc_files
      reject("%s: unexpected source file '%s'" % (dsc_filename, f))
  NameError: global name 'reject' is not defined
  `---

Just set the reject message and break from the loop.

Remove unused re_source_ext import

Escape dots in file type check in check_dsc_files

Implement mirrorpush-release function

Add "mirror" so POSSIBLEARGS

README.stable-point-release: updates from 7.10

Ups, that backports dir is still in use

Generate new.html stuff atomic

Remove an old backports-master dir, remove lock unchecked after usage

README.stable-point-release: updates from 8.4

Use parameter passed to the --suite option

We used the remaining parameters before which is somewhat confusing.

The --suite option has an argument.

debian: Add release team key to import testing-debug

Revert "Use only 'xz' as default compression for Sources and Packages"

This reverts commit 196b3433d455b925758d6a46751a1f0b01617213.

Acquire a lock in the main process when writing Contents

This should prevent changes to the {src,bin}_contents tables and result
in all helper processes seeing the same data.

Use only 'xz' as default compression for Sources and Packages

Remove files that are (no longer) generated

This makes it less error-prone to switch compression methods: the files
that are no longer generated are automatically removed. Before they had
to be removed manually.

Hopefully enable g-i-d to deal with .xz files

which is helpful when there are no .gz/.bz2 ones around to
look at.

Remove suite alias, use suite directly

Merge remote-tracking branch 'juliank/master'

* juliank/master:
  Only generate binary checksum fields for the requested ones
  Only generate fields in Sources for requested checksums

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Replace hardcoded hashfuncs with values generated from database

Only generate binary checksum fields for the requested ones

This is the second step. As we are simply concatenating things,
we can just concatenate an empty string if we do not want a
checksum.

Only generate fields in Sources for requested checksums

We make use of the fact that STRING_AGG ignores NULL values
when joining the values, so we do not get empty lines in there.

Add checksums column to suite table

No need to export backports changelogs anymore

Stop work in the backports archive

Mind, its still configured and exists, need to remove that, but this
should stop pushing the mirrors and changing it around.

Architecture names can have more than one character

Components-*.yml can exist for all architectures

Take away static-update-components stdin, its ssh eats it

Which makes running it inside a while loop a pain.
(Its ssh could use a -n,but this works too)

Various small fixups/style issues

README.stable-point-release: updates from 8.3

Add new "mirror" cronscript

This just prepares the mirror tree and pushes the changes to the
mirrors.  It is intended to be used for point releases or in other
situations where a manual mirror push is needed.

Add support for detached upstream signatures

Upstream tarballs usually come with detached signatures, which would be
useful to have in the source package, as an additional check that could
be performed to verify its integrity and provenance.

dpkg-source supports this since 1.17.20.

Closes: #759401

Fix proposed-updates handling in byhand-di and byhand-win32-loader

To: debian-dak@lists.debian.org
Cc: kibi@debian.org, Julien Cristau <jcristau@debian.org>
Date: Tue, 19 Jan 2016 11:40:01 +0100 (12 hours, 2 minutes, 47 seconds ago)
Resent-From: debian-dak@lists.debian.org

stable-proposed-updates is called "proposed-updates" in projectb, so
that's what we pass to the byhand script.  It shouldn't be turned into
"proposed-updates-proposed-updates".

Signed-off-by: Julien Cristau <jcristau@debian.org>

Reject arch:all binNMUs

While arch:all binNMUs might work for some packages, they still tend
to create problems due to versioned dependencies using

  arch-all-package (= ${source:Version})

as these will be broken by the binNMU.  To avoid these, we reject
arch:all binNMUs for now.

Run new SuiteCheck as a per-suite check

Debug suites might also miss the source package

If a binary-only upload including debug packages gets accepted from a
policy queue, the source might be missing from the debug suite.

Reported-by: Matthias Klumpp <mak@debian.org>

Do not consider MD5-based signatures valid

Do not accept direct uploads to new build queues

Add option to forbid source and/or binary uploads to a suite

This is intended to be used to forbid uploads to policy queues and build
queues which would result in confusing results.  While we already have a
"reject" option in the dak.conf's SuiteMappings, having the option in
the database means we don't have to edit dak.conf when configuring new
suites.

Another usecase will be the "unstable" suite for Debian Ports: here we
want to import the source packages (and arch:all) from the main archive
and only accept binary uploads.  Additional source packages must go into
the "unreleased-*" suites.  This was not possible via SuiteMappings.

Bug: https://bugs.debian.org/783115

Check for debug suite for upload suite, not override suite

Debug packages are exempt from NEW if the target suite has a seperate
debug suite.  However the code checked if the target's override suite
had a debug suite...  For the Debian archive this went unnoticed as
experimental's override suite is unstable and both suites have a
seperate debug suite.

Reported-by: Matthias Klumpp <mak@debian.org>

Link tracefiles into webview

Also create Date: line in archives tracefiles

Create archive serial

Link "master" to the tracefile, to have one name only

Merge remote-tracking branch 'dktrkranz/fixes'

Define correct RM version when binary name is different than source

Style foo

New function for tempfile generation

Especially proper adding to the TMPFILES variable to get rid of em
again.

Remove dead code

Make timestamping configurable and only let dinstall have it for now

Merge remote-tracking branch 'DktrKranz/fixes'

* DktrKranz/fixes:
  Removal dep check only considers latest sources (Closes: #792578)
  Allow closing bugs if more than one source version is available.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Removal dep check only considers latest sources (Closes: #792578)

Proper timestamps in the logs

Entirely make cronscript magic

There is no longer a defined list of arguments it can handle.
Instead the arguments are defined in the var file, whose location
defaults to the FTPMaster location - but can be overriden using an
environment variable.

To be able to have specific types of cronscripts run pre/post actions,
we now check for the existance of preconscript and postcronscript
functions, and if they exist, they are run as the first/last thing
before/after anything listed in the .task file

Allow closing bugs if more than one source version is available.

Only hardcode path to config if variable isn't set

That way we can just set the variable in the crontab file (or users
environment), and do not need to change cronscript (eg. when run on the
security archive)

Update crontab file to match reality

Move the reboot-lock handling into the cronscript and out of crontab

Those who take a lock shall give it back later

There can be only one

Ensure that only one copy of a given crontype can run.

s/true/false/

Move 3 update- scripts into dinstall.functions/tasks proper

Adjust ERR state for many functions

Somehow they got turned around and false, but for those we want
it true - and actually error out when they have trouble

Only have an underscore in stagefile if args is non-empty

Rotate REPORT files

Also allow '-' in suffix of .buildinfo files

This matches what we allow to be used for .changes files in
re_file_changes.

daklib/upload.py: Silently accept and discard .buildinfo files

Besides some very trivial validation of the filename, accept
.buildinfo files without really looking at them.

Signed-off-by: Niels Thykier <niels@thykier.net>

Merge remote-tracking branch 'nthykier/optimise-dominate'

dominate: Do not attempt delete rows during dry-run

Without the proper permissions, this will fail even if the transaction
would always be rolled back later.

dominate: Use a bulk DELETE

Signed-off-by: Niels Thykier <niels@thykier.net>

dominate: Do not open log files with -n

Signed-off-by: Niels Thykier <niels@thykier.net>

Archive queue/done in monthly cronjob

archive the directory from 2 months ago, leaving only the last
month accessible directly

Add yearly cronjob

Adjust common functions

Mostly logging
Also dont call process-{upload,commands} if there is no file waiting for them.

Handle yearly cronjobs

A bit more logging, and newoverview in hourly runs backgrounded

Merge remote-tracking branch 'lamby/link-homepage' into dmerge

* lamby/link-homepage:
  Make homepage URLs (nofollow) links.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Various

- reorder global variables
- use UTF-8 locale by default
- declare osme variables readonly
- a bit more comments
- remove dangling logfile symlinks at end of cronscript
- indentation fixups

And away with the old scripts

Loadsa changes to make new cronscript way work

- Move functions so they are seen,
- Emit logs not only when called by dinstall
- Use correct variables (TMPFILES, not TEMPFILES)
- Define used variables
- create a scriptname link to the logfiles with datebased names
   - in the logdir, not in the configdir
- move linkmorgue from daily to weekly
- remove nonexistant tasks
- make purgeempty and fixsymlinks work on all archives, not just main
- all weekly tasks run in parallel