lintian.tags: remove binary-file-compressed-with-upx

This tag was removed from Lintian (2.5.33).

config-security: also refresh Release for buildd archive weekly

It looks like we actually had a week without uploads to the security
archive and the Release file expired.

[PATCH] Add option to make-maintainers to print data to stdout

Add option which makes make-maintainer print the maintainer data to
stdout instead of writing it to files.

[PATCH] Add option to make-maintainers to only output source packages

This is used in Tanglu to feed it's BTS

Merge remote-tracking branch 'lamby/misc-fixes-796786' into merge

* lamby/misc-fixes-796786:
  daklib/utils.py: mandantory -> mandatory spelling error
  daliblib/dak_exceptions: Add trailing comma to avoid future VCS noise
  tests/test_packagelist.py: make executable
  dalkib/dbconn.py: Mention which version is installed in sqlalchemy check
  dak/copy_installer.py: Include which directory doesn't exist in exception

Merge remote-tracking branch 'lamby/improve-parse-changes-tests-796787' into merge

* lamby/improve-parse-changes-tests-796787:
  tests/test_parse_changes.py: Move test to ParseDscTestCase as we call with dsc_file=1
  tests/test_parse_changes.py: Test that an contentless .dsc fails correctly
  tests/test_parse_changes.py: Actually use the blank file test fixture
  tests/test_parse_changes.py: Rewrite loose and difficult-to-use-correctly assertFails
  tests/test_parse_changes.py: Actually set dsc_file=1 when testing .dsc

Only copy existing byhand files.

Accept +kbsdXuY for kfreebsd.

Automate updating README files

It would be better if the README files were generated from a template
file, but this is better than nothing.

Update for 8.2

Merge remote-tracking branch 'lamby/update-debian-packaging'

Merge remote-tracking branches 'nthykier/fix-generate-releases' and 'nthykier/fix-auto-decrufter'

generate-releases: Use the right key when testing uncompnotseen

This issue caused dak to not generate hashes for uncompressed Contents
files for some architectures in some components.  A bit of context,
there were up to 4 Contents files per architecture:

 * Contents-ARCH
 * main/Contents-ARCH
 * contrib/Contents-ARCH
 * non-free/Contents-ARCH

Any */Contents-ARCH that appeared on the filesystem AFTER the legacy
"Contents-ARCH" would be ignored, because generate-releases used the
wrong key to check if the file was already in uncompnotseen.

Signed-off-by: Niels Thykier <niels@thykier.net>

generate-releases: Fix typo

Signed-off-by: Niels Thykier <niels@thykier.net>

auto-decruft: Register all members of groups when merging groups

When merging two groups of auto-decruftable packages, remember to
register all members of the combined group so dak can do a reverse
look up later.

Signed-off-by: Niels Thykier <niels@thykier.net>

"Update" Debian packaging

Whilst the packaging is obviously not for use, I'm finding it extremely
useful at least having the Build-Depends at a point where it will run the
tests.

It might be tempting to remove debian/ entirely, but Build-Depends is
just too useful for specifying, well, dependencies that tools such as
mk-build-deps can consume just like other packages.

Signed-off-by: Chris Lamb <lamby@debian.org>

Ups, architectures have more than just one character around here

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Clearly seperate the various steps of dinstall in the log

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Also ignore non-existant unpacked Content files when checking release files

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge remote-tracking branch 'nthykier/checksumed-contents' into merge

* nthykier/checksumed-contents:
  generate_releases: Remove unneeded .keys() calls
  Always provide a checksum of uncompressed Contents files

generate_releases: Remove unneeded .keys() calls

Signed-off-by: Niels Thykier <niels@thykier.net>

Always provide a checksum of uncompressed Contents files

The new version of apt in experimental will insist on having the
checksum of the uncompressed Contents file, if it is to download the
Contents file.

Signed-off-by: Niels Thykier <niels@thykier.net>

tests/test_parse_changes.py: Move test to ParseDscTestCase as we call with dsc_file=1

Signed-off-by: Chris Lamb <lamby@debian.org>

tests/test_parse_changes.py: Test that an contentless .dsc fails correctly

tests/test_parse_changes.py: Actually use the blank file test fixture

Was added in 47955ee9a5730c81b21ca9f31da4c176a82bcdc4 but never actually
used.

Signed-off-by: Chris Lamb <lamby@debian.org>

tests/test_parse_changes.py: Rewrite loose and difficult-to-use-correctly assertFails

Signed-off-by: Chris Lamb <lamby@debian.org>

tests/test_parse_changes.py: Actually set dsc_file=1 when testing .dsc

Signed-off-by: Chris Lamb <lamby@debian.org>

daklib/utils.py: mandantory -> mandatory spelling error

Signed-off-by: Chris Lamb <lamby@debian.org>

daliblib/dak_exceptions: Add trailing comma to avoid future VCS noise

Signed-off-by: Chris Lamb <lamby@debian.org>

tests/test_packagelist.py: make executable

dalkib/dbconn.py: Mention which version is installed in sqlalchemy check

dak/copy_installer.py: Include which directory doesn't exist in exception

Signed-off-by: Chris Lamb <lamby@debian.org>

Remove install_date from not_null_constraints

Signed-off-by: Mark Hymers <mhy@debian.org>

Set install_date properly for source table

Signed-off-by: Mark Hymers <mhy@debian.org>

Report only obsolete source packages older than one day

This should help with avoiding removal of source-only uploads where no
binary was built yet.

Do not delete files starting with a dot.

28903fa31f90164d3ea784b31be0e9a19fc5fd8c tried to allow temporary
files used by rsync, however these started with a dot and were still
deleted.

queued: Add buildd-mips64el-keyring.gpg

Allow *.asc to be part of source packages

The patch in 9a1cfa782b2147f017debea6819d71707ff5ab7d is not enough to
start accepting *.asc.

Bug: https://bugs.debian.org/759401

Define regular expressions only once

Two regexes were defined twice.

Remove more unused regular expressions.

Allow *.asc to be uploaded

Source packages should be allowed to include an optional upstream
signature in a *.asc file.

Remove unused regular expression.

config-upload: allow optional suffix used temporarily by rsync

rsync appends a suffix while uploading and renames them later. We
don't want to remove in-progress uploads so we have to allow these.

sync-dd: exclude /archive

Merge branch 'debug'

Allow packages not ending in -dbgsym in the debug section

There should only be one place to check for a debug package

Choose suite to redirect upload to before installing source

Fix field name in error message.

Add debug binary diverting for archive install

For any debug packages, redirect binary packages to the binary debug
suite if set, otherwise install as normal.

Alter process-policy to copy debug debs into the debugsuite

This is the first step in creating a debug deb suite for the archive,
and diverts debs that would be added to a suite into the debug suite
linked.

In the event the suite does not support diverting debug debs, the
process-new routine will accept the package into the target suite.

Update projectb to know about suite.debugsuite

 Alter the schema to add `debugsuite` to the suite table, to point at
 the suite to copy debug debs to.

Add unstable to exception list for source-only uploads

Modify binary package name check to accept -dbgsym

 In particular, we should tolerate .deb packages that are in the
 Files, but are not present in the Binary package listing, since
 adding them into debian/control is a pretty bad idea.

 debhelper (currently, this will be default later), when givin
 `DH_BUILD_DDEBS=1` will build DH_BUILD_DDEBS that are in the Files
 list, named foo-dbgsym.

 The check now validates that the -dbgsym package corresponds to
 a package that *is* listed in the Binary package listing, and in
 the section "debug".

Reorganize code a bit.

Fix typo.

dak: Add import-repository subcommand.

Initial work on import-repository

The new subcommand allows importing packages from an existing
repository. It is currently intended to be used on Debian Ports to
import source and arch:all packages from the main archive.

There are still several places that need work.

Use HashedFile.input_filename

Use the input_filename that was introduced in
64292a3e28c69cb7a816830c858f8503d6995a98

SignedFile: allow multiple signatures

The InRelease file is currently signed using multiple keys and we want
to be able to verify its signature. So allow multiple signatures as
long as all of them are valid.

For uploads (.changes files) we still require that only a single
signature is present. This is currently enforced by the 'fingerprint',
'primary_fingerprint' and 'signature_id' accessors.

Split out logic to parse Built-Using field.

Use changes table to include historic data.

Requested-by: Enrico Zini <enrico@enricozini.org>

Add install_source_to_archive method

This method install the source into an archive without adding it to
any suite. It is intended to be used to import extra source packages
(i.e. those referenced only by Built-Using).

HashedFile: Allow to use a different filename for input

This allows retrieving files using a temporary name, but to install
them into the archive using their proper name.

Do not require all attributes to match

If the same source or binary package is uploaded again, the
fingerprint and changed_by might be different if some other person
signed the new .changes (or if there is no .changes). We still want to
be able to import such packages without error, retaining the
attributes already present.

Add helper functions to decompress files.

Generalize parse_file_list to allow handling Release files

Release files use different field names for checksum fields and the
set of allowed filenames is larger (slashes are allowed). This patch
allows switching the regexp used to validate filenames and the fields
for checksums to allow using parse_file_list not only for .dsc files,
but also for Release files.

Allow checking files given an open file handle.

Fix typo in error message.

Add regexp for safe filenames, including slashes.

Add missing step for NEW processing on sec-master.

Fix handling of mapped components in process-new

I really would like to get rid of mapped components on security-master...

ArchiveTransaction: add flush() method.

setup/README: do not create system users or groups

setup/README: Update PostgreSQL version number.

queued: remove buildd-alpha-keyring.gpg

queued: add buildd-all-keyring.gpg

Use "find ... -delete" instead of "find ... | xargs rm"

Use ${file%.gz} instead of calling basename.

Set 'nullglob' to ignore nonmatching patterns

For example override.stretch.extra.* does not exist. Not ignoring this
pattern results in an output file containing an asterisk.

Merge remote-tracking branch 'dktrkranz/fixes'

Mention machine readable list of DELAYED packages (Closes: #748181)

Signed-off-by: Luca Falavigna <dktrkranz@debian.org>

Shorten header for Contents indices

Do not mention details like how often Contents indices are updates as
these depend on the suite and have changed.

Also remove the description on how to use grep to search these files.

Merge remote-tracking branch 'dktrkranz/fixes'

Restore exporting of NEWS.Debian file

Merge remote-tracking branch 'dktrkranz/fixes'

Allow to export NEWS file (Closes: #709444)

Signed-off-by: Luca Falavigna <dktrkranz@debian.org>

Add an options line for the web/ dir

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge remote-tracking branch 'nthykier/auto-decruft'

* nthykier/auto-decruft:
  dak/rm: Pass a list of bugs to remove() as the correct parameter

dak/rm: Pass a list of bugs to remove() as the correct parameter

Thanks to Adam D. Barratt for spotting the mistake.

Signed-off-by: Niels Thykier <niels@thykier.net>

Merge remote-tracking branch 'nthykier/auto-decruft'

dak/rm: Pass a list of bugs to remove() rather than a string

Signed-off-by: Niels Thykier <niels@thykier.net>

Merge remote-tracking branch 'nthykier/auto-decruft'

* nthykier/auto-decruft:
  daklib/rm: Fix boolean inversion on partial removals

daklib/rm: Fix boolean inversion on partial removals

Signed-off-by: Niels Thykier <niels@thykier.net>

Implicitly release lock when closing file

Letting Python close the file will also release the lock after having
flushed all buffers.

Reported-by: Niels Thykier <niels@thykier.net>

lintian.tags: add empty-binary-package

Signed-off-by: Jakub Wilk <jwilk@debian.org>

Merge remote-tracking branch 'nthykier/auto-decruft'

* nthykier/auto-decruft:
  daklib/rm: Components can be None even when partial is True

daklib/rm: Components can be None even when partial is True

Signed-off-by: Niels Thykier <niels@thykier.net>

Merge remote-tracking branch 'nthykier/auto-decruft'

* nthykier/auto-decruft:
  auto-decruft: Remember to commit database changes

auto-decruft: Remember to commit database changes

Signed-off-by: Niels Thykier <niels@thykier.net>