Merge remote-tracking branch 'ansgar/pu/multiarchive-2'

* ansgar/pu/multiarchive-2:
  dak/process_upload.py: add missing "not"; set subst variable at the right time

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dak/process_upload.py: add missing "not"; set subst variable at the right time

db schema 80

Signed-off-by: Joerg Jaspert <joerg@debian.org>

rename policy queues

proposedupdates is now stable-new
oldproposedupdates is now oldstable-new

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge remote-tracking branch 'ansgar/pu/multiarchive-2'

* ansgar/pu/multiarchive-2:
  dak/process_upload.py: set __ANNOUNCE_LIST_ADDRESS__ subst variable

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dak/process_upload.py: set __ANNOUNCE_LIST_ADDRESS__ subst variable

grant usage for world

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge remote-tracking branch 'ansgar/pu/multiarchive-2'

* ansgar/pu/multiarchive-2:
  dak/dakdb/update79.py: Use || operator instead of CONCAT to make postgresql 9.0 happy

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dak/dakdb/update79.py: Use || operator instead of CONCAT to make postgresql 9.0 happy

Merge remote-tracking branch 'ansgar/pu/multiarchive-2'

* ansgar/pu/multiarchive-2:
  dak/dakdb/update79.py: add world schema and new stable views

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dak/dakdb/update79.py: add world schema and new stable views

need a qdir, the dirnames are different to queuenames

Signed-off-by: Joerg Jaspert <joerg@debian.org>

name tmux window after the changes filename

Signed-off-by: Joerg Jaspert <joerg@debian.org>

No longer present file listing, we have it elsewhere anyways

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge remote-tracking branch 'ansgar/pu/multiarchive-2'

* ansgar/pu/multiarchive-2:
  dak/examine_package.py: dereference symlink by using ls -lL
  dak/examine_package.py: use basename of .deb to get package name

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dak/examine_package.py: dereference symlink by using ls -lL

This still shows the full path, but at least it shows the correct size
instead of just a symlink to another file.

dak/examine_package.py: use basename of .deb to get package name

Merge remote-tracking branch 'ansgar/pu/multiarchive-2'

* ansgar/pu/multiarchive-2:
  dak/dakdb/update78.py: alter permissions for new tables and set default permissions
  daklib/dbconn.py: DBBinary.get_component_name is gone, use PoolFile.component instead

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dak/dakdb/update78.py: alter permissions for new tables and set default permissions

Revert "daklib/dbconn.py: use apt_pkg.TagSection instead of implementing our own parser"

This reverts commit 1b70efbb284c409256589036ffe6d54c832421ea.

Problem: The TagSection code strips leading whitespace (here, newline and space),
which generates wrong data for us.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

daklib/dbconn.py: DBBinary.get_component_name is gone, use PoolFile.component instead

Merge remote-tracking branch 'ansgar/pu/multiarchive-2'

* ansgar/pu/multiarchive-2:
  daklib/policy.py: also import Suite from daklib.dbconn

Signed-off-by: Joerg Jaspert <joerg@debian.org>

daklib/policy.py: also import Suite from daklib.dbconn

Merge remote-tracking branch 'ansgar/pu/multiarchive-2'

* ansgar/pu/multiarchive-2:
  daklib/checks.py: set control variable

Signed-off-by: Joerg Jaspert <joerg@debian.org>

daklib/checks.py: set control variable

Merge remote-tracking branch 'ansgar/pu/multiarchive-2'

* ansgar/pu/multiarchive-2:
  config/debian/common: also process BYHAND
  dak/process_new.py: auto-accept uploads if we have all overrides

Signed-off-by: Joerg Jaspert <joerg@debian.org>

config/debian/common: also process BYHAND

dak/process_new.py: auto-accept uploads if we have all overrides

Merge remote-tracking branch 'ansgar/pu/multiarchive-2' into merge

* ansgar/pu/multiarchive-2: (51 commits)
  dak/show_new.py: remove obsolete import
  config/debian/*: update for multiarchive changes
  dak/contents.py, daklib/contents.py: add archive option
  dak/export.py, daklib/policy.py: ignore existing files
  Revert "config/*/common: do not touch incoming"
  add export-suite subcommand to export a suite to a flat directory
  dak/clean_suites.py: allow limiting file removal to specific archives
  dak/process_upload.py: ignore non-existing files when rejecting
  dak/process_upload.py: add missing import
  daklib/archive.py: try to get all source files from pool, even when listed in changes
  daklib/archive.py: also ignore files from .changes that do not exist
  daklib/archive.py: ignore missing source files when copying to temporary directory
  dak/dakdb/update75.py: fix adding architectures for new and byhand
  dak/clean_suites.py: implement per-archive stay of execution
  dak/dakdb/update77.py: move stayofexecution to the database
  dak/control_suite.py: prefetch files table when looking up a binary or source package
  dak/generate_releases.py: add archive option
  dak/generate_packages_sources2.py: add archive option
  indicate who rejected a package
  config/*/dinstall.functions: include Built-Using sources
  ...

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dak/show_new.py: remove obsolete import

config/debian/*: update for multiarchive changes

dak/contents.py, daklib/contents.py: add archive option

dak/export.py, daklib/policy.py: ignore existing files

The same upstream tarball can be used by multiple uploads so we have to
ignore already existing files.

Revert "config/*/common: do not touch incoming"

This reverts commit 58fc1503ab1484b42e66a93155441634eff6e604.

add export-suite subcommand to export a suite to a flat directory

dak/clean_suites.py: allow limiting file removal to specific archives

This allows us to remove all obsolete files from the NEW queue even when
the maximum number of removals would be reached normally.

dak/process_upload.py: ignore non-existing files when rejecting

dak/process_upload.py: add missing import

daklib/archive.py: try to get all source files from pool, even when listed in changes

daklib/archive.py: also ignore files from .changes that do not exist

daklib/archive.py: ignore missing source files when copying to temporary directory

dak/dakdb/update75.py: fix adding architectures for new and byhand

dak/clean_suites.py: implement per-archive stay of execution

dak/dakdb/update77.py: move stayofexecution to the database

i bet noone uses this stuff, so i dont care. off with pipefail

Signed-off-by: Joerg Jaspert <joerg@debian.org>

* config/debian/dinstall.functions: Fix up mklslar a bit

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge remote-tracking branch 'ansgar/pu/multiarchive-1' into merge

* ansgar/pu/multiarchive-1:
  dak/init_dirs.py: only create directories for active keyrings
  dak/init_dirs.py: do not use Dir::Pool
  change documentation style
  Python modules should not be executable
  daklib/archive.py, daklib/checks.py: implement transition blocks
  daklib/archive.py: use method to decide which policy queue to use
  daklib/archive.py, daklib/checks.py: implement upload blocks
  daklib/dbconn.py: use apt_pkg.TagSection instead of implementing our own parser
  daklib/archive.py: check for source when copying binaries

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dak/control_suite.py: prefetch files table when looking up a binary or source package

dak/generate_releases.py: add archive option

dak/generate_packages_sources2.py: add archive option

indicate who rejected a package

Signed-off-by: Ansgar Burchardt <ansgar@debian.org>

config/*/dinstall.functions: include Built-Using sources

Include source packages only referenced by Built-Using in per-suite
source indices.

config/*/dinstall.functions: use files_archive_map instead of location

config/*/common: do not touch incoming

The incoming build queue is now managed by manage-build-queues.

daklib/utils.py (check_reverse_depends): update for multi-archive changes

remove now unused code

REMOVE :: changesutils.py: no longer in use

dak/dominate.py: skip suites that are backends for policy queues

dak/admin.py: add archive subcommand

dak/manage_build_queues.py: update for multi-archive changes

dak/rm.py: update for multi-archive changes

daklib/contents.py: update for multi-archive changes

dak/ls.py: update for multi-archive changes

dak/control_suite.py: update for multi-archive changes

dak/check_overrides.py: update for multi-archive changes

daklib/checks.py, daklib/utils.py: check for source files

Reintroduce the check that all source files for the used format are
actually included.

dak/queue_report.py: update for multi-archive changes

dak/show_new.py: update for multi-archive changes

dak/check_archive.py: update for multi-archive changes

dak/process_new.py: update for multi-archive changes

dak/process_policy.py: update for multi-archive changes

dak/process_upload.py: update for multi-archive changes

dak/clean_suites.py: update for multi-archive changes

daklib/policy.py: handle mapped components

move method to evaluate component mappings to dbconn.py

daklib/utils.py (poolify): no longer include component

The component is no longer part of the filename we store. This is needed
to allow having the same file in multiple components at the same time.

dak/generate_packages_sources2.py: update for multi-archive

dak/admin.py: new suites need an archive

dak/dakdb/update76.py: add closes to changes table

daklib/dbconn.py: remove two unused backreferences

The backreferences were causing problems when creating new objects via
the ORM.

daklib/dbconn.py (PoolFile): add component property

config/*/dak.conf: set Dir::Base

database changes for multi-archive support

Use archive path instead of Dir::Root

dak/init_dirs.py: only create directories for active keyrings

This avoids problems if inactive keyrings in locations not writable by
the archive user are referenced.

dak/init_dirs.py: do not use Dir::Pool

change documentation style

Python modules should not be executable

daklib/archive.py, daklib/checks.py: implement transition blocks

daklib/archive.py: use method to decide which policy queue to use

This method can later decide which policy queue to use for the security
archive.

daklib/archive.py, daklib/checks.py: implement upload blocks

daklib/dbconn.py: use apt_pkg.TagSection instead of implementing our own parser

daklib/archive.py: check for source when copying binaries

Merge remote-tracking branch 'ansgar/pu/multiarchive-1' into merge

* ansgar/pu/multiarchive-1:
  Add export subcommand to export upload from policy queues.
  daklib/dbconn.py: add basename property to PoolFile
  daklib/dbconn.py: add path property to Suite
  daklib/archive.py: guess source component even with component mappings
  daklib/archive.py: implement component mappings
  Add BinaryTimestampCheck.
  daklib/config.py: add find_i method
  daklib/checks.py: add missing join
  daklib/checks.py: use apt_pkg.version_compare correctly
  daklib/checks.py: make version check slightly more verbose
  daklib/archive.py: handle unexpected names for byhand files
  daklib/archive.py: session → self.session
  daklib/checks.py: allow DMs to upload to all suites
  daklib/archive.py (install_binary): fix use of source_suites
  daklib/archive.py: use SQLAlchemy 0.6 syntax for join
  daklib/regexes.py: re_file_binary: arch names can have dashes
  daklib/regexes.py: re_field_source: fix matching version numbers
  daklib/contents.py: close db session after use
  error out if sql query fails
  use "set -o pipefail" for shell scripts

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Add export subcommand to export upload from policy queues.

daklib/dbconn.py: add basename property to PoolFile

daklib/dbconn.py: add path property to Suite

daklib/archive.py: guess source component even with component mappings

daklib/archive.py: implement component mappings

Add BinaryTimestampCheck.

daklib/config.py: add find_i method