Revert "Revert "Merge commit 'stew/content_generation' into merge""

reverting the reverting of the merge of content_generation so we can merge again

This reverts commit aa63ea6814c83460abc4417f52ffdf5232431dd6.

Merge commit 'stew/master' into merge

* commit 'stew/master':
  stew is a bad speller.  fixing 'retrieve'

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge branch 'master' of https://ftp-master.debian.org/git/dak

dinstall

merkel switches from katie to dak. finally.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

http://ftp-master.debian.org/rss/removals.rss - Fix quoting problem with <pre>

Using qq[&lt;pre&gt;$body&lt;/pre&gt;] produces "&#x26;lt;pre&#x26;gt;"
which seems to broken inside RSS readers. If the result looks like
"&lt;pre&gt;" then it seems to work fine.

Signed-off-by: Michael Prokop <mika@grml.org>
Signed-off-by: Joerg Jaspert <joerg@debian.org>

dinstall

use an own onerror function sending a mail about the failure of dinstall.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dinstall

remove some more tabs

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dinstall

remove old logfile mailing

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dinstall

use maillogfile
(and remove tabs)

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dinstall

new function maillogfile

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dinstall

ignore bts errors

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dinstall

add testingsourcelist, a list thats used by bpo for version checks.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

stew is a bad speller.  fixing 'retrieve'

Signed-off-by: Mike O'Connor <stew@vireo.org>

Merge commit 'stew/master' into merge

* commit 'stew/master':
  trap error from python-btsutils

Signed-off-by: Joerg Jaspert <joerg@debian.org>

trap error from python-btsutils

dak-dev

dont cat the current db dump

Signed-off-by: Joerg Jaspert <joerg@debian.org>

metapackage

add a start of a metapackage to give to DSA, so they can easily keep things we
need installed.

Two things:

 - this could be splitted in a "ftpmaster-common" (meaning "that is needed at least to
   get a dak running") and "ftpmaster-$release" (meaning "all we also need before we
   do any work) package
 - This is not yet checked for completness, but its a good start.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

db

also export roles.
daily dump the dak-dev projectb and recreate it from the postdump.
also sync the global stuff from dak to dakdev.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge commit 'mhy/master' into merge

* commit 'mhy/master':
  temporarily remove p-u from version checking

Signed-off-by: Joerg Jaspert <joerg@debian.org>

this sucks

we do need the postgres connection. THIS OLD CODE SUCKS BIG TIME.
WHO THE FUCK CREATES A DATABASE "MODUL" AND THEN STILL DOES ALL
THE DATABASE LOGIC (INCL CONNECTING) IN ALL THOSE TONS OF OTHER
FILES? PLEASE DIE.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

pdiff

use the architectures from the database

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge commit 'ftpmaster/master'

p-u-new/o-p-u-new

dont read in all changes files for (o-)p-u-new

Signed-off-by: Joerg Jaspert <joerg@debian.org>

syck -> yaml

remove the syck module, use yaml instead

Signed-off-by: Joerg Jaspert <joerg@debian.org>

p-n

a few docstrings.

Also use utils.get_changes_files if none are given at commandline.
Which also cd's to the right directory.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

release files

also list the Contents files.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dak.conf

use a special envelope@ address for all mail generated from us.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge commit 'origin/master'

Revert "Merge commit 'stew/content_generation' into merge"

This reverts commit 2ae7b715431fed62b6a619e6d1b027d919da1070.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Revert "for the time we test, modify the path to a non-world-visible one"

This reverts commit c1941b0e15102d43a286c7b634b275f32259130d.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Revert "Merge branch 'merge'"

This reverts commit a1e87687d8e78a910fedf1e90830d7882a22a555.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Revert "Merge branch 'merge'"

This reverts commit 16f020f22ddc10b88ee076f2ac86d33cbc7769e5.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge branch 'merge'

* merge:
  get rid of finally:

Merge commit 'stew/content_generation' into merge

* commit 'stew/content_generation':
  get rid of finally:

Signed-off-by: Joerg Jaspert <joerg@debian.org>

get rid of finally:

Signed-off-by: Mike O'Connor <stew@vireo.org>

Merge branch 'merge'

* merge:
  replace Config DBConn module names with lowercase

Merge commit 'stew/content_generation' into merge

* commit 'stew/content_generation':
  replace Config DBConn module names with lowercase

Signed-off-by: Joerg Jaspert <joerg@debian.org>

replace Config DBConn module names with lowercase

Signed-off-by: Mike O'Connor <stew@vireo.org>

for the time we test, modify the path to a non-world-visible one

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge commit 'stew/content_generation' into merge

* commit 'stew/content_generation': (35 commits)
  spalling fix, get rid of extra import in utils.py
  allow contents files to be written to an alternate location
  another fix to bootstrap, and get rid of 'fetchall'
  get bootstrap working again
  stop setting the db connection to latin1
  insert files, not dirs
  cant delete it after i set it to null, dummy
  use get_suite_architectures from dbconn.py instead of database.py
  fix misspelling cleanup() -> _cleanup()
  forgot to update config, get rid of incorrect warning
  stupid bad merge syntax error
  better cleanup of temporary files, consolidate some repeated code
  adding back our schema migration as update6
  update header - we always ship compressed contents files
  temp_content_associations -> pending_content_associations
  typo fix
  some spelling changes
  oops, forgot some changes to contents.py
  missing ; in dak.conf
  undoing incorrect changes in dak.conf
  ...

Signed-off-by: Joerg Jaspert <joerg@debian.org>

spalling fix, get rid of extra import in utils.py

Signed-off-by: Mike O'Connor <stew@vireo.org>

temporarily remove p-u from version checking

Signed-off-by: Mark Hymers <mhy@debian.org>

allow contents files to be written to an alternate location

Signed-off-by: Mike O'Connor <stew@vireo.org>

another fix to bootstrap, and get rid of 'fetchall'

Signed-off-by: Mike O'Connor <stew@vireo.org>

get bootstrap working again

Signed-off-by: Mike O'Connor <stew@vireo.org>

Merge branch 'master' into content_generation

clean-suites

actually run the prepared query...

Signed-off-by: Joerg Jaspert <joerg@debian.org>

clean-suites

its delete_date, not delete_data

Signed-off-by: Joerg Jaspert <joerg@debian.org>

generate-releases

call database.init

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge commit 'mhy/master' into merge

* commit 'mhy/master':
  use database to generate suite_architectures list
  remove debug output
  allow --maximum argument to clean_suites

Signed-off-by: Joerg Jaspert <joerg@debian.org>

use database to generate suite_architectures list

Signed-off-by: Mark Hymers <mhy@debian.org>

Merge commit 'ftpmaster/master'

dinstall / reboot

add a first pass of a script intended to restart dinstall after a reboot,
in case it was running right before.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

stop setting the db connection to latin1

Signed-off-by: Mike O'Connor <stew@vireo.org>

insert files, not dirs

Signed-off-by: Mike O'Connor <stew@vireo.org>

Save the 'after' log

Signed-off-by: Joerg Jaspert <joerg@debian.org>

cant delete it after i set it to null, dummy

Signed-off-by: Mike O'Connor <stew@vireo.org>

Merge branch 'master' into content_generation

remove debug output

Signed-off-by: Mark Hymers <mhy@debian.org>

Merge commit 'ftpmaster/master'

allow --maximum argument to clean_suites

Signed-off-by: Mark Hymers <mhy@debian.org>

use get_suite_architectures from dbconn.py instead of database.py

Signed-off-by: Mike O'Connor <stew@vireo.org>

fix misspelling cleanup() -> _cleanup()

Signed-off-by: Mike O'Connor <stew@vireo.org>

forgot to update config, get rid of incorrect warning

Signed-off-by: Mike O'Connor <stew@vireo.org>

dinstall

save timestamp when we start and rename the logfile according to it
at the end of dinstall.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge commit 'djpig/djpig' into merge

* commit 'djpig/djpig':
  control-overrides: Add some safer modes of operation
  control-overrides: Simplify maintainer override handling

Signed-off-by: Joerg Jaspert <joerg@debian.org>

control-overrides: Add some safer modes of operation

Add "--no-action" option to not do any changes but only tell
the user what would've been done.

Also add "--change" option which will ignore all additions
and deletions.

Signed-off-by: Frank Lichtenheld <djpig@debian.org>

control-overrides: Simplify maintainer override handling

Signed-off-by: Frank Lichtenheld <djpig@debian.org>

stupid bad merge syntax error

Signed-off-by: Mike O'Connor <stew@vireo.org>

better cleanup of temporary files, consolidate some repeated code

Signed-off-by: Mike O'Connor <stew@vireo.org>

adding back our schema migration as update6

Signed-off-by: Mike O'Connor <stew@vireo.org>

update header - we always ship compressed contents files

Signed-off-by: Mark Hymers <mhy@debian.org>

temp_content_associations -> pending_content_associations

Signed-off-by: Mark Hymers <mhy@debian.org>

typo fix

Signed-off-by: Mark Hymers <mhy@debian.org>

some spelling changes

Signed-off-by: Mike O'Connor <stew@vireo.org>

merge from master

Signed-off-by: Mike O'Connor <stew@vireo.org>

dinstall

use full path for REPORT everywhere

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Dont complain

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dinstall

rename to cron.dinstall, its now default

Signed-off-by: Joerg Jaspert <joerg@debian.org>

set up Arguments properly

Signed-off-by: Mark Hymers <mhy@debian.org>

dinstall

fix the find to not warn.
its LOCK_BRITNEY, not britneylock

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge branch 'merge'

* merge:
  docstring
  move logic into a function
  more tidy ups for paths/variables
  use variables for paths
  allow p-a and p-u to take a directory to parse themselves

Merge commit 'mhy/master' into merge

* commit 'mhy/master':
  docstring
  move logic into a function
  more tidy ups for paths/variables
  use variables for paths
  allow p-a and p-u to take a directory to parse themselves
  dinstall
  p-a
  dinstall
  Ignore errors to updates
  2 more fixes
  dinstall
  Add a space
  utf-8

Signed-off-by: Joerg Jaspert <joerg@debian.org>

docstring

Signed-off-by: Mark Hymers <mhy@debian.org>

move logic into a function

Signed-off-by: Mark Hymers <mhy@debian.org>

more tidy ups for paths/variables

Signed-off-by: Mark Hymers <mhy@debian.org>

use variables for paths

Signed-off-by: Mark Hymers <mhy@debian.org>

allow p-a and p-u to take a directory to parse themselves

This prevents any possible issues with maximum command line
lengths when using shell globbing.

Signed-off-by: Mark Hymers <mhy@debian.org>

dinstall

if $LOCK_STOP exists - exit asap.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dinstall

its lock_accepted, not lockac

Signed-off-by: Joerg Jaspert <joerg@debian.org>

p-a

add the two lines back, p-a insists on having them. it just doesnt want
to make up random ones for it.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dinstall

dont rotate logs in cleanup

dont ignore p-a errors

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Ignore errors to updates

Signed-off-by: Joerg Jaspert <joerg@debian.org>

2 more fixes

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dinstall

args, 2 functions with same name does no good

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Add a space

Signed-off-by: Joerg Jaspert <joerg@debian.org>

utf-8

enforce properly encoded changes/dsc files. if they do not pass
unicode() they wont get in.

Signed-off-by: Joerg Jaspert <joerg@debian.org>

dinstall

implement various  comments and suggestions from mhy

Signed-off-by: Joerg Jaspert <joerg@debian.org>

Merge branch 'master' into content_generation, make changes based on Joerg's review

Conflicts:

dak/dakdb/update4.py
dak/init_db.py
dak/process_accepted.py
dak/update_db.py
daklib/database.py

Signed-off-by: Mike O'Connor <stew@vireo.org>

key expire

catch a case where the key is expired and no not-expired-subkey is
used to sign the .changes, ie. no GOODSIG token available. The
timestamp we get back from the command is unixtime, but type string,
so we should cast it to float or time.gmtime will complain.

And if that doesnt work, for whatever reason, issue a more generic
reject message.

Signed-off-by: Joerg Jaspert <joerg@debian.org>