]> git.decadent.org.uk Git - dak.git/blob - dak/show_new.py
Merge remote-tracking branch 'drkranz/misc' into merge
[dak.git] / dak / show_new.py
1 #!/usr/bin/env python
2
3 """ Output html for packages in NEW """
4 # Copyright (C) 2007, 2009 Joerg Jaspert <joerg@debian.org>
5
6 # This program is free software; you can redistribute it and/or modify
7 # it under the terms of the GNU General Public License as published by
8 # the Free Software Foundation; either version 2 of the License, or
9 # (at your option) any later version.
10
11 # This program is distributed in the hope that it will be useful,
12 # but WITHOUT ANY WARRANTY; without even the implied warranty of
13 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14 # GNU General Public License for more details.
15
16 # You should have received a copy of the GNU General Public License
17 # along with this program; if not, write to the Free Software
18 # Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
19
20 ################################################################################
21
22 # <elmo> I'm James Troup, long term source of all evil in Debian. you may
23 #        know me from such debian-devel-announce gems as "Serious
24 #        Problems With ...."
25
26 ################################################################################
27
28 from copy import copy
29 import os, sys, time
30 import apt_pkg
31 import examine_package
32
33 from daklib.dbconn import *
34 from daklib.queue import determine_new, check_valid, Upload, get_policy_queue
35 from daklib import utils
36 from daklib.regexes import re_source_ext
37 from daklib.config import Config
38 from daklib import daklog
39 from daklib.changesutils import *
40 from daklib.dakmultiprocessing import DakProcessPool, PROC_STATUS_SUCCESS, PROC_STATUS_SIGNALRAISED
41 from multiprocessing import Manager, TimeoutError
42
43 # Globals
44 Cnf = None
45 Options = None
46 manager = Manager()
47 sources = manager.list()
48 htmlfiles_to_process = manager.list()
49 timeout_str = "Timed out while processing"
50
51
52 ################################################################################
53 ################################################################################
54 ################################################################################
55
56 def html_header(name, filestoexamine):
57     if name.endswith('.changes'):
58         name = ' '.join(name.split('_')[:2])
59     result = """<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Strict//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-strict.dtd">
60 <html xmlns="http://www.w3.org/1999/xhtml" xml:lang="de" lang="de">
61   <head>
62     <meta http-equiv="content-type" content="text/xhtml+xml; charset=utf-8"
63     />
64     <title>%(name)s - Debian NEW package overview</title>
65     <link type="text/css" rel="stylesheet" href="/style.css" />
66     <link rel="shortcut icon" href="http://www.debian.org/favicon.ico" />
67     <script type="text/javascript">
68       //<![CDATA[
69       <!--
70       function toggle(id, initial, display) {
71         var o = document.getElementById(id);
72         toggleObj(o, initial, display);
73       }
74       function show(id, display) {
75         var o = document.getElementById(id);
76         o.style.display = 'table-row-group';
77       }
78       function toggleObj(o, initial, display) {
79         if(! o.style.display)
80           o.style.display = initial;
81         if(o.style.display == display) {
82           o.style.display = "none";
83         } else {
84           o.style.display = display;
85         }
86       }
87       //-->
88       //]]>
89     </script>
90   </head>
91   <body id="NEW-details-page">
92     <div id="logo">
93       <a href="http://www.debian.org/">
94         <img src="http://www.debian.org/logos/openlogo-nd-50.png"
95         alt="debian logo" /></a>
96       <a href="http://www.debian.org/">
97         <img src="http://www.debian.org/Pics/debian.png"
98         alt="Debian Project" /></a>
99     </div>
100     <div id="titleblock">
101       <img src="http://www.debian.org/Pics/red-upperleft.png"
102       id="red-upperleft" alt="corner image"/>
103       <img src="http://www.debian.org/Pics/red-lowerleft.png"
104       id="red-lowerleft" alt="corner image"/>
105       <img src="http://www.debian.org/Pics/red-upperright.png"
106       id="red-upperright" alt="corner image"/>
107       <img src="http://www.debian.org/Pics/red-lowerright.png"
108       id="red-lowerright" alt="corner image"/>
109       <span class="title">
110         Debian NEW package overview for %(name)s
111       </span>
112     </div>
113
114     """%{"name":name}
115
116     # we assume only one source (.dsc) per changes here
117     result += """
118     <div id="menu">
119       <p class="title">Navigation</p>
120       <p><a href="#changes" onclick="show('changes-body')">.changes</a></p>
121       <p><a href="#dsc" onclick="show('dsc-body')">.dsc</a></p>
122       <p><a href="#source-lintian" onclick="show('source-lintian-body')">source lintian</a></p>
123
124 """
125     for fn in filter(lambda x: x.endswith('.deb') or x.endswith('.udeb'),filestoexamine):
126         packagename = fn.split('_')[0]
127         result += """
128         <p class="subtitle">%(pkg)s</p>
129         <p><a href="#binary-%(pkg)s-control" onclick="show('binary-%(pkg)s-control-body')">control file</a></p>
130         <p><a href="#binary-%(pkg)s-lintian" onclick="show('binary-%(pkg)s-lintian-body')">binary lintian</a></p>
131         <p><a href="#binary-%(pkg)s-contents" onclick="show('binary-%(pkg)s-contents-body')">.deb contents</a></p>
132         <p><a href="#binary-%(pkg)s-copyright" onclick="show('binary-%(pkg)s-copyright-body')">copyright</a></p>
133         <p><a href="#binary-%(pkg)s-file-listing" onclick="show('binary-%(pkg)s-file-listing-body')">file listing</a></p>
134
135 """%{"pkg":packagename}
136     result += "    </div>"
137     return result
138
139 def html_footer():
140     result = """    <p class="validate">Timestamp: %s (UTC)</p>
141 """% (time.strftime("%d.%m.%Y / %H:%M:%S", time.gmtime()))
142     result += """    <p><a href="http://validator.w3.org/check?uri=referer">
143       <img src="http://www.w3.org/Icons/valid-html401" alt="Valid HTML 4.01!"
144       style="border: none; height: 31px; width: 88px" /></a>
145     <a href="http://jigsaw.w3.org/css-validator/check/referer">
146       <img src="http://jigsaw.w3.org/css-validator/images/vcss"
147       alt="Valid CSS!" style="border: none; height: 31px; width: 88px" /></a>
148     </p>
149   </body>
150 </html>
151 """
152     return result
153
154 ################################################################################
155
156
157 def do_pkg(changes_file):
158     changes_file = utils.validate_changes_file_arg(changes_file, 0)
159     if not changes_file:
160         return
161     print "\n" + changes_file
162
163     u = Upload()
164     u.pkg.changes_file = changes_file
165     # We can afoord not to check the signature before loading the changes file
166     # as we've validated it already (otherwise it couldn't be in new)
167     # and we can more quickly skip over already processed files this way
168     u.load_changes(changes_file)
169
170     origchanges = os.path.abspath(u.pkg.changes_file)
171
172     # Still be cautious in case paring the changes file went badly
173     if u.pkg.changes.has_key('source') and u.pkg.changes.has_key('version'):
174         htmlname = u.pkg.changes["source"] + "_" + u.pkg.changes["version"] + ".html"
175         htmlfile = os.path.join(cnf["Show-New::HTMLPath"], htmlname)
176     else:
177         # Changes file was bad
178         print "Changes file %s missing source or version field" % changes_file
179         return
180
181     # Have we already processed this?
182     if os.path.exists(htmlfile) and \
183         os.stat(htmlfile).st_mtime > os.stat(origchanges).st_mtime:
184             with open(htmlfile, "r") as fd:
185                 if fd.read() != timeout_str:
186                     sources.append(htmlname)
187                     return (PROC_STATUS_SUCCESS,
188                             '%s already up-to-date' % htmlfile)
189
190     # Now we'll load the fingerprint
191     session = DBConn().session()
192     htmlfiles_to_process.append(htmlfile)
193     (u.pkg.changes["fingerprint"], rejects) = utils.check_signature(changes_file, session=session)
194     new_queue = get_policy_queue('new', session );
195     u.pkg.directory = new_queue.path
196     u.update_subst()
197     files = u.pkg.files
198     changes = u.pkg.changes
199     sources.append(htmlname)
200
201     for deb_filename, f in files.items():
202         if deb_filename.endswith(".udeb") or deb_filename.endswith(".deb"):
203             u.binary_file_checks(deb_filename, session)
204             u.check_binary_against_db(deb_filename, session)
205         else:
206             u.source_file_checks(deb_filename, session)
207             u.check_source_against_db(deb_filename, session)
208     u.pkg.changes["suite"] = u.pkg.changes["distribution"]
209
210     new, byhand = determine_new(u.pkg.changes_file, u.pkg.changes, files, 0, dsc=u.pkg.dsc, session=session)
211
212     outfile = open(os.path.join(cnf["Show-New::HTMLPath"],htmlname),"w")
213
214     filestoexamine = []
215     for pkg in new.keys():
216         for fn in new[pkg]["files"]:
217             filestoexamine.append(fn)
218
219     print >> outfile, html_header(changes["source"], filestoexamine)
220
221     check_valid(new, session)
222     distribution = changes["distribution"].keys()[0]
223     print >> outfile, examine_package.display_changes(distribution, changes_file)
224
225     for fn in filter(lambda fn: fn.endswith(".dsc"), filestoexamine):
226         print >> outfile, examine_package.check_dsc(distribution, fn, session)
227     for fn in filter(lambda fn: fn.endswith(".deb") or fn.endswith(".udeb"), filestoexamine):
228         print >> outfile, examine_package.check_deb(distribution, fn, session)
229
230     print >> outfile, html_footer()
231
232     outfile.close()
233     session.close()
234
235     htmlfiles_to_process.remove(htmlfile)
236     return (PROC_STATUS_SUCCESS, '%s already updated' % htmlfile)
237
238 ################################################################################
239
240 def usage (exit_code=0):
241     print """Usage: dak show-new [OPTION]... [CHANGES]...
242   -h, --help                show this help and exit.
243   -p, --html-path [path]    override output directory.
244   """
245     sys.exit(exit_code)
246
247 ################################################################################
248
249 def init(session):
250     global cnf, Options
251
252     cnf = Config()
253
254     Arguments = [('h',"help","Show-New::Options::Help"),
255                  ("p","html-path","Show-New::HTMLPath","HasArg")]
256
257     for i in ["help"]:
258         if not cnf.has_key("Show-New::Options::%s" % (i)):
259             cnf["Show-New::Options::%s" % (i)] = ""
260
261     changes_files = apt_pkg.ParseCommandLine(cnf.Cnf,Arguments,sys.argv)
262     if len(changes_files) == 0:
263         new_queue = get_policy_queue('new', session );
264         changes_files = utils.get_changes_files(new_queue.path)
265
266     Options = cnf.SubTree("Show-New::Options")
267
268     if Options["help"]:
269         usage()
270
271     return changes_files
272
273
274 ################################################################################
275 ################################################################################
276
277 def main():
278     session = DBConn().session()
279     changes_files = init(session)
280
281     examine_package.use_html=1
282
283     pool = DakProcessPool(processes=5)
284     p = pool.map_async(do_pkg, changes_files)
285     pool.close()
286     p.wait(timeout=600)
287     for htmlfile in htmlfiles_to_process:
288         with open(htmlfile, "w") as fd:
289             fd.write(timeout_str)
290
291     files = set(os.listdir(cnf["Show-New::HTMLPath"]))
292     to_delete = filter(lambda x: x.endswith(".html"), files.difference(set(sources)))
293     for f in to_delete:
294         os.remove(os.path.join(cnf["Show-New::HTMLPath"],f))
295
296 ################################################################################
297
298 if __name__ == '__main__':
299     main()