Block ocaml-yojson
[goals.git] / fedora_ocaml_rebuild.ml
1 (* Perform a complete Fedora OCaml rebuild, in build order. *)
2
3 open Unix
4 open Printf
5
6 open Goaljobs
7 open Config
8 open Git
9 open Fedora
10
11 let branch = "master"
12 let side_tag = Some "f24-ocaml"
13
14 let koji_target =
15   match side_tag with
16   | Some t -> t
17   | None -> "rawhide"
18
19 (* The name of the rebuild, and also the magic substring that must
20  * appear in the %changelog when the package has been rebuilt.
21  *)
22 let rebuild_name = "OCaml 4.02.3"
23
24 (* Local repository that contains build dependencies. *)
25 let yum_repo = "koji-rawhide"
26
27 (* Packages that have problems.  These block the packages and all
28  * dependent packages.
29  *)
30 let blocked = [
31   "ocaml-pa-do";                        (* orphaned *)
32   "ocaml-camlp5";                       (* not updated to 4.02.3 yet *)
33 ]
34 let blocked pkg = List.mem pkg blocked
35
36 (* These packages are treated as if they have been rebuilt. *)
37 let ignored = [
38   "ocaml-srpm-macros";             (* don't need to build this *)
39   "ocaml";                         (* rebuilt by hand *)
40   "whenjobs";                      (* obsolete *)
41 ]
42 let ignored pkg = List.mem pkg ignored
43
44 (* List of OCaml-related source package names. *)
45 let source_packages =
46   let dirs = shlines "cd %s && ls -1d ocaml*" fedora_dir in
47   dirs @ [ "alt-ergo"; "apron"; "brltty"; "coccinelle"; "coq";
48            "cduce"; "frama-c"; "gappalib-coq"; "graphviz"; "hevea"; "hivex";
49            "js-of-ocaml"; "plplot"; "virt-top"; "why3"; "z3";
50            "flocq" (* no OCaml code, but needs to be rebuilt after Coq *);
51            "guestfs-browser"; "libguestfs";
52            "virt-dmesg" ]
53
54 (* Dependencies of each package.  (pkg, [deps ...]) *)
55 let pkg_deps = dependencies branch source_packages
56
57 (* Remove blocked packages and packages which have a blocked package
58  * as a dependency (recursively).
59  *)
60 let source_packages =
61   let rec is_blocked pkg =
62     if blocked pkg then true
63     else (
64       let deps = List.assoc pkg pkg_deps in
65       List.exists is_blocked deps
66     )
67   in
68   List.filter (fun pkg -> not (is_blocked pkg)) source_packages
69
70 (* Short the dependencies lists so that the build order is stable
71  * each time it runs.
72  *)
73 let pkg_deps =
74   List.map (fun (pkg, deps) -> pkg, List.sort compare deps) pkg_deps
75
76 (* Sort the source packages so that the packages with the largest
77  * number of reverse dependencies [other packages that depend on it]
78  * appear earlier in the list, on the basis that building these
79  * packages first has the greatest advantage.
80  *)
81 let source_packages =
82   let rdeps pkg =
83     Utils.filter_map (
84       fun (rdep, deps) -> if List.mem pkg deps then Some rdep else None
85     ) pkg_deps
86   in
87   let cmp p1 p2 =
88     let r1 = rdeps p1 and r2 = rdeps p2 in
89     let n1 = List.length r1 and n2 = List.length r2 in
90     if n1 <> n2 then compare n2 n1 else compare p1 p2
91   in
92   List.sort cmp source_packages
93
94 let () =
95   printf "final list of source packages = %s\n%!"
96     (String.concat " " source_packages)
97
98 (*
99 (* We could make this a goal, but it's cheap enough to run it unconditionally. *)
100 let install_build_dependencies pkg =
101   sh "sudo yum clean all --disablerepo=\\* --enablerepo=%s"
102     (quote yum_repo);
103   sh "sudo yum-builddep -y --disablerepo=\\* --enablerepo=%s %s"
104     (quote yum_repo) (fedora_specfile pkg branch)
105  *)
106
107 (* Unset MAKEFLAGS so it doesn't affect local builds. *)
108 let () = Unix.putenv "MAKEFLAGS" ""
109
110 (* Goal: rebuild all packages. *)
111 let rec goal all () =
112   let n = List.length source_packages in
113   List.iteri (
114     fun i pkg ->
115       require (rebuild_started pkg);
116       printf "*** *** rebuilt %d/%d packages *** ***\n%!" (i+1) n
117   ) source_packages
118
119 (* Goal: That 'package' has been rebuilt and exists in Koji. *)
120 and rebuilt pkg =
121   let specfile = fedora_specfile pkg branch in
122
123   (* Note: verrel may change as we go along, so don't assign it to
124    * variable.
125    *)
126
127   (* Note the target must be both of these because the old verrel
128    * could exist as a koji build without it having been part of the
129    * rebuild.
130    *)
131   target (ignored pkg ||
132             (file_contains_string specfile rebuild_name &&
133                koji_build_state (fedora_verrel pkg branch) == `Complete));
134
135   (* Ignored packages are treated as if they have been rebuilt. *)
136   if not (ignored pkg) then (
137
138     (* Start the rebuild. *)
139     require (rebuild_started pkg);
140
141     (* Wait for the build state to reach a conclusion. *)
142     let rec loop () =
143       match koji_build_state (fedora_verrel pkg branch) with
144       | `No_such_build ->
145         failwith (sprintf "rebuild of package %s: no build found" pkg)
146       | `Building ->
147         sleep 60;
148         loop ()
149       | `Complete ->
150         ()
151       | `Deleted ->
152         failwith (sprintf "rebuild of package %s: deleted" pkg)
153       | `Failed ->
154         failwith (sprintf "rebuild of package %s: failed" pkg)
155       | `Canceled ->
156         failwith (sprintf "rebuild of package %s: canceled" pkg)
157     in
158     loop ();
159
160     (* Wait for the build to appear in Koji repo. *)
161     koji_wait_repo koji_target (fedora_verrel pkg branch)
162   )
163
164 (* Goal: The rebuild of the package has started, but we haven't waited
165  * for it to finish.
166  *)
167 and rebuild_started pkg =
168   let deps = List.assoc pkg pkg_deps in
169   let specfile = fedora_specfile pkg branch in
170
171   (* Note the target must be both of these because the old verrel
172    * could exist as a koji build without it having been part of the
173    * rebuild.
174    *)
175   target (ignored pkg ||
176             (file_contains_string specfile rebuild_name &&
177                (match koji_build_state (fedora_verrel pkg branch) with
178                | `Building | `Complete -> true
179                | `Deleted | `Failed | `Canceled | `No_such_build -> false)));
180
181   (* All dependent packages must have been fully rebuilt and in the
182    * repo first.
183    *)
184   List.iter (fun dep -> require (rebuilt dep)) deps;
185
186   (* Ignored packages are treated as if they have been rebuilt. *)
187   if not (ignored pkg) then (
188 (*
189     (* A local test build must succeed. *)
190     require (local_build_succeeded pkg);
191 *)
192     (* local_build_succeeded normally does this ... *)
193     require (specfile_updated pkg);
194
195     (* Rebuild the package in Koji.  Don't wait ... *)
196     koji_build ~wait:false ?side_tag pkg branch;
197
198     (* ... but the build doesn't appear in Koji (eg. in 'koji
199      * buildinfo') until the SRPM has been built.  This can take quite
200      * some time.  Loop here until the build appears.
201      *)
202     let rec loop () =
203       match koji_build_state (fedora_verrel pkg branch) with
204       | `No_such_build ->
205         sleep 60;
206         loop ();
207       | `Building | `Complete ->
208         ()
209       | `Deleted ->
210         failwith (sprintf "rebuild of package %s: deleted" pkg)
211       | `Failed ->
212         failwith (sprintf "rebuild of package %s: failed" pkg)
213       | `Canceled ->
214         failwith (sprintf "rebuild of package %s: canceled" pkg)
215     in
216     loop ()
217   )
218
219 (*
220 and local_build_succeeded pkg =
221   (* The specfile must have been updated. *)
222   require (specfile_updated pkg);
223
224   let key =
225     sprintf "fedora_ocaml_local_build_%s_%s" pkg (fedora_verrel pkg branch) in
226
227   target (memory_exists key);
228
229   install_build_dependencies pkg;
230
231  (* Do a local test build to ensure the Koji build will work. *)
232   sh "
233     cd %s
234      fedpkg local
235   " (fedora_repo pkg branch);
236
237   memory_set key "1"
238 *)
239
240 and specfile_updated pkg =
241   let repodir = fedora_repo pkg branch in
242   let specfile = fedora_specfile pkg branch in
243
244   sh "
245     cd %s
246     rm -rf x86_64 noarch *.src.rpm .build* clog
247     git fetch
248   " repodir;
249
250   if not (git_has_local_changes repodir) then
251     sh "
252       cd %s
253       git pull --rebase
254     " repodir;
255
256 (* - XXX why did we do this here?
257   install_build_dependencies pkg;
258 *)
259
260   (* For rationale behind always bumping the spec file, see comment
261    * in 'fedora.ml'.
262    *)
263   let title =
264     if not (file_contains_string specfile rebuild_name) then
265       rebuild_name ^ " rebuild."
266     else
267       "Bump release and rebuild." in
268   sh "rpmdev-bumpspec -c %s %s" (quote title) specfile;
269
270   (* XXX Automate common specfile fixes. *)
271
272   sh "
273     cd %s
274     fedpkg commit -c
275     fedpkg push
276   " repodir