libguestfs_upstream.ml

   1 (* This goal script is responsible for:
   2  *  - testing each new commit to the libguestfs source repo
   3  *  - checking for new upstream releases of libguestfs
   4  *  - testing new upstream releases
   5  *  - packaging them as a source tarball
   6  *  - testing the source tarball on a variety of systems
   7  *  - if all the above works, uploading the external website
   8  * Note this doesn't build the Fedora releases.  See 'libguestfs_fedora.ml'.
   9  *)
  10
  11 open Goaljobs
  12 open Printf
  13 open Config
  14 open Libguestfs
  15
  16 (* Enable debugging. *)
  17 let () =
  18   Unix.putenv "LIBGUESTFS_DEBUG" "1";
  19   Unix.putenv "LIBGUESTFS_TRACE" "1"
  20
  21 (* Log program output. *)
  22 let from = "rjones@redhat.com"
  23 let to_ = "rjones@redhat.com"
  24 (*
  25 let logfile = log_program_output ()
  26 let () = eprintf "logging to %s\n%!" logfile
  27 *)
  28
  29 let package = "libguestfs"
  30
  31 (* Goal: the website has been updated to 'version'. *)
  32 let rec goal website_updated version =
  33   target (url_exists version.url &&
  34             (if version.is_stable then
  35                url_exists version.python_url
  36              else true)
  37          );
  38
  39   require (tarball_created version);
  40   require (tarball_tested version);
  41
  42   (* Python sdists only generated for stable releases. *)
  43   if version.is_stable then (
  44     require (python_tarball_created version);
  45     require (python_tarball_tested version)
  46   );
  47
  48   (* We only update the website for the development releases. *)
  49   if not version.is_stable then
  50     require (website_built version);
  51
  52   require (website_checked_in version);
  53   if version.is_stable then
  54     require (python_website_checked_in version);
  55   require (website_rsync_done version)
  56
  57 (* Goal: website has been rsync'd. *)
  58 and website_rsync_done version =
  59   target (url_contains_string "http://libguestfs.org" version.version &&
  60           url_exists version.url);
  61
  62   sh "
  63     cd %s
  64     ./.rsync
  65   " websites_repo
  66
  67 (* Goal: Tarball added to repository and checked in. *)
  68 and website_checked_in version =
  69   let key = sprintf "libguestfs_website_checked_in_%s" version.version in
  70   target (memory_exists key);
  71   onrun (fun () -> memory_set key "1");
  72
  73   require (tarball_created version);
  74   require (tarball_tested version);
  75
  76   sh "
  77     cd %s
  78     cp %s/tarballs/%s %s
  79     git add %s
  80     cd %s
  81     git add *.txt *.html
  82     cd %s
  83     git commit -m \"Version %s\"
  84   " libguestfs_download_repo
  85     buildtmp version.tarball version.urlpath
  86     version.urlpath
  87     libguestfs_website_repo
  88     websites_repo
  89     version.version
  90
  91 (* Goal: website (local copy) has been built. *)
  92 and website_built version =
  93   let index_file = sprintf "%s/index.html" libguestfs_website_repo in
  94   target (file_contains_string index_file version.version);
  95
  96   require (tarball_created version);
  97   require (tarball_tested version);
  98
  99   (* We should only update the website on development releases. *)
 100   assert (not version.is_stable);
 101
 102   sh "
 103     tar zxf %s/tarballs/%s
 104     cd %s
 105
 106     echo %s > localconfigure
 107     chmod +x localconfigure
 108     echo %s > localenv
 109
 110     ./localconfigure
 111     make V=1
 112     make maintainer-upload-website WEBSITESDIR=%s
 113   " buildtmp version.tarball
 114     version.package_version
 115     (quote (libguestfs_localconfigure `Tarball))
 116     (quote (libguestfs_localenv (supermin version)))
 117     (quote websites_repo)
 118
 119 (* Goal: the tarball has passed the required set of tests before
 120  * a release is allowed.
 121  *)
 122 and tarball_tested version =
 123   let key = sprintf "libguestfs_tarball_tested_%s" version.version in
 124   target (memory_exists key);
 125   onrun (fun () -> memory_set key "1");
 126
 127   require (tarball_created version);
 128
 129   sh "
 130     tar zxf %s/tarballs/%s
 131     cd %s
 132
 133     echo %s > localconfigure
 134     chmod +x localconfigure
 135     echo %s > localenv
 136
 137     ./localconfigure
 138     make V=1
 139     make check-release
 140   " buildtmp version.tarball
 141     version.package_version
 142     (quote (libguestfs_localconfigure `Tarball))
 143     (quote (libguestfs_localenv (supermin version)))
 144
 145 (* Goal: the tarball has been created from git. *)
 146 and tarball_created version =
 147   let filename = sprintf "%s/tarballs/%s" buildtmp version.tarball in
 148   target (file_exists filename);
 149
 150   require (repo_up_to_date version.branch);
 151
 152   let repodir = sprintf "%s/repos/%s-%s" buildtmp package version.branch in
 153
 154   (* Branches <= 1.32 are tagged with "1.32.11",
 155    * branches >= 1.33 are tagged with "v1.33.11".
 156    *)
 157   let version_tag =
 158     if version.minor >= 33 then "v" ^ version.version
 159     else version.version in
 160
 161   sh "
 162     cp -a %s libguestfs
 163     cd libguestfs
 164     git reset --hard %s
 165
 166     echo %s > localconfigure
 167     chmod +x localconfigure
 168     echo %s > localenv
 169
 170     ./localconfigure
 171
 172     # Ensure the po-docs are updated.  Grrr this is ugly ...
 173     make ||:
 174     rm po-docs/podfiles
 175     make -C po-docs update-po
 176
 177     make V=1
 178     make dist
 179
 180     # Ensure redhat hardening flags didn't leak into the tarball.
 181     # https://bugzilla.redhat.com/show_bug.cgi?id=1214506
 182     if zcat %s | grep -q redhat-hardened; then exit 1; fi
 183
 184     mv %s %s/tarballs/%s
 185   " repodir
 186     version_tag
 187     (quote (libguestfs_localconfigure `Git))
 188     (quote (libguestfs_localenv (supermin version)))
 189     version.tarball
 190     version.tarball buildtmp version.tarball
 191
 192 (* Goal: test a commit. *)
 193 and commit_tested branch commit =
 194   onfail (
 195     fun _ ->
 196       let subject = sprintf "goal: %s: FAILED" goalname in
 197       mailto ~from ~subject (*~attach:[logfile]*) to_
 198   );
 199
 200   let key = sprintf "libguestfs_commit_tested_%s" commit in
 201   target (memory_exists key);
 202   onrun (fun () -> memory_set key "1");
 203
 204   require (repo_up_to_date branch);
 205
 206   let repodir = sprintf "%s/repos/%s-%s" buildtmp package branch in
 207
 208   sh "
 209     cp -a %s libguestfs
 210     cd libguestfs
 211     git reset --hard %s
 212
 213     echo %s > localconfigure
 214     chmod +x localconfigure
 215     echo %s > localenv
 216
 217     ./localconfigure
 218     make V=1
 219     make check-release
 220   " repodir
 221     commit
 222     (quote (libguestfs_localconfigure `Git))
 223     (quote (libguestfs_localenv None))
 224
 225 and repo_up_to_date branch =
 226   git_force branch
 227
 228 (* Goals for Python sdists. *)
 229 and python_website_checked_in version =
 230   let key = sprintf "libguestfs_python_website_checked_in_%s" version.version in
 231   target (memory_exists key);
 232   onrun (fun () -> memory_set key "1");
 233
 234   require (python_tarball_created version);
 235   require (python_tarball_tested version);
 236
 237   sh "
 238     cd %s
 239     cp %s/tarballs/%s %s
 240     git add %s
 241     git commit -m \"Python sdist version %s\"
 242   " libguestfs_download_repo
 243     buildtmp version.python_tarball version.python_urlpath
 244     version.python_urlpath
 245     version.version
 246
 247 and python_tarball_tested version =
 248   let key = sprintf "libguestfs_python_tarball_tested_%s" version.version in
 249   target (memory_exists key);
 250   onrun (fun () -> memory_set key "1");
 251
 252   require (python_tarball_created version);
 253
 254   sh "
 255     virtualenv venv
 256     source ./venv/bin/activate
 257     pip install %s/tarballs/%s
 258   " buildtmp version.python_tarball
 259
 260 and python_tarball_created version =
 261   let filename = sprintf "%s/tarballs/%s" buildtmp version.python_tarball in
 262   target (file_exists filename);
 263
 264   require (tarball_created version);
 265
 266   sh "
 267     tar zxf %s/tarballs/%s
 268     cd %s
 269
 270     echo %s > localconfigure
 271     chmod +x localconfigure
 272     echo %s > localenv
 273
 274     ./localconfigure
 275     make V=1
 276     make -C python sdist
 277     cp python/dist/%s %s
 278   " buildtmp version.tarball
 279     version.package_version
 280     (quote (libguestfs_localconfigure `Tarball))
 281     (quote (libguestfs_localenv (supermin version)))
 282     version.python_tarball filename
 283
 284 let () =
 285   (* Add a periodic job to check for new git commits and test them. *)
 286   every libguestfs_query_mins minutes ~name:"new libguestfs commit" (
 287     fun () ->
 288       require (repo_up_to_date "master");
 289       let commit = git_latest_commit "master" in
 290       require (commit_tested "master" commit);
 291   );
 292
 293   (* Periodic job to build new tarballs. *)
 294   every libguestfs_query_mins minutes ~name:"new libguestfs version" (
 295     fun () ->
 296       require (repo_up_to_date "master");
 297       let version = git_latest_version "master" in
 298       require (website_updated version)
 299   )
 300
 301 (* Allow these jobs to run from the command line. *)
 302 let () =
 303   publish "commit" (
 304     function
 305     | [commit] -> require (commit_tested "master" commit)
 306     | [branch; commit] -> require (commit_tested branch commit)
 307     | _ ->
 308       failwith "use './libguestfs_upstream commit [<branch>] <commit>'"
 309   );
 310   publish "release" (
 311     function
 312     | [version] -> require (website_updated (vernames version))
 313     | _ ->
 314       failwith "use './libguestfs_upstream release <version>'"
 315   )