src/guestfs.c

   1 /* libguestfs
   2  * Copyright (C) 2009 Red Hat Inc.
   3  *
   4  * This library is free software; you can redistribute it and/or
   5  * modify it under the terms of the GNU Lesser General Public
   6  * License as published by the Free Software Foundation; either
   7  * version 2 of the License, or (at your option) any later version.
   8  *
   9  * This library is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12  * Lesser General Public License for more details.
  13  *
  14  * You should have received a copy of the GNU Lesser General Public
  15  * License along with this library; if not, write to the Free Software
  16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  17  */
  18
  19 #include <config.h>
  20
  21 #define _BSD_SOURCE /* for mkdtemp, usleep */
  22
  23 #include <stdio.h>
  24 #include <stdlib.h>
  25 #include <stdarg.h>
  26 #include <stddef.h>
  27 #include <unistd.h>
  28 #include <ctype.h>
  29 #include <string.h>
  30 #include <fcntl.h>
  31 #include <time.h>
  32 #include <sys/stat.h>
  33 #include <sys/select.h>
  34 #include <dirent.h>
  35
  36 #include <rpc/types.h>
  37 #include <rpc/xdr.h>
  38
  39 #ifdef HAVE_ERRNO_H
  40 #include <errno.h>
  41 #endif
  42
  43 #ifdef HAVE_SYS_TYPES_H
  44 #include <sys/types.h>
  45 #endif
  46
  47 #ifdef HAVE_SYS_WAIT_H
  48 #include <sys/wait.h>
  49 #endif
  50
  51 #ifdef HAVE_SYS_SOCKET_H
  52 #include <sys/socket.h>
  53 #endif
  54
  55 #ifdef HAVE_SYS_UN_H
  56 #include <sys/un.h>
  57 #endif
  58
  59 #include "guestfs.h"
  60 #include "guestfs-internal-actions.h"
  61 #include "guestfs_protocol.h"
  62 #include "ignore-value.h"
  63
  64 #ifdef HAVE_GETTEXT
  65 #include "gettext.h"
  66 #define _(str) dgettext(PACKAGE, (str))
  67 //#define N_(str) dgettext(PACKAGE, (str))
  68 #else
  69 #define _(str) str
  70 //#define N_(str) str
  71 #endif
  72
  73 #define error guestfs_error
  74 #define perrorf guestfs_perrorf
  75 #define safe_malloc guestfs_safe_malloc
  76 #define safe_realloc guestfs_safe_realloc
  77 #define safe_strdup guestfs_safe_strdup
  78 //#define safe_memdup guestfs_safe_memdup
  79
  80 static void default_error_cb (guestfs_h *g, void *data, const char *msg);
  81 static int send_to_daemon (guestfs_h *g, const void *v_buf, size_t n);
  82 static int recv_from_daemon (guestfs_h *g, uint32_t *size_rtn, void **buf_rtn);
  83 static void close_handles (void);
  84
  85 #define UNIX_PATH_MAX 108
  86
  87 /* Also in guestfsd.c */
  88 #define GUESTFWD_PORT 6666
  89 //#define GUESTFWD_ADDR "10.0.2.4"
  90
  91 /* GuestFS handle and connection. */
  92 enum state { CONFIG, LAUNCHING, READY, BUSY, NO_HANDLE };
  93
  94 struct guestfs_h
  95 {
  96   struct guestfs_h *next;       /* Linked list of open handles. */
  97
  98   /* State: see the state machine diagram in the man page guestfs(3). */
  99   enum state state;
 100
 101   int fd[2];                    /* Stdin/stdout of qemu. */
 102   int sock;                     /* Daemon communications socket. */
 103   pid_t pid;                    /* Qemu PID. */
 104   pid_t recoverypid;            /* Recovery process PID. */
 105   time_t start_t;               /* The time when we started qemu. */
 106
 107   char *tmpdir;                 /* Temporary directory containing socket. */
 108
 109   char *qemu_help, *qemu_version; /* Output of qemu -help, qemu -version. */
 110
 111   char **cmdline;               /* Qemu command line. */
 112   int cmdline_size;
 113
 114   int verbose;
 115   int trace;
 116   int autosync;
 117
 118   char *path;                   /* Path to kernel, initrd. */
 119   char *qemu;                   /* Qemu binary. */
 120   char *append;                 /* Append to kernel command line. */
 121
 122   int memsize;                  /* Size of RAM (megabytes). */
 123
 124   int selinux;                  /* selinux enabled? */
 125
 126   char *last_error;
 127
 128   /* Callbacks. */
 129   guestfs_abort_cb           abort_cb;
 130   guestfs_error_handler_cb   error_cb;
 131   void *                     error_cb_data;
 132   guestfs_log_message_cb     log_message_cb;
 133   void *                     log_message_cb_data;
 134   guestfs_subprocess_quit_cb subprocess_quit_cb;
 135   void *                     subprocess_quit_cb_data;
 136   guestfs_launch_done_cb     launch_done_cb;
 137   void *                     launch_done_cb_data;
 138
 139   int msg_next_serial;
 140 };
 141
 142 static guestfs_h *handles = NULL;
 143 static int atexit_handler_set = 0;
 144
 145 guestfs_h *
 146 guestfs_create (void)
 147 {
 148   guestfs_h *g;
 149   const char *str;
 150
 151   g = malloc (sizeof (*g));
 152   if (!g) return NULL;
 153
 154   memset (g, 0, sizeof (*g));
 155
 156   g->state = CONFIG;
 157
 158   g->fd[0] = -1;
 159   g->fd[1] = -1;
 160   g->sock = -1;
 161
 162   g->abort_cb = abort;
 163   g->error_cb = default_error_cb;
 164   g->error_cb_data = NULL;
 165
 166   str = getenv ("LIBGUESTFS_DEBUG");
 167   g->verbose = str != NULL && strcmp (str, "1") == 0;
 168
 169   str = getenv ("LIBGUESTFS_TRACE");
 170   g->trace = str != NULL && strcmp (str, "1") == 0;
 171
 172   str = getenv ("LIBGUESTFS_PATH");
 173   g->path = str != NULL ? strdup (str) : strdup (GUESTFS_DEFAULT_PATH);
 174   if (!g->path) goto error;
 175
 176   str = getenv ("LIBGUESTFS_QEMU");
 177   g->qemu = str != NULL ? strdup (str) : strdup (QEMU);
 178   if (!g->qemu) goto error;
 179
 180   str = getenv ("LIBGUESTFS_APPEND");
 181   if (str) {
 182     g->append = strdup (str);
 183     if (!g->append) goto error;
 184   }
 185
 186   /* Choose a suitable memory size.  Previously we tried to choose
 187    * a minimal memory size, but this isn't really necessary since
 188    * recent QEMU and KVM don't do anything nasty like locking
 189    * memory into core any more.  Thus we can safely choose a
 190    * large, generous amount of memory, and it'll just get swapped
 191    * on smaller systems.
 192    */
 193   str = getenv ("LIBGUESTFS_MEMSIZE");
 194   if (str) {
 195     if (sscanf (str, "%d", &g->memsize) != 1 || g->memsize <= 256) {
 196       fprintf (stderr, "libguestfs: non-numeric or too small value for LIBGUESTFS_MEMSIZE\n");
 197       goto error;
 198     }
 199   } else
 200     g->memsize = 500;
 201
 202   /* Start with large serial numbers so they are easy to spot
 203    * inside the protocol.
 204    */
 205   g->msg_next_serial = 0x00123400;
 206
 207   /* Link the handles onto a global list.  This is the one area
 208    * where the library needs to be made thread-safe. (XXX)
 209    */
 210   /* acquire mutex (XXX) */
 211   g->next = handles;
 212   handles = g;
 213   if (!atexit_handler_set) {
 214     atexit (close_handles);
 215     atexit_handler_set = 1;
 216   }
 217   /* release mutex (XXX) */
 218
 219   if (g->verbose)
 220     fprintf (stderr, "new guestfs handle %p\n", g);
 221
 222   return g;
 223
 224  error:
 225   free (g->path);
 226   free (g->qemu);
 227   free (g->append);
 228   free (g);
 229   return NULL;
 230 }
 231
 232 void
 233 guestfs_close (guestfs_h *g)
 234 {
 235   int i;
 236   char filename[256];
 237   guestfs_h *gg;
 238
 239   if (g->state == NO_HANDLE) {
 240     /* Not safe to call 'error' here, so ... */
 241     fprintf (stderr, _("guestfs_close: called twice on the same handle\n"));
 242     return;
 243   }
 244
 245   if (g->verbose)
 246     fprintf (stderr, "closing guestfs handle %p (state %d)\n", g, g->state);
 247
 248   /* Try to sync if autosync flag is set. */
 249   if (g->autosync && g->state == READY) {
 250     guestfs_umount_all (g);
 251     guestfs_sync (g);
 252   }
 253
 254   /* Remove any handlers that might be called back before we kill the
 255    * subprocess.
 256    */
 257   g->log_message_cb = NULL;
 258
 259   if (g->state != CONFIG)
 260     guestfs_kill_subprocess (g);
 261
 262   /* Close sockets. */
 263   if (g->fd[0] >= 0)
 264     close (g->fd[0]);
 265   if (g->fd[1] >= 0)
 266     close (g->fd[1]);
 267   if (g->sock >= 0)
 268     close (g->sock);
 269   g->fd[0] = -1;
 270   g->fd[1] = -1;
 271   g->sock = -1;
 272
 273   /* Wait for subprocess(es) to exit. */
 274   waitpid (g->pid, NULL, 0);
 275   if (g->recoverypid > 0) waitpid (g->recoverypid, NULL, 0);
 276
 277   /* Remove tmpfiles. */
 278   if (g->tmpdir) {
 279     snprintf (filename, sizeof filename, "%s/sock", g->tmpdir);
 280     unlink (filename);
 281
 282     snprintf (filename, sizeof filename, "%s/initrd", g->tmpdir);
 283     unlink (filename);
 284
 285     snprintf (filename, sizeof filename, "%s/kernel", g->tmpdir);
 286     unlink (filename);
 287
 288     rmdir (g->tmpdir);
 289
 290     free (g->tmpdir);
 291   }
 292
 293   if (g->cmdline) {
 294     for (i = 0; i < g->cmdline_size; ++i)
 295       free (g->cmdline[i]);
 296     free (g->cmdline);
 297   }
 298
 299   /* Mark the handle as dead before freeing it. */
 300   g->state = NO_HANDLE;
 301
 302   /* acquire mutex (XXX) */
 303   if (handles == g)
 304     handles = g->next;
 305   else {
 306     for (gg = handles; gg->next != g; gg = gg->next)
 307       ;
 308     gg->next = g->next;
 309   }
 310   /* release mutex (XXX) */
 311
 312   free (g->last_error);
 313   free (g->path);
 314   free (g->qemu);
 315   free (g->append);
 316   free (g->qemu_help);
 317   free (g->qemu_version);
 318   free (g);
 319 }
 320
 321 /* Close all open handles (called from atexit(3)). */
 322 static void
 323 close_handles (void)
 324 {
 325   while (handles) guestfs_close (handles);
 326 }
 327
 328 const char *
 329 guestfs_last_error (guestfs_h *g)
 330 {
 331   return g->last_error;
 332 }
 333
 334 static void
 335 set_last_error (guestfs_h *g, const char *msg)
 336 {
 337   free (g->last_error);
 338   g->last_error = strdup (msg);
 339 }
 340
 341 static void
 342 default_error_cb (guestfs_h *g, void *data, const char *msg)
 343 {
 344   fprintf (stderr, _("libguestfs: error: %s\n"), msg);
 345 }
 346
 347 void
 348 guestfs_error (guestfs_h *g, const char *fs, ...)
 349 {
 350   va_list args;
 351   char *msg;
 352
 353   va_start (args, fs);
 354   int err = vasprintf (&msg, fs, args);
 355   va_end (args);
 356
 357   if (err < 0) return;
 358
 359   if (g->error_cb) g->error_cb (g, g->error_cb_data, msg);
 360   set_last_error (g, msg);
 361
 362   free (msg);
 363 }
 364
 365 void
 366 guestfs_perrorf (guestfs_h *g, const char *fs, ...)
 367 {
 368   va_list args;
 369   char *msg;
 370   int errnum = errno;
 371
 372   va_start (args, fs);
 373   int err = vasprintf (&msg, fs, args);
 374   va_end (args);
 375
 376   if (err < 0) return;
 377
 378 #ifndef _GNU_SOURCE
 379   char buf[256];
 380   strerror_r (errnum, buf, sizeof buf);
 381 #else
 382   char _buf[256];
 383   char *buf;
 384   buf = strerror_r (errnum, _buf, sizeof _buf);
 385 #endif
 386
 387   msg = safe_realloc (g, msg, strlen (msg) + 2 + strlen (buf) + 1);
 388   strcat (msg, ": ");
 389   strcat (msg, buf);
 390
 391   if (g->error_cb) g->error_cb (g, g->error_cb_data, msg);
 392   set_last_error (g, msg);
 393
 394   free (msg);
 395 }
 396
 397 void *
 398 guestfs_safe_malloc (guestfs_h *g, size_t nbytes)
 399 {
 400   void *ptr = malloc (nbytes);
 401   if (nbytes > 0 && !ptr) g->abort_cb ();
 402   return ptr;
 403 }
 404
 405 /* Return 1 if an array of N objects, each of size S, cannot exist due
 406    to size arithmetic overflow.  S must be positive and N must be
 407    nonnegative.  This is a macro, not an inline function, so that it
 408    works correctly even when SIZE_MAX < N.
 409
 410    By gnulib convention, SIZE_MAX represents overflow in size
 411    calculations, so the conservative dividend to use here is
 412    SIZE_MAX - 1, since SIZE_MAX might represent an overflowed value.
 413    However, malloc (SIZE_MAX) fails on all known hosts where
 414    sizeof (ptrdiff_t) <= sizeof (size_t), so do not bother to test for
 415    exactly-SIZE_MAX allocations on such hosts; this avoids a test and
 416    branch when S is known to be 1.  */
 417 # define xalloc_oversized(n, s) \
 418     ((size_t) (sizeof (ptrdiff_t) <= sizeof (size_t) ? -1 : -2) / (s) < (n))
 419
 420 /* Technically we should add an autoconf test for this, testing for the desired
 421    functionality, like what's done in gnulib, but for now, this is fine.  */
 422 #define HAVE_GNU_CALLOC (__GLIBC__ >= 2)
 423
 424 /* Allocate zeroed memory for N elements of S bytes, with error
 425    checking.  S must be nonzero.  */
 426 void *
 427 guestfs_safe_calloc (guestfs_h *g, size_t n, size_t s)
 428 {
 429   /* From gnulib's calloc function in xmalloc.c.  */
 430   void *p;
 431   /* Test for overflow, since some calloc implementations don't have
 432      proper overflow checks.  But omit overflow and size-zero tests if
 433      HAVE_GNU_CALLOC, since GNU calloc catches overflow and never
 434      returns NULL if successful.  */
 435   if ((! HAVE_GNU_CALLOC && xalloc_oversized (n, s))
 436       || (! (p = calloc (n, s)) && (HAVE_GNU_CALLOC || n != 0)))
 437     g->abort_cb ();
 438   return p;
 439 }
 440
 441 void *
 442 guestfs_safe_realloc (guestfs_h *g, void *ptr, int nbytes)
 443 {
 444   void *p = realloc (ptr, nbytes);
 445   if (nbytes > 0 && !p) g->abort_cb ();
 446   return p;
 447 }
 448
 449 char *
 450 guestfs_safe_strdup (guestfs_h *g, const char *str)
 451 {
 452   char *s = strdup (str);
 453   if (!s) g->abort_cb ();
 454   return s;
 455 }
 456
 457 void *
 458 guestfs_safe_memdup (guestfs_h *g, void *ptr, size_t size)
 459 {
 460   void *p = malloc (size);
 461   if (!p) g->abort_cb ();
 462   memcpy (p, ptr, size);
 463   return p;
 464 }
 465
 466 static int
 467 xwrite (int fd, const void *v_buf, size_t len)
 468 {
 469   const char *buf = v_buf;
 470   int r;
 471
 472   while (len > 0) {
 473     r = write (fd, buf, len);
 474     if (r == -1)
 475       return -1;
 476
 477     buf += r;
 478     len -= r;
 479   }
 480
 481   return 0;
 482 }
 483
 484 void
 485 guestfs_set_out_of_memory_handler (guestfs_h *g, guestfs_abort_cb cb)
 486 {
 487   g->abort_cb = cb;
 488 }
 489
 490 guestfs_abort_cb
 491 guestfs_get_out_of_memory_handler (guestfs_h *g)
 492 {
 493   return g->abort_cb;
 494 }
 495
 496 void
 497 guestfs_set_error_handler (guestfs_h *g, guestfs_error_handler_cb cb, void *data)
 498 {
 499   g->error_cb = cb;
 500   g->error_cb_data = data;
 501 }
 502
 503 guestfs_error_handler_cb
 504 guestfs_get_error_handler (guestfs_h *g, void **data_rtn)
 505 {
 506   if (data_rtn) *data_rtn = g->error_cb_data;
 507   return g->error_cb;
 508 }
 509
 510 int
 511 guestfs__set_verbose (guestfs_h *g, int v)
 512 {
 513   g->verbose = !!v;
 514   return 0;
 515 }
 516
 517 int
 518 guestfs__get_verbose (guestfs_h *g)
 519 {
 520   return g->verbose;
 521 }
 522
 523 int
 524 guestfs__set_autosync (guestfs_h *g, int a)
 525 {
 526   g->autosync = !!a;
 527   return 0;
 528 }
 529
 530 int
 531 guestfs__get_autosync (guestfs_h *g)
 532 {
 533   return g->autosync;
 534 }
 535
 536 int
 537 guestfs__set_path (guestfs_h *g, const char *path)
 538 {
 539   free (g->path);
 540   g->path = NULL;
 541
 542   g->path =
 543     path == NULL ?
 544     safe_strdup (g, GUESTFS_DEFAULT_PATH) : safe_strdup (g, path);
 545   return 0;
 546 }
 547
 548 const char *
 549 guestfs__get_path (guestfs_h *g)
 550 {
 551   return g->path;
 552 }
 553
 554 int
 555 guestfs__set_qemu (guestfs_h *g, const char *qemu)
 556 {
 557   free (g->qemu);
 558   g->qemu = NULL;
 559
 560   g->qemu = qemu == NULL ? safe_strdup (g, QEMU) : safe_strdup (g, qemu);
 561   return 0;
 562 }
 563
 564 const char *
 565 guestfs__get_qemu (guestfs_h *g)
 566 {
 567   return g->qemu;
 568 }
 569
 570 int
 571 guestfs__set_append (guestfs_h *g, const char *append)
 572 {
 573   free (g->append);
 574   g->append = NULL;
 575
 576   g->append = append ? safe_strdup (g, append) : NULL;
 577   return 0;
 578 }
 579
 580 const char *
 581 guestfs__get_append (guestfs_h *g)
 582 {
 583   return g->append;
 584 }
 585
 586 int
 587 guestfs__set_memsize (guestfs_h *g, int memsize)
 588 {
 589   g->memsize = memsize;
 590   return 0;
 591 }
 592
 593 int
 594 guestfs__get_memsize (guestfs_h *g)
 595 {
 596   return g->memsize;
 597 }
 598
 599 int
 600 guestfs__set_selinux (guestfs_h *g, int selinux)
 601 {
 602   g->selinux = selinux;
 603   return 0;
 604 }
 605
 606 int
 607 guestfs__get_selinux (guestfs_h *g)
 608 {
 609   return g->selinux;
 610 }
 611
 612 int
 613 guestfs__get_pid (guestfs_h *g)
 614 {
 615   if (g->pid > 0)
 616     return g->pid;
 617   else {
 618     error (g, "get_pid: no qemu subprocess");
 619     return -1;
 620   }
 621 }
 622
 623 struct guestfs_version *
 624 guestfs__version (guestfs_h *g)
 625 {
 626   struct guestfs_version *r;
 627
 628   r = safe_malloc (g, sizeof *r);
 629   r->major = PACKAGE_VERSION_MAJOR;
 630   r->minor = PACKAGE_VERSION_MINOR;
 631   r->release = PACKAGE_VERSION_RELEASE;
 632   r->extra = safe_strdup (g, PACKAGE_VERSION_EXTRA);
 633   return r;
 634 }
 635
 636 int
 637 guestfs__set_trace (guestfs_h *g, int t)
 638 {
 639   g->trace = !!t;
 640   return 0;
 641 }
 642
 643 int
 644 guestfs__get_trace (guestfs_h *g)
 645 {
 646   return g->trace;
 647 }
 648
 649 /* Add a string to the current command line. */
 650 static void
 651 incr_cmdline_size (guestfs_h *g)
 652 {
 653   if (g->cmdline == NULL) {
 654     /* g->cmdline[0] is reserved for argv[0], set in guestfs_launch. */
 655     g->cmdline_size = 1;
 656     g->cmdline = safe_malloc (g, sizeof (char *));
 657     g->cmdline[0] = NULL;
 658   }
 659
 660   g->cmdline_size++;
 661   g->cmdline = safe_realloc (g, g->cmdline, sizeof (char *) * g->cmdline_size);
 662 }
 663
 664 static int
 665 add_cmdline (guestfs_h *g, const char *str)
 666 {
 667   if (g->state != CONFIG) {
 668     error (g,
 669         _("command line cannot be altered after qemu subprocess launched"));
 670     return -1;
 671   }
 672
 673   incr_cmdline_size (g);
 674   g->cmdline[g->cmdline_size-1] = safe_strdup (g, str);
 675   return 0;
 676 }
 677
 678 int
 679 guestfs__config (guestfs_h *g,
 680                  const char *qemu_param, const char *qemu_value)
 681 {
 682   if (qemu_param[0] != '-') {
 683     error (g, _("guestfs_config: parameter must begin with '-' character"));
 684     return -1;
 685   }
 686
 687   /* A bit fascist, but the user will probably break the extra
 688    * parameters that we add if they try to set any of these.
 689    */
 690   if (strcmp (qemu_param, "-kernel") == 0 ||
 691       strcmp (qemu_param, "-initrd") == 0 ||
 692       strcmp (qemu_param, "-nographic") == 0 ||
 693       strcmp (qemu_param, "-serial") == 0 ||
 694       strcmp (qemu_param, "-full-screen") == 0 ||
 695       strcmp (qemu_param, "-std-vga") == 0 ||
 696       strcmp (qemu_param, "-vnc") == 0) {
 697     error (g, _("guestfs_config: parameter '%s' isn't allowed"), qemu_param);
 698     return -1;
 699   }
 700
 701   if (add_cmdline (g, qemu_param) != 0) return -1;
 702
 703   if (qemu_value != NULL) {
 704     if (add_cmdline (g, qemu_value) != 0) return -1;
 705   }
 706
 707   return 0;
 708 }
 709
 710 int
 711 guestfs__add_drive (guestfs_h *g, const char *filename)
 712 {
 713   size_t len = strlen (filename) + 64;
 714   char buf[len];
 715
 716   if (strchr (filename, ',') != NULL) {
 717     error (g, _("filename cannot contain ',' (comma) character"));
 718     return -1;
 719   }
 720
 721   /* cache=off improves reliability in the event of a host crash.
 722    *
 723    * However this option causes qemu to try to open the file with
 724    * O_DIRECT.  This fails on some filesystem types (notably tmpfs).
 725    * So we check if we can open the file with or without O_DIRECT,
 726    * and use cache=off (or not) accordingly.
 727    *
 728    * This test also checks for the presence of the file, which
 729    * is a documented semantic of this interface.
 730    */
 731   int fd = open (filename, O_RDONLY|O_DIRECT);
 732   if (fd >= 0) {
 733     close (fd);
 734     snprintf (buf, len, "file=%s,cache=off,if=" DRIVE_IF, filename);
 735   } else {
 736     fd = open (filename, O_RDONLY);
 737     if (fd >= 0) {
 738       close (fd);
 739       snprintf (buf, len, "file=%s,if=" DRIVE_IF, filename);
 740     } else {
 741       perrorf (g, "%s", filename);
 742       return -1;
 743     }
 744   }
 745
 746   return guestfs__config (g, "-drive", buf);
 747 }
 748
 749 int
 750 guestfs__add_drive_ro (guestfs_h *g, const char *filename)
 751 {
 752   size_t len = strlen (filename) + 64;
 753   char buf[len];
 754
 755   if (strchr (filename, ',') != NULL) {
 756     error (g, _("filename cannot contain ',' (comma) character"));
 757     return -1;
 758   }
 759
 760   if (access (filename, F_OK) == -1) {
 761     perrorf (g, "%s", filename);
 762     return -1;
 763   }
 764
 765   snprintf (buf, len, "file=%s,snapshot=on,if=%s", filename, DRIVE_IF);
 766
 767   return guestfs__config (g, "-drive", buf);
 768 }
 769
 770 int
 771 guestfs__add_cdrom (guestfs_h *g, const char *filename)
 772 {
 773   if (strchr (filename, ',') != NULL) {
 774     error (g, _("filename cannot contain ',' (comma) character"));
 775     return -1;
 776   }
 777
 778   if (access (filename, F_OK) == -1) {
 779     perrorf (g, "%s", filename);
 780     return -1;
 781   }
 782
 783   return guestfs__config (g, "-cdrom", filename);
 784 }
 785
 786 /* Returns true iff file is contained in dir. */
 787 static int
 788 dir_contains_file (const char *dir, const char *file)
 789 {
 790   int dirlen = strlen (dir);
 791   int filelen = strlen (file);
 792   int len = dirlen+filelen+2;
 793   char path[len];
 794
 795   snprintf (path, len, "%s/%s", dir, file);
 796   return access (path, F_OK) == 0;
 797 }
 798
 799 /* Returns true iff every listed file is contained in 'dir'. */
 800 static int
 801 dir_contains_files (const char *dir, ...)
 802 {
 803   va_list args;
 804   const char *file;
 805
 806   va_start (args, dir);
 807   while ((file = va_arg (args, const char *)) != NULL) {
 808     if (!dir_contains_file (dir, file)) {
 809       va_end (args);
 810       return 0;
 811     }
 812   }
 813   va_end (args);
 814   return 1;
 815 }
 816
 817 static int build_supermin_appliance (guestfs_h *g, const char *path, char **kernel, char **initrd);
 818 static int test_qemu (guestfs_h *g);
 819 static int qemu_supports (guestfs_h *g, const char *option);
 820 static void print_cmdline (guestfs_h *g);
 821
 822 static const char *kernel_name = "vmlinuz." REPO "." host_cpu;
 823 static const char *initrd_name = "initramfs." REPO "." host_cpu ".img";
 824 static const char *supermin_name =
 825   "initramfs." REPO "." host_cpu ".supermin.img";
 826 static const char *supermin_hostfiles_name =
 827   "initramfs." REPO "." host_cpu ".supermin.hostfiles";
 828
 829 int
 830 guestfs__launch (guestfs_h *g)
 831 {
 832   const char *tmpdir;
 833   char dir_template[PATH_MAX];
 834   int r, pmore;
 835   size_t len;
 836   int wfd[2], rfd[2];
 837   int tries;
 838   char *path, *pelem, *pend;
 839   char *kernel = NULL, *initrd = NULL;
 840   char unixsock[256];
 841   struct sockaddr_un addr;
 842
 843 #ifdef P_tmpdir
 844   tmpdir = P_tmpdir;
 845 #else
 846   tmpdir = "/tmp";
 847 #endif
 848
 849   tmpdir = getenv ("TMPDIR") ? : tmpdir;
 850   snprintf (dir_template, sizeof dir_template, "%s/libguestfsXXXXXX", tmpdir);
 851
 852   /* Configured? */
 853   if (!g->cmdline) {
 854     error (g, _("you must call guestfs_add_drive before guestfs_launch"));
 855     return -1;
 856   }
 857
 858   if (g->state != CONFIG) {
 859     error (g, _("qemu has already been launched"));
 860     return -1;
 861   }
 862
 863   /* Make the temporary directory. */
 864   if (!g->tmpdir) {
 865     g->tmpdir = safe_strdup (g, dir_template);
 866     if (mkdtemp (g->tmpdir) == NULL) {
 867       perrorf (g, _("%s: cannot create temporary directory"), dir_template);
 868       goto cleanup0;
 869     }
 870   }
 871
 872   /* First search g->path for the supermin appliance, and try to
 873    * synthesize a kernel and initrd from that.  If it fails, we
 874    * try the path search again looking for a backup ordinary
 875    * appliance.
 876    */
 877   pelem = path = safe_strdup (g, g->path);
 878   do {
 879     pend = strchrnul (pelem, ':');
 880     pmore = *pend == ':';
 881     *pend = '\0';
 882     len = pend - pelem;
 883
 884     /* Empty element of "." means cwd. */
 885     if (len == 0 || (len == 1 && *pelem == '.')) {
 886       if (g->verbose)
 887         fprintf (stderr,
 888                  "looking for supermin appliance in current directory\n");
 889       if (dir_contains_files (".",
 890                               supermin_name, supermin_hostfiles_name,
 891                               "kmod.whitelist", NULL)) {
 892         if (build_supermin_appliance (g, ".", &kernel, &initrd) == -1)
 893           return -1;
 894         break;
 895       }
 896     }
 897     /* Look at <path>/supermin* etc. */
 898     else {
 899       if (g->verbose)
 900         fprintf (stderr, "looking for supermin appliance in %s\n", pelem);
 901
 902       if (dir_contains_files (pelem,
 903                               supermin_name, supermin_hostfiles_name,
 904                               "kmod.whitelist", NULL)) {
 905         if (build_supermin_appliance (g, pelem, &kernel, &initrd) == -1)
 906           return -1;
 907         break;
 908       }
 909     }
 910
 911     pelem = pend + 1;
 912   } while (pmore);
 913
 914   free (path);
 915
 916   if (kernel == NULL || initrd == NULL) {
 917     /* Search g->path for the kernel and initrd. */
 918     pelem = path = safe_strdup (g, g->path);
 919     do {
 920       pend = strchrnul (pelem, ':');
 921       pmore = *pend == ':';
 922       *pend = '\0';
 923       len = pend - pelem;
 924
 925       /* Empty element or "." means cwd. */
 926       if (len == 0 || (len == 1 && *pelem == '.')) {
 927         if (g->verbose)
 928           fprintf (stderr,
 929                    "looking for appliance in current directory\n");
 930         if (dir_contains_files (".", kernel_name, initrd_name, NULL)) {
 931           kernel = safe_strdup (g, kernel_name);
 932           initrd = safe_strdup (g, initrd_name);
 933           break;
 934         }
 935       }
 936       /* Look at <path>/kernel etc. */
 937       else {
 938         if (g->verbose)
 939           fprintf (stderr, "looking for appliance in %s\n", pelem);
 940
 941         if (dir_contains_files (pelem, kernel_name, initrd_name, NULL)) {
 942           kernel = safe_malloc (g, len + strlen (kernel_name) + 2);
 943           initrd = safe_malloc (g, len + strlen (initrd_name) + 2);
 944           sprintf (kernel, "%s/%s", pelem, kernel_name);
 945           sprintf (initrd, "%s/%s", pelem, initrd_name);
 946           break;
 947         }
 948       }
 949
 950       pelem = pend + 1;
 951     } while (pmore);
 952
 953     free (path);
 954   }
 955
 956   if (kernel == NULL || initrd == NULL) {
 957     error (g, _("cannot find %s or %s on LIBGUESTFS_PATH (current path = %s)"),
 958            kernel_name, initrd_name, g->path);
 959     goto cleanup0;
 960   }
 961
 962   /* Get qemu help text and version. */
 963   if (test_qemu (g) == -1)
 964     goto cleanup0;
 965
 966   /* Make the vmchannel socket. */
 967   snprintf (unixsock, sizeof unixsock, "%s/sock", g->tmpdir);
 968   unlink (unixsock);
 969
 970   if (pipe (wfd) == -1 || pipe (rfd) == -1) {
 971     perrorf (g, "pipe");
 972     goto cleanup0;
 973   }
 974
 975   r = fork ();
 976   if (r == -1) {
 977     perrorf (g, "fork");
 978     close (wfd[0]);
 979     close (wfd[1]);
 980     close (rfd[0]);
 981     close (rfd[1]);
 982     goto cleanup0;
 983   }
 984
 985   if (r == 0) {                 /* Child (qemu). */
 986     char vmchannel[256];
 987     char append[256];
 988     char memsize_str[256];
 989
 990     /* Set up the full command line.  Do this in the subprocess so we
 991      * don't need to worry about cleaning up.
 992      */
 993     g->cmdline[0] = g->qemu;
 994
 995 #define LINUX_CMDLINE                                                   \
 996     "panic=1 "         /* force kernel to panic if daemon exits */      \
 997     "console=ttyS0 "   /* serial console */                             \
 998     "udevtimeout=300 " /* good for very slow systems (RHBZ#480319) */   \
 999     "noapic "          /* workaround for RHBZ#502058 - ok if not SMP */ \
1000     "acpi=off "        /* we don't need ACPI, turn it off */            \
1001     "cgroup_disable=memory " /* saves us about 5 MB of RAM */
1002
1003     /* Linux kernel command line. */
1004     snprintf (append, sizeof append,
1005               LINUX_CMDLINE
1006               "%s"              /* (selinux) */
1007               "%s"              /* (verbose) */
1008               "%s",             /* (append) */
1009               g->selinux ? "selinux=1 enforcing=0 " : "selinux=0 ",
1010               g->verbose ? "guestfs_verbose=1 " : " ",
1011               g->append ? g->append : "");
1012
1013     snprintf (memsize_str, sizeof memsize_str, "%d", g->memsize);
1014
1015     add_cmdline (g, "-m");
1016     add_cmdline (g, memsize_str);
1017     add_cmdline (g, "-no-reboot"); /* Force exit instead of reboot on panic */
1018     add_cmdline (g, "-kernel");
1019     add_cmdline (g, (char *) kernel);
1020     add_cmdline (g, "-initrd");
1021     add_cmdline (g, (char *) initrd);
1022     add_cmdline (g, "-append");
1023     add_cmdline (g, append);
1024     add_cmdline (g, "-nographic");
1025     add_cmdline (g, "-serial");
1026     add_cmdline (g, "stdio");
1027
1028 #if 0
1029     /* Doesn't work.  See:
1030      * http://lists.gnu.org/archive/html/qemu-devel/2009-07/threads.html
1031      * Subject "guestfwd option doesn't allow supplementary ,server,nowait"
1032      */
1033     if (qemu_supports (g, "guestfwd")) {
1034       /* New-style -net user,guestfwd=... syntax for vmchannel.  See:
1035        * http://git.savannah.gnu.org/cgit/qemu.git/commit/?id=c92ef6a22d3c71538fcc48fb61ad353f7ba03b62
1036        */
1037       snprintf (vmchannel, sizeof vmchannel,
1038                 "user,vlan=0,net=10.0.2.0/8,guestfwd=tcp:%s:%d-unix:%s,server,nowait",
1039                 GUESTFWD_ADDR, GUESTFWD_PORT, unixsock);
1040
1041       add_cmdline (g, "-net");
1042       add_cmdline (g, vmchannel);
1043     } else {
1044 #endif
1045       /* Not guestfwd.  HOPEFULLY this qemu uses the older -net channel
1046        * syntax, or if not then we'll get a quick failure.
1047        */
1048       snprintf (vmchannel, sizeof vmchannel,
1049                 "channel,%d:unix:%s,server,nowait",
1050                 GUESTFWD_PORT, unixsock);
1051
1052       add_cmdline (g, "-net");
1053       add_cmdline (g, vmchannel);
1054       add_cmdline (g, "-net");
1055       add_cmdline (g, "user,vlan=0,net=10.0.2.0/8");
1056 #if 0
1057     }
1058 #endif
1059     add_cmdline (g, "-net");
1060     add_cmdline (g, "nic,model=" NET_IF ",vlan=0");
1061
1062     /* These options recommended by KVM developers to improve reliability. */
1063     if (qemu_supports (g, "-no-hpet"))
1064       add_cmdline (g, "-no-hpet");
1065
1066     if (qemu_supports (g, "-rtc-td-hack"))
1067       add_cmdline (g, "-rtc-td-hack");
1068
1069     /* Finish off the command line. */
1070     incr_cmdline_size (g);
1071     g->cmdline[g->cmdline_size-1] = NULL;
1072
1073     if (g->verbose)
1074       print_cmdline (g);
1075
1076     /* Set up stdin, stdout. */
1077     close (0);
1078     close (1);
1079     close (wfd[1]);
1080     close (rfd[0]);
1081
1082     if (dup (wfd[0]) == -1) {
1083     dup_failed:
1084       perror ("dup failed");
1085       _exit (1);
1086     }
1087     if (dup (rfd[1]) == -1)
1088       goto dup_failed;
1089
1090     close (wfd[0]);
1091     close (rfd[1]);
1092
1093 #if 0
1094     /* Set up a new process group, so we can signal this process
1095      * and all subprocesses (eg. if qemu is really a shell script).
1096      */
1097     setpgid (0, 0);
1098 #endif
1099
1100     execv (g->qemu, g->cmdline); /* Run qemu. */
1101     perror (g->qemu);
1102     _exit (1);
1103   }
1104
1105   /* Parent (library). */
1106   g->pid = r;
1107
1108   free (kernel);
1109   kernel = NULL;
1110   free (initrd);
1111   initrd = NULL;
1112
1113   /* Fork the recovery process off which will kill qemu if the parent
1114    * process fails to do so (eg. if the parent segfaults).
1115    */
1116   r = fork ();
1117   if (r == 0) {
1118     pid_t qemu_pid = g->pid;
1119     pid_t parent_pid = getppid ();
1120
1121     /* Writing to argv is hideously complicated and error prone.  See:
1122      * http://anoncvs.postgresql.org/cvsweb.cgi/pgsql/src/backend/utils/misc/ps_status.c?rev=1.33.2.1;content-type=text%2Fplain
1123      */
1124
1125     /* Loop around waiting for one or both of the other processes to
1126      * disappear.  It's fair to say this is very hairy.  The PIDs that
1127      * we are looking at might be reused by another process.  We are
1128      * effectively polling.  Is the cure worse than the disease?
1129      */
1130     for (;;) {
1131       if (kill (qemu_pid, 0) == -1) /* qemu's gone away, we aren't needed */
1132         _exit (0);
1133       if (kill (parent_pid, 0) == -1) {
1134         /* Parent's gone away, qemu still around, so kill qemu. */
1135         kill (qemu_pid, 9);
1136         _exit (0);
1137       }
1138       sleep (2);
1139     }
1140   }
1141
1142   /* Don't worry, if the fork failed, this will be -1.  The recovery
1143    * process isn't essential.
1144    */
1145   g->recoverypid = r;
1146
1147   /* Start the clock ... */
1148   time (&g->start_t);
1149
1150   /* Close the other ends of the pipe. */
1151   close (wfd[0]);
1152   close (rfd[1]);
1153
1154   if (fcntl (wfd[1], F_SETFL, O_NONBLOCK) == -1 ||
1155       fcntl (rfd[0], F_SETFL, O_NONBLOCK) == -1) {
1156     perrorf (g, "fcntl");
1157     goto cleanup1;
1158   }
1159
1160   g->fd[0] = wfd[1];            /* stdin of child */
1161   g->fd[1] = rfd[0];            /* stdout of child */
1162
1163   /* Open the Unix socket.  The vmchannel implementation that got
1164    * merged with qemu sucks in a number of ways.  Both ends do
1165    * connect(2), which means that no one knows what, if anything, is
1166    * connected to the other end, or if it becomes disconnected.  Even
1167    * worse, we have to wait some indeterminate time for qemu to create
1168    * the socket and connect to it (which happens very early in qemu's
1169    * start-up), so any code that uses vmchannel is inherently racy.
1170    * Hence this silly loop.
1171    */
1172   g->sock = socket (AF_UNIX, SOCK_STREAM, 0);
1173   if (g->sock == -1) {
1174     perrorf (g, "socket");
1175     goto cleanup1;
1176   }
1177
1178   if (fcntl (g->sock, F_SETFL, O_NONBLOCK) == -1) {
1179     perrorf (g, "fcntl");
1180     goto cleanup2;
1181   }
1182
1183   addr.sun_family = AF_UNIX;
1184   strncpy (addr.sun_path, unixsock, UNIX_PATH_MAX);
1185   addr.sun_path[UNIX_PATH_MAX-1] = '\0';
1186
1187   tries = 100;
1188   /* Always sleep at least once to give qemu a small chance to start up. */
1189   usleep (10000);
1190   while (tries > 0) {
1191     r = connect (g->sock, (struct sockaddr *) &addr, sizeof addr);
1192     if ((r == -1 && errno == EINPROGRESS) || r == 0)
1193       goto connected;
1194
1195     if (errno != ENOENT)
1196       perrorf (g, "connect");
1197     tries--;
1198     usleep (100000);
1199   }
1200
1201   error (g, _("failed to connect to vmchannel socket"));
1202   goto cleanup2;
1203
1204  connected:
1205   g->state = LAUNCHING;
1206   return 0;
1207
1208  cleanup2:
1209   close (g->sock);
1210
1211  cleanup1:
1212   close (wfd[1]);
1213   close (rfd[0]);
1214   kill (g->pid, 9);
1215   if (g->recoverypid > 0) kill (g->recoverypid, 9);
1216   waitpid (g->pid, NULL, 0);
1217   if (g->recoverypid > 0) waitpid (g->recoverypid, NULL, 0);
1218   g->fd[0] = -1;
1219   g->fd[1] = -1;
1220   g->sock = -1;
1221   g->pid = 0;
1222   g->recoverypid = 0;
1223   g->start_t = 0;
1224
1225  cleanup0:
1226   free (kernel);
1227   free (initrd);
1228   return -1;
1229 }
1230
1231 /* This function is used to print the qemu command line before it gets
1232  * executed, when in verbose mode.
1233  */
1234 static void
1235 print_cmdline (guestfs_h *g)
1236 {
1237   int i = 0;
1238   int needs_quote;
1239
1240   while (g->cmdline[i]) {
1241     if (g->cmdline[i][0] == '-') /* -option starts a new line */
1242       fprintf (stderr, " \\\n   ");
1243
1244     if (i > 0) fputc (' ', stderr);
1245
1246     /* Does it need shell quoting?  This only deals with simple cases. */
1247     needs_quote = strcspn (g->cmdline[i], " ") != strlen (g->cmdline[i]);
1248
1249     if (needs_quote) fputc ('\'', stderr);
1250     fprintf (stderr, "%s", g->cmdline[i]);
1251     if (needs_quote) fputc ('\'', stderr);
1252     i++;
1253   }
1254
1255   fputc ('\n', stderr);
1256 }
1257
1258 /* This function does the hard work of building the supermin appliance
1259  * on the fly.  'path' is the directory containing the control files.
1260  * 'kernel' and 'initrd' are where we will return the names of the
1261  * kernel and initrd (only initrd is built).  The work is done by
1262  * an external script.  We just tell it where to put the result.
1263  */
1264 static int
1265 build_supermin_appliance (guestfs_h *g, const char *path,
1266                           char **kernel, char **initrd)
1267 {
1268   char cmd[4096];
1269   int r, len;
1270
1271   len = strlen (g->tmpdir);
1272   *kernel = safe_malloc (g, len + 8);
1273   snprintf (*kernel, len+8, "%s/kernel", g->tmpdir);
1274   *initrd = safe_malloc (g, len + 8);
1275   snprintf (*initrd, len+8, "%s/initrd", g->tmpdir);
1276
1277   snprintf (cmd, sizeof cmd,
1278             "PATH='%s':$PATH "
1279             "libguestfs-supermin-helper '%s' %s %s",
1280             path,
1281             path, *kernel, *initrd);
1282
1283   r = system (cmd);
1284   if (r == -1 || WEXITSTATUS(r) != 0) {
1285     error (g, _("external command failed: %s"), cmd);
1286     free (*kernel);
1287     free (*initrd);
1288     *kernel = *initrd = NULL;
1289     return -1;
1290   }
1291
1292   return 0;
1293 }
1294
1295 static int read_all (guestfs_h *g, FILE *fp, char **ret);
1296
1297 /* Test qemu binary (or wrapper) runs, and do 'qemu -help' and
1298  * 'qemu -version' so we know what options this qemu supports and
1299  * the version.
1300  */
1301 static int
1302 test_qemu (guestfs_h *g)
1303 {
1304   char cmd[1024];
1305   FILE *fp;
1306
1307   free (g->qemu_help);
1308   free (g->qemu_version);
1309   g->qemu_help = NULL;
1310   g->qemu_version = NULL;
1311
1312   snprintf (cmd, sizeof cmd, "'%s' -help", g->qemu);
1313
1314   fp = popen (cmd, "r");
1315   /* qemu -help should always work (qemu -version OTOH wasn't
1316    * supported by qemu 0.9).  If this command doesn't work then it
1317    * probably indicates that the qemu binary is missing.
1318    */
1319   if (!fp) {
1320     /* XXX This error is never printed, even if the qemu binary
1321      * doesn't exist.  Why?
1322      */
1323   error:
1324     perrorf (g, _("%s: command failed: If qemu is located on a non-standard path, try setting the LIBGUESTFS_QEMU environment variable."), cmd);
1325     return -1;
1326   }
1327
1328   if (read_all (g, fp, &g->qemu_help) == -1)
1329     goto error;
1330
1331   if (pclose (fp) == -1)
1332     goto error;
1333
1334   snprintf (cmd, sizeof cmd, "'%s' -version 2>/dev/null", g->qemu);
1335
1336   fp = popen (cmd, "r");
1337   if (fp) {
1338     /* Intentionally ignore errors. */
1339     read_all (g, fp, &g->qemu_version);
1340     pclose (fp);
1341   }
1342
1343   return 0;
1344 }
1345
1346 static int
1347 read_all (guestfs_h *g, FILE *fp, char **ret)
1348 {
1349   int r, n = 0;
1350   char *p;
1351
1352  again:
1353   if (feof (fp)) {
1354     *ret = safe_realloc (g, *ret, n + 1);
1355     (*ret)[n] = '\0';
1356     return n;
1357   }
1358
1359   *ret = safe_realloc (g, *ret, n + BUFSIZ);
1360   p = &(*ret)[n];
1361   r = fread (p, 1, BUFSIZ, fp);
1362   if (ferror (fp)) {
1363     perrorf (g, "read");
1364     return -1;
1365   }
1366   n += r;
1367   goto again;
1368 }
1369
1370 /* Test if option is supported by qemu command line (just by grepping
1371  * the help text).
1372  */
1373 static int
1374 qemu_supports (guestfs_h *g, const char *option)
1375 {
1376   return g->qemu_help && strstr (g->qemu_help, option) != NULL;
1377 }
1378
1379 int
1380 guestfs__wait_ready (guestfs_h *g)
1381 {
1382   int r;
1383   uint32_t size;
1384   void *buf = NULL;
1385
1386   if (g->state == READY) return 0;
1387
1388   if (g->state == BUSY) {
1389     error (g, _("qemu has finished launching already"));
1390     return -1;
1391   }
1392
1393   if (g->state != LAUNCHING) {
1394     error (g, _("qemu has not been launched yet"));
1395     return -1;
1396   }
1397
1398   r = recv_from_daemon (g, &size, &buf);
1399   free (buf);
1400
1401   if (r == -1) return -1;
1402
1403   if (size != GUESTFS_LAUNCH_FLAG) {
1404     error (g, _("guestfs_wait_ready failed, see earlier error messages"));
1405     return -1;
1406   }
1407
1408   /* This is possible in some really strange situations, such as
1409    * guestfsd starts up OK but then qemu immediately exits.  Check for
1410    * it because the caller is probably expecting to be able to send
1411    * commands after this function returns.
1412    */
1413   if (g->state != READY) {
1414     error (g, _("qemu launched and contacted daemon, but state != READY"));
1415     return -1;
1416   }
1417
1418   return 0;
1419 }
1420
1421 int
1422 guestfs__kill_subprocess (guestfs_h *g)
1423 {
1424   if (g->state == CONFIG) {
1425     error (g, _("no subprocess to kill"));
1426     return -1;
1427   }
1428
1429   if (g->verbose)
1430     fprintf (stderr, "sending SIGTERM to process %d\n", g->pid);
1431
1432   kill (g->pid, SIGTERM);
1433   if (g->recoverypid > 0) kill (g->recoverypid, 9);
1434
1435   return 0;
1436 }
1437
1438 /* Access current state. */
1439 int
1440 guestfs__is_config (guestfs_h *g)
1441 {
1442   return g->state == CONFIG;
1443 }
1444
1445 int
1446 guestfs__is_launching (guestfs_h *g)
1447 {
1448   return g->state == LAUNCHING;
1449 }
1450
1451 int
1452 guestfs__is_ready (guestfs_h *g)
1453 {
1454   return g->state == READY;
1455 }
1456
1457 int
1458 guestfs__is_busy (guestfs_h *g)
1459 {
1460   return g->state == BUSY;
1461 }
1462
1463 int
1464 guestfs__get_state (guestfs_h *g)
1465 {
1466   return g->state;
1467 }
1468
1469 void
1470 guestfs_set_log_message_callback (guestfs_h *g,
1471                                   guestfs_log_message_cb cb, void *opaque)
1472 {
1473   g->log_message_cb = cb;
1474   g->log_message_cb_data = opaque;
1475 }
1476
1477 void
1478 guestfs_set_subprocess_quit_callback (guestfs_h *g,
1479                                       guestfs_subprocess_quit_cb cb, void *opaque)
1480 {
1481   g->subprocess_quit_cb = cb;
1482   g->subprocess_quit_cb_data = opaque;
1483 }
1484
1485 void
1486 guestfs_set_launch_done_callback (guestfs_h *g,
1487                                   guestfs_launch_done_cb cb, void *opaque)
1488 {
1489   g->launch_done_cb = cb;
1490   g->launch_done_cb_data = opaque;
1491 }
1492
1493 /*----------------------------------------------------------------------*/
1494
1495 /* This is the code used to send and receive RPC messages and (for
1496  * certain types of message) to perform file transfers.  This code is
1497  * driven from the generated actions (src/guestfs-actions.c).  There
1498  * are five different cases to consider:
1499  *
1500  * (1) A non-daemon function.  There is no RPC involved at all, it's
1501  * all handled inside the library.
1502  *
1503  * (2) A simple RPC (eg. "mount").  We write the request, then read
1504  * the reply.  The sequence of calls is:
1505  *
1506  *   guestfs___set_busy
1507  *   guestfs___send
1508  *   guestfs___recv
1509  *   guestfs___end_busy
1510  *
1511  * (3) An RPC with FileOut parameters (eg. "upload").  We write the
1512  * request, then write the file(s), then read the reply.  The sequence
1513  * of calls is:
1514  *
1515  *   guestfs___set_busy
1516  *   guestfs___send
1517  *   guestfs___send_file  (possibly multiple times)
1518  *   guestfs___recv
1519  *   guestfs___end_busy
1520  *
1521  * (4) An RPC with FileIn parameters (eg. "download").  We write the
1522  * request, then read the reply, then read the file(s).  The sequence
1523  * of calls is:
1524  *
1525  *   guestfs___set_busy
1526  *   guestfs___send
1527  *   guestfs___recv
1528  *   guestfs___recv_file  (possibly multiple times)
1529  *   guestfs___end_busy
1530  *
1531  * (5) Both FileOut and FileIn parameters.  There are no calls like
1532  * this in the current API, but they would be implemented as a
1533  * combination of cases (3) and (4).
1534  *
1535  * During all writes and reads, we also select(2) on qemu stdout
1536  * looking for messages (guestfsd stderr and guest kernel dmesg), and
1537  * anything received is passed up through the log_message_cb.  This is
1538  * also the reason why all the sockets are non-blocking.  We also have
1539  * to check for EOF (qemu died).  All of this is handled by the
1540  * functions send_to_daemon and recv_from_daemon.
1541  */
1542
1543 int
1544 guestfs___set_busy (guestfs_h *g)
1545 {
1546   if (g->state != READY) {
1547     error (g, _("guestfs_set_busy: called when in state %d != READY"),
1548            g->state);
1549     return -1;
1550   }
1551   g->state = BUSY;
1552   return 0;
1553 }
1554
1555 int
1556 guestfs___end_busy (guestfs_h *g)
1557 {
1558   switch (g->state)
1559     {
1560     case BUSY:
1561       g->state = READY;
1562       break;
1563     case CONFIG:
1564     case READY:
1565       break;
1566
1567     case LAUNCHING:
1568     case NO_HANDLE:
1569     default:
1570       error (g, _("guestfs_end_busy: called when in state %d"), g->state);
1571       return -1;
1572     }
1573   return 0;
1574 }
1575
1576 /* This is called if we detect EOF, ie. qemu died. */
1577 static void
1578 child_cleanup (guestfs_h *g)
1579 {
1580   if (g->verbose)
1581     fprintf (stderr, "child_cleanup: %p: child process died\n", g);
1582
1583   /*kill (g->pid, SIGTERM);*/
1584   if (g->recoverypid > 0) kill (g->recoverypid, 9);
1585   waitpid (g->pid, NULL, 0);
1586   if (g->recoverypid > 0) waitpid (g->recoverypid, NULL, 0);
1587   close (g->fd[0]);
1588   close (g->fd[1]);
1589   close (g->sock);
1590   g->fd[0] = -1;
1591   g->fd[1] = -1;
1592   g->sock = -1;
1593   g->pid = 0;
1594   g->recoverypid = 0;
1595   g->start_t = 0;
1596   g->state = CONFIG;
1597   if (g->subprocess_quit_cb)
1598     g->subprocess_quit_cb (g, g->subprocess_quit_cb_data);
1599 }
1600
1601 static int
1602 read_log_message_or_eof (guestfs_h *g, int fd)
1603 {
1604   char buf[BUFSIZ];
1605   int n;
1606
1607 #if 0
1608   if (g->verbose)
1609     fprintf (stderr,
1610              "read_log_message_or_eof: %p g->state = %d, fd = %d\n",
1611              g, g->state, fd);
1612 #endif
1613
1614   /* QEMU's console emulates a 16550A serial port.  The real 16550A
1615    * device has a small FIFO buffer (16 bytes) which means here we see
1616    * lots of small reads of 1-16 bytes in length, usually single
1617    * bytes.
1618    */
1619   n = read (fd, buf, sizeof buf);
1620   if (n == 0) {
1621     /* Hopefully this indicates the qemu child process has died. */
1622     child_cleanup (g);
1623     return -1;
1624   }
1625
1626   if (n == -1) {
1627     if (errno == EINTR || errno == EAGAIN)
1628       return 0;
1629
1630     perrorf (g, "read");
1631     return -1;
1632   }
1633
1634   /* In verbose mode, copy all log messages to stderr. */
1635   if (g->verbose)
1636     ignore_value (write (STDERR_FILENO, buf, n));
1637
1638   /* It's an actual log message, send it upwards if anyone is listening. */
1639   if (g->log_message_cb)
1640     g->log_message_cb (g, g->log_message_cb_data, buf, n);
1641
1642   return 0;
1643 }
1644
1645 static int
1646 check_for_daemon_cancellation_or_eof (guestfs_h *g, int fd)
1647 {
1648   char buf[4];
1649   int n;
1650   uint32_t flag;
1651   XDR xdr;
1652
1653   if (g->verbose)
1654     fprintf (stderr,
1655              "check_for_daemon_cancellation_or_eof: %p g->state = %d, fd = %d\n",
1656              g, g->state, fd);
1657
1658   n = read (fd, buf, 4);
1659   if (n == 0) {
1660     /* Hopefully this indicates the qemu child process has died. */
1661     child_cleanup (g);
1662     return -1;
1663   }
1664
1665   if (n == -1) {
1666     if (errno == EINTR || errno == EAGAIN)
1667       return 0;
1668
1669     perrorf (g, "read");
1670     return -1;
1671   }
1672
1673   xdrmem_create (&xdr, buf, 4, XDR_DECODE);
1674   xdr_uint32_t (&xdr, &flag);
1675   xdr_destroy (&xdr);
1676
1677   if (flag != GUESTFS_CANCEL_FLAG) {
1678     error (g, _("check_for_daemon_cancellation_or_eof: read 0x%x from daemon, expected 0x%x\n"),
1679            flag, GUESTFS_CANCEL_FLAG);
1680     return -1;
1681   }
1682
1683   return -2;
1684 }
1685
1686 /* This writes the whole N bytes of BUF to the daemon socket.
1687  *
1688  * If the whole write is successful, it returns 0.
1689  * If there was an error, it returns -1.
1690  * If the daemon sent a cancellation message, it returns -2.
1691  *
1692  * It also checks qemu stdout for log messages and passes those up
1693  * through log_message_cb.
1694  *
1695  * It also checks for EOF (qemu died) and passes that up through the
1696  * child_cleanup function above.
1697  */
1698 static int
1699 send_to_daemon (guestfs_h *g, const void *v_buf, size_t n)
1700 {
1701   const char *buf = v_buf;
1702   fd_set rset, rset2;
1703   fd_set wset, wset2;
1704
1705   if (g->verbose)
1706     fprintf (stderr,
1707              "send_to_daemon: %p g->state = %d, n = %zu\n", g, g->state, n);
1708
1709   FD_ZERO (&rset);
1710   FD_ZERO (&wset);
1711
1712   FD_SET (g->fd[1], &rset);     /* Read qemu stdout for log messages & EOF. */
1713   FD_SET (g->sock, &rset);      /* Read socket for cancellation & EOF. */
1714   FD_SET (g->sock, &wset);      /* Write to socket to send the data. */
1715
1716   int max_fd = g->sock > g->fd[1] ? g->sock : g->fd[1];
1717
1718   while (n > 0) {
1719     rset2 = rset;
1720     wset2 = wset;
1721     int r = select (max_fd+1, &rset2, &wset2, NULL, NULL);
1722     if (r == -1) {
1723       if (errno == EINTR || errno == EAGAIN)
1724         continue;
1725       perrorf (g, "select");
1726       return -1;
1727     }
1728
1729     if (FD_ISSET (g->fd[1], &rset2)) {
1730       if (read_log_message_or_eof (g, g->fd[1]) == -1)
1731         return -1;
1732     }
1733     if (FD_ISSET (g->sock, &rset2)) {
1734       r = check_for_daemon_cancellation_or_eof (g, g->sock);
1735       if (r < 0)
1736         return r;
1737     }
1738     if (FD_ISSET (g->sock, &wset2)) {
1739       r = write (g->sock, buf, n);
1740       if (r == -1) {
1741         if (errno == EINTR || errno == EAGAIN)
1742           continue;
1743         perrorf (g, "write");
1744         if (errno == EPIPE) /* Disconnected from guest (RHBZ#508713). */
1745           child_cleanup (g);
1746         return -1;
1747       }
1748       buf += r;
1749       n -= r;
1750     }
1751   }
1752
1753   return 0;
1754 }
1755
1756 /* This reads a single message, file chunk, launch flag or
1757  * cancellation flag from the daemon.  If something was read, it
1758  * returns 0, otherwise -1.
1759  *
1760  * Both size_rtn and buf_rtn must be passed by the caller as non-NULL.
1761  *
1762  * *size_rtn returns the size of the returned message or it may be
1763  * GUESTFS_LAUNCH_FLAG or GUESTFS_CANCEL_FLAG.
1764  *
1765  * *buf_rtn is returned containing the message (if any) or will be set
1766  * to NULL.  *buf_rtn must be freed by the caller.
1767  *
1768  * It also checks qemu stdout for log messages and passes those up
1769  * through log_message_cb.
1770  *
1771  * It also checks for EOF (qemu died) and passes that up through the
1772  * child_cleanup function above.
1773  */
1774 static int
1775 recv_from_daemon (guestfs_h *g, uint32_t *size_rtn, void **buf_rtn)
1776 {
1777   fd_set rset, rset2;
1778
1779   if (g->verbose)
1780     fprintf (stderr,
1781              "recv_from_daemon: %p g->state = %d, size_rtn = %p, buf_rtn = %p\n",
1782              g, g->state, size_rtn, buf_rtn);
1783
1784   FD_ZERO (&rset);
1785
1786   FD_SET (g->fd[1], &rset);     /* Read qemu stdout for log messages & EOF. */
1787   FD_SET (g->sock, &rset);      /* Read socket for data & EOF. */
1788
1789   int max_fd = g->sock > g->fd[1] ? g->sock : g->fd[1];
1790
1791   *size_rtn = 0;
1792   *buf_rtn = NULL;
1793
1794   char lenbuf[4];
1795   /* nr is the size of the message, but we prime it as -4 because we
1796    * have to read the message length word first.
1797    */
1798   ssize_t nr = -4;
1799
1800   while (nr < (ssize_t) *size_rtn) {
1801     rset2 = rset;
1802     int r = select (max_fd+1, &rset2, NULL, NULL, NULL);
1803     if (r == -1) {
1804       if (errno == EINTR || errno == EAGAIN)
1805         continue;
1806       perrorf (g, "select");
1807       free (*buf_rtn);
1808       *buf_rtn = NULL;
1809       return -1;
1810     }
1811
1812     if (FD_ISSET (g->fd[1], &rset2)) {
1813       if (read_log_message_or_eof (g, g->fd[1]) == -1) {
1814         free (*buf_rtn);
1815         *buf_rtn = NULL;
1816         return -1;
1817       }
1818     }
1819     if (FD_ISSET (g->sock, &rset2)) {
1820       if (nr < 0) {    /* Have we read the message length word yet? */
1821         r = read (g->sock, lenbuf+nr+4, -nr);
1822         if (r == -1) {
1823           if (errno == EINTR || errno == EAGAIN)
1824             continue;
1825           int err = errno;
1826           perrorf (g, "read");
1827           /* Under some circumstances we see "Connection reset by peer"
1828            * here when the child dies suddenly.  Catch this and call
1829            * the cleanup function, same as for EOF.
1830            */
1831           if (err == ECONNRESET)
1832             child_cleanup (g);
1833           return -1;
1834         }
1835         if (r == 0) {
1836           error (g, _("unexpected end of file when reading from daemon"));
1837           child_cleanup (g);
1838           return -1;
1839         }
1840         nr += r;
1841
1842         if (nr < 0)         /* Still not got the whole length word. */
1843           continue;
1844
1845         XDR xdr;
1846         xdrmem_create (&xdr, lenbuf, 4, XDR_DECODE);
1847         xdr_uint32_t (&xdr, size_rtn);
1848         xdr_destroy (&xdr);
1849
1850         if (*size_rtn == GUESTFS_LAUNCH_FLAG) {
1851           if (g->state != LAUNCHING)
1852             error (g, _("received magic signature from guestfsd, but in state %d"),
1853                    g->state);
1854           else {
1855             g->state = READY;
1856             if (g->launch_done_cb)
1857               g->launch_done_cb (g, g->launch_done_cb_data);
1858           }
1859           return 0;
1860         }
1861         else if (*size_rtn == GUESTFS_CANCEL_FLAG)
1862           return 0;
1863         /* If this happens, it's pretty bad and we've probably lost
1864          * synchronization.
1865          */
1866         else if (*size_rtn > GUESTFS_MESSAGE_MAX) {
1867           error (g, _("message length (%u) > maximum possible size (%d)"),
1868                  (unsigned) *size_rtn, GUESTFS_MESSAGE_MAX);
1869           return -1;
1870         }
1871
1872         /* Allocate the complete buffer, size now known. */
1873         *buf_rtn = safe_malloc (g, *size_rtn);
1874         /*FALLTHROUGH*/
1875       }
1876
1877       size_t sizetoread = *size_rtn - nr;
1878       if (sizetoread > BUFSIZ) sizetoread = BUFSIZ;
1879
1880       r = read (g->sock, (char *) (*buf_rtn) + nr, sizetoread);
1881       if (r == -1) {
1882         if (errno == EINTR || errno == EAGAIN)
1883           continue;
1884         perrorf (g, "read");
1885         free (*buf_rtn);
1886         *buf_rtn = NULL;
1887         return -1;
1888       }
1889       if (r == 0) {
1890         error (g, _("unexpected end of file when reading from daemon"));
1891         child_cleanup (g);
1892         free (*buf_rtn);
1893         *buf_rtn = NULL;
1894         return -1;
1895       }
1896       nr += r;
1897     }
1898   }
1899
1900   /* Got the full message, caller can start processing it. */
1901 #ifdef ENABLE_PACKET_DUMP
1902   if (g->verbose) {
1903     ssize_t i, j;
1904
1905     for (i = 0; i < nr; i += 16) {
1906       printf ("%04zx: ", i);
1907       for (j = i; j < MIN (i+16, nr); ++j)
1908         printf ("%02x ", (*(unsigned char **)buf_rtn)[j]);
1909       for (; j < i+16; ++j)
1910         printf ("   ");
1911       printf ("|");
1912       for (j = i; j < MIN (i+16, nr); ++j)
1913         if (isprint ((*(char **)buf_rtn)[j]))
1914           printf ("%c", (*(char **)buf_rtn)[j]);
1915         else
1916           printf (".");
1917       for (; j < i+16; ++j)
1918         printf (" ");
1919       printf ("|\n");
1920     }
1921   }
1922 #endif
1923
1924   return 0;
1925 }
1926
1927 int
1928 guestfs___send (guestfs_h *g, int proc_nr, xdrproc_t xdrp, char *args)
1929 {
1930   struct guestfs_message_header hdr;
1931   XDR xdr;
1932   u_int32_t len;
1933   int serial = g->msg_next_serial++;
1934   int r;
1935   char *msg_out;
1936   size_t msg_out_size;
1937
1938   if (g->state != BUSY) {
1939     error (g, _("guestfs___send: state %d != BUSY"), g->state);
1940     return -1;
1941   }
1942
1943   /* We have to allocate this message buffer on the heap because
1944    * it is quite large (although will be mostly unused).  We
1945    * can't allocate it on the stack because in some environments
1946    * we have quite limited stack space available, notably when
1947    * running in the JVM.
1948    */
1949   msg_out = safe_malloc (g, GUESTFS_MESSAGE_MAX + 4);
1950   xdrmem_create (&xdr, msg_out + 4, GUESTFS_MESSAGE_MAX, XDR_ENCODE);
1951
1952   /* Serialize the header. */
1953   hdr.prog = GUESTFS_PROGRAM;
1954   hdr.vers = GUESTFS_PROTOCOL_VERSION;
1955   hdr.proc = proc_nr;
1956   hdr.direction = GUESTFS_DIRECTION_CALL;
1957   hdr.serial = serial;
1958   hdr.status = GUESTFS_STATUS_OK;
1959
1960   if (!xdr_guestfs_message_header (&xdr, &hdr)) {
1961     error (g, _("xdr_guestfs_message_header failed"));
1962     goto cleanup1;
1963   }
1964
1965   /* Serialize the args.  If any, because some message types
1966    * have no parameters.
1967    */
1968   if (xdrp) {
1969     if (!(*xdrp) (&xdr, args)) {
1970       error (g, _("dispatch failed to marshal args"));
1971       goto cleanup1;
1972     }
1973   }
1974
1975   /* Get the actual length of the message, resize the buffer to match
1976    * the actual length, and write the length word at the beginning.
1977    */
1978   len = xdr_getpos (&xdr);
1979   xdr_destroy (&xdr);
1980
1981   msg_out = safe_realloc (g, msg_out, len + 4);
1982   msg_out_size = len + 4;
1983
1984   xdrmem_create (&xdr, msg_out, 4, XDR_ENCODE);
1985   xdr_uint32_t (&xdr, &len);
1986
1987  again:
1988   r = send_to_daemon (g, msg_out, msg_out_size);
1989   if (r == -2)                  /* Ignore stray daemon cancellations. */
1990     goto again;
1991   if (r == -1)
1992     goto cleanup1;
1993   free (msg_out);
1994
1995   return serial;
1996
1997  cleanup1:
1998   free (msg_out);
1999   return -1;
2000 }
2001
2002 static int cancel = 0; /* XXX Implement file cancellation. */
2003 static int send_file_chunk (guestfs_h *g, int cancel, const char *buf, size_t len);
2004 static int send_file_data (guestfs_h *g, const char *buf, size_t len);
2005 static int send_file_cancellation (guestfs_h *g);
2006 static int send_file_complete (guestfs_h *g);
2007
2008 /* Send a file.
2009  * Returns:
2010  *   0 OK
2011  *   -1 error
2012  *   -2 daemon cancelled (we must read the error message)
2013  */
2014 int
2015 guestfs___send_file (guestfs_h *g, const char *filename)
2016 {
2017   char buf[GUESTFS_MAX_CHUNK_SIZE];
2018   int fd, r, err;
2019
2020   fd = open (filename, O_RDONLY);
2021   if (fd == -1) {
2022     perrorf (g, "open: %s", filename);
2023     send_file_cancellation (g);
2024     /* Daemon sees cancellation and won't reply, so caller can
2025      * just return here.
2026      */
2027     return -1;
2028   }
2029
2030   /* Send file in chunked encoding. */
2031   while (!cancel) {
2032     r = read (fd, buf, sizeof buf);
2033     if (r == -1 && (errno == EINTR || errno == EAGAIN))
2034       continue;
2035     if (r <= 0) break;
2036     err = send_file_data (g, buf, r);
2037     if (err < 0) {
2038       if (err == -2)            /* daemon sent cancellation */
2039         send_file_cancellation (g);
2040       return err;
2041     }
2042   }
2043
2044   if (cancel) {                 /* cancel from either end */
2045     send_file_cancellation (g);
2046     return -1;
2047   }
2048
2049   if (r == -1) {
2050     perrorf (g, "read: %s", filename);
2051     send_file_cancellation (g);
2052     return -1;
2053   }
2054
2055   /* End of file, but before we send that, we need to close
2056    * the file and check for errors.
2057    */
2058   if (close (fd) == -1) {
2059     perrorf (g, "close: %s", filename);
2060     send_file_cancellation (g);
2061     return -1;
2062   }
2063
2064   return send_file_complete (g);
2065 }
2066
2067 /* Send a chunk of file data. */
2068 static int
2069 send_file_data (guestfs_h *g, const char *buf, size_t len)
2070 {
2071   return send_file_chunk (g, 0, buf, len);
2072 }
2073
2074 /* Send a cancellation message. */
2075 static int
2076 send_file_cancellation (guestfs_h *g)
2077 {
2078   return send_file_chunk (g, 1, NULL, 0);
2079 }
2080
2081 /* Send a file complete chunk. */
2082 static int
2083 send_file_complete (guestfs_h *g)
2084 {
2085   char buf[1];
2086   return send_file_chunk (g, 0, buf, 0);
2087 }
2088
2089 static int
2090 send_file_chunk (guestfs_h *g, int cancel, const char *buf, size_t buflen)
2091 {
2092   u_int32_t len;
2093   int r;
2094   guestfs_chunk chunk;
2095   XDR xdr;
2096   char *msg_out;
2097   size_t msg_out_size;
2098
2099   if (g->state != BUSY) {
2100     error (g, _("send_file_chunk: state %d != READY"), g->state);
2101     return -1;
2102   }
2103
2104   /* Allocate the chunk buffer.  Don't use the stack to avoid
2105    * excessive stack usage and unnecessary copies.
2106    */
2107   msg_out = safe_malloc (g, GUESTFS_MAX_CHUNK_SIZE + 4 + 48);
2108   xdrmem_create (&xdr, msg_out + 4, GUESTFS_MAX_CHUNK_SIZE + 48, XDR_ENCODE);
2109
2110   /* Serialize the chunk. */
2111   chunk.cancel = cancel;
2112   chunk.data.data_len = buflen;
2113   chunk.data.data_val = (char *) buf;
2114
2115   if (!xdr_guestfs_chunk (&xdr, &chunk)) {
2116     error (g, _("xdr_guestfs_chunk failed (buf = %p, buflen = %zu)"),
2117            buf, buflen);
2118     xdr_destroy (&xdr);
2119     goto cleanup1;
2120   }
2121
2122   len = xdr_getpos (&xdr);
2123   xdr_destroy (&xdr);
2124
2125   /* Reduce the size of the outgoing message buffer to the real length. */
2126   msg_out = safe_realloc (g, msg_out, len + 4);
2127   msg_out_size = len + 4;
2128
2129   xdrmem_create (&xdr, msg_out, 4, XDR_ENCODE);
2130   xdr_uint32_t (&xdr, &len);
2131
2132   r = send_to_daemon (g, msg_out, msg_out_size);
2133
2134   /* Did the daemon send a cancellation message? */
2135   if (r == -2) {
2136     if (g->verbose)
2137       fprintf (stderr, "got daemon cancellation\n");
2138     return -2;
2139   }
2140
2141   if (r == -1)
2142     goto cleanup1;
2143
2144   free (msg_out);
2145
2146   return 0;
2147
2148  cleanup1:
2149   free (msg_out);
2150   return -1;
2151 }
2152
2153 /* Receive a reply. */
2154 int
2155 guestfs___recv (guestfs_h *g, const char *fn,
2156                 guestfs_message_header *hdr,
2157                 guestfs_message_error *err,
2158                 xdrproc_t xdrp, char *ret)
2159 {
2160   XDR xdr;
2161   void *buf;
2162   uint32_t size;
2163   int r;
2164
2165  again:
2166   r = recv_from_daemon (g, &size, &buf);
2167   if (r == -1)
2168     return -1;
2169
2170   /* This can happen if a cancellation happens right at the end
2171    * of us sending a FileIn parameter to the daemon.  Discard.  The
2172    * daemon should send us an error message next.
2173    */
2174   if (size == GUESTFS_CANCEL_FLAG)
2175     goto again;
2176
2177   if (size == GUESTFS_LAUNCH_FLAG) {
2178     error (g, "%s: received unexpected launch flag from daemon when expecting reply", fn);
2179     return -1;
2180   }
2181
2182   xdrmem_create (&xdr, buf, size, XDR_DECODE);
2183
2184   if (!xdr_guestfs_message_header (&xdr, hdr)) {
2185     error (g, "%s: failed to parse reply header", fn);
2186     xdr_destroy (&xdr);
2187     free (buf);
2188     return -1;
2189   }
2190   if (hdr->status == GUESTFS_STATUS_ERROR) {
2191     if (!xdr_guestfs_message_error (&xdr, err)) {
2192       error (g, "%s: failed to parse reply error", fn);
2193       xdr_destroy (&xdr);
2194       free (buf);
2195       return -1;
2196     }
2197   } else {
2198     if (xdrp && ret && !xdrp (&xdr, ret)) {
2199       error (g, "%s: failed to parse reply", fn);
2200       xdr_destroy (&xdr);
2201       free (buf);
2202       return -1;
2203     }
2204   }
2205   xdr_destroy (&xdr);
2206   free (buf);
2207
2208   return 0;
2209 }
2210
2211 /* Receive a file. */
2212
2213 /* Returns -1 = error, 0 = EOF, > 0 = more data */
2214 static ssize_t receive_file_data (guestfs_h *g, void **buf);
2215
2216 int
2217 guestfs___recv_file (guestfs_h *g, const char *filename)
2218 {
2219   void *buf;
2220   int fd, r;
2221   size_t len;
2222
2223   fd = open (filename, O_WRONLY|O_CREAT|O_TRUNC|O_NOCTTY, 0666);
2224   if (fd == -1) {
2225     perrorf (g, "open: %s", filename);
2226     goto cancel;
2227   }
2228
2229   /* Receive the file in chunked encoding. */
2230   while ((r = receive_file_data (g, &buf)) > 0) {
2231     if (xwrite (fd, buf, r) == -1) {
2232       perrorf (g, "%s: write", filename);
2233       free (buf);
2234       goto cancel;
2235     }
2236     free (buf);
2237   }
2238
2239   if (r == -1) {
2240     error (g, _("%s: error in chunked encoding"), filename);
2241     return -1;
2242   }
2243
2244   if (close (fd) == -1) {
2245     perrorf (g, "close: %s", filename);
2246     return -1;
2247   }
2248
2249   return 0;
2250
2251  cancel: ;
2252   /* Send cancellation message to daemon, then wait until it
2253    * cancels (just throwing away data).
2254    */
2255   XDR xdr;
2256   char fbuf[4];
2257   uint32_t flag = GUESTFS_CANCEL_FLAG;
2258
2259   if (g->verbose)
2260     fprintf (stderr, "%s: waiting for daemon to acknowledge cancellation\n",
2261              __func__);
2262
2263   xdrmem_create (&xdr, fbuf, sizeof fbuf, XDR_ENCODE);
2264   xdr_uint32_t (&xdr, &flag);
2265   xdr_destroy (&xdr);
2266
2267   if (xwrite (g->sock, fbuf, sizeof fbuf) == -1) {
2268     perrorf (g, _("write to daemon socket"));
2269     return -1;
2270   }
2271
2272   while (receive_file_data (g, NULL) > 0)
2273     ;                           /* just discard it */
2274
2275   return -1;
2276 }
2277
2278 /* Receive a chunk of file data. */
2279 /* Returns -1 = error, 0 = EOF, > 0 = more data */
2280 static ssize_t
2281 receive_file_data (guestfs_h *g, void **buf_r)
2282 {
2283   int r;
2284   void *buf;
2285   uint32_t len;
2286   XDR xdr;
2287   guestfs_chunk chunk;
2288
2289   r = recv_from_daemon (g, &len, &buf);
2290   if (r == -1) {
2291     error (g, _("receive_file_data: parse error in reply callback"));
2292     return -1;
2293   }
2294
2295   if (len == GUESTFS_LAUNCH_FLAG || len == GUESTFS_CANCEL_FLAG) {
2296     error (g, _("receive_file_data: unexpected flag received when reading file chunks"));
2297     return -1;
2298   }
2299
2300   memset (&chunk, 0, sizeof chunk);
2301
2302   xdrmem_create (&xdr, buf, len, XDR_DECODE);
2303   if (!xdr_guestfs_chunk (&xdr, &chunk)) {
2304     error (g, _("failed to parse file chunk"));
2305     free (buf);
2306     return -1;
2307   }
2308   xdr_destroy (&xdr);
2309   /* After decoding, the original buffer is no longer used. */
2310   free (buf);
2311
2312   if (chunk.cancel) {
2313     error (g, _("file receive cancelled by daemon"));
2314     free (chunk.data.data_val);
2315     return -1;
2316   }
2317
2318   if (chunk.data.data_len == 0) { /* end of transfer */
2319     free (chunk.data.data_val);
2320     return 0;
2321   }
2322
2323   if (buf_r) *buf_r = chunk.data.data_val;
2324   else free (chunk.data.data_val); /* else caller frees */
2325
2326   return chunk.data.data_len;
2327 }