Add progress messages to zero command.
[libguestfs.git] / src / guestfs.pod
1 =encoding utf8
2
3 =head1 NAME
4
5 guestfs - Library for accessing and modifying virtual machine images
6
7 =head1 SYNOPSIS
8
9  #include <guestfs.h>
10  
11  guestfs_h *g = guestfs_create ();
12  guestfs_add_drive (g, "guest.img");
13  guestfs_launch (g);
14  guestfs_mount (g, "/dev/sda1", "/");
15  guestfs_touch (g, "/hello");
16  guestfs_umount (g, "/");
17  guestfs_sync (g);
18  guestfs_close (g);
19
20  cc prog.c -o prog -lguestfs
21 or:
22  cc prog.c -o prog `pkg-config libguestfs --cflags --libs`
23
24 =head1 DESCRIPTION
25
26 Libguestfs is a library for accessing and modifying guest disk images.
27 Amongst the things this is good for: making batch configuration
28 changes to guests, getting disk used/free statistics (see also:
29 virt-df), migrating between virtualization systems (see also:
30 virt-p2v), performing partial backups, performing partial guest
31 clones, cloning guests and changing registry/UUID/hostname info, and
32 much else besides.
33
34 Libguestfs uses Linux kernel and qemu code, and can access any type of
35 guest filesystem that Linux and qemu can, including but not limited
36 to: ext2/3/4, btrfs, FAT and NTFS, LVM, many different disk partition
37 schemes, qcow, qcow2, vmdk.
38
39 Libguestfs provides ways to enumerate guest storage (eg. partitions,
40 LVs, what filesystem is in each LV, etc.).  It can also run commands
41 in the context of the guest.  Also you can access filesystems over
42 FUSE.
43
44 Libguestfs is a library that can be linked with C and C++ management
45 programs (or management programs written in OCaml, Perl, Python, Ruby,
46 Java, Haskell or C#).  You can also use it from shell scripts or the
47 command line.
48
49 You don't need to be root to use libguestfs, although obviously you do
50 need enough permissions to access the disk images.
51
52 Libguestfs is a large API because it can do many things.  For a gentle
53 introduction, please read the L</API OVERVIEW> section next.
54
55 =head1 API OVERVIEW
56
57 This section provides a gentler overview of the libguestfs API.  We
58 also try to group API calls together, where that may not be obvious
59 from reading about the individual calls in the main section of this
60 manual.
61
62 =head2 HANDLES
63
64 Before you can use libguestfs calls, you have to create a handle.
65 Then you must add at least one disk image to the handle, followed by
66 launching the handle, then performing whatever operations you want,
67 and finally closing the handle.  By convention we use the single
68 letter C<g> for the name of the handle variable, although of course
69 you can use any name you want.
70
71 The general structure of all libguestfs-using programs looks like
72 this:
73
74  guestfs_h *g = guestfs_create ();
75  
76  /* Call guestfs_add_drive additional times if there are
77   * multiple disk images.
78   */
79  guestfs_add_drive (g, "guest.img");
80  
81  /* Most manipulation calls won't work until you've launched
82   * the handle 'g'.  You have to do this _after_ adding drives
83   * and _before_ other commands.
84   */
85  guestfs_launch (g);
86  
87  /* Now you can examine what partitions, LVs etc are available.
88   */
89  char **partitions = guestfs_list_partitions (g);
90  char **logvols = guestfs_lvs (g);
91  
92  /* To access a filesystem in the image, you must mount it.
93   */
94  guestfs_mount (g, "/dev/sda1", "/");
95  
96  /* Now you can perform filesystem actions on the guest
97   * disk image.
98   */
99  guestfs_touch (g, "/hello");
100  
101  /* You only need to call guestfs_sync if you have made
102   * changes to the guest image.  (But if you've made changes
103   * then you *must* sync).  See also: guestfs_umount and
104   * guestfs_umount_all calls.
105   */
106  guestfs_sync (g);
107  
108  /* Close the handle 'g'. */
109  guestfs_close (g);
110
111 The code above doesn't include any error checking.  In real code you
112 should check return values carefully for errors.  In general all
113 functions that return integers return C<-1> on error, and all
114 functions that return pointers return C<NULL> on error.  See section
115 L</ERROR HANDLING> below for how to handle errors, and consult the
116 documentation for each function call below to see precisely how they
117 return error indications.
118
119 =head2 DISK IMAGES
120
121 The image filename (C<"guest.img"> in the example above) could be a
122 disk image from a virtual machine, a L<dd(1)> copy of a physical hard
123 disk, an actual block device, or simply an empty file of zeroes that
124 you have created through L<posix_fallocate(3)>.  Libguestfs lets you
125 do useful things to all of these.
126
127 You can add a disk read-only using L</guestfs_add_drive_ro>, in which
128 case libguestfs won't modify the file.
129
130 Be extremely cautious if the disk image is in use, eg. if it is being
131 used by a virtual machine.  Adding it read-write will almost certainly
132 cause disk corruption, but adding it read-only is safe.
133
134 You must add at least one disk image, and you may add multiple disk
135 images.  In the API, the disk images are usually referred to as
136 C</dev/sda> (for the first one you added), C</dev/sdb> (for the second
137 one you added), etc.
138
139 Once L</guestfs_launch> has been called you cannot add any more images.
140 You can call L</guestfs_list_devices> to get a list of the device
141 names, in the order that you added them.  See also L</BLOCK DEVICE
142 NAMING> below.
143
144 =head2 MOUNTING
145
146 Before you can read or write files, create directories and so on in a
147 disk image that contains filesystems, you have to mount those
148 filesystems using L</guestfs_mount>.  If you already know that a disk
149 image contains (for example) one partition with a filesystem on that
150 partition, then you can mount it directly:
151
152  guestfs_mount (g, "/dev/sda1", "/");
153
154 where C</dev/sda1> means literally the first partition (C<1>) of the
155 first disk image that we added (C</dev/sda>).  If the disk contains
156 Linux LVM2 logical volumes you could refer to those instead (eg. C</dev/VG/LV>).
157
158 If you are given a disk image and you don't know what it contains then
159 you have to find out.  Libguestfs can do that too: use
160 L</guestfs_list_partitions> and L</guestfs_lvs> to list possible
161 partitions and LVs, and either try mounting each to see what is
162 mountable, or else examine them with L</guestfs_vfs_type> or
163 L</guestfs_file>.  Libguestfs also has a set of APIs for inspection of
164 disk images (see L</INSPECTION> below).  But you might find it easier
165 to look at higher level programs built on top of libguestfs, in
166 particular L<virt-inspector(1)>.
167
168 To mount a disk image read-only, use L</guestfs_mount_ro>.  There are
169 several other variations of the C<guestfs_mount_*> call.
170
171 =head2 FILESYSTEM ACCESS AND MODIFICATION
172
173 The majority of the libguestfs API consists of fairly low-level calls
174 for accessing and modifying the files, directories, symlinks etc on
175 mounted filesystems.  There are over a hundred such calls which you
176 can find listed in detail below in this man page, and we don't even
177 pretend to cover them all in this overview.
178
179 Specify filenames as full paths, starting with C<"/"> and including
180 the mount point.
181
182 For example, if you mounted a filesystem at C<"/"> and you want to
183 read the file called C<"etc/passwd"> then you could do:
184
185  char *data = guestfs_cat (g, "/etc/passwd");
186
187 This would return C<data> as a newly allocated buffer containing the
188 full content of that file (with some conditions: see also
189 L</DOWNLOADING> below), or C<NULL> if there was an error.
190
191 As another example, to create a top-level directory on that filesystem
192 called C<"var"> you would do:
193
194  guestfs_mkdir (g, "/var");
195
196 To create a symlink you could do:
197
198  guestfs_ln_s (g, "/etc/init.d/portmap",
199                "/etc/rc3.d/S30portmap");
200
201 Libguestfs will reject attempts to use relative paths and there is no
202 concept of a current working directory.
203
204 Libguestfs can return errors in many situations: for example if the
205 filesystem isn't writable, or if a file or directory that you
206 requested doesn't exist.  If you are using the C API (documented here)
207 you have to check for those error conditions after each call.  (Other
208 language bindings turn these errors into exceptions).
209
210 File writes are affected by the per-handle umask, set by calling
211 L</guestfs_umask> and defaulting to 022.  See L</UMASK>.
212
213 =head2 PARTITIONING
214
215 Libguestfs contains API calls to read, create and modify partition
216 tables on disk images.
217
218 In the common case where you want to create a single partition
219 covering the whole disk, you should use the L</guestfs_part_disk>
220 call:
221
222  const char *parttype = "mbr";
223  if (disk_is_larger_than_2TB)
224    parttype = "gpt";
225  guestfs_part_disk (g, "/dev/sda", parttype);
226
227 Obviously this effectively wipes anything that was on that disk image
228 before.
229
230 =head2 LVM2
231
232 Libguestfs provides access to a large part of the LVM2 API, such as
233 L</guestfs_lvcreate> and L</guestfs_vgremove>.  It won't make much sense
234 unless you familiarize yourself with the concepts of physical volumes,
235 volume groups and logical volumes.
236
237 This author strongly recommends reading the LVM HOWTO, online at
238 L<http://tldp.org/HOWTO/LVM-HOWTO/>.
239
240 =head2 DOWNLOADING
241
242 Use L</guestfs_cat> to download small, text only files.  This call
243 is limited to files which are less than 2 MB and which cannot contain
244 any ASCII NUL (C<\0>) characters.  However it has a very simple
245 to use API.
246
247 L</guestfs_read_file> can be used to read files which contain
248 arbitrary 8 bit data, since it returns a (pointer, size) pair.
249 However it is still limited to "small" files, less than 2 MB.
250
251 L</guestfs_download> can be used to download any file, with no
252 limits on content or size (even files larger than 4 GB).
253
254 To download multiple files, see L</guestfs_tar_out> and
255 L</guestfs_tgz_out>.
256
257 =head2 UPLOADING
258
259 It's often the case that you want to write a file or files to the disk
260 image.
261
262 To write a small file with fixed content, use L</guestfs_write>.  To
263 create a file of all zeroes, use L</guestfs_truncate_size> (sparse) or
264 L</guestfs_fallocate64> (with all disk blocks allocated).  There are a
265 variety of other functions for creating test files, for example
266 L</guestfs_fill> and L</guestfs_fill_pattern>.
267
268 To upload a single file, use L</guestfs_upload>.  This call has no
269 limits on file content or size (even files larger than 4 GB).
270
271 To upload multiple files, see L</guestfs_tar_in> and L</guestfs_tgz_in>.
272
273 However the fastest way to upload I<large numbers of arbitrary files>
274 is to turn them into a squashfs or CD ISO (see L<mksquashfs(8)> and
275 L<mkisofs(8)>), then attach this using L</guestfs_add_drive_ro>.  If
276 you add the drive in a predictable way (eg. adding it last after all
277 other drives) then you can get the device name from
278 L</guestfs_list_devices> and mount it directly using
279 L</guestfs_mount_ro>.  Note that squashfs images are sometimes
280 non-portable between kernel versions, and they don't support labels or
281 UUIDs.  If you want to pre-build an image or you need to mount it
282 using a label or UUID, use an ISO image instead.
283
284 =head2 COPYING
285
286 There are various different commands for copying between files and
287 devices and in and out of the guest filesystem.  These are summarised
288 in the table below.
289
290 =over 4
291
292 =item B<file> to B<file>
293
294 Use L</guestfs_cp> to copy a single file, or
295 L</guestfs_cp_a> to copy directories recursively.
296
297 =item B<file or device> to B<file or device>
298
299 Use L</guestfs_dd> which efficiently uses L<dd(1)>
300 to copy between files and devices in the guest.
301
302 Example: duplicate the contents of an LV:
303
304  guestfs_dd (g, "/dev/VG/Original", "/dev/VG/Copy");
305
306 The destination (C</dev/VG/Copy>) must be at least as large as the
307 source (C</dev/VG/Original>).  To copy less than the whole
308 source device, use L</guestfs_copy_size>.
309
310 =item B<file on the host> to B<file or device>
311
312 Use L</guestfs_upload>.  See L</UPLOADING> above.
313
314 =item B<file or device> to B<file on the host>
315
316 Use L</guestfs_download>.  See L</DOWNLOADING> above.
317
318 =back
319
320 =head2 LISTING FILES
321
322 L</guestfs_ll> is just designed for humans to read (mainly when using
323 the L<guestfish(1)>-equivalent command C<ll>).
324
325 L</guestfs_ls> is a quick way to get a list of files in a directory
326 from programs, as a flat list of strings.
327
328 L</guestfs_readdir> is a programmatic way to get a list of files in a
329 directory, plus additional information about each one.  It is more
330 equivalent to using the L<readdir(3)> call on a local filesystem.
331
332 L</guestfs_find> and L</guestfs_find0> can be used to recursively list
333 files.
334
335 =head2 RUNNING COMMANDS
336
337 Although libguestfs is a primarily an API for manipulating files
338 inside guest images, we also provide some limited facilities for
339 running commands inside guests.
340
341 There are many limitations to this:
342
343 =over 4
344
345 =item *
346
347 The kernel version that the command runs under will be different
348 from what it expects.
349
350 =item *
351
352 If the command needs to communicate with daemons, then most likely
353 they won't be running.
354
355 =item *
356
357 The command will be running in limited memory.
358
359 =item *
360
361 The network may not be available unless you enable it
362 (see L</guestfs_set_network>).
363
364 =item *
365
366 Only supports Linux guests (not Windows, BSD, etc).
367
368 =item *
369
370 Architecture limitations (eg. won't work for a PPC guest on
371 an X86 host).
372
373 =item *
374
375 For SELinux guests, you may need to enable SELinux and load policy
376 first.  See L</SELINUX> in this manpage.
377
378 =back
379
380 The two main API calls to run commands are L</guestfs_command> and
381 L</guestfs_sh> (there are also variations).
382
383 The difference is that L</guestfs_sh> runs commands using the shell, so
384 any shell globs, redirections, etc will work.
385
386 =head2 CONFIGURATION FILES
387
388 To read and write configuration files in Linux guest filesystems, we
389 strongly recommend using Augeas.  For example, Augeas understands how
390 to read and write, say, a Linux shadow password file or X.org
391 configuration file, and so avoids you having to write that code.
392
393 The main Augeas calls are bound through the C<guestfs_aug_*> APIs.  We
394 don't document Augeas itself here because there is excellent
395 documentation on the L<http://augeas.net/> website.
396
397 If you don't want to use Augeas (you fool!) then try calling
398 L</guestfs_read_lines> to get the file as a list of lines which
399 you can iterate over.
400
401 =head2 SELINUX
402
403 We support SELinux guests.  To ensure that labeling happens correctly
404 in SELinux guests, you need to enable SELinux and load the guest's
405 policy:
406
407 =over 4
408
409 =item 1.
410
411 Before launching, do:
412
413  guestfs_set_selinux (g, 1);
414
415 =item 2.
416
417 After mounting the guest's filesystem(s), load the policy.  This
418 is best done by running the L<load_policy(8)> command in the
419 guest itself:
420
421  guestfs_sh (g, "/usr/sbin/load_policy");
422
423 (Older versions of C<load_policy> require you to specify the
424 name of the policy file).
425
426 =item 3.
427
428 Optionally, set the security context for the API.  The correct
429 security context to use can only be known by inspecting the
430 guest.  As an example:
431
432  guestfs_setcon (g, "unconfined_u:unconfined_r:unconfined_t:s0");
433
434 =back
435
436 This will work for running commands and editing existing files.
437
438 When new files are created, you may need to label them explicitly,
439 for example by running the external command
440 C<restorecon pathname>.
441
442 =head2 UMASK
443
444 Certain calls are affected by the current file mode creation mask (the
445 "umask").  In particular ones which create files or directories, such
446 as L</guestfs_touch>, L</guestfs_mknod> or L</guestfs_mkdir>.  This
447 affects either the default mode that the file is created with or
448 modifies the mode that you supply.
449
450 The default umask is C<022>, so files are created with modes such as
451 C<0644> and directories with C<0755>.
452
453 There are two ways to avoid being affected by umask.  Either set umask
454 to 0 (call C<guestfs_umask (g, 0)> early after launching).  Or call
455 L</guestfs_chmod> after creating each file or directory.
456
457 For more information about umask, see L<umask(2)>.
458
459 =head2 ENCRYPTED DISKS
460
461 Libguestfs allows you to access Linux guests which have been
462 encrypted using whole disk encryption that conforms to the
463 Linux Unified Key Setup (LUKS) standard.  This includes
464 nearly all whole disk encryption systems used by modern
465 Linux guests.
466
467 Use L</guestfs_vfs_type> to identify LUKS-encrypted block
468 devices (it returns the string C<crypto_LUKS>).
469
470 Then open these devices by calling L</guestfs_luks_open>.
471 Obviously you will require the passphrase!
472
473 Opening a LUKS device creates a new device mapper device
474 called C</dev/mapper/mapname> (where C<mapname> is the
475 string you supply to L</guestfs_luks_open>).
476 Reads and writes to this mapper device are decrypted from and
477 encrypted to the underlying block device respectively.
478
479 LVM volume groups on the device can be made visible by calling
480 L</guestfs_vgscan> followed by L</guestfs_vg_activate_all>.
481 The logical volume(s) can now be mounted in the usual way.
482
483 Use the reverse process to close a LUKS device.  Unmount
484 any logical volumes on it, deactivate the volume groups
485 by caling C<guestfs_vg_activate (g, 0, ["/dev/VG"])>.
486 Then close the mapper device by calling
487 L</guestfs_luks_close> on the C</dev/mapper/mapname>
488 device (I<not> the underlying encrypted block device).
489
490 =head2 INSPECTION
491
492 Libguestfs has APIs for inspecting an unknown disk image to find out
493 if it contains operating systems.  (These APIs used to be in a
494 separate Perl-only library called L<Sys::Guestfs::Lib(3)> but since
495 version 1.5.3 the most frequently used part of this library has been
496 rewritten in C and moved into the core code).
497
498 Add all disks belonging to the unknown virtual machine and call
499 L</guestfs_launch> in the usual way.
500
501 Then call L</guestfs_inspect_os>.  This function uses other libguestfs
502 calls and certain heuristics, and returns a list of operating systems
503 that were found.  An empty list means none were found.  A single
504 element is the root filesystem of the operating system.  For dual- or
505 multi-boot guests, multiple roots can be returned, each one
506 corresponding to a separate operating system.  (Multi-boot virtual
507 machines are extremely rare in the world of virtualization, but since
508 this scenario can happen, we have built libguestfs to deal with it.)
509
510 For each root, you can then call various C<guestfs_inspect_get_*>
511 functions to get additional details about that operating system.  For
512 example, call L</guestfs_inspect_get_type> to return the string
513 C<windows> or C<linux> for Windows and Linux-based operating systems
514 respectively.
515
516 Un*x-like and Linux-based operating systems usually consist of several
517 filesystems which are mounted at boot time (for example, a separate
518 boot partition mounted on C</boot>).  The inspection rules are able to
519 detect how filesystems correspond to mount points.  Call
520 C<guestfs_inspect_get_mountpoints> to get this mapping.  It might
521 return a hash table like this example:
522
523  /boot => /dev/sda1
524  /     => /dev/vg_guest/lv_root
525  /usr  => /dev/vg_guest/lv_usr
526
527 The caller can then make calls to L</guestfs_mount_options> to
528 mount the filesystems as suggested.
529
530 Be careful to mount filesystems in the right order (eg. C</> before
531 C</usr>).  Sorting the keys of the hash by length, shortest first,
532 should work.
533
534 Inspection currently only works for some common operating systems.
535 Contributors are welcome to send patches for other operating systems
536 that we currently cannot detect.
537
538 Encrypted disks must be opened before inspection.  See
539 L</ENCRYPTED DISKS> for more details.  The L</guestfs_inspect_os>
540 function just ignores any encrypted devices.
541
542 A note on the implementation: The call L</guestfs_inspect_os> performs
543 inspection and caches the results in the guest handle.  Subsequent
544 calls to C<guestfs_inspect_get_*> return this cached information, but
545 I<do not> re-read the disks.  If you change the content of the guest
546 disks, you can redo inspection by calling L</guestfs_inspect_os>
547 again.
548
549 =head2 SPECIAL CONSIDERATIONS FOR WINDOWS GUESTS
550
551 Libguestfs can mount NTFS partitions.  It does this using the
552 L<http://www.ntfs-3g.org/> driver.
553
554 DOS and Windows still use drive letters, and the filesystems are
555 always treated as case insensitive by Windows itself, and therefore
556 you might find a Windows configuration file referring to a path like
557 C<c:\windows\system32>.  When the filesystem is mounted in libguestfs,
558 that directory might be referred to as C</WINDOWS/System32>.
559
560 Drive letter mappings are outside the scope of libguestfs.  You have
561 to use libguestfs to read the appropriate Windows Registry and
562 configuration files, to determine yourself how drives are mapped (see
563 also L<hivex(3)> and L<virt-inspector(1)>).
564
565 Replacing backslash characters with forward slash characters is also
566 outside the scope of libguestfs, but something that you can easily do.
567
568 Where we can help is in resolving the case insensitivity of paths.
569 For this, call L</guestfs_case_sensitive_path>.
570
571 Libguestfs also provides some help for decoding Windows Registry
572 "hive" files, through the library C<hivex> which is part of the
573 libguestfs project although ships as a separate tarball.  You have to
574 locate and download the hive file(s) yourself, and then pass them to
575 C<hivex> functions.  See also the programs L<hivexml(1)>,
576 L<hivexsh(1)>, L<hivexregedit(1)> and L<virt-win-reg(1)> for more help
577 on this issue.
578
579 =head2 USING LIBGUESTFS WITH OTHER PROGRAMMING LANGUAGES
580
581 Although we don't want to discourage you from using the C API, we will
582 mention here that the same API is also available in other languages.
583
584 The API is broadly identical in all supported languages.  This means
585 that the C call C<guestfs_mount(g,path)> is
586 C<$g-E<gt>mount($path)> in Perl, C<g.mount(path)> in Python,
587 and C<Guestfs.mount g path> in OCaml.  In other words, a
588 straightforward, predictable isomorphism between each language.
589
590 Error messages are automatically transformed
591 into exceptions if the language supports it.
592
593 We don't try to "object orientify" parts of the API in OO languages,
594 although contributors are welcome to write higher level APIs above
595 what we provide in their favourite languages if they wish.
596
597 =over 4
598
599 =item B<C++>
600
601 You can use the I<guestfs.h> header file from C++ programs.  The C++
602 API is identical to the C API.  C++ classes and exceptions are not
603 used.
604
605 =item B<C#>
606
607 The C# bindings are highly experimental.  Please read the warnings
608 at the top of C<csharp/Libguestfs.cs>.
609
610 =item B<Haskell>
611
612 This is the only language binding that is working but incomplete.
613 Only calls which return simple integers have been bound in Haskell,
614 and we are looking for help to complete this binding.
615
616 =item B<Java>
617
618 Full documentation is contained in the Javadoc which is distributed
619 with libguestfs.
620
621 =item B<OCaml>
622
623 For documentation see the file C<guestfs.mli>.
624
625 =item B<Perl>
626
627 For documentation see L<Sys::Guestfs(3)>.
628
629 =item B<Python>
630
631 For documentation do:
632
633  $ python
634  >>> import guestfs
635  >>> help (guestfs)
636
637 =item B<Ruby>
638
639 Use the Guestfs module.  There is no Ruby-specific documentation, but
640 you can find examples written in Ruby in the libguestfs source.
641
642 =item B<shell scripts>
643
644 For documentation see L<guestfish(1)>.
645
646 =back
647
648 =head2 LIBGUESTFS GOTCHAS
649
650 L<http://en.wikipedia.org/wiki/Gotcha_(programming)>: "A feature of a
651 system [...] that works in the way it is documented but is
652 counterintuitive and almost invites mistakes."
653
654 Since we developed libguestfs and the associated tools, there are
655 several things we would have designed differently, but are now stuck
656 with for backwards compatibility or other reasons.  If there is ever a
657 libguestfs 2.0 release, you can expect these to change.  Beware of
658 them.
659
660 =over 4
661
662 =item Autosync / forgetting to sync.
663
664 When modifying a filesystem from C or another language, you B<must>
665 unmount all filesystems and call L</guestfs_sync> explicitly before
666 you close the libguestfs handle.  You can also call:
667
668  guestfs_set_autosync (g, 1);
669
670 to have the unmount/sync done automatically for you when the handle 'g'
671 is closed.  (This feature is called "autosync", L</guestfs_set_autosync>
672 q.v.)
673
674 If you forget to do this, then it is entirely possible that your
675 changes won't be written out, or will be partially written, or (very
676 rarely) that you'll get disk corruption.
677
678 Note that in L<guestfish(3)> autosync is the default.  So quick and
679 dirty guestfish scripts that forget to sync will work just fine, which
680 can make this very puzzling if you are trying to debug a problem.
681
682 =item Mount option C<-o sync> should not be the default.
683
684 If you use L</guestfs_mount>, then C<-o sync,noatime> are added
685 implicitly.  However C<-o sync> does not add any reliability benefit,
686 but does have a very large performance impact.
687
688 The work around is to use L</guestfs_mount_options> and set the mount
689 options that you actually want to use.
690
691 =item Read-only should be the default.
692
693 In L<guestfish(3)>, I<--ro> should be the default, and you should
694 have to specify I<--rw> if you want to make changes to the image.
695
696 This would reduce the potential to corrupt live VM images.
697
698 Note that many filesystems change the disk when you just mount and
699 unmount, even if you didn't perform any writes.  You need to use
700 L</guestfs_add_drive_ro> to guarantee that the disk is not changed.
701
702 =item guestfish command line is hard to use.
703
704 C<guestfish disk.img> doesn't do what people expect (open C<disk.img>
705 for examination).  It tries to run a guestfish command C<disk.img>
706 which doesn't exist, so it fails.  In earlier versions of guestfish
707 the error message was also unintuitive, but we have corrected this
708 since.  Like the Bourne shell, we should have used C<guestfish -c
709 command> to run commands.
710
711 =item guestfish megabyte modifiers don't work right on all commands
712
713 In recent guestfish you can use C<1M> to mean 1 megabyte (and
714 similarly for other modifiers).  What guestfish actually does is to
715 multiply the number part by the modifier part and pass the result to
716 the C API.  However this doesn't work for a few APIs which aren't
717 expecting bytes, but are already expecting some other unit
718 (eg. megabytes).
719
720 The most common is L</guestfs_lvcreate>.  The guestfish command:
721
722  lvcreate LV VG 100M
723
724 does not do what you might expect.  Instead because
725 L</guestfs_lvcreate> is already expecting megabytes, this tries to
726 create a 100 I<terabyte> (100 megabytes * megabytes) logical volume.
727 The error message you get from this is also a little obscure.
728
729 This could be fixed in the generator by specially marking parameters
730 and return values which take bytes or other units.
731
732 =item Library should return errno with error messages.
733
734 It would be a nice-to-have to be able to get the original value of
735 'errno' from inside the appliance along error paths (where set).
736 Currently L<guestmount(1)> goes through hoops to try to reverse the
737 error message string into an errno, see the function error() in
738 fuse/guestmount.c.
739
740 In libguestfs 1.5.4, the protocol was changed so that the
741 Linux errno is sent back from the daemon.
742
743 =back
744
745 =head2 PROTOCOL LIMITS
746
747 Internally libguestfs uses a message-based protocol to pass API calls
748 and their responses to and from a small "appliance" (see L</INTERNALS>
749 for plenty more detail about this).  The maximum message size used by
750 the protocol is slightly less than 4 MB.  For some API calls you may
751 need to be aware of this limit.  The API calls which may be affected
752 are individually documented, with a link back to this section of the
753 documentation.
754
755 A simple call such as L</guestfs_cat> returns its result (the file
756 data) in a simple string.  Because this string is at some point
757 internally encoded as a message, the maximum size that it can return
758 is slightly under 4 MB.  If the requested file is larger than this
759 then you will get an error.
760
761 In order to transfer large files into and out of the guest filesystem,
762 you need to use particular calls that support this.  The sections
763 L</UPLOADING> and L</DOWNLOADING> document how to do this.
764
765 You might also consider mounting the disk image using our FUSE
766 filesystem support (L<guestmount(1)>).
767
768 =head2 KEYS AND PASSPHRASES
769
770 Certain libguestfs calls take a parameter that contains sensitive key
771 material, passed in as a C string.
772
773 In the future we would hope to change the libguestfs implementation so
774 that keys are L<mlock(2)>-ed into physical RAM, and thus can never end
775 up in swap.  However this is I<not> done at the moment, because of the
776 complexity of such an implementation.
777
778 Therefore you should be aware that any key parameter you pass to
779 libguestfs might end up being written out to the swap partition.  If
780 this is a concern, scrub the swap partition or don't use libguestfs on
781 encrypted devices.
782
783 =head1 CONNECTION MANAGEMENT
784
785 =head2 guestfs_h *
786
787 C<guestfs_h> is the opaque type representing a connection handle.
788 Create a handle by calling L</guestfs_create>.  Call L</guestfs_close>
789 to free the handle and release all resources used.
790
791 For information on using multiple handles and threads, see the section
792 L</MULTIPLE HANDLES AND MULTIPLE THREADS> below.
793
794 =head2 guestfs_create
795
796  guestfs_h *guestfs_create (void);
797
798 Create a connection handle.
799
800 You have to call L</guestfs_add_drive> on the handle at least once.
801
802 This function returns a non-NULL pointer to a handle on success or
803 NULL on error.
804
805 After configuring the handle, you have to call L</guestfs_launch>.
806
807 You may also want to configure error handling for the handle.  See
808 L</ERROR HANDLING> section below.
809
810 =head2 guestfs_close
811
812  void guestfs_close (guestfs_h *g);
813
814 This closes the connection handle and frees up all resources used.
815
816 =head1 ERROR HANDLING
817
818 The convention in all functions that return C<int> is that they return
819 C<-1> to indicate an error.  You can get additional information on
820 errors by calling L</guestfs_last_error> and/or by setting up an error
821 handler with L</guestfs_set_error_handler>.
822
823 The default error handler prints the information string to C<stderr>.
824
825 Out of memory errors are handled differently.  The default action is
826 to call L<abort(3)>.  If this is undesirable, then you can set a
827 handler using L</guestfs_set_out_of_memory_handler>.
828
829 =head2 guestfs_last_error
830
831  const char *guestfs_last_error (guestfs_h *g);
832
833 This returns the last error message that happened on C<g>.  If
834 there has not been an error since the handle was created, then this
835 returns C<NULL>.
836
837 The lifetime of the returned string is until the next error occurs, or
838 L</guestfs_close> is called.
839
840 The error string is not localized (ie. is always in English), because
841 this makes searching for error messages in search engines give the
842 largest number of results.
843
844 =head2 guestfs_set_error_handler
845
846  typedef void (*guestfs_error_handler_cb) (guestfs_h *g,
847                                            void *data,
848                                            const char *msg);
849  void guestfs_set_error_handler (guestfs_h *g,
850                                  guestfs_error_handler_cb cb,
851                                  void *data);
852
853 The callback C<cb> will be called if there is an error.  The
854 parameters passed to the callback are an opaque data pointer and the
855 error message string.
856
857 Note that the message string C<msg> is freed as soon as the callback
858 function returns, so if you want to stash it somewhere you must make
859 your own copy.
860
861 The default handler prints messages on C<stderr>.
862
863 If you set C<cb> to C<NULL> then I<no> handler is called.
864
865 =head2 guestfs_get_error_handler
866
867  guestfs_error_handler_cb guestfs_get_error_handler (guestfs_h *g,
868                                                      void **data_rtn);
869
870 Returns the current error handler callback.
871
872 =head2 guestfs_set_out_of_memory_handler
873
874  typedef void (*guestfs_abort_cb) (void);
875  int guestfs_set_out_of_memory_handler (guestfs_h *g,
876                                         guestfs_abort_cb);
877
878 The callback C<cb> will be called if there is an out of memory
879 situation.  I<Note this callback must not return>.
880
881 The default is to call L<abort(3)>.
882
883 You cannot set C<cb> to C<NULL>.  You can't ignore out of memory
884 situations.
885
886 =head2 guestfs_get_out_of_memory_handler
887
888  guestfs_abort_fn guestfs_get_out_of_memory_handler (guestfs_h *g);
889
890 This returns the current out of memory handler.
891
892 =head1 PATH
893
894 Libguestfs needs a kernel and initrd.img, which it finds by looking
895 along an internal path.
896
897 By default it looks for these in the directory C<$libdir/guestfs>
898 (eg. C</usr/local/lib/guestfs> or C</usr/lib64/guestfs>).
899
900 Use L</guestfs_set_path> or set the environment variable
901 L</LIBGUESTFS_PATH> to change the directories that libguestfs will
902 search in.  The value is a colon-separated list of paths.  The current
903 directory is I<not> searched unless the path contains an empty element
904 or C<.>.  For example C<LIBGUESTFS_PATH=:/usr/lib/guestfs> would
905 search the current directory and then C</usr/lib/guestfs>.
906
907 =head1 HIGH-LEVEL API ACTIONS
908
909 =head2 ABI GUARANTEE
910
911 We guarantee the libguestfs ABI (binary interface), for public,
912 high-level actions as outlined in this section.  Although we will
913 deprecate some actions, for example if they get replaced by newer
914 calls, we will keep the old actions forever.  This allows you the
915 developer to program in confidence against the libguestfs API.
916
917 @ACTIONS@
918
919 =head1 STRUCTURES
920
921 @STRUCTS@
922
923 =head1 AVAILABILITY
924
925 =head2 GROUPS OF FUNCTIONALITY IN THE APPLIANCE
926
927 Using L</guestfs_available> you can test availability of
928 the following groups of functions.  This test queries the
929 appliance to see if the appliance you are currently using
930 supports the functionality.
931
932 @AVAILABILITY@
933
934 =head2 GUESTFISH supported COMMAND
935
936 In L<guestfish(3)> there is a handy interactive command
937 C<supported> which prints out the available groups and
938 whether they are supported by this build of libguestfs.
939 Note however that you have to do C<run> first.
940
941 =head2 SINGLE CALLS AT COMPILE TIME
942
943 If you need to test whether a single libguestfs function is
944 available at compile time, we recommend using build tools
945 such as autoconf or cmake.  For example in autotools you could
946 use:
947
948  AC_CHECK_LIB([guestfs],[guestfs_create])
949  AC_CHECK_FUNCS([guestfs_dd])
950
951 which would result in C<HAVE_GUESTFS_DD> being either defined
952 or not defined in your program.
953
954 =head2 SINGLE CALLS AT RUN TIME
955
956 Testing at compile time doesn't guarantee that a function really
957 exists in the library.  The reason is that you might be dynamically
958 linked against a previous I<libguestfs.so> (dynamic library)
959 which doesn't have the call.  This situation unfortunately results
960 in a segmentation fault, which is a shortcoming of the C dynamic
961 linking system itself.
962
963 You can use L<dlopen(3)> to test if a function is available
964 at run time, as in this example program (note that you still
965 need the compile time check as well):
966
967  #include <config.h>
968  
969  #include <stdio.h>
970  #include <stdlib.h>
971  #include <unistd.h>
972  #include <dlfcn.h>
973  #include <guestfs.h>
974  
975  main ()
976  {
977  #ifdef HAVE_GUESTFS_DD
978    void *dl;
979    int has_function;
980  
981    /* Test if the function guestfs_dd is really available. */
982    dl = dlopen (NULL, RTLD_LAZY);
983    if (!dl) {
984      fprintf (stderr, "dlopen: %s\n", dlerror ());
985      exit (EXIT_FAILURE);
986    }
987    has_function = dlsym (dl, "guestfs_dd") != NULL;
988    dlclose (dl);
989  
990    if (!has_function)
991      printf ("this libguestfs.so does NOT have guestfs_dd function\n");
992    else {
993      printf ("this libguestfs.so has guestfs_dd function\n");
994      /* Now it's safe to call
995      guestfs_dd (g, "foo", "bar");
996      */
997    }
998  #else
999    printf ("guestfs_dd function was not found at compile time\n");
1000  #endif
1001   }
1002
1003 You may think the above is an awful lot of hassle, and it is.
1004 There are other ways outside of the C linking system to ensure
1005 that this kind of incompatibility never arises, such as using
1006 package versioning:
1007
1008  Requires: libguestfs >= 1.0.80
1009
1010 =begin html
1011
1012 <!-- old anchor for the next section -->
1013 <a name="state_machine_and_low_level_event_api"/>
1014
1015 =end html
1016
1017 =head1 ARCHITECTURE
1018
1019 Internally, libguestfs is implemented by running an appliance (a
1020 special type of small virtual machine) using L<qemu(1)>.  Qemu runs as
1021 a child process of the main program.
1022
1023   ___________________
1024  /                   \
1025  | main program      |
1026  |                   |
1027  |                   |           child process / appliance
1028  |                   |           __________________________
1029  |                   |          / qemu                     \
1030  +-------------------+   RPC    |      +-----------------+ |
1031  | libguestfs     <--------------------> guestfsd        | |
1032  |                   |          |      +-----------------+ |
1033  \___________________/          |      | Linux kernel    | |
1034                                 |      +--^--------------+ |
1035                                 \_________|________________/
1036                                           |
1037                                    _______v______
1038                                   /              \
1039                                   | Device or    |
1040                                   | disk image   |
1041                                   \______________/
1042
1043 The library, linked to the main program, creates the child process and
1044 hence the appliance in the L</guestfs_launch> function.
1045
1046 Inside the appliance is a Linux kernel and a complete stack of
1047 userspace tools (such as LVM and ext2 programs) and a small
1048 controlling daemon called L</guestfsd>.  The library talks to
1049 L</guestfsd> using remote procedure calls (RPC).  There is a mostly
1050 one-to-one correspondence between libguestfs API calls and RPC calls
1051 to the daemon.  Lastly the disk image(s) are attached to the qemu
1052 process which translates device access by the appliance's Linux kernel
1053 into accesses to the image.
1054
1055 A common misunderstanding is that the appliance "is" the virtual
1056 machine.  Although the disk image you are attached to might also be
1057 used by some virtual machine, libguestfs doesn't know or care about
1058 this.  (But you will care if both libguestfs's qemu process and your
1059 virtual machine are trying to update the disk image at the same time,
1060 since these usually results in massive disk corruption).
1061
1062 =head1 STATE MACHINE
1063
1064 libguestfs uses a state machine to model the child process:
1065
1066                          |
1067                     guestfs_create
1068                          |
1069                          |
1070                      ____V_____
1071                     /          \
1072                     |  CONFIG  |
1073                     \__________/
1074                      ^ ^   ^  \
1075                     /  |    \  \ guestfs_launch
1076                    /   |    _\__V______
1077                   /    |   /           \
1078                  /     |   | LAUNCHING |
1079                 /      |   \___________/
1080                /       |       /
1081               /        |  guestfs_launch
1082              /         |     /
1083     ______  /        __|____V
1084    /      \ ------> /        \
1085    | BUSY |         | READY  |
1086    \______/ <------ \________/
1087
1088 The normal transitions are (1) CONFIG (when the handle is created, but
1089 there is no child process), (2) LAUNCHING (when the child process is
1090 booting up), (3) alternating between READY and BUSY as commands are
1091 issued to, and carried out by, the child process.
1092
1093 The guest may be killed by L</guestfs_kill_subprocess>, or may die
1094 asynchronously at any time (eg. due to some internal error), and that
1095 causes the state to transition back to CONFIG.
1096
1097 Configuration commands for qemu such as L</guestfs_add_drive> can only
1098 be issued when in the CONFIG state.
1099
1100 The high-level API offers two calls that go from CONFIG through
1101 LAUNCHING to READY.  L</guestfs_launch> blocks until the child process
1102 is READY to accept commands (or until some failure or timeout).
1103 L</guestfs_launch> internally moves the state from CONFIG to LAUNCHING
1104 while it is running.
1105
1106 High-level API actions such as L</guestfs_mount> can only be issued
1107 when in the READY state.  These high-level API calls block waiting for
1108 the command to be carried out (ie. the state to transition to BUSY and
1109 then back to READY).  But using the low-level event API, you get
1110 non-blocking versions.  (But you can still only carry out one
1111 operation per handle at a time - that is a limitation of the
1112 communications protocol we use).
1113
1114 Finally, the child process sends asynchronous messages back to the
1115 main program, such as kernel log messages.  Mostly these are ignored
1116 by the high-level API, but using the low-level event API you can
1117 register to receive these messages.
1118
1119 =head2 SETTING CALLBACKS TO HANDLE EVENTS
1120
1121 The child process generates events in some situations.  Current events
1122 include: receiving a log message, the child process exits.
1123
1124 Use the C<guestfs_set_*_callback> functions to set a callback for
1125 different types of events.
1126
1127 Only I<one callback of each type> can be registered for each handle.
1128 Calling C<guestfs_set_*_callback> again overwrites the previous
1129 callback of that type.  Cancel all callbacks of this type by calling
1130 this function with C<cb> set to C<NULL>.
1131
1132 =head2 guestfs_set_log_message_callback
1133
1134  typedef void (*guestfs_log_message_cb) (guestfs_h *g, void *opaque,
1135                                          char *buf, int len);
1136  void guestfs_set_log_message_callback (guestfs_h *g,
1137                                         guestfs_log_message_cb cb,
1138                                         void *opaque);
1139
1140 The callback function C<cb> will be called whenever qemu or the guest
1141 writes anything to the console.
1142
1143 Use this function to capture kernel messages and similar.
1144
1145 Normally there is no log message handler, and log messages are just
1146 discarded.
1147
1148 =head2 guestfs_set_subprocess_quit_callback
1149
1150  typedef void (*guestfs_subprocess_quit_cb) (guestfs_h *g, void *opaque);
1151  void guestfs_set_subprocess_quit_callback (guestfs_h *g,
1152                                             guestfs_subprocess_quit_cb cb,
1153                                             void *opaque);
1154
1155 The callback function C<cb> will be called when the child process
1156 quits, either asynchronously or if killed by
1157 L</guestfs_kill_subprocess>.  (This corresponds to a transition from
1158 any state to the CONFIG state).
1159
1160 =head2 guestfs_set_launch_done_callback
1161
1162  typedef void (*guestfs_launch_done_cb) (guestfs_h *g, void *opaque);
1163  void guestfs_set_launch_done_callback (guestfs_h *g,
1164                                         guestfs_launch_done_cb cb,
1165                                         void *opaque);
1166
1167 The callback function C<cb> will be called when the child process
1168 becomes ready first time after it has been launched.  (This
1169 corresponds to a transition from LAUNCHING to the READY state).
1170
1171 =head2 guestfs_set_close_callback
1172
1173  typedef void (*guestfs_close_cb) (guestfs_h *g, void *opaque);
1174  void guestfs_set_close_callback (guestfs_h *g,
1175                                   guestfs_close_cb cb,
1176                                   void *opaque);
1177
1178 The callback function C<cb> will be called while the handle
1179 is being closed (synchronously from L</guestfs_close>).
1180
1181 Note that libguestfs installs an L<atexit(3)> handler to try to
1182 clean up handles that are open when the program exits.  This
1183 means that this callback might be called indirectly from
1184 L<exit(3)>, which can cause unexpected problems in higher-level
1185 languages (eg. if your HLL interpreter has already been cleaned
1186 up by the time this is called, and if your callback then jumps
1187 into some HLL function).
1188
1189 =head2 guestfs_set_progress_callback
1190
1191  typedef void (*guestfs_progress_cb) (guestfs_h *g, void *opaque,
1192                                       int proc_nr, int serial,
1193                                       uint64_t position, uint64_t total);
1194  void guestfs_set_progress_callback (guestfs_h *g,
1195                                      guestfs_progress_cb cb,
1196                                      void *opaque);
1197
1198 Some long-running operations can generate progress messages.  If
1199 this callback is registered, then it will be called each time a
1200 progress message is generated (usually two seconds after the
1201 operation started, and three times per second thereafter until
1202 it completes, although the frequency may change in future versions).
1203
1204 The callback receives two numbers: C<position> and C<total>.
1205 The units of C<total> are not defined, although for some
1206 operations C<total> may relate in some way to the amount of
1207 data to be transferred (eg. in bytes or megabytes), and
1208 C<position> may be the portion which has been transferred.
1209
1210 The only defined and stable parts of the API are:
1211
1212 =over 4
1213
1214 =item *
1215
1216 The callback can display to the user some type of progress bar or
1217 indicator which shows the ratio of C<position>:C<total>.
1218
1219 =item *
1220
1221 0 E<lt>= C<position> E<lt>= C<total>
1222
1223 =item *
1224
1225 If any progress notification is sent during a call, then a final
1226 progress notification is always sent when C<position> = C<total>.
1227
1228 This is to simplify caller code, so callers can easily set the
1229 progress indicator to "100%" at the end of the operation, without
1230 requiring special code to detect this case.
1231
1232 =back
1233
1234 The callback also receives the procedure number and serial number of
1235 the call.  These are only useful for debugging protocol issues, and
1236 the callback can normally ignore them.  The callback may want to
1237 print these numbers in error messages or debugging messages.
1238
1239 =head1 BLOCK DEVICE NAMING
1240
1241 In the kernel there is now quite a profusion of schemata for naming
1242 block devices (in this context, by I<block device> I mean a physical
1243 or virtual hard drive).  The original Linux IDE driver used names
1244 starting with C</dev/hd*>.  SCSI devices have historically used a
1245 different naming scheme, C</dev/sd*>.  When the Linux kernel I<libata>
1246 driver became a popular replacement for the old IDE driver
1247 (particularly for SATA devices) those devices also used the
1248 C</dev/sd*> scheme.  Additionally we now have virtual machines with
1249 paravirtualized drivers.  This has created several different naming
1250 systems, such as C</dev/vd*> for virtio disks and C</dev/xvd*> for Xen
1251 PV disks.
1252
1253 As discussed above, libguestfs uses a qemu appliance running an
1254 embedded Linux kernel to access block devices.  We can run a variety
1255 of appliances based on a variety of Linux kernels.
1256
1257 This causes a problem for libguestfs because many API calls use device
1258 or partition names.  Working scripts and the recipe (example) scripts
1259 that we make available over the internet could fail if the naming
1260 scheme changes.
1261
1262 Therefore libguestfs defines C</dev/sd*> as the I<standard naming
1263 scheme>.  Internally C</dev/sd*> names are translated, if necessary,
1264 to other names as required.  For example, under RHEL 5 which uses the
1265 C</dev/hd*> scheme, any device parameter C</dev/sda2> is translated to
1266 C</dev/hda2> transparently.
1267
1268 Note that this I<only> applies to parameters.  The
1269 L</guestfs_list_devices>, L</guestfs_list_partitions> and similar calls
1270 return the true names of the devices and partitions as known to the
1271 appliance.
1272
1273 =head2 ALGORITHM FOR BLOCK DEVICE NAME TRANSLATION
1274
1275 Usually this translation is transparent.  However in some (very rare)
1276 cases you may need to know the exact algorithm.  Such cases include
1277 where you use L</guestfs_config> to add a mixture of virtio and IDE
1278 devices to the qemu-based appliance, so have a mixture of C</dev/sd*>
1279 and C</dev/vd*> devices.
1280
1281 The algorithm is applied only to I<parameters> which are known to be
1282 either device or partition names.  Return values from functions such
1283 as L</guestfs_list_devices> are never changed.
1284
1285 =over 4
1286
1287 =item *
1288
1289 Is the string a parameter which is a device or partition name?
1290
1291 =item *
1292
1293 Does the string begin with C</dev/sd>?
1294
1295 =item *
1296
1297 Does the named device exist?  If so, we use that device.
1298 However if I<not> then we continue with this algorithm.
1299
1300 =item *
1301
1302 Replace initial C</dev/sd> string with C</dev/hd>.
1303
1304 For example, change C</dev/sda2> to C</dev/hda2>.
1305
1306 If that named device exists, use it.  If not, continue.
1307
1308 =item *
1309
1310 Replace initial C</dev/sd> string with C</dev/vd>.
1311
1312 If that named device exists, use it.  If not, return an error.
1313
1314 =back
1315
1316 =head2 PORTABILITY CONCERNS
1317
1318 Although the standard naming scheme and automatic translation is
1319 useful for simple programs and guestfish scripts, for larger programs
1320 it is best not to rely on this mechanism.
1321
1322 Where possible for maximum future portability programs using
1323 libguestfs should use these future-proof techniques:
1324
1325 =over 4
1326
1327 =item *
1328
1329 Use L</guestfs_list_devices> or L</guestfs_list_partitions> to list
1330 actual device names, and then use those names directly.
1331
1332 Since those device names exist by definition, they will never be
1333 translated.
1334
1335 =item *
1336
1337 Use higher level ways to identify filesystems, such as LVM names,
1338 UUIDs and filesystem labels.
1339
1340 =back
1341
1342 =head1 INTERNALS
1343
1344 =head2 COMMUNICATION PROTOCOL
1345
1346 Don't rely on using this protocol directly.  This section documents
1347 how it currently works, but it may change at any time.
1348
1349 The protocol used to talk between the library and the daemon running
1350 inside the qemu virtual machine is a simple RPC mechanism built on top
1351 of XDR (RFC 1014, RFC 1832, RFC 4506).
1352
1353 The detailed format of structures is in C<src/guestfs_protocol.x>
1354 (note: this file is automatically generated).
1355
1356 There are two broad cases, ordinary functions that don't have any
1357 C<FileIn> and C<FileOut> parameters, which are handled with very
1358 simple request/reply messages.  Then there are functions that have any
1359 C<FileIn> or C<FileOut> parameters, which use the same request and
1360 reply messages, but they may also be followed by files sent using a
1361 chunked encoding.
1362
1363 =head3 ORDINARY FUNCTIONS (NO FILEIN/FILEOUT PARAMS)
1364
1365 For ordinary functions, the request message is:
1366
1367  total length (header + arguments,
1368       but not including the length word itself)
1369  struct guestfs_message_header (encoded as XDR)
1370  struct guestfs_<foo>_args (encoded as XDR)
1371
1372 The total length field allows the daemon to allocate a fixed size
1373 buffer into which it slurps the rest of the message.  As a result, the
1374 total length is limited to C<GUESTFS_MESSAGE_MAX> bytes (currently
1375 4MB), which means the effective size of any request is limited to
1376 somewhere under this size.
1377
1378 Note also that many functions don't take any arguments, in which case
1379 the C<guestfs_I<foo>_args> is completely omitted.
1380
1381 The header contains the procedure number (C<guestfs_proc>) which is
1382 how the receiver knows what type of args structure to expect, or none
1383 at all.
1384
1385 The reply message for ordinary functions is:
1386
1387  total length (header + ret,
1388       but not including the length word itself)
1389  struct guestfs_message_header (encoded as XDR)
1390  struct guestfs_<foo>_ret (encoded as XDR)
1391
1392 As above the C<guestfs_I<foo>_ret> structure may be completely omitted
1393 for functions that return no formal return values.
1394
1395 As above the total length of the reply is limited to
1396 C<GUESTFS_MESSAGE_MAX>.
1397
1398 In the case of an error, a flag is set in the header, and the reply
1399 message is slightly changed:
1400
1401  total length (header + error,
1402       but not including the length word itself)
1403  struct guestfs_message_header (encoded as XDR)
1404  struct guestfs_message_error (encoded as XDR)
1405
1406 The C<guestfs_message_error> structure contains the error message as a
1407 string.
1408
1409 =head3 FUNCTIONS THAT HAVE FILEIN PARAMETERS
1410
1411 A C<FileIn> parameter indicates that we transfer a file I<into> the
1412 guest.  The normal request message is sent (see above).  However this
1413 is followed by a sequence of file chunks.
1414
1415  total length (header + arguments,
1416       but not including the length word itself,
1417       and not including the chunks)
1418  struct guestfs_message_header (encoded as XDR)
1419  struct guestfs_<foo>_args (encoded as XDR)
1420  sequence of chunks for FileIn param #0
1421  sequence of chunks for FileIn param #1 etc.
1422
1423 The "sequence of chunks" is:
1424
1425  length of chunk (not including length word itself)
1426  struct guestfs_chunk (encoded as XDR)
1427  length of chunk
1428  struct guestfs_chunk (encoded as XDR)
1429    ...
1430  length of chunk
1431  struct guestfs_chunk (with data.data_len == 0)
1432
1433 The final chunk has the C<data_len> field set to zero.  Additionally a
1434 flag is set in the final chunk to indicate either successful
1435 completion or early cancellation.
1436
1437 At time of writing there are no functions that have more than one
1438 FileIn parameter.  However this is (theoretically) supported, by
1439 sending the sequence of chunks for each FileIn parameter one after
1440 another (from left to right).
1441
1442 Both the library (sender) I<and> the daemon (receiver) may cancel the
1443 transfer.  The library does this by sending a chunk with a special
1444 flag set to indicate cancellation.  When the daemon sees this, it
1445 cancels the whole RPC, does I<not> send any reply, and goes back to
1446 reading the next request.
1447
1448 The daemon may also cancel.  It does this by writing a special word
1449 C<GUESTFS_CANCEL_FLAG> to the socket.  The library listens for this
1450 during the transfer, and if it gets it, it will cancel the transfer
1451 (it sends a cancel chunk).  The special word is chosen so that even if
1452 cancellation happens right at the end of the transfer (after the
1453 library has finished writing and has started listening for the reply),
1454 the "spurious" cancel flag will not be confused with the reply
1455 message.
1456
1457 This protocol allows the transfer of arbitrary sized files (no 32 bit
1458 limit), and also files where the size is not known in advance
1459 (eg. from pipes or sockets).  However the chunks are rather small
1460 (C<GUESTFS_MAX_CHUNK_SIZE>), so that neither the library nor the
1461 daemon need to keep much in memory.
1462
1463 =head3 FUNCTIONS THAT HAVE FILEOUT PARAMETERS
1464
1465 The protocol for FileOut parameters is exactly the same as for FileIn
1466 parameters, but with the roles of daemon and library reversed.
1467
1468  total length (header + ret,
1469       but not including the length word itself,
1470       and not including the chunks)
1471  struct guestfs_message_header (encoded as XDR)
1472  struct guestfs_<foo>_ret (encoded as XDR)
1473  sequence of chunks for FileOut param #0
1474  sequence of chunks for FileOut param #1 etc.
1475
1476 =head3 INITIAL MESSAGE
1477
1478 Because the underlying channel (QEmu -net channel) doesn't have any
1479 sort of connection control, when the daemon launches it sends an
1480 initial word (C<GUESTFS_LAUNCH_FLAG>) which indicates that the guest
1481 and daemon is alive.  This is what L</guestfs_launch> waits for.
1482
1483 =head1 MULTIPLE HANDLES AND MULTIPLE THREADS
1484
1485 All high-level libguestfs actions are synchronous.  If you want
1486 to use libguestfs asynchronously then you must create a thread.
1487
1488 Only use the handle from a single thread.  Either use the handle
1489 exclusively from one thread, or provide your own mutex so that two
1490 threads cannot issue calls on the same handle at the same time.
1491
1492 =head1 QEMU WRAPPERS
1493
1494 If you want to compile your own qemu, run qemu from a non-standard
1495 location, or pass extra arguments to qemu, then you can write a
1496 shell-script wrapper around qemu.
1497
1498 There is one important rule to remember: you I<must C<exec qemu>> as
1499 the last command in the shell script (so that qemu replaces the shell
1500 and becomes the direct child of the libguestfs-using program).  If you
1501 don't do this, then the qemu process won't be cleaned up correctly.
1502
1503 Here is an example of a wrapper, where I have built my own copy of
1504 qemu from source:
1505
1506  #!/bin/sh -
1507  qemudir=/home/rjones/d/qemu
1508  exec $qemudir/x86_64-softmmu/qemu-system-x86_64 -L $qemudir/pc-bios "$@"
1509
1510 Save this script as C</tmp/qemu.wrapper> (or wherever), C<chmod +x>,
1511 and then use it by setting the LIBGUESTFS_QEMU environment variable.
1512 For example:
1513
1514  LIBGUESTFS_QEMU=/tmp/qemu.wrapper guestfish
1515
1516 Note that libguestfs also calls qemu with the -help and -version
1517 options in order to determine features.
1518
1519 =head1 LIBGUESTFS VERSION NUMBERS
1520
1521 Since April 2010, libguestfs has started to make separate development
1522 and stable releases, along with corresponding branches in our git
1523 repository.  These separate releases can be identified by version
1524 number:
1525
1526                  even numbers for stable: 1.2.x, 1.4.x, ...
1527        .-------- odd numbers for development: 1.3.x, 1.5.x, ...
1528        |
1529        v
1530  1  .  3  .  5
1531  ^           ^
1532  |           |
1533  |           `-------- sub-version
1534  |
1535  `------ always '1' because we don't change the ABI
1536
1537 Thus "1.3.5" is the 5th update to the development branch "1.3".
1538
1539 As time passes we cherry pick fixes from the development branch and
1540 backport those into the stable branch, the effect being that the
1541 stable branch should get more stable and less buggy over time.  So the
1542 stable releases are ideal for people who don't need new features but
1543 would just like the software to work.
1544
1545 Our criteria for backporting changes are:
1546
1547 =over 4
1548
1549 =item *
1550
1551 Documentation changes which don't affect any code are
1552 backported unless the documentation refers to a future feature
1553 which is not in stable.
1554
1555 =item *
1556
1557 Bug fixes which are not controversial, fix obvious problems, and
1558 have been well tested are backported.
1559
1560 =item *
1561
1562 Simple rearrangements of code which shouldn't affect how it works get
1563 backported.  This is so that the code in the two branches doesn't get
1564 too far out of step, allowing us to backport future fixes more easily.
1565
1566 =item *
1567
1568 We I<don't> backport new features, new APIs, new tools etc, except in
1569 one exceptional case: the new feature is required in order to
1570 implement an important bug fix.
1571
1572 =back
1573
1574 A new stable branch starts when we think the new features in
1575 development are substantial and compelling enough over the current
1576 stable branch to warrant it.  When that happens we create new stable
1577 and development versions 1.N.0 and 1.(N+1).0 [N is even].  The new
1578 dot-oh release won't necessarily be so stable at this point, but by
1579 backporting fixes from development, that branch will stabilize over
1580 time.
1581
1582 =head1 ENVIRONMENT VARIABLES
1583
1584 =over 4
1585
1586 =item LIBGUESTFS_APPEND
1587
1588 Pass additional options to the guest kernel.
1589
1590 =item LIBGUESTFS_DEBUG
1591
1592 Set C<LIBGUESTFS_DEBUG=1> to enable verbose messages.  This
1593 has the same effect as calling C<guestfs_set_verbose (g, 1)>.
1594
1595 =item LIBGUESTFS_MEMSIZE
1596
1597 Set the memory allocated to the qemu process, in megabytes.  For
1598 example:
1599
1600  LIBGUESTFS_MEMSIZE=700
1601
1602 =item LIBGUESTFS_PATH
1603
1604 Set the path that libguestfs uses to search for kernel and initrd.img.
1605 See the discussion of paths in section PATH above.
1606
1607 =item LIBGUESTFS_QEMU
1608
1609 Set the default qemu binary that libguestfs uses.  If not set, then
1610 the qemu which was found at compile time by the configure script is
1611 used.
1612
1613 See also L</QEMU WRAPPERS> above.
1614
1615 =item LIBGUESTFS_TRACE
1616
1617 Set C<LIBGUESTFS_TRACE=1> to enable command traces.  This
1618 has the same effect as calling C<guestfs_set_trace (g, 1)>.
1619
1620 =item TMPDIR
1621
1622 Location of temporary directory, defaults to C</tmp>.
1623
1624 If libguestfs was compiled to use the supermin appliance then each
1625 handle will require rather a large amount of space in this directory
1626 for short periods of time (~ 80 MB).  You can use C<$TMPDIR> to
1627 configure another directory to use in case C</tmp> is not large
1628 enough.
1629
1630 =back
1631
1632 =head1 SEE ALSO
1633
1634 L<guestfish(1)>,
1635 L<guestmount(1)>,
1636 L<virt-cat(1)>,
1637 L<virt-df(1)>,
1638 L<virt-edit(1)>,
1639 L<virt-inspector(1)>,
1640 L<virt-list-filesystems(1)>,
1641 L<virt-list-partitions(1)>,
1642 L<virt-ls(1)>,
1643 L<virt-make-fs(1)>,
1644 L<virt-rescue(1)>,
1645 L<virt-tar(1)>,
1646 L<virt-win-reg(1)>,
1647 L<qemu(1)>,
1648 L<febootstrap(1)>,
1649 L<hivex(3)>,
1650 L<http://libguestfs.org/>.
1651
1652 Tools with a similar purpose:
1653 L<fdisk(8)>,
1654 L<parted(8)>,
1655 L<kpartx(8)>,
1656 L<lvm(8)>,
1657 L<disktype(1)>.
1658
1659 =head1 BUGS
1660
1661 To get a list of bugs against libguestfs use this link:
1662
1663 L<https://bugzilla.redhat.com/buglist.cgi?component=libguestfs&product=Virtualization+Tools>
1664
1665 To report a new bug against libguestfs use this link:
1666
1667 L<https://bugzilla.redhat.com/enter_bug.cgi?component=libguestfs&product=Virtualization+Tools>
1668
1669 When reporting a bug, please check:
1670
1671 =over 4
1672
1673 =item *
1674
1675 That the bug hasn't been reported already.
1676
1677 =item *
1678
1679 That you are testing a recent version.
1680
1681 =item *
1682
1683 Describe the bug accurately, and give a way to reproduce it.
1684
1685 =item *
1686
1687 Run libguestfs-test-tool and paste the B<complete, unedited>
1688 output into the bug report.
1689
1690 =back
1691
1692 =head1 AUTHORS
1693
1694 Richard W.M. Jones (C<rjones at redhat dot com>)
1695
1696 =head1 COPYRIGHT
1697
1698 Copyright (C) 2009-2010 Red Hat Inc.
1699 L<http://libguestfs.org/>
1700
1701 This library is free software; you can redistribute it and/or
1702 modify it under the terms of the GNU Lesser General Public
1703 License as published by the Free Software Foundation; either
1704 version 2 of the License, or (at your option) any later version.
1705
1706 This library is distributed in the hope that it will be useful,
1707 but WITHOUT ANY WARRANTY; without even the implied warranty of
1708 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
1709 Lesser General Public License for more details.
1710
1711 You should have received a copy of the GNU Lesser General Public
1712 License along with this library; if not, write to the Free Software
1713 Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA