Document ambiguity between devices and paths in API.
[libguestfs.git] / src / guestfs.pod
1 =encoding utf8
2
3 =head1 NAME
4
5 guestfs - Library for accessing and modifying virtual machine images
6
7 =head1 SYNOPSIS
8
9  #include <guestfs.h>
10  
11  guestfs_h *g = guestfs_create ();
12  guestfs_add_drive (g, "guest.img");
13  guestfs_launch (g);
14  guestfs_mount (g, "/dev/sda1", "/");
15  guestfs_touch (g, "/hello");
16  guestfs_umount (g, "/");
17  guestfs_sync (g);
18  guestfs_close (g);
19
20  cc prog.c -o prog -lguestfs
21 or:
22  cc prog.c -o prog `pkg-config libguestfs --cflags --libs`
23
24 =head1 DESCRIPTION
25
26 Libguestfs is a library for accessing and modifying guest disk images.
27 Amongst the things this is good for: making batch configuration
28 changes to guests, getting disk used/free statistics (see also:
29 virt-df), migrating between virtualization systems (see also:
30 virt-p2v), performing partial backups, performing partial guest
31 clones, cloning guests and changing registry/UUID/hostname info, and
32 much else besides.
33
34 Libguestfs uses Linux kernel and qemu code, and can access any type of
35 guest filesystem that Linux and qemu can, including but not limited
36 to: ext2/3/4, btrfs, FAT and NTFS, LVM, many different disk partition
37 schemes, qcow, qcow2, vmdk.
38
39 Libguestfs provides ways to enumerate guest storage (eg. partitions,
40 LVs, what filesystem is in each LV, etc.).  It can also run commands
41 in the context of the guest.  Also you can access filesystems over
42 FUSE.
43
44 Libguestfs is a library that can be linked with C and C++ management
45 programs (or management programs written in OCaml, Perl, Python, Ruby,
46 Java, PHP, Haskell or C#).  You can also use it from shell scripts or the
47 command line.
48
49 You don't need to be root to use libguestfs, although obviously you do
50 need enough permissions to access the disk images.
51
52 Libguestfs is a large API because it can do many things.  For a gentle
53 introduction, please read the L</API OVERVIEW> section next.
54
55 =head1 API OVERVIEW
56
57 This section provides a gentler overview of the libguestfs API.  We
58 also try to group API calls together, where that may not be obvious
59 from reading about the individual calls in the main section of this
60 manual.
61
62 =head2 HANDLES
63
64 Before you can use libguestfs calls, you have to create a handle.
65 Then you must add at least one disk image to the handle, followed by
66 launching the handle, then performing whatever operations you want,
67 and finally closing the handle.  By convention we use the single
68 letter C<g> for the name of the handle variable, although of course
69 you can use any name you want.
70
71 The general structure of all libguestfs-using programs looks like
72 this:
73
74  guestfs_h *g = guestfs_create ();
75  
76  /* Call guestfs_add_drive additional times if there are
77   * multiple disk images.
78   */
79  guestfs_add_drive (g, "guest.img");
80  
81  /* Most manipulation calls won't work until you've launched
82   * the handle 'g'.  You have to do this _after_ adding drives
83   * and _before_ other commands.
84   */
85  guestfs_launch (g);
86  
87  /* Now you can examine what partitions, LVs etc are available.
88   */
89  char **partitions = guestfs_list_partitions (g);
90  char **logvols = guestfs_lvs (g);
91  
92  /* To access a filesystem in the image, you must mount it.
93   */
94  guestfs_mount (g, "/dev/sda1", "/");
95  
96  /* Now you can perform filesystem actions on the guest
97   * disk image.
98   */
99  guestfs_touch (g, "/hello");
100  
101  /* You only need to call guestfs_sync if you have made
102   * changes to the guest image.  (But if you've made changes
103   * then you *must* sync).  See also: guestfs_umount and
104   * guestfs_umount_all calls.
105   */
106  guestfs_sync (g);
107  
108  /* Close the handle 'g'. */
109  guestfs_close (g);
110
111 The code above doesn't include any error checking.  In real code you
112 should check return values carefully for errors.  In general all
113 functions that return integers return C<-1> on error, and all
114 functions that return pointers return C<NULL> on error.  See section
115 L</ERROR HANDLING> below for how to handle errors, and consult the
116 documentation for each function call below to see precisely how they
117 return error indications.
118
119 =head2 DISK IMAGES
120
121 The image filename (C<"guest.img"> in the example above) could be a
122 disk image from a virtual machine, a L<dd(1)> copy of a physical hard
123 disk, an actual block device, or simply an empty file of zeroes that
124 you have created through L<posix_fallocate(3)>.  Libguestfs lets you
125 do useful things to all of these.
126
127 You can add a disk read-only using L</guestfs_add_drive_ro>, in which
128 case libguestfs won't modify the file.
129
130 Be extremely cautious if the disk image is in use, eg. if it is being
131 used by a virtual machine.  Adding it read-write will almost certainly
132 cause disk corruption, but adding it read-only is safe.
133
134 You must add at least one disk image, and you may add multiple disk
135 images.  In the API, the disk images are usually referred to as
136 C</dev/sda> (for the first one you added), C</dev/sdb> (for the second
137 one you added), etc.
138
139 Once L</guestfs_launch> has been called you cannot add any more images.
140 You can call L</guestfs_list_devices> to get a list of the device
141 names, in the order that you added them.  See also L</BLOCK DEVICE
142 NAMING> below.
143
144 =head2 MOUNTING
145
146 Before you can read or write files, create directories and so on in a
147 disk image that contains filesystems, you have to mount those
148 filesystems using L</guestfs_mount>.  If you already know that a disk
149 image contains (for example) one partition with a filesystem on that
150 partition, then you can mount it directly:
151
152  guestfs_mount (g, "/dev/sda1", "/");
153
154 where C</dev/sda1> means literally the first partition (C<1>) of the
155 first disk image that we added (C</dev/sda>).  If the disk contains
156 Linux LVM2 logical volumes you could refer to those instead (eg. C</dev/VG/LV>).
157
158 If you are given a disk image and you don't know what it contains then
159 you have to find out.  Libguestfs can do that too: use
160 L</guestfs_list_partitions> and L</guestfs_lvs> to list possible
161 partitions and LVs, and either try mounting each to see what is
162 mountable, or else examine them with L</guestfs_vfs_type> or
163 L</guestfs_file>.  Libguestfs also has a set of APIs for inspection of
164 disk images (see L</INSPECTION> below).  But you might find it easier
165 to look at higher level programs built on top of libguestfs, in
166 particular L<virt-inspector(1)>.
167
168 To mount a disk image read-only, use L</guestfs_mount_ro>.  There are
169 several other variations of the C<guestfs_mount_*> call.
170
171 =head2 FILESYSTEM ACCESS AND MODIFICATION
172
173 The majority of the libguestfs API consists of fairly low-level calls
174 for accessing and modifying the files, directories, symlinks etc on
175 mounted filesystems.  There are over a hundred such calls which you
176 can find listed in detail below in this man page, and we don't even
177 pretend to cover them all in this overview.
178
179 Specify filenames as full paths, starting with C<"/"> and including
180 the mount point.
181
182 For example, if you mounted a filesystem at C<"/"> and you want to
183 read the file called C<"etc/passwd"> then you could do:
184
185  char *data = guestfs_cat (g, "/etc/passwd");
186
187 This would return C<data> as a newly allocated buffer containing the
188 full content of that file (with some conditions: see also
189 L</DOWNLOADING> below), or C<NULL> if there was an error.
190
191 As another example, to create a top-level directory on that filesystem
192 called C<"var"> you would do:
193
194  guestfs_mkdir (g, "/var");
195
196 To create a symlink you could do:
197
198  guestfs_ln_s (g, "/etc/init.d/portmap",
199                "/etc/rc3.d/S30portmap");
200
201 Libguestfs will reject attempts to use relative paths and there is no
202 concept of a current working directory.
203
204 Libguestfs can return errors in many situations: for example if the
205 filesystem isn't writable, or if a file or directory that you
206 requested doesn't exist.  If you are using the C API (documented here)
207 you have to check for those error conditions after each call.  (Other
208 language bindings turn these errors into exceptions).
209
210 File writes are affected by the per-handle umask, set by calling
211 L</guestfs_umask> and defaulting to 022.  See L</UMASK>.
212
213 =head2 PARTITIONING
214
215 Libguestfs contains API calls to read, create and modify partition
216 tables on disk images.
217
218 In the common case where you want to create a single partition
219 covering the whole disk, you should use the L</guestfs_part_disk>
220 call:
221
222  const char *parttype = "mbr";
223  if (disk_is_larger_than_2TB)
224    parttype = "gpt";
225  guestfs_part_disk (g, "/dev/sda", parttype);
226
227 Obviously this effectively wipes anything that was on that disk image
228 before.
229
230 =head2 LVM2
231
232 Libguestfs provides access to a large part of the LVM2 API, such as
233 L</guestfs_lvcreate> and L</guestfs_vgremove>.  It won't make much sense
234 unless you familiarize yourself with the concepts of physical volumes,
235 volume groups and logical volumes.
236
237 This author strongly recommends reading the LVM HOWTO, online at
238 L<http://tldp.org/HOWTO/LVM-HOWTO/>.
239
240 =head2 DOWNLOADING
241
242 Use L</guestfs_cat> to download small, text only files.  This call
243 is limited to files which are less than 2 MB and which cannot contain
244 any ASCII NUL (C<\0>) characters.  However it has a very simple
245 to use API.
246
247 L</guestfs_read_file> can be used to read files which contain
248 arbitrary 8 bit data, since it returns a (pointer, size) pair.
249 However it is still limited to "small" files, less than 2 MB.
250
251 L</guestfs_download> can be used to download any file, with no
252 limits on content or size (even files larger than 4 GB).
253
254 To download multiple files, see L</guestfs_tar_out> and
255 L</guestfs_tgz_out>.
256
257 =head2 UPLOADING
258
259 It's often the case that you want to write a file or files to the disk
260 image.
261
262 To write a small file with fixed content, use L</guestfs_write>.  To
263 create a file of all zeroes, use L</guestfs_truncate_size> (sparse) or
264 L</guestfs_fallocate64> (with all disk blocks allocated).  There are a
265 variety of other functions for creating test files, for example
266 L</guestfs_fill> and L</guestfs_fill_pattern>.
267
268 To upload a single file, use L</guestfs_upload>.  This call has no
269 limits on file content or size (even files larger than 4 GB).
270
271 To upload multiple files, see L</guestfs_tar_in> and L</guestfs_tgz_in>.
272
273 However the fastest way to upload I<large numbers of arbitrary files>
274 is to turn them into a squashfs or CD ISO (see L<mksquashfs(8)> and
275 L<mkisofs(8)>), then attach this using L</guestfs_add_drive_ro>.  If
276 you add the drive in a predictable way (eg. adding it last after all
277 other drives) then you can get the device name from
278 L</guestfs_list_devices> and mount it directly using
279 L</guestfs_mount_ro>.  Note that squashfs images are sometimes
280 non-portable between kernel versions, and they don't support labels or
281 UUIDs.  If you want to pre-build an image or you need to mount it
282 using a label or UUID, use an ISO image instead.
283
284 =head2 COPYING
285
286 There are various different commands for copying between files and
287 devices and in and out of the guest filesystem.  These are summarised
288 in the table below.
289
290 =over 4
291
292 =item B<file> to B<file>
293
294 Use L</guestfs_cp> to copy a single file, or
295 L</guestfs_cp_a> to copy directories recursively.
296
297 =item B<file or device> to B<file or device>
298
299 Use L</guestfs_dd> which efficiently uses L<dd(1)>
300 to copy between files and devices in the guest.
301
302 Example: duplicate the contents of an LV:
303
304  guestfs_dd (g, "/dev/VG/Original", "/dev/VG/Copy");
305
306 The destination (C</dev/VG/Copy>) must be at least as large as the
307 source (C</dev/VG/Original>).  To copy less than the whole
308 source device, use L</guestfs_copy_size>.
309
310 =item B<file on the host> to B<file or device>
311
312 Use L</guestfs_upload>.  See L</UPLOADING> above.
313
314 =item B<file or device> to B<file on the host>
315
316 Use L</guestfs_download>.  See L</DOWNLOADING> above.
317
318 =back
319
320 =head2 LISTING FILES
321
322 L</guestfs_ll> is just designed for humans to read (mainly when using
323 the L<guestfish(1)>-equivalent command C<ll>).
324
325 L</guestfs_ls> is a quick way to get a list of files in a directory
326 from programs, as a flat list of strings.
327
328 L</guestfs_readdir> is a programmatic way to get a list of files in a
329 directory, plus additional information about each one.  It is more
330 equivalent to using the L<readdir(3)> call on a local filesystem.
331
332 L</guestfs_find> and L</guestfs_find0> can be used to recursively list
333 files.
334
335 =head2 RUNNING COMMANDS
336
337 Although libguestfs is primarily an API for manipulating files
338 inside guest images, we also provide some limited facilities for
339 running commands inside guests.
340
341 There are many limitations to this:
342
343 =over 4
344
345 =item *
346
347 The kernel version that the command runs under will be different
348 from what it expects.
349
350 =item *
351
352 If the command needs to communicate with daemons, then most likely
353 they won't be running.
354
355 =item *
356
357 The command will be running in limited memory.
358
359 =item *
360
361 The network may not be available unless you enable it
362 (see L</guestfs_set_network>).
363
364 =item *
365
366 Only supports Linux guests (not Windows, BSD, etc).
367
368 =item *
369
370 Architecture limitations (eg. won't work for a PPC guest on
371 an X86 host).
372
373 =item *
374
375 For SELinux guests, you may need to enable SELinux and load policy
376 first.  See L</SELINUX> in this manpage.
377
378 =back
379
380 The two main API calls to run commands are L</guestfs_command> and
381 L</guestfs_sh> (there are also variations).
382
383 The difference is that L</guestfs_sh> runs commands using the shell, so
384 any shell globs, redirections, etc will work.
385
386 =head2 CONFIGURATION FILES
387
388 To read and write configuration files in Linux guest filesystems, we
389 strongly recommend using Augeas.  For example, Augeas understands how
390 to read and write, say, a Linux shadow password file or X.org
391 configuration file, and so avoids you having to write that code.
392
393 The main Augeas calls are bound through the C<guestfs_aug_*> APIs.  We
394 don't document Augeas itself here because there is excellent
395 documentation on the L<http://augeas.net/> website.
396
397 If you don't want to use Augeas (you fool!) then try calling
398 L</guestfs_read_lines> to get the file as a list of lines which
399 you can iterate over.
400
401 =head2 SELINUX
402
403 We support SELinux guests.  To ensure that labeling happens correctly
404 in SELinux guests, you need to enable SELinux and load the guest's
405 policy:
406
407 =over 4
408
409 =item 1.
410
411 Before launching, do:
412
413  guestfs_set_selinux (g, 1);
414
415 =item 2.
416
417 After mounting the guest's filesystem(s), load the policy.  This
418 is best done by running the L<load_policy(8)> command in the
419 guest itself:
420
421  guestfs_sh (g, "/usr/sbin/load_policy");
422
423 (Older versions of C<load_policy> require you to specify the
424 name of the policy file).
425
426 =item 3.
427
428 Optionally, set the security context for the API.  The correct
429 security context to use can only be known by inspecting the
430 guest.  As an example:
431
432  guestfs_setcon (g, "unconfined_u:unconfined_r:unconfined_t:s0");
433
434 =back
435
436 This will work for running commands and editing existing files.
437
438 When new files are created, you may need to label them explicitly,
439 for example by running the external command
440 C<restorecon pathname>.
441
442 =head2 UMASK
443
444 Certain calls are affected by the current file mode creation mask (the
445 "umask").  In particular ones which create files or directories, such
446 as L</guestfs_touch>, L</guestfs_mknod> or L</guestfs_mkdir>.  This
447 affects either the default mode that the file is created with or
448 modifies the mode that you supply.
449
450 The default umask is C<022>, so files are created with modes such as
451 C<0644> and directories with C<0755>.
452
453 There are two ways to avoid being affected by umask.  Either set umask
454 to 0 (call C<guestfs_umask (g, 0)> early after launching).  Or call
455 L</guestfs_chmod> after creating each file or directory.
456
457 For more information about umask, see L<umask(2)>.
458
459 =head2 ENCRYPTED DISKS
460
461 Libguestfs allows you to access Linux guests which have been
462 encrypted using whole disk encryption that conforms to the
463 Linux Unified Key Setup (LUKS) standard.  This includes
464 nearly all whole disk encryption systems used by modern
465 Linux guests.
466
467 Use L</guestfs_vfs_type> to identify LUKS-encrypted block
468 devices (it returns the string C<crypto_LUKS>).
469
470 Then open these devices by calling L</guestfs_luks_open>.
471 Obviously you will require the passphrase!
472
473 Opening a LUKS device creates a new device mapper device
474 called C</dev/mapper/mapname> (where C<mapname> is the
475 string you supply to L</guestfs_luks_open>).
476 Reads and writes to this mapper device are decrypted from and
477 encrypted to the underlying block device respectively.
478
479 LVM volume groups on the device can be made visible by calling
480 L</guestfs_vgscan> followed by L</guestfs_vg_activate_all>.
481 The logical volume(s) can now be mounted in the usual way.
482
483 Use the reverse process to close a LUKS device.  Unmount
484 any logical volumes on it, deactivate the volume groups
485 by caling C<guestfs_vg_activate (g, 0, ["/dev/VG"])>.
486 Then close the mapper device by calling
487 L</guestfs_luks_close> on the C</dev/mapper/mapname>
488 device (I<not> the underlying encrypted block device).
489
490 =head2 INSPECTION
491
492 Libguestfs has APIs for inspecting an unknown disk image to find out
493 if it contains operating systems.  (These APIs used to be in a
494 separate Perl-only library called L<Sys::Guestfs::Lib(3)> but since
495 version 1.5.3 the most frequently used part of this library has been
496 rewritten in C and moved into the core code).
497
498 Add all disks belonging to the unknown virtual machine and call
499 L</guestfs_launch> in the usual way.
500
501 Then call L</guestfs_inspect_os>.  This function uses other libguestfs
502 calls and certain heuristics, and returns a list of operating systems
503 that were found.  An empty list means none were found.  A single
504 element is the root filesystem of the operating system.  For dual- or
505 multi-boot guests, multiple roots can be returned, each one
506 corresponding to a separate operating system.  (Multi-boot virtual
507 machines are extremely rare in the world of virtualization, but since
508 this scenario can happen, we have built libguestfs to deal with it.)
509
510 For each root, you can then call various C<guestfs_inspect_get_*>
511 functions to get additional details about that operating system.  For
512 example, call L</guestfs_inspect_get_type> to return the string
513 C<windows> or C<linux> for Windows and Linux-based operating systems
514 respectively.
515
516 Un*x-like and Linux-based operating systems usually consist of several
517 filesystems which are mounted at boot time (for example, a separate
518 boot partition mounted on C</boot>).  The inspection rules are able to
519 detect how filesystems correspond to mount points.  Call
520 C<guestfs_inspect_get_mountpoints> to get this mapping.  It might
521 return a hash table like this example:
522
523  /boot => /dev/sda1
524  /     => /dev/vg_guest/lv_root
525  /usr  => /dev/vg_guest/lv_usr
526
527 The caller can then make calls to L</guestfs_mount_options> to
528 mount the filesystems as suggested.
529
530 Be careful to mount filesystems in the right order (eg. C</> before
531 C</usr>).  Sorting the keys of the hash by length, shortest first,
532 should work.
533
534 Inspection currently only works for some common operating systems.
535 Contributors are welcome to send patches for other operating systems
536 that we currently cannot detect.
537
538 Encrypted disks must be opened before inspection.  See
539 L</ENCRYPTED DISKS> for more details.  The L</guestfs_inspect_os>
540 function just ignores any encrypted devices.
541
542 A note on the implementation: The call L</guestfs_inspect_os> performs
543 inspection and caches the results in the guest handle.  Subsequent
544 calls to C<guestfs_inspect_get_*> return this cached information, but
545 I<do not> re-read the disks.  If you change the content of the guest
546 disks, you can redo inspection by calling L</guestfs_inspect_os>
547 again.
548
549 =head2 SPECIAL CONSIDERATIONS FOR WINDOWS GUESTS
550
551 Libguestfs can mount NTFS partitions.  It does this using the
552 L<http://www.ntfs-3g.org/> driver.
553
554 DOS and Windows still use drive letters, and the filesystems are
555 always treated as case insensitive by Windows itself, and therefore
556 you might find a Windows configuration file referring to a path like
557 C<c:\windows\system32>.  When the filesystem is mounted in libguestfs,
558 that directory might be referred to as C</WINDOWS/System32>.
559
560 Drive letter mappings are outside the scope of libguestfs.  You have
561 to use libguestfs to read the appropriate Windows Registry and
562 configuration files, to determine yourself how drives are mapped (see
563 also L<hivex(3)> and L<virt-inspector(1)>).
564
565 Replacing backslash characters with forward slash characters is also
566 outside the scope of libguestfs, but something that you can easily do.
567
568 Where we can help is in resolving the case insensitivity of paths.
569 For this, call L</guestfs_case_sensitive_path>.
570
571 Libguestfs also provides some help for decoding Windows Registry
572 "hive" files, through the library C<hivex> which is part of the
573 libguestfs project although ships as a separate tarball.  You have to
574 locate and download the hive file(s) yourself, and then pass them to
575 C<hivex> functions.  See also the programs L<hivexml(1)>,
576 L<hivexsh(1)>, L<hivexregedit(1)> and L<virt-win-reg(1)> for more help
577 on this issue.
578
579 =head2 USING LIBGUESTFS WITH OTHER PROGRAMMING LANGUAGES
580
581 Although we don't want to discourage you from using the C API, we will
582 mention here that the same API is also available in other languages.
583
584 The API is broadly identical in all supported languages.  This means
585 that the C call C<guestfs_mount(g,path)> is
586 C<$g-E<gt>mount($path)> in Perl, C<g.mount(path)> in Python,
587 and C<Guestfs.mount g path> in OCaml.  In other words, a
588 straightforward, predictable isomorphism between each language.
589
590 Error messages are automatically transformed
591 into exceptions if the language supports it.
592
593 We don't try to "object orientify" parts of the API in OO languages,
594 although contributors are welcome to write higher level APIs above
595 what we provide in their favourite languages if they wish.
596
597 =over 4
598
599 =item B<C++>
600
601 You can use the I<guestfs.h> header file from C++ programs.  The C++
602 API is identical to the C API.  C++ classes and exceptions are not
603 used.
604
605 =item B<C#>
606
607 The C# bindings are highly experimental.  Please read the warnings
608 at the top of C<csharp/Libguestfs.cs>.
609
610 =item B<Haskell>
611
612 This is the only language binding that is working but incomplete.
613 Only calls which return simple integers have been bound in Haskell,
614 and we are looking for help to complete this binding.
615
616 =item B<Java>
617
618 Full documentation is contained in the Javadoc which is distributed
619 with libguestfs.
620
621 =item B<OCaml>
622
623 For documentation see the file C<guestfs.mli>.
624
625 =item B<Perl>
626
627 For documentation see L<Sys::Guestfs(3)>.
628
629 =item B<PHP>
630
631 For documentation see C<README-PHP> supplied with libguestfs
632 sources or in the php-libguestfs package for your distribution.
633
634 The PHP binding only works correctly on 64 bit machines.
635
636 =item B<Python>
637
638 For documentation do:
639
640  $ python
641  >>> import guestfs
642  >>> help (guestfs)
643
644 =item B<Ruby>
645
646 Use the Guestfs module.  There is no Ruby-specific documentation, but
647 you can find examples written in Ruby in the libguestfs source.
648
649 =item B<shell scripts>
650
651 For documentation see L<guestfish(1)>.
652
653 =back
654
655 =head2 LIBGUESTFS GOTCHAS
656
657 L<http://en.wikipedia.org/wiki/Gotcha_(programming)>: "A feature of a
658 system [...] that works in the way it is documented but is
659 counterintuitive and almost invites mistakes."
660
661 Since we developed libguestfs and the associated tools, there are
662 several things we would have designed differently, but are now stuck
663 with for backwards compatibility or other reasons.  If there is ever a
664 libguestfs 2.0 release, you can expect these to change.  Beware of
665 them.
666
667 =over 4
668
669 =item Autosync / forgetting to sync.
670
671 When modifying a filesystem from C or another language, you B<must>
672 unmount all filesystems and call L</guestfs_sync> explicitly before
673 you close the libguestfs handle.  You can also call:
674
675  guestfs_set_autosync (g, 1);
676
677 to have the unmount/sync done automatically for you when the handle 'g'
678 is closed.  (This feature is called "autosync", L</guestfs_set_autosync>
679 q.v.)
680
681 If you forget to do this, then it is entirely possible that your
682 changes won't be written out, or will be partially written, or (very
683 rarely) that you'll get disk corruption.
684
685 Note that in L<guestfish(3)> autosync is the default.  So quick and
686 dirty guestfish scripts that forget to sync will work just fine, which
687 can make this very puzzling if you are trying to debug a problem.
688
689 =item Mount option C<-o sync> should not be the default.
690
691 If you use L</guestfs_mount>, then C<-o sync,noatime> are added
692 implicitly.  However C<-o sync> does not add any reliability benefit,
693 but does have a very large performance impact.
694
695 The work around is to use L</guestfs_mount_options> and set the mount
696 options that you actually want to use.
697
698 =item Read-only should be the default.
699
700 In L<guestfish(3)>, I<--ro> should be the default, and you should
701 have to specify I<--rw> if you want to make changes to the image.
702
703 This would reduce the potential to corrupt live VM images.
704
705 Note that many filesystems change the disk when you just mount and
706 unmount, even if you didn't perform any writes.  You need to use
707 L</guestfs_add_drive_ro> to guarantee that the disk is not changed.
708
709 =item guestfish command line is hard to use.
710
711 C<guestfish disk.img> doesn't do what people expect (open C<disk.img>
712 for examination).  It tries to run a guestfish command C<disk.img>
713 which doesn't exist, so it fails.  In earlier versions of guestfish
714 the error message was also unintuitive, but we have corrected this
715 since.  Like the Bourne shell, we should have used C<guestfish -c
716 command> to run commands.
717
718 =item guestfish megabyte modifiers don't work right on all commands
719
720 In recent guestfish you can use C<1M> to mean 1 megabyte (and
721 similarly for other modifiers).  What guestfish actually does is to
722 multiply the number part by the modifier part and pass the result to
723 the C API.  However this doesn't work for a few APIs which aren't
724 expecting bytes, but are already expecting some other unit
725 (eg. megabytes).
726
727 The most common is L</guestfs_lvcreate>.  The guestfish command:
728
729  lvcreate LV VG 100M
730
731 does not do what you might expect.  Instead because
732 L</guestfs_lvcreate> is already expecting megabytes, this tries to
733 create a 100 I<terabyte> (100 megabytes * megabytes) logical volume.
734 The error message you get from this is also a little obscure.
735
736 This could be fixed in the generator by specially marking parameters
737 and return values which take bytes or other units.
738
739 =item Library should return errno with error messages.
740
741 It would be a nice-to-have to be able to get the original value of
742 'errno' from inside the appliance along error paths (where set).
743 Currently L<guestmount(1)> goes through hoops to try to reverse the
744 error message string into an errno, see the function error() in
745 fuse/guestmount.c.
746
747 In libguestfs 1.5.4, the protocol was changed so that the
748 Linux errno is sent back from the daemon.
749
750 =item Ambiguity between devices and paths
751
752 There is a subtle ambiguity in the API between a device name
753 (eg. C</dev/sdb2>) and a similar pathname.  A file might just happen
754 to be called C<sdb2> in the directory C</dev> (consider some non-Unix
755 VM image).
756
757 In the current API we usually resolve this ambiguity by having two
758 separate calls, for example L</guestfs_checksum> and
759 L</guestfs_checksum_device>.  Some API calls are ambiguous and
760 (incorrectly) resolve the problem by detecting if the path supplied
761 begins with C</dev/>.
762
763 To avoid both the ambiguity and the need to duplicate some calls, we
764 could make paths/devices into structured names.  One way to do this
765 would be to use a notation like grub (C<hd(0,0)>), although nobody
766 really likes this aspect of grub.  Another way would be to use a
767 structured type, equivalent to this OCaml type:
768
769  type path = Path of string | Device of int | Partition of int * int
770
771 which would allow you to pass arguments like:
772
773  Path "/foo/bar"
774  Device 1            (* /dev/sdb, or perhaps /dev/sda *)
775  Partition (1, 2)    (* /dev/sdb2 (or is it /dev/sda2 or /dev/sdb3?) *)
776  Path "/dev/sdb2"    (* not a device *)
777
778 As you can see there are still problems to resolve even with this
779 representation.  Also consider how it might work in guestfish.
780
781 =back
782
783 =head2 PROTOCOL LIMITS
784
785 Internally libguestfs uses a message-based protocol to pass API calls
786 and their responses to and from a small "appliance" (see L</INTERNALS>
787 for plenty more detail about this).  The maximum message size used by
788 the protocol is slightly less than 4 MB.  For some API calls you may
789 need to be aware of this limit.  The API calls which may be affected
790 are individually documented, with a link back to this section of the
791 documentation.
792
793 A simple call such as L</guestfs_cat> returns its result (the file
794 data) in a simple string.  Because this string is at some point
795 internally encoded as a message, the maximum size that it can return
796 is slightly under 4 MB.  If the requested file is larger than this
797 then you will get an error.
798
799 In order to transfer large files into and out of the guest filesystem,
800 you need to use particular calls that support this.  The sections
801 L</UPLOADING> and L</DOWNLOADING> document how to do this.
802
803 You might also consider mounting the disk image using our FUSE
804 filesystem support (L<guestmount(1)>).
805
806 =head2 KEYS AND PASSPHRASES
807
808 Certain libguestfs calls take a parameter that contains sensitive key
809 material, passed in as a C string.
810
811 In the future we would hope to change the libguestfs implementation so
812 that keys are L<mlock(2)>-ed into physical RAM, and thus can never end
813 up in swap.  However this is I<not> done at the moment, because of the
814 complexity of such an implementation.
815
816 Therefore you should be aware that any key parameter you pass to
817 libguestfs might end up being written out to the swap partition.  If
818 this is a concern, scrub the swap partition or don't use libguestfs on
819 encrypted devices.
820
821 =head1 CONNECTION MANAGEMENT
822
823 =head2 guestfs_h *
824
825 C<guestfs_h> is the opaque type representing a connection handle.
826 Create a handle by calling L</guestfs_create>.  Call L</guestfs_close>
827 to free the handle and release all resources used.
828
829 For information on using multiple handles and threads, see the section
830 L</MULTIPLE HANDLES AND MULTIPLE THREADS> below.
831
832 =head2 guestfs_create
833
834  guestfs_h *guestfs_create (void);
835
836 Create a connection handle.
837
838 You have to call L</guestfs_add_drive> on the handle at least once.
839
840 This function returns a non-NULL pointer to a handle on success or
841 NULL on error.
842
843 After configuring the handle, you have to call L</guestfs_launch>.
844
845 You may also want to configure error handling for the handle.  See
846 L</ERROR HANDLING> section below.
847
848 =head2 guestfs_close
849
850  void guestfs_close (guestfs_h *g);
851
852 This closes the connection handle and frees up all resources used.
853
854 =head1 ERROR HANDLING
855
856 The convention in all functions that return C<int> is that they return
857 C<-1> to indicate an error.  You can get additional information on
858 errors by calling L</guestfs_last_error> and/or by setting up an error
859 handler with L</guestfs_set_error_handler>.
860
861 The default error handler prints the information string to C<stderr>.
862
863 Out of memory errors are handled differently.  The default action is
864 to call L<abort(3)>.  If this is undesirable, then you can set a
865 handler using L</guestfs_set_out_of_memory_handler>.
866
867 =head2 guestfs_last_error
868
869  const char *guestfs_last_error (guestfs_h *g);
870
871 This returns the last error message that happened on C<g>.  If
872 there has not been an error since the handle was created, then this
873 returns C<NULL>.
874
875 The lifetime of the returned string is until the next error occurs, or
876 L</guestfs_close> is called.
877
878 The error string is not localized (ie. is always in English), because
879 this makes searching for error messages in search engines give the
880 largest number of results.
881
882 =head2 guestfs_set_error_handler
883
884  typedef void (*guestfs_error_handler_cb) (guestfs_h *g,
885                                            void *opaque,
886                                            const char *msg);
887  void guestfs_set_error_handler (guestfs_h *g,
888                                  guestfs_error_handler_cb cb,
889                                  void *opaque);
890
891 The callback C<cb> will be called if there is an error.  The
892 parameters passed to the callback are an opaque data pointer and the
893 error message string.
894
895 Note that the message string C<msg> is freed as soon as the callback
896 function returns, so if you want to stash it somewhere you must make
897 your own copy.
898
899 The default handler prints messages on C<stderr>.
900
901 If you set C<cb> to C<NULL> then I<no> handler is called.
902
903 =head2 guestfs_get_error_handler
904
905  guestfs_error_handler_cb guestfs_get_error_handler (guestfs_h *g,
906                                                      void **opaque_rtn);
907
908 Returns the current error handler callback.
909
910 =head2 guestfs_set_out_of_memory_handler
911
912  typedef void (*guestfs_abort_cb) (void);
913  int guestfs_set_out_of_memory_handler (guestfs_h *g,
914                                         guestfs_abort_cb);
915
916 The callback C<cb> will be called if there is an out of memory
917 situation.  I<Note this callback must not return>.
918
919 The default is to call L<abort(3)>.
920
921 You cannot set C<cb> to C<NULL>.  You can't ignore out of memory
922 situations.
923
924 =head2 guestfs_get_out_of_memory_handler
925
926  guestfs_abort_fn guestfs_get_out_of_memory_handler (guestfs_h *g);
927
928 This returns the current out of memory handler.
929
930 =head1 PATH
931
932 Libguestfs needs a kernel and initrd.img, which it finds by looking
933 along an internal path.
934
935 By default it looks for these in the directory C<$libdir/guestfs>
936 (eg. C</usr/local/lib/guestfs> or C</usr/lib64/guestfs>).
937
938 Use L</guestfs_set_path> or set the environment variable
939 L</LIBGUESTFS_PATH> to change the directories that libguestfs will
940 search in.  The value is a colon-separated list of paths.  The current
941 directory is I<not> searched unless the path contains an empty element
942 or C<.>.  For example C<LIBGUESTFS_PATH=:/usr/lib/guestfs> would
943 search the current directory and then C</usr/lib/guestfs>.
944
945 =head1 HIGH-LEVEL API ACTIONS
946
947 =head2 ABI GUARANTEE
948
949 We guarantee the libguestfs ABI (binary interface), for public,
950 high-level actions as outlined in this section.  Although we will
951 deprecate some actions, for example if they get replaced by newer
952 calls, we will keep the old actions forever.  This allows you the
953 developer to program in confidence against the libguestfs API.
954
955 @ACTIONS@
956
957 =head1 STRUCTURES
958
959 @STRUCTS@
960
961 =head1 AVAILABILITY
962
963 =head2 GROUPS OF FUNCTIONALITY IN THE APPLIANCE
964
965 Using L</guestfs_available> you can test availability of
966 the following groups of functions.  This test queries the
967 appliance to see if the appliance you are currently using
968 supports the functionality.
969
970 @AVAILABILITY@
971
972 =head2 GUESTFISH supported COMMAND
973
974 In L<guestfish(3)> there is a handy interactive command
975 C<supported> which prints out the available groups and
976 whether they are supported by this build of libguestfs.
977 Note however that you have to do C<run> first.
978
979 =head2 SINGLE CALLS AT COMPILE TIME
980
981 Since version 1.5.8, C<E<lt>guestfs.hE<gt>> defines symbols
982 for each C API function, such as:
983
984  #define LIBGUESTFS_HAVE_DD 1
985
986 if L</guestfs_dd> is available.
987
988 Before version 1.5.8, if you needed to test whether a single
989 libguestfs function is available at compile time, we recommended using
990 build tools such as autoconf or cmake.  For example in autotools you
991 could use:
992
993  AC_CHECK_LIB([guestfs],[guestfs_create])
994  AC_CHECK_FUNCS([guestfs_dd])
995
996 which would result in C<HAVE_GUESTFS_DD> being either defined
997 or not defined in your program.
998
999 =head2 SINGLE CALLS AT RUN TIME
1000
1001 Testing at compile time doesn't guarantee that a function really
1002 exists in the library.  The reason is that you might be dynamically
1003 linked against a previous I<libguestfs.so> (dynamic library)
1004 which doesn't have the call.  This situation unfortunately results
1005 in a segmentation fault, which is a shortcoming of the C dynamic
1006 linking system itself.
1007
1008 You can use L<dlopen(3)> to test if a function is available
1009 at run time, as in this example program (note that you still
1010 need the compile time check as well):
1011
1012  #include <stdio.h>
1013  #include <stdlib.h>
1014  #include <unistd.h>
1015  #include <dlfcn.h>
1016  #include <guestfs.h>
1017  
1018  main ()
1019  {
1020  #ifdef LIBGUESTFS_HAVE_DD
1021    void *dl;
1022    int has_function;
1023  
1024    /* Test if the function guestfs_dd is really available. */
1025    dl = dlopen (NULL, RTLD_LAZY);
1026    if (!dl) {
1027      fprintf (stderr, "dlopen: %s\n", dlerror ());
1028      exit (EXIT_FAILURE);
1029    }
1030    has_function = dlsym (dl, "guestfs_dd") != NULL;
1031    dlclose (dl);
1032  
1033    if (!has_function)
1034      printf ("this libguestfs.so does NOT have guestfs_dd function\n");
1035    else {
1036      printf ("this libguestfs.so has guestfs_dd function\n");
1037      /* Now it's safe to call
1038      guestfs_dd (g, "foo", "bar");
1039      */
1040    }
1041  #else
1042    printf ("guestfs_dd function was not found at compile time\n");
1043  #endif
1044   }
1045
1046 You may think the above is an awful lot of hassle, and it is.
1047 There are other ways outside of the C linking system to ensure
1048 that this kind of incompatibility never arises, such as using
1049 package versioning:
1050
1051  Requires: libguestfs >= 1.0.80
1052
1053 =begin html
1054
1055 <!-- old anchor for the next section -->
1056 <a name="state_machine_and_low_level_event_api"/>
1057
1058 =end html
1059
1060 =head1 ARCHITECTURE
1061
1062 Internally, libguestfs is implemented by running an appliance (a
1063 special type of small virtual machine) using L<qemu(1)>.  Qemu runs as
1064 a child process of the main program.
1065
1066   ___________________
1067  /                   \
1068  | main program      |
1069  |                   |
1070  |                   |           child process / appliance
1071  |                   |           __________________________
1072  |                   |          / qemu                     \
1073  +-------------------+   RPC    |      +-----------------+ |
1074  | libguestfs     <--------------------> guestfsd        | |
1075  |                   |          |      +-----------------+ |
1076  \___________________/          |      | Linux kernel    | |
1077                                 |      +--^--------------+ |
1078                                 \_________|________________/
1079                                           |
1080                                    _______v______
1081                                   /              \
1082                                   | Device or    |
1083                                   | disk image   |
1084                                   \______________/
1085
1086 The library, linked to the main program, creates the child process and
1087 hence the appliance in the L</guestfs_launch> function.
1088
1089 Inside the appliance is a Linux kernel and a complete stack of
1090 userspace tools (such as LVM and ext2 programs) and a small
1091 controlling daemon called L</guestfsd>.  The library talks to
1092 L</guestfsd> using remote procedure calls (RPC).  There is a mostly
1093 one-to-one correspondence between libguestfs API calls and RPC calls
1094 to the daemon.  Lastly the disk image(s) are attached to the qemu
1095 process which translates device access by the appliance's Linux kernel
1096 into accesses to the image.
1097
1098 A common misunderstanding is that the appliance "is" the virtual
1099 machine.  Although the disk image you are attached to might also be
1100 used by some virtual machine, libguestfs doesn't know or care about
1101 this.  (But you will care if both libguestfs's qemu process and your
1102 virtual machine are trying to update the disk image at the same time,
1103 since these usually results in massive disk corruption).
1104
1105 =head1 STATE MACHINE
1106
1107 libguestfs uses a state machine to model the child process:
1108
1109                          |
1110                     guestfs_create
1111                          |
1112                          |
1113                      ____V_____
1114                     /          \
1115                     |  CONFIG  |
1116                     \__________/
1117                      ^ ^   ^  \
1118                     /  |    \  \ guestfs_launch
1119                    /   |    _\__V______
1120                   /    |   /           \
1121                  /     |   | LAUNCHING |
1122                 /      |   \___________/
1123                /       |       /
1124               /        |  guestfs_launch
1125              /         |     /
1126     ______  /        __|____V
1127    /      \ ------> /        \
1128    | BUSY |         | READY  |
1129    \______/ <------ \________/
1130
1131 The normal transitions are (1) CONFIG (when the handle is created, but
1132 there is no child process), (2) LAUNCHING (when the child process is
1133 booting up), (3) alternating between READY and BUSY as commands are
1134 issued to, and carried out by, the child process.
1135
1136 The guest may be killed by L</guestfs_kill_subprocess>, or may die
1137 asynchronously at any time (eg. due to some internal error), and that
1138 causes the state to transition back to CONFIG.
1139
1140 Configuration commands for qemu such as L</guestfs_add_drive> can only
1141 be issued when in the CONFIG state.
1142
1143 The API offers one call that goes from CONFIG through LAUNCHING to
1144 READY.  L</guestfs_launch> blocks until the child process is READY to
1145 accept commands (or until some failure or timeout).
1146 L</guestfs_launch> internally moves the state from CONFIG to LAUNCHING
1147 while it is running.
1148
1149 API actions such as L</guestfs_mount> can only be issued when in the
1150 READY state.  These API calls block waiting for the command to be
1151 carried out (ie. the state to transition to BUSY and then back to
1152 READY).  There are no non-blocking versions, and no way to issue more
1153 than one command per handle at the same time.
1154
1155 Finally, the child process sends asynchronous messages back to the
1156 main program, such as kernel log messages.  You can register a
1157 callback to receive these messages.
1158
1159 =head2 SETTING CALLBACKS TO HANDLE EVENTS
1160
1161 The child process generates events in some situations.  Current events
1162 include: receiving a log message, the child process exits.
1163
1164 Use the C<guestfs_set_*_callback> functions to set a callback for
1165 different types of events.
1166
1167 Only I<one callback of each type> can be registered for each handle.
1168 Calling C<guestfs_set_*_callback> again overwrites the previous
1169 callback of that type.  Cancel all callbacks of this type by calling
1170 this function with C<cb> set to C<NULL>.
1171
1172 =head2 guestfs_set_log_message_callback
1173
1174  typedef void (*guestfs_log_message_cb) (guestfs_h *g, void *opaque,
1175                                          char *buf, int len);
1176  void guestfs_set_log_message_callback (guestfs_h *g,
1177                                         guestfs_log_message_cb cb,
1178                                         void *opaque);
1179
1180 The callback function C<cb> will be called whenever qemu or the guest
1181 writes anything to the console.
1182
1183 Use this function to capture kernel messages and similar.
1184
1185 Normally there is no log message handler, and log messages are just
1186 discarded.
1187
1188 =head2 guestfs_set_subprocess_quit_callback
1189
1190  typedef void (*guestfs_subprocess_quit_cb) (guestfs_h *g, void *opaque);
1191  void guestfs_set_subprocess_quit_callback (guestfs_h *g,
1192                                             guestfs_subprocess_quit_cb cb,
1193                                             void *opaque);
1194
1195 The callback function C<cb> will be called when the child process
1196 quits, either asynchronously or if killed by
1197 L</guestfs_kill_subprocess>.  (This corresponds to a transition from
1198 any state to the CONFIG state).
1199
1200 =head2 guestfs_set_launch_done_callback
1201
1202  typedef void (*guestfs_launch_done_cb) (guestfs_h *g, void *opaque);
1203  void guestfs_set_launch_done_callback (guestfs_h *g,
1204                                         guestfs_launch_done_cb cb,
1205                                         void *opaque);
1206
1207 The callback function C<cb> will be called when the child process
1208 becomes ready first time after it has been launched.  (This
1209 corresponds to a transition from LAUNCHING to the READY state).
1210
1211 =head2 guestfs_set_close_callback
1212
1213  typedef void (*guestfs_close_cb) (guestfs_h *g, void *opaque);
1214  void guestfs_set_close_callback (guestfs_h *g,
1215                                   guestfs_close_cb cb,
1216                                   void *opaque);
1217
1218 The callback function C<cb> will be called while the handle
1219 is being closed (synchronously from L</guestfs_close>).
1220
1221 Note that libguestfs installs an L<atexit(3)> handler to try to
1222 clean up handles that are open when the program exits.  This
1223 means that this callback might be called indirectly from
1224 L<exit(3)>, which can cause unexpected problems in higher-level
1225 languages (eg. if your HLL interpreter has already been cleaned
1226 up by the time this is called, and if your callback then jumps
1227 into some HLL function).
1228
1229 =head2 guestfs_set_progress_callback
1230
1231  typedef void (*guestfs_progress_cb) (guestfs_h *g, void *opaque,
1232                                       int proc_nr, int serial,
1233                                       uint64_t position, uint64_t total);
1234  void guestfs_set_progress_callback (guestfs_h *g,
1235                                      guestfs_progress_cb cb,
1236                                      void *opaque);
1237
1238 Some long-running operations can generate progress messages.  If
1239 this callback is registered, then it will be called each time a
1240 progress message is generated (usually two seconds after the
1241 operation started, and three times per second thereafter until
1242 it completes, although the frequency may change in future versions).
1243
1244 The callback receives two numbers: C<position> and C<total>.
1245 The units of C<total> are not defined, although for some
1246 operations C<total> may relate in some way to the amount of
1247 data to be transferred (eg. in bytes or megabytes), and
1248 C<position> may be the portion which has been transferred.
1249
1250 The only defined and stable parts of the API are:
1251
1252 =over 4
1253
1254 =item *
1255
1256 The callback can display to the user some type of progress bar or
1257 indicator which shows the ratio of C<position>:C<total>.
1258
1259 =item *
1260
1261 0 E<lt>= C<position> E<lt>= C<total>
1262
1263 =item *
1264
1265 If any progress notification is sent during a call, then a final
1266 progress notification is always sent when C<position> = C<total>.
1267
1268 This is to simplify caller code, so callers can easily set the
1269 progress indicator to "100%" at the end of the operation, without
1270 requiring special code to detect this case.
1271
1272 =back
1273
1274 The callback also receives the procedure number and serial number of
1275 the call.  These are only useful for debugging protocol issues, and
1276 the callback can normally ignore them.  The callback may want to
1277 print these numbers in error messages or debugging messages.
1278
1279 =head1 PRIVATE DATA AREA
1280
1281 You can attach named pieces of private data to the libguestfs handle,
1282 and fetch them by name for the lifetime of the handle.  This is called
1283 the private data area and is only available from the C API.
1284
1285 To attach a named piece of data, use the following call:
1286
1287  void guestfs_set_private (guestfs_h *g, const char *key, void *data);
1288
1289 C<key> is the name to associate with this data, and C<data> is an
1290 arbitrary pointer (which can be C<NULL>).  Any previous item with the
1291 same name is overwritten.
1292
1293 You can use any C<key> you want, but names beginning with an
1294 underscore character are reserved for internal libguestfs purposes
1295 (for implementing language bindings).  It is recommended to prefix the
1296 name with some unique string to avoid collisions with other users.
1297
1298 To retrieve the pointer, use:
1299
1300  void *guestfs_get_private (guestfs_h *g, const char *key);
1301
1302 This function returns C<NULL> if either no data is found associated
1303 with C<key>, or if the user previously set the C<key>'s C<data>
1304 pointer to C<NULL>.
1305
1306 Libguestfs does not try to look at or interpret the C<data> pointer in
1307 any way.  As far as libguestfs is concerned, it need not be a valid
1308 pointer at all.  In particular, libguestfs does I<not> try to free the
1309 data when the handle is closed.  If the data must be freed, then the
1310 caller must either free it before calling L</guestfs_close> or must
1311 set up a close callback to do it (see L</guestfs_set_close_callback>,
1312 and note that only one callback can be registered for a handle).
1313
1314 The private data area is implemented using a hash table, and should be
1315 reasonably efficient for moderate numbers of keys.
1316
1317 =head1 BLOCK DEVICE NAMING
1318
1319 In the kernel there is now quite a profusion of schemata for naming
1320 block devices (in this context, by I<block device> I mean a physical
1321 or virtual hard drive).  The original Linux IDE driver used names
1322 starting with C</dev/hd*>.  SCSI devices have historically used a
1323 different naming scheme, C</dev/sd*>.  When the Linux kernel I<libata>
1324 driver became a popular replacement for the old IDE driver
1325 (particularly for SATA devices) those devices also used the
1326 C</dev/sd*> scheme.  Additionally we now have virtual machines with
1327 paravirtualized drivers.  This has created several different naming
1328 systems, such as C</dev/vd*> for virtio disks and C</dev/xvd*> for Xen
1329 PV disks.
1330
1331 As discussed above, libguestfs uses a qemu appliance running an
1332 embedded Linux kernel to access block devices.  We can run a variety
1333 of appliances based on a variety of Linux kernels.
1334
1335 This causes a problem for libguestfs because many API calls use device
1336 or partition names.  Working scripts and the recipe (example) scripts
1337 that we make available over the internet could fail if the naming
1338 scheme changes.
1339
1340 Therefore libguestfs defines C</dev/sd*> as the I<standard naming
1341 scheme>.  Internally C</dev/sd*> names are translated, if necessary,
1342 to other names as required.  For example, under RHEL 5 which uses the
1343 C</dev/hd*> scheme, any device parameter C</dev/sda2> is translated to
1344 C</dev/hda2> transparently.
1345
1346 Note that this I<only> applies to parameters.  The
1347 L</guestfs_list_devices>, L</guestfs_list_partitions> and similar calls
1348 return the true names of the devices and partitions as known to the
1349 appliance.
1350
1351 =head2 ALGORITHM FOR BLOCK DEVICE NAME TRANSLATION
1352
1353 Usually this translation is transparent.  However in some (very rare)
1354 cases you may need to know the exact algorithm.  Such cases include
1355 where you use L</guestfs_config> to add a mixture of virtio and IDE
1356 devices to the qemu-based appliance, so have a mixture of C</dev/sd*>
1357 and C</dev/vd*> devices.
1358
1359 The algorithm is applied only to I<parameters> which are known to be
1360 either device or partition names.  Return values from functions such
1361 as L</guestfs_list_devices> are never changed.
1362
1363 =over 4
1364
1365 =item *
1366
1367 Is the string a parameter which is a device or partition name?
1368
1369 =item *
1370
1371 Does the string begin with C</dev/sd>?
1372
1373 =item *
1374
1375 Does the named device exist?  If so, we use that device.
1376 However if I<not> then we continue with this algorithm.
1377
1378 =item *
1379
1380 Replace initial C</dev/sd> string with C</dev/hd>.
1381
1382 For example, change C</dev/sda2> to C</dev/hda2>.
1383
1384 If that named device exists, use it.  If not, continue.
1385
1386 =item *
1387
1388 Replace initial C</dev/sd> string with C</dev/vd>.
1389
1390 If that named device exists, use it.  If not, return an error.
1391
1392 =back
1393
1394 =head2 PORTABILITY CONCERNS
1395
1396 Although the standard naming scheme and automatic translation is
1397 useful for simple programs and guestfish scripts, for larger programs
1398 it is best not to rely on this mechanism.
1399
1400 Where possible for maximum future portability programs using
1401 libguestfs should use these future-proof techniques:
1402
1403 =over 4
1404
1405 =item *
1406
1407 Use L</guestfs_list_devices> or L</guestfs_list_partitions> to list
1408 actual device names, and then use those names directly.
1409
1410 Since those device names exist by definition, they will never be
1411 translated.
1412
1413 =item *
1414
1415 Use higher level ways to identify filesystems, such as LVM names,
1416 UUIDs and filesystem labels.
1417
1418 =back
1419
1420 =head1 INTERNALS
1421
1422 =head2 COMMUNICATION PROTOCOL
1423
1424 Don't rely on using this protocol directly.  This section documents
1425 how it currently works, but it may change at any time.
1426
1427 The protocol used to talk between the library and the daemon running
1428 inside the qemu virtual machine is a simple RPC mechanism built on top
1429 of XDR (RFC 1014, RFC 1832, RFC 4506).
1430
1431 The detailed format of structures is in C<src/guestfs_protocol.x>
1432 (note: this file is automatically generated).
1433
1434 There are two broad cases, ordinary functions that don't have any
1435 C<FileIn> and C<FileOut> parameters, which are handled with very
1436 simple request/reply messages.  Then there are functions that have any
1437 C<FileIn> or C<FileOut> parameters, which use the same request and
1438 reply messages, but they may also be followed by files sent using a
1439 chunked encoding.
1440
1441 =head3 ORDINARY FUNCTIONS (NO FILEIN/FILEOUT PARAMS)
1442
1443 For ordinary functions, the request message is:
1444
1445  total length (header + arguments,
1446       but not including the length word itself)
1447  struct guestfs_message_header (encoded as XDR)
1448  struct guestfs_<foo>_args (encoded as XDR)
1449
1450 The total length field allows the daemon to allocate a fixed size
1451 buffer into which it slurps the rest of the message.  As a result, the
1452 total length is limited to C<GUESTFS_MESSAGE_MAX> bytes (currently
1453 4MB), which means the effective size of any request is limited to
1454 somewhere under this size.
1455
1456 Note also that many functions don't take any arguments, in which case
1457 the C<guestfs_I<foo>_args> is completely omitted.
1458
1459 The header contains the procedure number (C<guestfs_proc>) which is
1460 how the receiver knows what type of args structure to expect, or none
1461 at all.
1462
1463 The reply message for ordinary functions is:
1464
1465  total length (header + ret,
1466       but not including the length word itself)
1467  struct guestfs_message_header (encoded as XDR)
1468  struct guestfs_<foo>_ret (encoded as XDR)
1469
1470 As above the C<guestfs_I<foo>_ret> structure may be completely omitted
1471 for functions that return no formal return values.
1472
1473 As above the total length of the reply is limited to
1474 C<GUESTFS_MESSAGE_MAX>.
1475
1476 In the case of an error, a flag is set in the header, and the reply
1477 message is slightly changed:
1478
1479  total length (header + error,
1480       but not including the length word itself)
1481  struct guestfs_message_header (encoded as XDR)
1482  struct guestfs_message_error (encoded as XDR)
1483
1484 The C<guestfs_message_error> structure contains the error message as a
1485 string.
1486
1487 =head3 FUNCTIONS THAT HAVE FILEIN PARAMETERS
1488
1489 A C<FileIn> parameter indicates that we transfer a file I<into> the
1490 guest.  The normal request message is sent (see above).  However this
1491 is followed by a sequence of file chunks.
1492
1493  total length (header + arguments,
1494       but not including the length word itself,
1495       and not including the chunks)
1496  struct guestfs_message_header (encoded as XDR)
1497  struct guestfs_<foo>_args (encoded as XDR)
1498  sequence of chunks for FileIn param #0
1499  sequence of chunks for FileIn param #1 etc.
1500
1501 The "sequence of chunks" is:
1502
1503  length of chunk (not including length word itself)
1504  struct guestfs_chunk (encoded as XDR)
1505  length of chunk
1506  struct guestfs_chunk (encoded as XDR)
1507    ...
1508  length of chunk
1509  struct guestfs_chunk (with data.data_len == 0)
1510
1511 The final chunk has the C<data_len> field set to zero.  Additionally a
1512 flag is set in the final chunk to indicate either successful
1513 completion or early cancellation.
1514
1515 At time of writing there are no functions that have more than one
1516 FileIn parameter.  However this is (theoretically) supported, by
1517 sending the sequence of chunks for each FileIn parameter one after
1518 another (from left to right).
1519
1520 Both the library (sender) I<and> the daemon (receiver) may cancel the
1521 transfer.  The library does this by sending a chunk with a special
1522 flag set to indicate cancellation.  When the daemon sees this, it
1523 cancels the whole RPC, does I<not> send any reply, and goes back to
1524 reading the next request.
1525
1526 The daemon may also cancel.  It does this by writing a special word
1527 C<GUESTFS_CANCEL_FLAG> to the socket.  The library listens for this
1528 during the transfer, and if it gets it, it will cancel the transfer
1529 (it sends a cancel chunk).  The special word is chosen so that even if
1530 cancellation happens right at the end of the transfer (after the
1531 library has finished writing and has started listening for the reply),
1532 the "spurious" cancel flag will not be confused with the reply
1533 message.
1534
1535 This protocol allows the transfer of arbitrary sized files (no 32 bit
1536 limit), and also files where the size is not known in advance
1537 (eg. from pipes or sockets).  However the chunks are rather small
1538 (C<GUESTFS_MAX_CHUNK_SIZE>), so that neither the library nor the
1539 daemon need to keep much in memory.
1540
1541 =head3 FUNCTIONS THAT HAVE FILEOUT PARAMETERS
1542
1543 The protocol for FileOut parameters is exactly the same as for FileIn
1544 parameters, but with the roles of daemon and library reversed.
1545
1546  total length (header + ret,
1547       but not including the length word itself,
1548       and not including the chunks)
1549  struct guestfs_message_header (encoded as XDR)
1550  struct guestfs_<foo>_ret (encoded as XDR)
1551  sequence of chunks for FileOut param #0
1552  sequence of chunks for FileOut param #1 etc.
1553
1554 =head3 INITIAL MESSAGE
1555
1556 When the daemon launches it sends an initial word
1557 (C<GUESTFS_LAUNCH_FLAG>) which indicates that the guest and daemon is
1558 alive.  This is what L</guestfs_launch> waits for.
1559
1560 =head3 PROGRESS NOTIFICATION MESSAGES
1561
1562 The daemon may send progress notification messages at any time.  These
1563 are distinguished by the normal length word being replaced by
1564 C<GUESTFS_PROGRESS_FLAG>, followed by a fixed size progress message.
1565
1566 The library turns them into progress callbacks (see
1567 C<guestfs_set_progress_callback>) if there is a callback registered,
1568 or discards them if not.
1569
1570 The daemon self-limits the frequency of progress messages it sends
1571 (see C<daemon/proto.c:notify_progress>).  Not all calls generate
1572 progress messages.
1573
1574 =head1 MULTIPLE HANDLES AND MULTIPLE THREADS
1575
1576 All high-level libguestfs actions are synchronous.  If you want
1577 to use libguestfs asynchronously then you must create a thread.
1578
1579 Only use the handle from a single thread.  Either use the handle
1580 exclusively from one thread, or provide your own mutex so that two
1581 threads cannot issue calls on the same handle at the same time.
1582
1583 See the graphical program guestfs-browser for one possible
1584 architecture for multithreaded programs using libvirt and libguestfs.
1585
1586 =head1 QEMU WRAPPERS
1587
1588 If you want to compile your own qemu, run qemu from a non-standard
1589 location, or pass extra arguments to qemu, then you can write a
1590 shell-script wrapper around qemu.
1591
1592 There is one important rule to remember: you I<must C<exec qemu>> as
1593 the last command in the shell script (so that qemu replaces the shell
1594 and becomes the direct child of the libguestfs-using program).  If you
1595 don't do this, then the qemu process won't be cleaned up correctly.
1596
1597 Here is an example of a wrapper, where I have built my own copy of
1598 qemu from source:
1599
1600  #!/bin/sh -
1601  qemudir=/home/rjones/d/qemu
1602  exec $qemudir/x86_64-softmmu/qemu-system-x86_64 -L $qemudir/pc-bios "$@"
1603
1604 Save this script as C</tmp/qemu.wrapper> (or wherever), C<chmod +x>,
1605 and then use it by setting the LIBGUESTFS_QEMU environment variable.
1606 For example:
1607
1608  LIBGUESTFS_QEMU=/tmp/qemu.wrapper guestfish
1609
1610 Note that libguestfs also calls qemu with the -help and -version
1611 options in order to determine features.
1612
1613 =head1 LIBGUESTFS VERSION NUMBERS
1614
1615 Since April 2010, libguestfs has started to make separate development
1616 and stable releases, along with corresponding branches in our git
1617 repository.  These separate releases can be identified by version
1618 number:
1619
1620                  even numbers for stable: 1.2.x, 1.4.x, ...
1621        .-------- odd numbers for development: 1.3.x, 1.5.x, ...
1622        |
1623        v
1624  1  .  3  .  5
1625  ^           ^
1626  |           |
1627  |           `-------- sub-version
1628  |
1629  `------ always '1' because we don't change the ABI
1630
1631 Thus "1.3.5" is the 5th update to the development branch "1.3".
1632
1633 As time passes we cherry pick fixes from the development branch and
1634 backport those into the stable branch, the effect being that the
1635 stable branch should get more stable and less buggy over time.  So the
1636 stable releases are ideal for people who don't need new features but
1637 would just like the software to work.
1638
1639 Our criteria for backporting changes are:
1640
1641 =over 4
1642
1643 =item *
1644
1645 Documentation changes which don't affect any code are
1646 backported unless the documentation refers to a future feature
1647 which is not in stable.
1648
1649 =item *
1650
1651 Bug fixes which are not controversial, fix obvious problems, and
1652 have been well tested are backported.
1653
1654 =item *
1655
1656 Simple rearrangements of code which shouldn't affect how it works get
1657 backported.  This is so that the code in the two branches doesn't get
1658 too far out of step, allowing us to backport future fixes more easily.
1659
1660 =item *
1661
1662 We I<don't> backport new features, new APIs, new tools etc, except in
1663 one exceptional case: the new feature is required in order to
1664 implement an important bug fix.
1665
1666 =back
1667
1668 A new stable branch starts when we think the new features in
1669 development are substantial and compelling enough over the current
1670 stable branch to warrant it.  When that happens we create new stable
1671 and development versions 1.N.0 and 1.(N+1).0 [N is even].  The new
1672 dot-oh release won't necessarily be so stable at this point, but by
1673 backporting fixes from development, that branch will stabilize over
1674 time.
1675
1676 =head1 ENVIRONMENT VARIABLES
1677
1678 =over 4
1679
1680 =item LIBGUESTFS_APPEND
1681
1682 Pass additional options to the guest kernel.
1683
1684 =item LIBGUESTFS_DEBUG
1685
1686 Set C<LIBGUESTFS_DEBUG=1> to enable verbose messages.  This
1687 has the same effect as calling C<guestfs_set_verbose (g, 1)>.
1688
1689 =item LIBGUESTFS_MEMSIZE
1690
1691 Set the memory allocated to the qemu process, in megabytes.  For
1692 example:
1693
1694  LIBGUESTFS_MEMSIZE=700
1695
1696 =item LIBGUESTFS_PATH
1697
1698 Set the path that libguestfs uses to search for kernel and initrd.img.
1699 See the discussion of paths in section PATH above.
1700
1701 =item LIBGUESTFS_QEMU
1702
1703 Set the default qemu binary that libguestfs uses.  If not set, then
1704 the qemu which was found at compile time by the configure script is
1705 used.
1706
1707 See also L</QEMU WRAPPERS> above.
1708
1709 =item LIBGUESTFS_TRACE
1710
1711 Set C<LIBGUESTFS_TRACE=1> to enable command traces.  This
1712 has the same effect as calling C<guestfs_set_trace (g, 1)>.
1713
1714 =item TMPDIR
1715
1716 Location of temporary directory, defaults to C</tmp>.
1717
1718 If libguestfs was compiled to use the supermin appliance then the
1719 real appliance is cached in this directory, shared between all
1720 handles belonging to the same EUID.  You can use C<$TMPDIR> to
1721 configure another directory to use in case C</tmp> is not large
1722 enough.
1723
1724 =back
1725
1726 =head1 SEE ALSO
1727
1728 L<guestfish(1)>,
1729 L<guestmount(1)>,
1730 L<virt-cat(1)>,
1731 L<virt-df(1)>,
1732 L<virt-edit(1)>,
1733 L<virt-inspector(1)>,
1734 L<virt-list-filesystems(1)>,
1735 L<virt-list-partitions(1)>,
1736 L<virt-ls(1)>,
1737 L<virt-make-fs(1)>,
1738 L<virt-rescue(1)>,
1739 L<virt-tar(1)>,
1740 L<virt-win-reg(1)>,
1741 L<qemu(1)>,
1742 L<febootstrap(1)>,
1743 L<hivex(3)>,
1744 L<http://libguestfs.org/>.
1745
1746 Tools with a similar purpose:
1747 L<fdisk(8)>,
1748 L<parted(8)>,
1749 L<kpartx(8)>,
1750 L<lvm(8)>,
1751 L<disktype(1)>.
1752
1753 =head1 BUGS
1754
1755 To get a list of bugs against libguestfs use this link:
1756
1757 L<https://bugzilla.redhat.com/buglist.cgi?component=libguestfs&product=Virtualization+Tools>
1758
1759 To report a new bug against libguestfs use this link:
1760
1761 L<https://bugzilla.redhat.com/enter_bug.cgi?component=libguestfs&product=Virtualization+Tools>
1762
1763 When reporting a bug, please check:
1764
1765 =over 4
1766
1767 =item *
1768
1769 That the bug hasn't been reported already.
1770
1771 =item *
1772
1773 That you are testing a recent version.
1774
1775 =item *
1776
1777 Describe the bug accurately, and give a way to reproduce it.
1778
1779 =item *
1780
1781 Run libguestfs-test-tool and paste the B<complete, unedited>
1782 output into the bug report.
1783
1784 =back
1785
1786 =head1 AUTHORS
1787
1788 Richard W.M. Jones (C<rjones at redhat dot com>)
1789
1790 =head1 COPYRIGHT
1791
1792 Copyright (C) 2009-2010 Red Hat Inc.
1793 L<http://libguestfs.org/>
1794
1795 This library is free software; you can redistribute it and/or
1796 modify it under the terms of the GNU Lesser General Public
1797 License as published by the Free Software Foundation; either
1798 version 2 of the License, or (at your option) any later version.
1799
1800 This library is distributed in the hope that it will be useful,
1801 but WITHOUT ANY WARRANTY; without even the implied warranty of
1802 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
1803 Lesser General Public License for more details.
1804
1805 You should have received a copy of the GNU Lesser General Public
1806 License along with this library; if not, write to the Free Software
1807 Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA