Change to using ext2-based, cached supermin appliance.
[libguestfs.git] / README
1 Libguestfs is a library for accessing and modifying guest disk images.
2 Amongst the things this is good for: making batch configuration
3 changes to guests, getting disk used/free statistics (see also:
4 virt-df), migrating between virtualization systems (see also:
5 virt-p2v), performing partial backups, performing partial guest
6 clones, cloning guests and changing registry/UUID/hostname info, and
7 much else besides.
8
9 Libguestfs uses Linux kernel and qemu code, and can access any type of
10 guest filesystem that Linux and qemu can, including but not limited
11 to: ext2/3/4, btrfs, FAT and NTFS, LVM, many different disk partition
12 schemes, qcow, qcow2, vmdk.
13
14 Libguestfs provides ways to enumerate guest storage (eg. partitions,
15 LVs, what filesystem is in each LV, etc.).  It can also run commands
16 in the context of the guest.  Also you can access filesystems over
17 FUSE.
18
19 Libguestfs is a library that can be linked with C and C++ management
20 programs (or management programs written in OCaml, Perl, Python, Ruby,
21 Java, Haskell or C#).  You can also use it from shell scripts or the
22 command line.
23
24 Libguestfs was written by Richard W.M. Jones (rjones@redhat.com) and
25 hacked on by lots of other people.  For discussion, development,
26 patches, etc. please use the mailing list:
27
28   http://www.redhat.com/mailman/listinfo/libguestfs
29
30
31 Home page
32 ----------------------------------------------------------------------
33
34   http://libguestfs.org/
35
36
37 Requirements
38 ----------------------------------------------------------------------
39
40 - recent QEMU >= 0.10 with vmchannel support
41   http://lists.gnu.org/archive/html/qemu-devel/2009-02/msg01042.html
42
43 - febootstrap >= 2.8
44
45 - fakeroot
46
47 - fakechroot >= 2.9
48
49 - XDR, rpcgen (on Linux these are provided by glibc)
50
51 - pcre (Perl Compatible Regular Expressions C library)
52
53 - libmagic (the library that corresponds to the 'file' command)
54
55 - libvirt
56
57 - libxml2
58
59 - squashfs-tools (mksquashfs only)
60
61 - genisoimage / mkisofs
62
63 - (Optional) hivex >= 1.2.1 to build Windows Registry support
64
65 - (Optional) FUSE to build the FUSE module
66
67 - (Optional) Augeas (http://augeas.net/)
68
69 - perldoc (pod2man, pod2text) to generate the manual pages and
70   other documentation.
71
72 - (Optional) Readline to have nicer command-line editing in guestfish.
73
74 - (Optional) xmllint to validate virt-inspector RELAX NG schema
75
76 - (Optional) OCaml + OCaml library xml-light if you want to rebuild
77   the generated files, and also to build the OCaml bindings
78   (http://tech.motion-twin.com/xmllight.html)
79
80 - (Optional) local Fedora mirror
81
82 - (Optional) Perl if you want to build the perl bindings
83
84 - (Optional) Python if you want to build the python bindings
85
86 - (Optional) Ruby, rake if you want to build the ruby bindings
87
88 - (Optional) Java, JNI, jpackage-utils if you want to build the java
89 bindings
90
91 - (Optional) GHC if you want to build the Haskell bindings
92
93 - (Optional) Perl XML::XPath, Sys::Virt modules (for libvirt support
94 in virt-inspector).
95
96 - (Optional, but highly recommended) perl-libintl for translating perl code.
97
98 Running ./configure will check you have all the requirements installed
99 on your machine.
100
101
102 Building
103 ----------------------------------------------------------------------
104
105 Then make the daemon, library and root filesystem:
106
107   ./configure [--with-mirror=URI]
108   make
109
110 Use the optional --with-mirror parameter to specify the URI of a local
111 Fedora mirror.  See the discussion of the MIRROR parameter in the
112 febootstrap(8) manpage.
113
114 Finally run the tests:
115
116   make check
117
118 If everything works, you can install the library and tools by running
119 this command as root:
120
121   make install
122
123
124 Fedora
125 ----------------------------------------------------------------------
126
127 We provide packages for Fedora >= 11 in Fedora.  Use those, or build
128 from our source RPMs - it's far simpler that way.
129
130 You can compile libguestfs on Fedora 10 but you cannot use it with the
131 version of qemu in Fedora 10.  You need to compile your own qemu, see
132 section 'qemu' below.
133
134
135 RHEL / EPEL / CentOS etc
136 ----------------------------------------------------------------------
137
138 We provide packages in EPEL which cover RHEL/CentOS >= 5.  Use those
139 or build from our source RPMs.
140
141
142 Debian
143 ----------------------------------------------------------------------
144
145 libguestfs is now built as a package in Debian by Guido Gunther and
146 the other Debian libvirt maintainers.  See:
147
148 http://wiki.debian.org/Teams/DebianLibvirtTeam#Packages
149
150 You can build for Debian in two different ways, either building a
151 Fedora-based appliance using febootstrap, yum, rpm, fakeroot,
152 fakechroot (all packaged in Debian).  However the recommended way is
153 to build a Debian-based appliance using debootstrap and debirf.
154
155 Both ways are supported by the configure script.
156
157
158 qemu
159 ----------------------------------------------------------------------
160
161 By far the most common problem is with broken or incompatible
162 qemu releases.
163
164 Different versions of qemu have problems booting the appliance for
165 different reasons.  This varies between versions of qemu, and Linux
166 distributions which add their own patches.
167
168 If you find a problem, you could try using your own qemu built from
169 source (qemu is very easy to build from source), with a 'qemu
170 wrapper'.  Qemu wrappers are described in the guestfs(3) manpage.
171
172
173 Note on using KVM
174 ----------------------------------------------------------------------
175
176 By default the configure script will look for qemu-kvm (KVM support).
177 You will need a reasonably recent processor for this to work.  KVM is
178 much faster than using plain Qemu.
179
180 You may also need to enable KVM support for non-root users, by following
181 these instructions:
182
183   http://www.linux-kvm.org/page/FAQ#How_can_I_use_kvm_with_a_non-privileged_user.3F
184
185 On some systems, this will work too:
186
187   chmod o+rw /dev/kvm
188
189 On some systems, the chmod will not survive a reboot, and you will
190 need to make edits to the udev configuration.
191
192
193 vmchannel
194 ----------------------------------------------------------------------
195
196 Previous versions of libguestfs required something called "vmchannel".
197 Vmchannel is a special device given to virtual machines which allows
198 them to communicate in some way with the host, often (but not always)
199 without using a traditional network device.  In reality, there is no
200 one thing called "vmchannel".  This idea has been reimplemented
201 several times under the name vmchannel, and other hypervisors have
202 their own incompatible implementation(s) too.
203
204 In libguestfs <= 1.0.71, we required a specific vmchannel which is
205 properly known as "guestfwd" and has been upstream in qemu since here:
206
207   http://lists.gnu.org/archive/html/qemu-devel/2009-02/msg01042.html
208
209 In libguestfs >= 1.0.71 we don't require any vmchannel implementation,
210 as long as qemu has been compiled with support for SLIRP (user mode
211 networking, or "-net user"), which is almost always the case.
212
213 However we still offer the ability to use vmchannel, and in future we
214 may add support for other types of qemu, which is useful in a few
215 cases, specifically where qemu packagers decide to compile out support
216 for SLIRP (qemu packagers: please don't do this).
217
218
219 Supermin appliance
220 ----------------------------------------------------------------------
221
222 If you configure with --enable-supermin then we will build a supermin
223 appliance (supermin = super-minimized).  This is a very specialized
224 appliance which is built on-the-fly at runtime (specifically, when you
225 call guestfs_launch).
226
227 The normal appliance is a self-contained Linux operating system, based
228 on the Fedora/RHEL/CentOS Linux distro.  So it contains a complete
229 copy of all the libraries and programs needed, like kernel, libc,
230 bash, coreutils etc etc.
231
232 The supermin appliance removes the kernel and all the executable
233 libraries and programs from the appliance.  That just leaves a
234 skeleton of config files and some data files, which is obviously
235 massively smaller than the normal appliance.  At runtime we rebuild
236 the appliance on-the-fly from the libraries and programs on the host
237 (eg. pulling in the real /lib/libc.so, the real /bin/bash etc.)
238
239 Although this process of rebuilding the appliance each time sounds
240 slow, it turns out to be faster than using the prebuilt appliance.
241 (Most of the saving comes from not compressing the appliance - it
242 transpires that decompressing the appliance is the slowest part of the
243 whole boot sequence).  On my machine, a new appliance can be built in
244 under a fifth of a second, and the boot time is several seconds
245 shorter.
246
247 The big advantage of the supermin appliance for distributions like
248 Fedora is that it gets security fixes automatically from the host, so
249 there is no need to rebuild the whole of libguestfs for a security
250 update in some underlying library.
251
252 There are several DISADVANTAGES:
253
254 It won't work at all except in very narrow, controlled cases like the
255 Fedora packaging case.  We control the dependencies of the libguestfs
256 RPM tightly to ensure that the required binaries are actually present
257 on the host.
258
259 Furthermore there are certain unlikely changes in the packages on the
260 host which could break a supermin appliance, eg. an updated library
261 which depends on an additional data file.
262
263 Also supermin appliances are subjected to changes in the host kernel
264 which might break compatibility with qemu -- these are, of course,
265 real bugs in any case.
266
267 Lastly, supermin appliances really can't be moved between branches of
268 distributions (eg. built on Fedora 12 and moved to Fedora 10) because
269 they are not self-contained and they rely on certain libraries being
270 around.  You shouldn't do this anyway.
271
272 Use supermin appliances with caution.
273
274
275 Notes on cross-architecture support
276 ----------------------------------------------------------------------
277
278 At the moment we basically don't support cross-architecture or
279 32-on-64.  This limits what is possible for some guests.  Filesystem
280 operations and FUSE will work fine, but running commands in guests may
281 not be possible.
282
283 To enable this requires work for cross-architecture and 32-on-64
284 support in febootstrap, fakeroot and fakechroot.
285
286 The daemon/ directory contains its own configure script.  This is so
287 that in future we will be able to cross-compile the daemon.
288
289
290 Mirroring tip
291 ----------------------------------------------------------------------
292
293 On my machines I can usually rebuild the appliance in around 3
294 minutes.  If it takes much longer for you, use a local Fedora mirror
295 or squid.
296
297 To use squid to cache yum downloads, read this first:
298 https://lists.dulug.duke.edu/pipermail/yum/2006-August/009041.html
299 (In brief, because yum chooses random mirrors each time, squid doesn't
300 work very well with default yum configuration.  To get around this,
301 choose a Fedora mirror which is close to you, set this with
302 './configure --with-mirror=[...]', and then proxy the whole lot
303 through squid by setting http_proxy environment variable).
304
305 You will also need to substantially increase the squid configuration
306 limits:
307 http://fedoraproject.org/wiki/Using_Mock_to_test_package_builds#Using_Squid_to_Speed_Up_Mock_package_downloads
308
309
310 Porting to other Linux distros / non-Linux
311 ----------------------------------------------------------------------
312
313 libguestfs itself should be fairly portable to other Linux
314 distributions.  Non-Linux ports are trickier, but we will accept
315 patches if they aren't too invasive.
316
317 The main porting issues are with the dependencies needed to build the
318 appliance.  You will need to find or port the following packages
319 first:
320
321  - fakeroot
322  - fakechroot
323  - python
324  - rpm-python    http://www.rpm.org/
325  - yum           http://yum.baseurl.org/
326  - febootstrap   http://people.redhat.com/~rjones/febootstrap/
327
328
329 Copyright and license information
330 ----------------------------------------------------------------------
331
332 Copyright (C) 2009-2010 Red Hat Inc.
333
334 The library is distributed under the LGPLv2+.  The programs are
335 distributed under the GPLv2+.  Please see the files COPYING and
336 COPYING.LIB for full license information.