build: reenable "syntax-check" rule: sc_const_long_option

* cfg.mk (disable_temporarily): Remove sc_const_long_option.
* daemon/guestfsd.c (main): Declare long_options to be "const".
* fish/fish.c (main): Likewise.
* test-tool/test-tool.c (main): Likewise.

build: temporarily disable failing "syntax-check" rules

* cfg.mk (disable_temporarily): Define.

maint: use a git submodule for gnulib

* .gitmodules: New file, to track gnulib.
* .gnulib: Submodule directory.
* Makefile.am (EXTRA_DIST): Don't list config.rpath or
gitlog-to-changelog.
* autogen.sh: Adapt to use the new submodule.
* cfg.mk: New file.
(SUBDIRS): Add gnulib/lib and gnulib/tests.
(dist-hook): Reflect new location of getlog-to-changelog.
* configure.ac: Set build-aux/ as AUX_DIR.
Invoke gl_EARLY and gl_INIT.
(AC_CONFIG_FILES): Add gnulib/lib/Makefile and gnulib/tests/Makefile.

always include <config.h>

* ocaml/guestfs_c.c: Include <config.h>.
* examples/to-xml.c: Likewise.
* examples/hello.c: Likewise.

build: add -I option to get config.h.

* ocaml/Makefile.am (AM_CPPFLAGS): Define.
(guestfs_c.o, guestfs_c_actions.o): Use it.

guestfs: don't fault upon failed vasprintf

* src/guestfs.c (guestfs_perrorf): Handle failed vasprintf.

Cleanup whitespace warnings in Lib.pm

Use grub entries to find Linux kernels

This change adds grub parsing to Lib.pm. It adds the following structure to $os:
  {boot}
  ->{configs}
    ->[0]
      ->{title}   = "Fedora (2.6.29.6-213.fc11.i686.PAE)"
      ->{kernel}  = \kernel
      ->{cmdline} = "ro root=/dev/mapper/vg_mbooth-lv_root rhgb"
      ->{initrd}  = \initrd
  ->{default} = 0

The kernel and initrd entries are just references to their top level entries
under kernels and initrd_modules respectively.

It also changes the way Linux kernels and initrd are discovered. Instead of
searching /lib/modules and /boot for files with matching names, kernels and
initrds are scanned as they are discovered in grub.conf.

Additionally, the following attributes are added to the kernels top level entry:
* path
    The path to the kernel's vmlinuz file.
* package
    The name of the package which installed the kernel.

The xml output of virt-inspector is updated to reflect all of the above changes.

guestfish: Display RStructList results more pleasantly.

Add interface to Linux 'inotify' API.

lib: Add selinux=0 to default kernel command line.

SELinux exists in a very disturbed state if it is enabled at
boot time, but no policy is loaded.  In particular, it messes
up the security.selinux extended attributes on files in a
not-very-useful way.

We can't enable SELinux because we don't know what policy
can or should be loaded.  Therefore it's best to disable it
completely.

Update incorrect comment in Lib.pm

Related: change the name of the function the comment describes to be more
accurate.

Improve warnings about missing tests.

Don't warn where a command just has no tests.

Instead check other commands' tests so we get a definitive
(and much smaller) list of commands that are not tested anywhere.

New commands: swapon-*, swapoff-*, mkswap-file.

swapon-device
swapoff-device
swapon-file
swapoff-file
swapon-label
swapoff-label
swapon-uuid
swapoff-uuid
mkswap-file

New command: 'fallocate' to (pre-)allocate sized files.

New commands: 'ln', 'ln-f', 'ln-s', 'ln-sf' and 'readlink'.

These commands can be used to make hard and symbolic links.  The
readlink command is used to read existing symbolic links.

Add 'realpath' command.

Ignore failure of 'mv' commands in appliance Makefile.

A lot of people report these as 'errors' when they are not.
Hide the error messages.

configure.ac: more quoting

Also, prohibit an invalid value of $JAVA_HOME,
since it must be used unquoted below.

build: If guestfwd test fails, need to print AC_MSG_RESULT 'no'

build: fix test for --nocompress option

Richard W.M. Jones wrote:
> On Wed, Jul 29, 2009 at 10:50:44PM +0200, Jim Meyering wrote:
>> The test for febootstrap-to-initramfs' --nocompress option
>> was always failing for me on F11.  Here's why:
> [...]
>
> Ouch that's obscure.  I've applied this patch and the previous
> one you sent too.  Thanks!

Our messages crossed.
Rebasing my fixed patch and adjusting the log:

>From 9e7846da50ceeee57187f703835bd3975e789719 Mon Sep 17 00:00:00 2001
From: Jim Meyering <meyering@redhat.com>
Date: Wed, 29 Jul 2009 16:33:02 -0400
Subject: [PATCH] build: quote the other option test similarly

* configure.ac: Quote properly.

build: fix test for --nocompress option

The test for febootstrap-to-initramfs' --nocompress option
was always failing for me on F11.  Here's why:

  $ bash                               ~/w/co/libguestfs:210-comment-fix
  $ t=`febootstrap-to-initramfs 2>&1`
  [Exit 1]
  $ if ! echo $t|grep -sq -- --nocompress; then echo not found; fi
  not found

Notice: without quotes, the [--nocompress] term expands to "k",
because I happen to have a temporary file named "k":

  $ echo $t
  Usage: febootstrap-to-initramfs [--files=filelist] k DIR Please read
  febootstrap-to-initramfs(8) man page for more information.
  $ echo "$t"
  Usage: febootstrap-to-initramfs [--files=filelist] [--nocompress] DIR
  Please read febootstrap-to-initramfs(8) man page for more information.

a simpler example gives a clue:

  $ touch a b c
  $ echo [--z]
  a b c
  $ echo [--a]
  a
  $ echo [--b]
  a b

it's interpreting [--nocompress] as a range: "-" through "n", plus
the other characters, ocmpres.  "k" falls in the --n range.

Anyhow, here's the fix:

>From 84855642ed41828d01d55123cfab8d8dede759c1 Mon Sep 17 00:00:00 2001
From: Jim Meyering <meyering@redhat.com>
Date: Wed, 29 Jul 2009 16:33:02 -0400
Subject: [PATCH] build: fix test for --nocompress option

* configure.ac: Fix underquoting bug that would cause the test
for febootstrap-to-initramfs' --nocompress option always to fail
with certain-letter-named files in the top directory.

fix comments; move declarations

* daemon/devsparts.c (do_list_devices, do_list_partitions):
Remove stray words in comments.
Move declarations down to definition.

Whitespace and comment changes.

df: Fix alignment of columns.

guestfish: Make more strings translatable.

However this doesn't yet attempt to translate the POD
command documentation.  We need a plan to do that.

tests: Use squashfs for static data where possible.

Instead of creating a new InitBasicFS for just about every test,
where a test doesn't need to write to the filesystem it is far
faster to use prepared data on an InitSquashFS instead.

This commit changes as many tests as possible to make this so,
making the tests much faster.

tests: Fix read_file test.

The test ignored the fact that this function returns a (char *, size_t)
pair, and just treated the char * as a string.  This of course would
fail if the string didn't happen to be nul-terminated.

The tests are updated to add a new TestOutputBuffer type which should
be used with functions that return RBufferOut.

Implement '*grep*' family of commands.

Updated Polish translations (Piotr Drąg).

Version 1.0.65.

Updated PO files.

build: avoid locale-specific changes in generated, VC'd file

When I build with LC_ALL=C in my environment,
the all-local rule generates po/POTFILES.in that
is sorted differently from the on that is checked in:

    diff --git a/po/POTFILES.in b/po/POTFILES.in
    index ca01b3d..154915a 100644
    --- a/po/POTFILES.in
    +++ b/po/POTFILES.in
    @@ -63,12 +63,11 @@ fish/tilde.c
     fish/time.c
     inspector/virt-inspector.pl
     java/com_redhat_et_libguestfs_GuestFS.c
    -ocaml/guestfs_c_actions.c
     ocaml/guestfs_c.c
    +ocaml/guestfs_c_actions.c
     perl/bindtests.pl
    -perl/Guestfs.c
    -perl/lib/Sys/Guestfs/Lib.pm
     perl/lib/Sys/Guestfs.pm
    +perl/lib/Sys/Guestfs/Lib.pm
     python/guestfs-py.c
     ruby/ext/guestfs/_guestfs.c
     src/guestfs-actions.c

If we generate that file so that sort always uses the C locale, then,
this type of difference will not arise.  Here's the patch to fix the
rule as well as to reflect the change in the generated file:

>From 609e1d1840da25614a7c9e8954e5356050c9f2ad Mon Sep 17 00:00:00 2001
From: Jim Meyering <meyering@redhat.com>
Date: Wed, 29 Jul 2009 08:13:35 -0400
Subject: [PATCH] build: avoid locale-specific changes in generated, VC'd file

* Makefile.am (all-local): Use LC_ALL=C to sort in C locale.
* po/POTFILES.in: Regenerate.

On RHEL 5, 'file' command prints 'AMD x86-64' for 'x86-64' arch.

Run cpio with --quiet option so it doesn't print 'xx blocks'

Lib.pm: Skip tests if perl-libintl module is not available.

Lib.pm: Use Perl backtick instead of slurp (Aron Griffis).

Don't show empty CD devices (RHBZ#514505).

ocaml: Rebuild the tests from source if the main library changes.

inspector: Determine guest architecture.

This commit adds kernel and userspace architecture detection
(fully for Linux, partially for Windows).  It adds an architecture
for each kernel detected, and an architecture for each root (ie.
userspace) found.

Lib.pm: Add file_architecture command.

This command detects the architecture of some types of binaries,
libraries, kernel modules and initrd images.

Lib: Document the $ro parameter for mount_operating_system properly.

Mention related tools in the manual page.

Whitespace: indent some names in images/Makefile.am correctly.

Lib.pm: Use 'file' as replacement for 'zfile'.

Pass '-z' parameter to 'file' command so it looks inside compressed files.

Also we deprecate the old 'zfile' command.

Add DeprecatedBy flag to mark functions which are deprecated.

Need to declare asprintf_nowarn as inline to avoid gcc complaining.

Replace shell_quote function with %Q and %R printf specifiers.

%Q => simple shell quoted string
%R => path will be prefixed by /sysroot

eg. snprintf (cmd, sizeof cmd, "cat %R", path); system (cmd);

Add InitSquashFS test type, for tests that just use the squashfs (/dev/sdd).

This also speeds up those tests because we don't have to wait
to create a filesystem which is never used.

Make read-only optional in mount_operating_system()

More ideas on a quick Perl one-liner syntax for TODO file.

guestfish -iv should print virt-inspector command (for debugging).

Reformat the TODO file.

Pass cgroup_disable=memory, saves ~ 5MB of RAM.

get_append call can return NULL, but bindings didn't handle it.

It's not a good idea because there is no way to return an error
indication.  However at least this means it won't segfault.

RHEL 5 thinks squashfs is HFS+ filesystem, unless we specify the type explicitly.

Remove hard-coded qemu-kvm, replace with $QEMU.

Version 1.0.63

Add libguestfs-test-tool.

This is an end-user testing tool, designed to test basic functionality
of libguestfs/qemu/kernel combination on the end-user's final host
machine.

It does not perform a thorough test, but should be enough to find
most booting issues.

Also this is intended to be used when reporting bugs.

Fix typo in error message.

Revert "Add 'set-kernel'/'get-kernel'/LIBGUESTFS_KERNEL to override appliance kernel."

This reverts commit 34d2df41626f1ee4172a6d40b06d72d6ed9d6348.

set-append and set-kernel parameters are both nullable.

(So are the return values, but leave that bug for another day).

Add 'set-kernel'/'get-kernel'/LIBGUESTFS_KERNEL to override appliance kernel.

This allows you to override the appliance kernel with an easy
command or environment variable.

Todo: Suggestion for 'replace' command.

Add commented-out support for alternate guestfwd syntax.

This commit just moves code around.  The new support is not enabled
because it doesn't work.  See qemu-devel, subject
"guestfwd option doesn't allow supplementary ,server,nowait"

configure: Detect new-style guestfwd support (RHBZ#512957)

However new qemu 0.10.5 still doesn't work.

Library: Pass more options on the Linux kernel command line.

Always pass:
  noapic             (APIC causes problems for lots of people)
  udevtimeout=300    (for very slow qemu using softemu)
  acpi=off           (ACPI is troublesome and unnecessary, so turn it off)

Split $os->{version} into $os->{major_version} and $os->{minor_version}

Allow TMPDIR to override directory used for temporary files (RHBZ#512905).

Generator: Implement RBufferOut and "read-file" call.

This commit implements the RBufferOut type for returning
arbitrary 8 bit data from calls.

We also implement the guestfs_read_file call to read a
whole file that can contain any 8 bit content, but up to
a limit of ~ 2 MB.

Docs: Fully document the guestfs_readdir ftyp return field.

Docs: Add "API Overview" section to guestfs(3) manpage.

This section collects together related API calls, to provide
more coherent documentation about different ways to carry
out actions such as uploading and downloading.

Generator: Improve accuracy of a comment.

virt-inspector --fish: Fix incorrect '-a' parameter (RHBZ#512709)

virt-inspector --fish dom
virt-inspector --ro-fish dom

Both of the above commands give incorrect results if run on a
libvirt domain, eg:

$ virt-inspector --ro-fish RHEL54Betax64
==> --ro -a RHEL54Betax64 -m /dev/VolGroup00/LogVol00:/ -m /dev/sda1:/boot
            ^^^^^^^^^^^^^

This is because the current code just prints back the original @ARGV
parameters.

This patch fixes this by getting the image names instead.

Replace 'distrofamily' with feature tags

It turns out that the distribution hierarchy is not as reliable concept as you
might think. This patch removes distrofamily again.

Instead of distrofamily, we will add feature tags. This patch adds 2 feature
tags for Linux distributions:

package_format (eg rpm/dpkg)
package_management (eg rhn/yum/apt)

This change is reflected in the output of virt-inspector

add nls_base.ko and nls_cp437.ko for vfat

Make /sysroot path configurable.

Currently /sysroot is hard-coded throughout the daemon code.

This patch turns the path into a variable so that we can change
it in future, for example to allow standalone mode to be implemented.

This patch was tested by running all the C API tests successfully.

Version 1.0.62.

Merge branch 'master' of git+ssh://g-rjones@et.redhat.com/git/libguestfs

RHEL 5.4 fix: Check for qemu-kvm binary in /usr/libexec

Differentiate 'distro' and 'distrofamily' in Sys::Guestfs::Lib

Change distro in the output formally known as virt-inspector to reflect the
actual distro. Possible values are now: fedora, rhel, centos, scientific,
debian.

Add new distrofamily entry which is one of: redhat, debian. Currently all
distros except 'debian' are in the redhat family.

This allows you to, for example, select a RHEL/CentOS/Scientific Linux specific
kernel for installation rather than assuming they're all the same.

Note this also changes the behaviour of virt-inspector --query. It will now only
return rhel=yes for RHEL.

cat: Example of finding DHCP IP address of a VM.

Fix non-srcdir builds: Ignore perl/Makefile-pl.old

Fix non-srcdir builds: further fixes to OCaml build rules.

Fixes for non-srcdir builds: Only include POTFILES from SUBDIRS directories.

Fix non-srcdir builds: fix OCaml build rules.

Fix non-srcdir builds: Files generated by configure should be in the tarball.

Fix non-srcdir builds: Don't include generated *_protocol.c files in POTFILES.

Don't clean up some non-generated files.

Fix for non-srcdir builds: more misc fixes.

Fix for non-srcdir builds: Run src/generator.ml from the srcdir.

Note that files generated by src/generator.ml are stored in
the srcdir, *not* the builddir.  The reason is so that they
can be included in the tarball and will appear in the srcdir
for tarball builds.

More misc fixes to non-srcdir builds.

More misc fixes for non-srcdir builds.

Miscellaneous fixes for non-srcdir builds.

New commands: 'mkmountpoint' and 'rmmountpoint'

These specialized commands are used to create additional mountpoints
before mounting filesystems.  They are only used where you want to
mount several unrelated or read-only filesystems together, and need
additional care to use correctly.

Here is how to use these calls to unpack the "Russian doll" nest
of a Fedora 11 live CD:

 add-ro Fedora-11-i686-Live.iso
 run
 mkmountpoint /cd
 mkmountpoint /squash
 mkmountpoint /ext3
 mount /dev/sda /cd
 mount-loop /cd/LiveOS/squashfs.img /squash
 mount-loop /squash/LiveOS/ext3fs.img /ext3

The inner filesystem is now unpacked under the /ext3 mountpoint.

New command: 'mountpoints' which returns a hash of device -> mountpoint.

Build fix: perl-libintl is not required for the basic Perl bindings.

Version 1.0.61

New tool virt-cat: display a file in a virtual machine.

This script is just a simpler way to cat a file from a VM.  It
is otherwise equivalent to using guestfish.

 virt-cat someguest /etc/fstab

 virt-cat someguest /var/log/messages | tail