checkboxパッケージが入っていれば、
/usr/share/checkbox/scripts/compiz-check
を実行して、状況を確認してみてはいかがでしょう。

> libgl1-mesa-glx
> libgl1-mesa-dri
> は最初からインストールされていましたでしょうか。

こちらは最初入っていませんでした。
OpenGL関連で明示的に入れました。

compiz-checkの結果からすると設定上問題は無さそうですね。
もし、fglrxドライバをいれたことがあるなら、念の為、

glxinfo |grep vendor

の結果を確認してみて下さい。
https://wiki.ubuntulinux.jp/UbuntuTips/Hardware/RadeonDriver

DesktopEnvironmentはGNOME, KDE4, KDE, Xfceの区別しかしていないっぽいです。
3D動作の可否に影響するものではないかと思います。

compizが動作しなかったときの、Xorgのログにはなにかそれらしい情報が残っていたりしますでしょうか。

hmatsue による投稿:

compizが動作しなかったときの、Xorgのログにはなにかそれらしい情報が残っていたりしますでしょうか。

症状でた際のタイムスタンプに直近ので怪しいものが、
syslogのほうに、


Jun  3 09:04:12 Lavie kernel: [  477.907990] [drm:drm_mode_getfb] *ERROR* invalid framebuffer id

があります。
xorg.0.logのほうで関連して気になる部分としては、

[    28.588] (--) Depth 24 pixmap format is 32 bpp
[    28.589] (II) RADEON(0): [DRI2] Setup complete
[    28.589] (II) RADEON(0): [DRI2]   DRI driver: radeon
[    28.589] (II) RADEON(0): Front buffer size: 3072K
[    28.589] (II) RADEON(0): VRAM usage limit set to 3686K
[    28.590] (==) RADEON(0): Backing store disabled
[    28.590] (II) RADEON(0): Direct rendering enabled
[    28.602] (II) RADEON(0): Render acceleration enabled for R100 type cards.
[    28.602] (II) RADEON(0): Setting EXA maxPitchBytes

の、VRAMサイズ関連の数値です。

度重なるコメントありがとうございます。

hmatsue による投稿:

blacklist-framebuffer.conf
をいじっているとおかしなことになるかも、
とか、
xorg.conf
で3D関連のオプションをいじっているとおかしなことになるかも、
といったところですが、画面解像度、blacklist設定、xorg.confの内容はどのようになっていますでしょうか。
また、デフォルトの状態に戻してみると意外とすんなり動いたり、ということは無いでしょうか。

blacklistは今回まったく弄っていなかったのですが、


# Framebuffer drivers are generally buggy and poorly-supported, and cause
# suspend failures, kernel panics and general mayhem.  For this reason we
# never load them automatically.
blacklist aty128fb
blacklist atyfb
blacklist radeonfb
blacklist cirrusfb
blacklist cyber2000fb
blacklist cyblafb
blacklist gx1fb
blacklist hgafb
blacklist i810fb
blacklist intelfb
blacklist kyrofb
blacklist lxfb
blacklist matroxfb_base
blacklist neofb
blacklist nvidiafb
blacklist pm2fb
blacklist rivafb
blacklist s1d13xxxfb
blacklist savagefb
blacklist sisfb
blacklist sstfb
blacklist tdfxfb
blacklist tridentfb
#blacklist vesafb
blacklist vfb
blacklist viafb
blacklist vt8623fb

となっており、radeonfb が登録されているのですが、コレは怪しいですね
一旦関連しそうな箇所、コメントアウトして試してみます。
また、xorg.confのほうも、DefaultDepth 24とかやってますので、そちらもVRAM的にはアウトなのかもしれません。
こちらも弄って検証してみます。

hmatsue による投稿:

radeonfbのblacklistを解除(コメントアウト)していないかを心配していたのですが、
そのままの設定でよいようです。
framebufferを有効にしてしまうと、動作が不安定になることがあるそうなので、それはそのままにしておいていただいた方がよいかと思います。

radeonfbを解除した場合は、Compiz Fusion Icon の Reload Window Managerを実行した際に起きるフリーズやログイン画面への移行などの症状が出なくなったのですが、一旦戻してみます。

hmatsue による投稿:

xorg.conf
の内容はどのような状態になっていますでしょうか。
高速化のためのオプションを有効にしていたりする場合、一度、無効化してみる、あるいはxorg.conf自体を名前変更するなどして、デフォルト設定で起動してみると改善したりしないでしょうか。
逆に高速化オプションを使っておらず、今の状態である場合は、有効化してみるのもよいかもですね。

以下、xorg.conf の現状のものです

Section "ServerLayout"
    Identifier     "X.org Configured"
    Screen      0  "Screen0" 0 0
    InputDevice    "Mouse0" "CorePointer"
    InputDevice    "Keyboard0" "CoreKeyboard"
    Option    "AIGLX"    "true"
EndSection

Section "Files"
    ModulePath   "/usr/lib/xorg/modules"
    FontPath     "/usr/share/fonts/X11/misc"
    FontPath     "/usr/share/fonts/X11/cyrillic"
    FontPath     "/usr/share/fonts/X11/100dpi/:unscaled"
    FontPath     "/usr/share/fonts/X11/75dpi/:unscaled"
    FontPath     "/usr/share/fonts/X11/Type1"
    FontPath     "/usr/share/fonts/X11/100dpi"
    FontPath     "/usr/share/fonts/X11/75dpi"
    FontPath     "/var/lib/defoma/x-ttcidfont-conf.d/dirs/TrueType"
    FontPath     "built-ins"
EndSection

Section "Module"
    Load  "bitmap"
    Load  "ddc"
    Load  "freetype"
    Load  "int10"
    Load  "vbe"
    Load  "type1"
    Load  "dbe"
    Load  "extmod"
    Load  "dri"
    Load  "glx"
EndSection

Section "InputDevice"
    Identifier  "Keyboard0"
    Driver      "kbd"
EndSection

Section "InputDevice"
    Identifier  "Mouse0"
    Driver      "mouse"
    Option        "Protocol" "auto"
    Option        "Device" "/dev/input/mice"
    Option        "ZAxisMapping" "4 5 6 7"
EndSection

Section "Monitor"
    Identifier   "Monitor0"
    VendorName   "Monitor Vendor"
    ModelName    "Monitor Model"
EndSection

Section "Device"
    Identifier  "Card0"
    #Driver        "ati"
    Driver      "radeon"
    BusID       "PCI:1:0:0"
    Option        "XAANoOffscreenPixmaps" "true"
#    Option        "AGPMode" "1"
#    Option        "AGPFastWrite" "true"
#    Option        "DisableGLXRootClipping" "true"
#    Option        "AddARGBGLXVisuals" "true"
#    Option        "AllowGLXWithComposite" "true"
#    Option        "EnablePageFlip" "true"
    Option        "DynamicClocks" "on"
#    Option        "MergedFB" "true"
#    Option        "BIOSHotkeys" "on"
#    Option        "EnableDepthMoves" "true"
#    Option        "SWcursor" "off"
#    Option        "AccelMethod" "EXA"
#    Option        "BusType" "PCI"
#    Option        "RenderAccel" "true"
#    Option        "DDCMode"
#    Option        "ColorTiling" "true"
#    Option        "DPMS"
#    Option        "BackingStore" "On"
#    Option        "Accel" "On"
#    Option        "AGPSize" "32"
#    VideoRam    8192
EndSection

Section "Screen"
    Identifier "Screen0"
    Device     "Card0"
    Monitor    "Monitor0"
#    DefaultDepth    24
    SubSection "Display"
        Viewport   0 0
        Depth     1
    EndSubSection
    SubSection "Display"
        Viewport   0 0
        Depth     4
    EndSubSection
    SubSection "Display"
        Viewport   0 0
        Depth     8
    EndSubSection
    SubSection "Display"
        Viewport   0 0
        Depth     15
    EndSubSection
    SubSection "Display"
        Viewport   0 0
        Depth     16
    EndSubSection
    SubSection "Display"
        Viewport   0 0
        Depth     24
    EndSubSection
EndSection

Section "ServerLayout"
    Option        "AIGLX" "true"
    Identifier    "Default Layout"
    Screen        "Screen0"
EndSection

Section "DRI"
    Mode 0666
EndSection

hmatsue による投稿:

もし、起動時や、終了時に異常が発生することもなく、正常に動作するようであれば、radeonfb有りで使用して様子をみてみるのもよいかもですね。
xorg.confもほとんどのオプションがコメントアウトされており、特に問題の無いもののように思えます。

radeonfb有りでなにか問題がある場合、radeonfb無しの状態で下記のxrog.confを試してみて下さい。

コード:

Section "Monitor"
        Identifier   "Monitor0"
        VendorName   "Monitor Vendor"
        ModelName    "Monitor Model"
EndSection

Section "Device"
        Identifier  "Card0"
        Driver      "ati"
    Option      "XAANoOffscreenPixmaps" "true"
        Option      "EnablePageFlip" "true"
        Option      "AccelMethod" "XXA"
EndSection

Section "Screen"
        Identifier "Screen0"
        Device     "Card0"
        Monitor    "Monitor0"
EndSection

Section "DRI"
    Mode 0666
EndSection

Section "Extensions"
        Option     "Composite" "Enable"
EndSection

提示いただいたxorg.confで試してみました。
radeonfbが有効な場合での動作は、前のxorg.confと同様でした。

hmatsue による投稿:

さっき、自分のUbuntu環境にlubuntu-desktopを導入してちょっとだけcompizを動かしてみたのですが、窓枠が表示されないなど、不安定な動作しか得られませんでした。
GPUは
$ lspci | grep VGA
02:00.0 VGA compatible controller: nVidia Corporation GF108 [GeForce GT 430] (rev a1)
で、プロプライエタリドライバ駆動です。
Ubuntuは正常に動いているので、ドライバやハードウェアの問題では無いと思っているのですが、原因はよく判っていません。。

hmatsueさんと同様に、ウィンドウ枠が表示されないのと、各種効果が有効になっていないことで、やはりCompizが正常に動いていないようです。
一旦、頭を切り替えて、xubuntu11.04と、lubuntu10.04でのCompiz適用を検証してみます。

z80hiroet による投稿:

VRAM８MBという環境では、Compizは24bitカラーでは動作できず、KNOPPIXにて動作していたのは、16bitカラーだったから、ということかも。

xubuntu11.04でも、やはり16bitカラーにすることで、Compizでの効果が有効になりました。
あとは、lubuntu11.04でも同様か試してみます。

念のため、とKNOPPIX6.4.4でのXorg.0.logを確認してみると、Depth が24になっていますね。
動作は解決ですが、KNOPPIXとubuntuの何がいったい違うのか？ 謎が逆に発生しました。