vlcについては、ツールメニューから「GPUアクセラレーション」のチェックを外すことで解決しました。
やはりグラボが影響してるということなんだと思います。

nvidiaのドライバとcompizとの問題なんだとか。
↓でいけないかな

sudo add-apt-repository ppa:townsend/compiz-nvidia-refresh-test
sudo apt-get update
sudo apt-get upgrade

なにやら少し効果のあった情報があったので、載せておきます。
以下は情報そのままです。
<<
compiz configをインストール
composite>>Unredirect Match
にwindow classを追加

windows classの調べ方
端末を開いて
xprop | grep WM_CLASS
ポインタがターゲットスコープみたいに変わる
そんで、該当のウィンドウをクリック
gnome mplayerだとgnome-mplayerまたはGnome-mplayer
smplayerだとsmplayerかSmplayerってことだそうな。
コレでも上手く行かない場合は

ユーティリティ>>Workarounds>>
Force full screen redraws(buffer swap)on repaint
をチェック
これで、収まった。とくにTotemで効果があった。
>>
完全ではありませんが、我慢できるレベルまで改善しました。
明らかに効果があったのが、google earth、google chromeです。