ちょっと順番を入れ替えました。

4nani による投稿:

システム更新をする前に1920x1200が使えていた事を考えると、更新の際に気づかずカーネルのバージョンが上がり、現在のシステムに対応しなくなったのかしら、と想像していますが、違うかもしれません。

ここを聞くと一番怪しそうなのは、VMware Toolsのインストールに失敗しているのではないかという点ですが、インストールに問題は無いでしょうか。また、
http://www.vmware.com/support/player40/doc/releasenotes_player401.html
を見ると公式にUbuntu 11.10がサポートされたのは4.0.1からのようですが、使用しているVMwarePlayerは4.0でしょうか。4.0.1でしょうか。

以下、4.0.1を使用していて、VMware Toolsのインストールも正常にできていると仮定します。

4nani による投稿:

ちなみにuname -r出力は3.0.0-1-genericでした。

これは投稿時の誤記でしょうか。
確か、11.10のカーネルは3.0.0-8ぐらいからリリース版に含まれていたかと思います。
現在は-14か-15ぐらいだったかと思います。

4nani による投稿:

さて、前置きが長くなりましたが、ともかくこれまで使えていた1920x1200の解像度を復活させたいのです。
「モニタの設定」ではモニタタイプが「不明」と出ていて、解像度選択も1280x768が最高です。
https://wiki.ubuntulinux.jp/UbuntuTips/Hardware/HowToChangeMonitorResolution
を参考に修正を試みましたが、
https://forums.ubuntulinux.jp/viewtopic.php?id=11178
の事例と同じく、「xrandr: Failed to get size of gamma for output default」が出てダメでした。

xrandrの出力は具体的にはどのようになっていますでしょうか。
私の自宅の環境でも、xrandr: Failed to get size of gamma for output defaultの警告はでていたと記憶しています。
しかし、xrandrでの解像度変更には支障ありませんでした。

4nani による投稿:

私の環境では「追加のドライバ」を見ても「VMwareクライアントツール」しかありません。
DellのM6500自身はNVidia Quadro FX 2800Mを使っている様なのですが、
「ubuntuソフトウェアセンター」でNVIDIAに関するドライバを探しても出てきませんでした。
そもそも、VMware Player経由でUbuntuを使っている場合M2800上のビデオドライバなのか、
仮想環境特有のバーチャルドライバが存在するのか、初心者の私には分からず、ここでお手上げになっています。

仮想マシンからは直接ホスト環境のハードウェアを駆動するわけではないので、nvidiaのドライバは使用しません。
仮想マシンのツールをインストールする際にドライバがインストールされているのではないかと思います。

4nani による投稿:

念のためxorg.confを手で書き込んでみたりしました(ファイル自体は存在しますが、具体的数字やベンダ名がないシンプルなものでしたので、今のシステムでは使っていないのではないかと想像しています)が、Xが起動しなくなったりして、ちょいテスト程度では成功しませんでした。

xrandrで設定できない場合は、xorg.confでの設定を試してみるのがよいかと思いますが、これは後にしましょう。

4nani による投稿:

そのとおりで、uname -r出力は3.0.0-13-genericでした。

-14なカーネルが導入できるはず(proposedレポジトリを有効にしていれば-15)ですので、それを導入してみてVMwareToolsのインストールをやりなおしてみる、というのもよいかもですね。

4nani による投稿:

xrandr: Failed to get size of gamma for output default
Screen 0: minimum 640 x 480, current 1280 x 720, maximum 1280 x 768
default connected 1280x720+0+0 0mm x 0mm
   1280x720        0.0*
   1024x768       61.0 
   800x600        61.0 
   720x576         0.0 
   854x480         0.0 
   800x480         0.0 
   720x480         0.0 
   640x480        60.0 
   1280x768        0.0

リフレッシュレートの欄が0.0になっていたり、少しおかしな状態になっているのは確かなようです。
モニタの同期周波数が正常に認識されていないのかしら。
xradrで新しい(より大きな)解像度モードを追加して、モード切り替えを行うと解像度変更できますでしょうか。
根本的になにかおかしなことになっている感はあるので、まず、そちらをなんとかするのが先決かも知れませんが。。

4nani による投稿:

もしそうなら仮想ドライバはVMwareの領分でしょうから、まずVMwareのサポートフォーラムに問い合わせて
回答を待ってみることにいたします。

私自身はVirtualBoxしか使ったことがないのですが、VMwareを使っている方もいるかと思いますので、こちらも時々見にこられると良いのでは無いかと思います。
また、同じ内容の投稿を複数箇所でするのを嫌う方も少なからずいますので、別の場所でご相談される場合は、このトピックのURLと経緯を紹介されるとよろしいかと。
VMwareの使い方の話ではありますが、Ubuntuを動かす環境という意味では、Ubuntuユーザにとっても有益な情報かと思いますので、もし、解決方法が見つかりましたら、こちらに顛末を投稿いただけるとうれしいです。