私が答えるのは僭越なのですが解る範囲で答えます。
Ubuntu Desktop 日本語Remixのubuntu-ja-10.10-desktop-i386.isoと書いておられるように
日本語Remixは３２bit版です。32ｂｉｔ版は最大4Gb空間をサポートしています。実質3.4Gb前後になります。
この制限はハードウェア・チップセットの制限からきているものです。
システムモニタで11.8Gbが表示されているとのことですが残念ながら実質利用できるのは3.4Gb前後の
メモリ空間だけになります。ubuntu 32bit版にはPAEというカーネルもリリースされています。メモリアクセス
可能領域を4Gb以上にする拡張機能をもったkernelです。ただしこの機能が使用できるのはPAEに対応した
ハードウェア、BIOS(address remapping機能)、PAE ｋｅｒｎｅｌが準備されていることが前提となります。
最新の64bitが動作するPCであれば問題ないでしょう。
詳しくは下記フォーラムで語られておりますので参考にしてください。
32bit版で4GBメモリの認識を試みてますが
https://forums.ubuntulinux.jp/viewtopic.php?id=5465

「システム」>「システム管理」>「システムモニタ」を起動すると、「システム」タブの「カーネル」欄にカーネルのバージョン番号が表示されると思いますが、例えば「Linux 2.6.35-27-generic-pae」のように最後に「pae」が付いていれば、PAEカーネルで動いているということを意味します。

Ubuntuの場合インストール時に状況に応じて自動的にPAEカーネルがインストールされるはずです。

既にPAEカーネルを使用しているなら、1プロセスで4GB以上使ったり、64ビットをフルで使った計算をしたりしない限り、通常の使用目的では64bitにするメリットはあまり無いと思います。
64bit環境では1プロセスの使用できるメモリが倍に増える分、使用メモリ、使用ディスク領域ともに32bit環境よりもわずかに増えます。