追記
ps3は60gbモデル、ディスプレイはbenqのe2420hdをつかっています。できれば1080pで出力したいです。

＞ps3-video-mode -v 133
では動きませんでしたか？
error open:-1
と表示されます。
掲示板の24ページ目にsudoを追加するとよいとあったので
sudo ps3-video-mode -v 133
と入力し、パスワードを入力すると画面が上側三分の一に凝縮されてしまい強制終了を余儀なくされます。

mizunoさんの投稿の後再インストールしたPS3で再度実行してみました。
sudo apt-get install fbset実行
[sudo] password for xxxx:
パッケージリストを読み込んでいます... 完了
依存関係ツリーを作成しています               
状態情報を読み取っています... 完了
以下のパッケージが新たにインストールされます:
  fbset
アップグレード: 0 個、新規インストール: 1 個、削除: 0 個、保留: 0 個。
114kB のアーカイブを取得する必要があります。
この操作後に追加で 365kB のディスク容量が消費されます。
取得:1 http://ports.ubuntu.com karmic/main fbset 2.1-23 [114kB]
114kB を 3s で取得しました (35.6kB/s)
未選択パッケージ fbset を選択しています。
(データベースを読み込んでいます ... 現在 121398 個のファイルとディレクトリがインストールされています。)
(.../fbset_2.1-23_powerpc.deb から) fbset を展開しています...
man-db のトリガを処理しています ...
fbset (2.1-23) を設定しています ...

sudo /etc/init.d/gdm stop実行
英文が四文ほど表示され背景画面が黒、文字(白)のみでコマンドのみがうてる状態になり
ユーザーネーム、パスワードを入力し、ｐｃの情報らしきものが表示される(以下)
Linux ubuntu 2.6.21-14-powerpc64-smp #48-Ubuntu SMP Fri Oct 16 15:56:40 UTC 2009 ppcc64

To access officiial Ubuntu documentation, please visit:
http://help.ubuntu.com/

0 packages cab be updated.
0 updates are security updates.


The programs included with the Ubuntu system are free softwear;
the exact distribution teams for each program are described in the
individual files in/usr/share/doc/*/copyright.
Ubuntu comes with ABSOLUTELY NO WARRANTY, to the extent permitted by
applicable law.
以上

sudo ps3-video-mode -v 133実行
パスワード入力
このときより一時的に1080p全画面（黒縁なし）に出力される

sudo nano -w /etc/kboot.conf実行
video=ps3fb:mode:133'
と、新規入力(video=ps3fb:mode:3'が無かったため)
ctrl+x と押し Yを押しenterをおす。*

sudo nano -w /etc/init.d/fbset.sh実行
以下を入力
#!/bin/sh -e
fbset -a -xres 1920 -yres 1080 -vxres 1920 -vyres 1080
exit 0
以上
ctrl+x と押し Yを押しenterをおす。

sudo chmod 755 /etc/init.d/fbset.sh実行
何も起こらず次のコマンドへ
sudo ln -s /etc/init.d/fbset.sh /etc/rc2.d/S26fbset実行
何も起こらず次のコマンドへ
sudo reboot実行
PCの再起動
このときよりもとの画面（黒縁あり）にもどる
kboot画面で
/init: /etc/kboot.conf: 6: Syntax error: Unterminated quoted string
が無限に表示される

こうなるとなにもできません。
結果今回も再インストールの必要があるようですorz