設定等になにか問題があるのでしょうか？
それとも、ほかに何か問題ありますでしょうか？

基本的に市販のPCはWindowsでの動作を保証しているものが殆どなので、単純に「設定」で回避できる問題ではないです。
Ubuntuにこだわらないのでしたら他のディストリビューションを試すの一つの手です。

Ubuntuを、と言うことでしたら先ずはインストールしないで使ってみて上手く起動するかどうかの確認が必要です。
起動しなければCDの最初の画面でF６キーを押して起動オプションをあれこれ触ってみるか「esc」でポップアップを消して、下段に表示されている行に起動オプションを書き込むことになりますが有効なオプションを探らないといけなくなります。

もし上手く起動する様でしたら、インストールが停止する原因を見つけなければダメですが現状の情報ではGRUBのインストールを行わない設定でインストールを試してみるのが有効です。
その場合、事前にGRUBを使用したものが良いと思いますが何らかの起動ディスクを用意して実行してください。

インストールに使用しているディスクの傷やデータの破損はチェックされたでしょうか。
https://wiki.ubuntulinux.jp/UbuntuTips/Install/BurningISO#head-9ddcdd3ad771a85eea8cc9e2b3b269e7d557c4b1
Windowsでも確認できるソフトはあります。
CDブート時に何かのキーを押すとメニューが表示されますが「ディスクのチェック」を試してください。


Windowsがインストールされてデュアルブートを考えていられるのでしたら「wubi」を使用した方法もあります。
Windows上でインストールディスクを展開して「wubi.exe」を起動させてください。
注）ライブCDで（インストールしないで）起動出来れば。

原因の解明では無く、とりあえずの使いこなしについてですが、

hir0 による投稿:

インストールに使用しているディスクの傷やデータの破損はチェックされたでしょうか。
https://wiki.ubuntulinux.jp/UbuntuTips/Install/BurningISO#head-9ddcdd3ad771a85eea8cc9e2b3b269e7d557c4b1
Windowsでも確認できるソフトはあります。
CDブート時に何かのキーを押すとメニューが表示されますが「ディスクのチェック」を試してください。

まずは、上記を確認していただいて、問題が無いはずなのになぜかインストールできないという場合には、
http://www.ubuntu.com/desktop/get-ubuntu/alternative-download#mirrors
からalternative版のインストールCDイメージを入手して試してみていただくのもよいかもです。

funatogawaさんが指摘されている様に、メモリーの関連の不具合濃厚です。
メモリーチェックを行ってみてください。

funatogawaさん による投稿:

VIA KT133A Chipsetは1.5GBまで使えるようなことが書かれていますが、
http://www.viatech.co.jp/jp/products/ch … /index.jsp
sonyでは最大２５６MBとしか書いていないので、確かめてみる必要があります。
http://www.sony.jp/products/Consumer/PC … /spec.html
昔はチップセットから出たアドレスラインをフルデコードしていなかったものもありました

この時期のVIA KT133A Chipsetでは、対応しているメモリー・チップはmax 256MBで、普通は128MBです。
そのため、５１２MBメモリー・チップは使えないと思います。
sonyの仕様からすると、256MBメモリー・チップの利用も怪しいです。動作しないと考えられます。