Hajime0619さんへ

この機能を現在の環境で実現するには、USBメモリからUbuntuを起動して端末から
$ sudo dd of=casper-rw bs=300M seek=1 count=0

と実行するとホームフォルダに「casper-rw」と言うファイルが出きるので、Windows側に保存してください。

bs=300Mは設定を保存する領域のサイズで300メガバイトを表しています。
USBメモリが1GBでUbuntuが700MB（元はCDのデータなのでこの位）消費していると仮定した数時ですので、環境に合わせて大きく設定して下さい。
但し2GB位なら問題ないと思いますが、余りに大きなファイルは扱えないかもしれません。

次にWindowsを起動してUSBメモリを挿します。
USBメモリの中は以下のようなフォルダとファイルが有るはずです。

README.diskdefines  casper     dists    ldlinux.sys  pics  preseed   
wubi.exe　　autorun.inf    install  md5sum.txt   pool  syslinux

ここに先程の「 casper-rw 」を移動させます。

フォルダ「syslinux」を開いてください。
「text.cfg」をノートパッドで開きます。（他のエディタは多分ダメかもしれない）
ここには起動時のメニューを表示する設定が書き込まれています。

label live
menu label ^Try Ubuntu without any change to your computer
kernel /casper/vmlinuz
append noprompt cdrom-detect/try-usb=true persistent file=/cdrom/preseed/ubuntu.seed boot=casper initrd=/casper/initrd.lz quiet splash --

quiet splash -- 　と書かれている所にオプション「persistent」を書き足します。
こんな感じです　..... ....  quiet splash persistent --
保存して起動すると設定が残るはずですが、試しにデスクトップにでも空のテキストかフォルダを作って再起動して確認してみてください。

あと#2のackさんの後半部分を読んで通常のインストールのものと違いがあることを理解してください。

＊USBメモリに通常インストールは可能ですが、そのままインストールした場合Windowsが起動しなくなります。
方法が分からない場合は、手順を尋ねて見てください。
個人的にはWindowsの再インストールは平気な方、その準備が出来ている方がPCを弄るべきかな？と思っています。

返事が遅れてしまい、申し訳ありません。
皆さん色々ありがとうございました。
hir0さんのアドバイスで、USBメモリを2つ使用して片方から片方へスタートアップディスクの作成を行い、無事にubuntuが起動できるUSBメモリを作成することができました。
ありがとうございました。

ただ、またこのUSBメモリを使用して起動してみて問題点が発生したので、同じような質問をされている方がいないか探した後、再度解明できなければ質問させていただくことにします。
今後もよろしくお願いします。