USBフラッシュメモリをFAT32で再フォーマットしてから使用してください。
３２GBだと通常のフォーマッタ　プログラムではFAT32フォーマットが出来ないかもしれません。
Windows XPのフォーマッタやUbuntu LiveCD内のパーティション・エディタ(gparted)で
パーティションを作成して再フォーマットしてください。
パーティションは先頭から８GB以内の領域を確保してbootフラッグを付けると良いでしょう。
空きの領域はデータ用に別のパーティションを割り当てると良いでしょう。

返事が遅くなってすみません。
いろいろ説明してくださってありがとうございます！助かります。

今Windows XPを使っていますが、Ubuntuを試しています。
ハードウェアサポートなどができれば内蔵のハードディスクにパーティションを作成してインストールするつもりですが、
まず、ブートディスクを利用してみようと思います。
ライブCDを使っていますが、ドライブに負担が多くてかなり遅いですので、
USBメモリに移してみようと思いました。
なので、今のところ選択1の

「・ライブCDをそのままUSBデバイスに移して使用するスタートアップディスク。」

が良いと思います。
hir0さんの言うとおり、System->システム管理->Create a USB Startup Diskをクリックすると、
USBメモリを挿しても「Please insert an USB startup disk」のままです。
私が持っている小さいUSBメモリを挿すとスペースが足りないという反応が出ます。

32GBのUSBメモリを挿して端末からの結果は以下にあります：

Disk /dev/sdb: 32.0 GB, 32078036992 bytes
222 heads, 8 sectors/track, 35277 cylinders
Units = cylinders of 1776 * 512 = 909312 bytes
Disk identifier: 0xc3072e18

   Device Boot      Start         End      Blocks   Id  System
/dev/sdb1   *           1       35278    31326204    c  W95 FAT32 (LBA)

実は英語版のライブCDですので結果は英語になってしまいました。すみません。
bootフラッグは既に付いていますし、FAT32にフォーマットされているようです。

忘れていました。
スタートアップディスクのデータ保存の設定をしなければ行けませんでした。
端末から（ライブCDから行って下さい。）

USBデバイスを差し込んでマウントします（マウスクリックで操作できる状態）

$ df
USBデバイスのマウント場所（右端）を確認します　/media/disk と仮定します

$ ls /media/disk
中身が表示されますので間違い無いことを確認します

$ cd /media/disk
作業領域が/media/disk に移ります（以降作成されたものは/media/disk = USBデバイスに）

$ sudo dd if=/dev/zero of=casper-rw bs=1M count=3900
1MB x 3900 = 3.9GB  FATは４GB以上のファイルを扱えません。

$ sudo mkfs.ext3 -F casper-rw
casper-rwファイルをext3に変更

--------------------------------------------------

次にsyslinuxフォルダの中のtext.cfgを開きオプションに「persistent」を追加します。
太字で場所を示します
[date]default live
label live
  menu label ^Try Ubuntu without any change to your computer
  kernel /casper/vmlinuz
  append  noprompt cdrom-detect/try-usb=true persistent file=/cdrom/preseed/ubuntu.seed boot=casper initrd=/casper/initrd.gz quiet splash tz=Asia/Tokyo utc=no --
label live-install
  menu label ^Install Ubuntu
  kernel /casper/vmlinuz
  append  noprompt cdrom-detect/try-usb=true persistent file=/cdrom/preseed/ubuntu.seed boot=casper only-ubiquity initrd=/casper/initrd.gz quiet splash tz=Asia/Tokyo utc=no --
label check
  menu label ^Check CD for defects
  kernel /casper/vmlinuz
  append  noprompt boot=casper integrity-check initrd=/casper/initrd.gz quiet splash --
label memtest
  menu label Test ^memory
  kernel /install/mt86plus
label hd
  menu label ^Boot from first hard disk
  localboot 0x80[/date]
appendから始まる行に前後に半角スペースを入れること、場所は「--」より前方ならどこに書いても大丈夫です。

hir0さん、angkor_hさん

お返事いただいてありがとうございます。
おかげさまで解決できました。

まず言わなければならないのは、使っていたライブＣＤはUbuntu 8.10の英語版でした。
今まで教えなくてすみません。
パソコンのＣＤ－Ｒドライブの調子があまりよくなくてもう一度最新バージョンのライブＣＤを作りたくなかったのです。
週末にUbuntu 9.04日本語版isoをダウンロードして、新しいライブCDを作りました。
日本語バージョンだからか、最新のｖ9.04だからかわかりませんが、
「システム→システム管理→ＵＳＢスタートアップディスクを作成」をクリックすると、
今回32GBのUSBメモリーを挿したら認識されました。

hir0さんが説明してくださったパーティション作成方法を読んで、
パーティションに分割されてから無事にライブCDのイメージをUSBメモリに移すことができました。
ありがとうございます！ＣＤより本当に速くなりました。

今のところは、いろいろ試したり、ハードウェアサポートができるように調べたりしています。
ちなみに、次のチャレンジはFnボタンの機能を有効にすることです。（明るさ、音量などの調整のため）

http://www.cs.unm.edu/~moret/CFY5.html　によると何でも可能のようです。　
Ｆｎはこれを利用：http://www.cs.unm.edu/~moret/CFY5.html
まだ詳しいところまで読んでいませんが、時間があったらがんばろうと思っています。

最後の質問ですが（たびたびですみません！）メニュー言語切り替えはライブＣＤのままだと不可能ですか？
英語のメニューが見えるように設定を変えようとしましたができませんでした。
やはりインストールしないとできませんか？