funatogawaさん、ありがとうございます。
おしえて頂いたURLを参考に試行錯誤してみましたが、どうも削除に失敗してしまいます。UUIDを指定しても、そういうdeviceが見つからないみたいなことを言われます。
# vgs
Couldn't find device with uuid ......
　今のところ仕方なく、マウントしているもう一つのHDDに取り急ぎインストールしてみて、Debian起動後に落ち着いてLMV削除をしようかなと考えています。
http://discypus.jp/wiki/?Linux%2FLVM%2FLVM%A4%CE%BA%EF%BD%FC
　これらの方法で削除できるかどうかちょっと自信がないですが、インストール中に何とかするよりか、落ち着いてできるのでまだマシかなと考えております。なかなか情報が見つからず四苦八苦しております。

funatogawaさん、ありがとうございます。
　取り急ぎ、もう一つマウントしている250GBのHDDにDebianを入れて、フォーマットできないその2TBをext3で最初からフォーマットしてみました。成功したように思われましたが、再度2TBに入れてみたらパーテーション切るところでErrorになってしまいました。しかし、Ubuntu10.04が手元にあったので、試しに入れたら難なくインストール完了しました。
funatogawaさんがおしえてくれたマニュアルはまだ半分ぐらいしか読んでいないのですが、おそらく中身的にはまだきちんとHDDがフォーマットされていないような気がしてます。これからまた調べてみます。