新しいカーネルに何か問題が起きた際に、古い方のカーネルで起動して問題解決に向けた調査／作業が実施できることもあるので、ひとつ古い分までは、残しておいていただいた方が安全かと思います。

古いカーネルが2つ以上たまってきて、見にくい、ディスク容量を圧迫する、などの問題がでた場合は、最新版とひとつ古いものまでを残して、それより古いものを消していただけばよいかと思います。

具体的な方法は、
synapticパッケージマネージャを管理メニューから起動し、
消したいカーネルのバージョンをキーワードに検索をかけ、
linux-image+"Version"
なパッケージを消せばよいです。
たとえば、2.6.31-16で検索すると、
linux-headers-2.6.31-16-generic
linux-image-2.6.31-16-generic
などがひっかかるかと思います。
headersも要らないバージョンのカーネル用のものは不要になりますので、もしそれがインストールされていたら同時に消していただいてよいかと思います。