usbにインストールされているなら、ホームのダウンロードフォルダの中に入ります。
Liveシステムでも同じですが、再起動するとなくなってしまいます。
Gimpはubuntuソフトウェアセンターから入れることができるのでダウンロードの必要は基本的にないです。

ホムフォルダはWindowsのマイドキュメントに当たります。
左端のランチャーで上から２番めのアイコンがホームフォルダです。