screen を使います。
screenを使いやすくカスタマイズする byobu というのもあります。
http://gihyo.jp/admin/serial/01/ubuntu-recipe/0019?page=2

使い方を覚えないと意味不明なツールなので、最初の敷居は高いのですが、必須ともいえる定番ツールです。

そもそも何の作業が"面倒"なのか、投稿#1の文章からはよく分からないです。
パスワード/パスフレーズの入力が面倒くさい？
sshのコマンド入力が面倒くさい？
同じディレクトリ移動(cd)を実施するのが面倒くさい？

あと
サーバー側にアプリを追加してよいのかどうか？
サーバー側を自由に管理できる立場にあるのかどうか？
も分からないと、出来る事に制限が出てきますよね。

hawaian による投稿:

そこで、同じコマンドプロンプト状態のターミナルをいくつも開きたいのですが、リモートターミナルを開くたびにクライアントマシンのコマンドプロンプトからスタートするターミナルが開かれます。そのため、何度もｓｓｈーXでログインする必要があり、面倒なことをしています。

別々のクライアントでログインの手間を省きつつ同じ画面を共有するのは難しいと思いますが、例えば以下の方法による「簡略化」ならできると思います。
1. ssh コマンドを記述したスクリプトファイルを作成し、 ssh コマンドの代わりに作成したスクリプトを実行する。
2. クライアントから常に ssh 接続するのであれば、 gnome 端末に SHELL の代わりに実行するカスタムコマンドを設定する。

hawaian による投稿:

リモートマシン先のターミナルで同じ状態のターミナルを開けるコマンドなどありますでしょうか？

ログイン直後に byobu を実行したいのであれば、サーバー上の ~/.profile の終わりに byobu を追加すれば解決すると思います。

変な終わり方。
解決したのかどうかがさっぱり分からない。