rloginをどうしても使いたい理由がなければ、sshをセットアップすれば
いいと思うのですが、なにかrloginでなければいけない理由はあるでしょうか？

sshであればssh -Xでログインしてアプリケーションを起動するだけです。

意味がよく取れないのですが、sshコマンドをrshコマンドの代わりにできない、
という理由は何でしょうか？

sshのバイナリを"rsh"という名前で起動すればrshコマンドとほとんど
同じように動作しますが、これではダメということなのでしょうか？

Windowsからserverに入り、ubuntuの画面にウィンドウアプリを表示して操作したい。

何をしたいのかが具体的に分かりません。

どのようなソフトを使っているかや、マシン・ネットワーク構成がどうなっているかなどを書いた方が近道だと思います。

UbuntuをWindowsからいじるならssh -X（puttyなど）でいいでしょうし、WindowsをUbuntuからいじるならrdesktopが使えます。VNC（+ssh）ならOSにかかわらずいけますし。

「システム」-「システム管理」-「ログイン画面」-「セキュリティ」の「Xサーバへの転送を禁止する」のチェックを外すのでいかがでしょうか。