open-jdk-11-jdk が依存しているパッケージとして、これと一緒にインストールされたパッケージに入っていたのでしょう。
apt remove は指定したパッケージしか削除しないので、一緒に芋づる式にインストールされたパッケージはそのまま残ります。
パッケージ名がわかるならそのパッケージを apt remove で削除してください。

以下の Web ページをざっとみた感じでは openjdk-11-jre っぽいですが、JDK をどんな方法で入れたかが分からないのでこれだとは言い切れません。
openjdk-lts package : Ubuntu

依存元のパッケージが存在しないパッケージを一括して削除してもいいなら、apt autoremove で可能です。
ただし今回削除した open-jdk-11-jdk に関係無いパッケージもまとめて削除される可能性があるので、どんなパッケージが削除されるかをよく確認して実行してください。