ブートローダーは最初に認識されるHDDのMBRに入れなければいけません。

今回の様にBIOSから起動順序を変える場合は、起動順位が一番になるHDDにブートローダーを入れる必要が有ります。
起動したUbuntuで
$ df -h

恐らく一番上の行と思いますが「マウント位置」が「/」の行のファイルシステムの列に表示されているデバイスファイル名を確認してください。

/dev/sda1等と表示されると思いますが、そこから数字を省いた/dev/sdaを使用します。

$ sudo grub-install /dev/sda

これで起動しているHDDの先頭にブートローダーがインストールされます。
他のHDD（SDD）も同じ作業を行って下さい。


注）
そのまま別のHDDへの操作、$ sudo grub-install /dev/sdb 等としてはダメです。
起動しているHDDの/boot を利用して設定が行われるので現在の不具合と同じような現象が起きてしまいます。

別HDDを起動して $ df としても同じように/dev/sda1と表示されるかもしれませんが、ルートに使用しているデバイスを/dev/sdaと認識するので問題は無いです。
BIOSの設定で最初に起動するデバイスは/dev/sda となります。

/dev/sdaは例えなので環境に合わせて変更してください。

一つだけ問題が残ります、データ用ストレージにブートローダーが残ったままになっていることです。

USBメモリと違い、データ用のHDDなので起動順位を一番にしない限り問題は出ませんし、「起動順位を最初にする」 ＝（イコール）「OSをインストールする 」 なので現状は問題が表面化することは無いと思います。

思いますが。。。

何かの理由で残ったブートローダー（の一部）の問題が表面化したときは投稿下さい。
「grubの削除」等で検索するのも良いです。