「VIDEO_TSのプロパティでは、開き方のTabがないため変更できません。」というmanami63さんの行動から、目的は "DVDの再生" と推察しますが、合っていますでしょうか？
もし、DVDの再生が目的であるのなら触るべきは設定アプリの「リムーバブルメディア」になります。

（「システム情報」の「デフォルトのアプリケーション」の「ビデオ」で変更されるのは「video/x-ogm+ogg」タイプに限るっぽいですね）

こちらでも同様の状況を再現することができました。以下の確認をしてみてもらえますでしょうか。

「.local/share/applications/mimeapps.list」ファイルを開いて、そこに２つ記述されている「x-content/video-dvd」の内容を見てください。[Default Applications]にあるほうが「totem.desktop」となっていて、もうひとつの[Added Associations]のほうでは「vlc.desktop」（「.desktop」ファイルが複数ある場合は「vlc.desktop」が手前に）となっていませんでしょうか。
例としては以下のような感じです。

[Default Applications]
　〜省略〜
x-content/video-dvd=totem.desktop

[Added Associations]
　〜省略〜
x-content/video-dvd=vlc.desktop;smplayer.desktop;

MIMEタイプに紐付けられた起動アプリの設定情報は[Default Applications]のほうですので、この例の場合ですと「動画プレーヤー（totem）」が起動されることになります。

もし、これと同じ状況であれば、修正は直接手作業で行なっても良いですし、「リムーバブルメディア」で一旦別の選択にしてからVLCに戻すことでも修正されると思います。