Nautilusのウィンドウをアクティブにして、GNOMEのトップバーに表示されるファイル(Nautilus)のアプリケーションメニュー(アクティビティの隣)から
　[設定(N)]→[アイテム]タブ
を表示して「一覧表示」の項目にある
　[ツリー形式でフォルダーを表示する]
にチェックを入れることで、リスト表示した際にツリー表示になるとか思いますがどうでしょうか？

GNOME Flashbackでの状況でしたか。それだとGNOME環境とは事情が異なって来ますね。
Flashbackでの状況に関しては以下の記事の最後の方に「Ubuntu 16.04 LTSでの注意点」として、Ubuntu16.04のFlashback環境ではNautilusの設定メニューが表示されないという注意が書かれています。nishUbuntuさんが行われたUnityで設定する方法があることも書かれています。
第460回　Ubuntu 16.10でGNOME Flashbackを使用する：Ubuntu Weekly Recipe｜gihyo.jp … 技術評論社

またバグに関しては以下の報告が該当するかと思います。
Bug #1565780 “Xenial flashback session lacks access to nautilus ...” : Bugs : nautilus package : Ubuntu

現状での対処としてはUnityに戻って設定変更する以外には、端末から

$ gsettings set org.gnome.nautilus.list-view use-tree-view true

とコマンドを打つことでも変更出来ました。設定を戻すには上記のコマンドの「true」の部分を「false」にして実行します。
これだとログアウトする必要はないため、頻繁に設定変更をする場合にはお手軽かと思います。