目次ページがしっかり設定されている状態だと自動でしおり機能（pdfの目次機能）が生成される。つまり、目次ページが正しく設定されていないと自動で生成されない。チェックポイントは下記の項目。
- vivliostyle.config.jsに目次ページが設定されている
- 目次ページの
navタグにrole="doc-toc"が設定されている navタグ内改行が正しくできているか
Vivliostyleプレビュー画面の左上で目次が確認できる。もしくは実際に出力して確認するなど。EPUBは知らん。（下記のリンクで手動で設定してね）