優先度は「フロントマターCSS<ThemeのCSS」である。というのも、一番最後にThemeのCSSをhtmlに埋め込むため、(詳細度が同じなら)後から読み込まれるThemeのCSSが優先される。(下記のサンプルhtmlみたいになる)

<link rel="stylesheet" href="css/frontmatter.css">
<link rel="stylesheet" href="css/theme.css">

リンク