Non puoi creare un sistema in quel modo; l’ambiente split provvede lui stesso a creare l’ambiente matematico e quindi non lo puoi dare essendo già in ambiente matematico.
Però puoi usare l’ambiente aligned che è fatto apposta per creare equazioni e pezzi di equazioni all’interno di una altro ambiente che provveda a numerare. Fra l’altro il tup problema si semplificherebbe moltissimo, senza definire nessun ambiente particolarecon
`
\begin{equation}
\left\{
\begin{aligned}
…
\end{aligned}
\right.
\label{…}
\end{equation}
`
dove hai lo spazio anche epr il \label da usare per l’intero sistema.
Se vuoi numerare l’intero sistema e poi le singole equazioni devi usare l’abiente aligned dento all’ambiente subequations.
Documentazione: texdoc amsmath pagine 5 e 7.