a me non sfonda né con il corpo di default di 10pt , né con 11, né con 12. con quest’ultimo corpo forse il numero dell’equazione sfonda dal margine di default, ma con l’ambiente \[…\] non lo fa.
Il mio codice è:
`
\documentclass[10pt,draft]{book}
\usepackage{amsmath}
\newenvironment{sistema}%
{\left\lbrace\begin{array}{@{}l@{}}}%
{\end{array}\right.}
\begin{document}
\begin{equation}
\begin{sistema}
\biggl( \dfrac{1}{3} \dfrac{H}{E I_p} + \dfrac{1}{3} \dfrac{L}{E I_t} \biggr) X_A – \dfrac{1}{6} \dfrac{L}{E I_t} X_B – \dfrac{1}{6} \dfrac{H}{E I_p} X_C – \dfrac{\eta}{H} + \dfrac{P H^2}{16 E I_p} = 0 \\[2.5ex]
\dfrac{1}{6} \dfrac{L}{E I_t} X_A – \biggl( \dfrac{1}{3} \dfrac{L}{E I_t} + \dfrac{1}{3} \dfrac{H}{E I_p} \biggr) X_B + \dfrac{1}{6} \dfrac{H}{E I_p} X_D + \dfrac{\eta}{H} – \dfrac{p H^2}{16 E I_p} = 0 \\[2.5ex]
\dfrac{1}{6} \dfrac{H}{E I_p} X_A – \dfrac{1}{3} \dfrac{H}{E I_p} X_C + \dfrac{\eta}{H} + \dfrac{P H^2}{16 E I_p} = 0 \\[2.5ex]
– \dfrac{1}{6} \dfrac{H}{E I_p} X_B + \dfrac{1}{3} \dfrac{H}{E I_p} X_D – \dfrac{\eta}{H} – \dfrac{P H^2}{16 E I_p} = 0 \\[2.5ex]
-2 F – P + \dfrac{X_A + X_B + X_C + X_D}{H} = 0 \\[1.0ex]
\end{sistema}
\end{equation}
\end{document}
`
identico al tuo, salvo il preambolo completo e il cambio di \[…\] in \begin e \end {equation}