Non ho per ora la risposta definitiva alla tua domanda però prendi in considerazione che
1) Se carichi il pacchetto amsmath, puoi parzialmente gestire la grandezza dei delimitatori. Oltre al solito \left( e \right) puoi usare, in ordine crescente di grandezza
\bigl( e \bigr),
\Bigl( e \Bigr),
\biggl( e \biggr),
\Biggl e \Biggr)
e ovviamente analoghi per altri delimitatori. In particolare ti consiglio di consultare la guida all’uso di amsmath
http://www.tug.org/tex-archive/info/italian/amsldoc/amsldoc.pdf
a pagina 14 (ma leggerselo tutto non è faticoso ed è molto utile)
2) Questi delimitatori non risolvono il problema in sé, (otterrai sempre l’errore), e a mio avviso questo non è un difetto: una formula per cui una parentesi quadra si apre sulla prima riga e si chiude sulla terza può essere bruttina da vedere. Quando ho formule lunghe tipo le tue, io normalmente cerco innanzitutto di vedere se semplici modifiche di carattere algebrico possono evitarmi di usare i delimitatori. Se questo è proprio impossibile, cerco di di definire l’equazione “a blocchi”. Nel senso che scriverei la formula tipo
A = B_1 + B_2
e riporterei subito dopo
A = …
B_1= …
B_2= …
Ovviamente questa è solo la mia opinione in merito.
3) Se quel “Re” che compare nella tua formula è un numero di Reynolds, o un’altro parametro fissato, potresti considerare di trasformarlo in \text{Re}. Se è la parte reale di un numero complesso potresti dichiarare un operatore matematico adatto, come suggerito da egreg9 (vedi sempre la guida che ti ho indicato sopra). Normalmente solo le variabili in senso proprio andrebbero riportate in modalità matematica.
Ciao