quindi in generale la sintassi corretta prevede che non ci sia una riga vuota prima di \begin{itemize}?
Non è questione di sintassi LaTeX, ma di corretto stile di scrittura. Una lista appartiene a un capoverso che la introduce, esattamente come nel tuo esempio in cui la lista spiega quali sono gli oggetti di cui stai parlando. Se non c’è un cambio di capoverso, non si lasciano righe vuote.
Il fatto che la composizione venga diversa se metti la riga vuota e quel “{\textcolor{red}” dipende da motivi TeXnici (il supporto per il colore è ottenuto con un trucco che in certe situazioni dà risultati inaspettati). Con la soluzione del nuovo ambiente stai in effetti scrivendo:
`Attualmente, i Brackets ortodontici vengono realizzati nei seguenti materiali:
\begingroup\color{red}\begin{itemize}
…
\end{itemize}\endgroup`
e questo, diversamente da quello che si ottiene con
`Attualmente, i Brackets ortodontici vengono realizzati nei seguenti materiali:
\textcolor{red}{\begin{itemize}
…
\end{itemize}}`
come facevi tu, evita il problema alla radice. In generale, non è bene usare un ambiente enumerate o itemize come argomento di un comando.
Ciao
Enrico