In ogni caso se guardi il file .log vedi che non si può usare il comando testuale \scriptsize in matematica; perché lo esegua (in qualche modo) nonostante sia vietato, non lo so, ma se metti \scriptstyle dovresti ottenere le stesse dimensioni e la composizione corretta con le graffe e le quadre corrette; inoltre il comando \scriptstyle non influisce sulla dimensione del numero dell’equazione (che, per altro, essendo in cifre minuscole/oldstyle, risulterebbe ancora più difficile da leggere).
Secondo me la matriciona 12 per 12 che contiene anche delle frazioni scritte nel copro degli indici del secondo ordine (con corpo normale 11pt, lo \scriptstyle porta a 8pt il main font delle formule e a 6pt quello degli indici di primo ordine, ma 6pt è la dimensione degli indici di secondo ordine quando il main font delle formule è in corpo 11pt). Perciò per leggere quelle frazioni ci vuole la lente di ingrandimento.
Benché non siano elegantissime, sarebbe meglio usare le frazioni a barra (a/b), usando eventualmente le parentesi ((a+b)/c), piuttosto che scendere ancora con le dimensioni dei font.
Se poi spezzi le tue matrici in sotto matrici va ancora meglio perché non hai bisogno di rimpicciolire quasi niente.
Perché alcune matrici sono delimitate da parentesi tonde e alcune altre da parentesi quadre? Secondo le mie informazioni non esiste un convenzione per la quale le matrici colonna vanno delimitate da parentesi tonde e le matrici quadrate da parentesi quadre. Le norme ISO consento entrambi i tipi di parentesi, per le matrici, ma non mi pare che consentano una variazione di parentesi a seconda del numero delle righe e delle colonne.