Il consiglio di @dork è valido, ma tu vuoi tirare LaTeX per i capelli.
Prima di usare un font devi domandarti se quel font va bene; in matematica i font con le loro forme e serie hanno dei significati precisi, non possono essere scelti a caso “tanto per fare un esempio”.
Quindi se non ti bastano né \mathcal, né \mathscr, vuol dire che stai scrivendo della matematica molto speciale, oppure che stai divertendoti a usare LATeX come se fosse Word; non farlo. Word moderno ora dispone di font OpenType con cui può scrivere la matematica in modo meno brutto che in passato, ma può, di fatto, usare solo il font Cambria; i font OpenType contengono migliaia di segni, quindi si può scegliere fra segni dai disegni più disparati, sempre all’interno di una sola polizza. Ma pdflatex lavora solo con font Type 1 che contengono al massimo 256 segni; quelli matematici ne contengono solo 128. Ma i Cambria non hanno i font con corpi ottici, mentre tutti i font nativi del sistema TeX hanno i copri ottici da usare in matematica per gli indici e gli apici di primo e di secondo livello. La qualità del risultato si vede senza essere esperti di font o di tipografia.
Se davvero hai bisogno di installarti un font matematico diverso dai molti che puoi già usare, leggiti la guida fntguide.pdf (da terminale: texdoc fntguide); ti avviso che non è facile; non so se i creatori di LaTeX2e abbiano volutamente lascito le cose difficili per scoraggiare gli utenti a definire nuovi font, oppure se debba essere difficile per definizione. Probabilmente le due cose sono vere entrambe, perché ogni font matematico deve essere installato specificando a che cosa serve in matematica (operatori, lettere, simboli, grandi delimitatori, altro,…) e bisogna dire quali corpi usare (e quindi quali polizze nominare) per comporre i simboli del livello principale oppure quelli per gli indici egli apici di primo livello e per quelli di secondo livello; quali usare per la versione matematica normale e per quella nera, In sostanza per ogni font che vorresti usare in matematica, in realtà ne devi caricare una famiglia (in effetti in TeX base si chiamano families) e ogni famiglia contiene almeno sei font/polizze diverse, se non altro perché bisogna usare i corpi ottici e le serie media e nera. Infine la cosa è difficile anche perché si possono caricare solo 16 famiglie identificate con i numeri da 0 a 15 (esadecimale da 0 a F) e non se ne possono caricare di più. Sembra impossibile arrivare a quel numero di famiglie, ma a me è capitato.
Se hai seguito il ragionamento, ti rendi conto che non vale la pena giocare con le famiglie matematiche a meno che non si necessiti di font particolari con simboli particolari che risultano sparsi in font diversi e che bisogna caricare apposta. Nota che i simboli normali di LaTeX sono già quattro polizze da 128 caratteri ciascuna, ognuna nei suoi tre corpi; che i font della American Mathematical Society (caricabili con amssymb) sono altri 256 segni; e siamo ad un totale di 768 segni; i pacchetti euler e mathrsfs ne aggiungono altri 256 arrivando a 1024 segni; (tutti questi numeri vanno raddoppiati per tenere conto anche della serie nera); è mai possibile che 1024 simboli non bastino?
I conti che ho fatto sono approssimativi, perché alcune di queste polizze non contengono tutti i 128 simboli che potrebbero contenere. Tuttavia il numero resta comunque strepitosamente grande; Eppure esistono ancora altre polizze che contengono ancora altri segni — per esempio la tipografia francese richiede le lettere matematiche greche diritte e non inclinate; ecco, allora un’altra famiglia; in altri casi la tabella dei grandi operatori non contiene tutti i segni di integrale semplice e multiplo variamente decorati che si usano in matematica, ed ecco un’altra famiglia. Se ben ricordo se scrivi con la collezione di font kpfonts vi vengono caricate 14 famiglie di caratteri matematici. Non sto scherzando quando dico di non giocare con i font matematici, nemmeno per provare a farlo; perché si potrebbe eccedere il numero di 16 famiglie.