Non so cosa dirti; i tuoi motivi mi sembrano non sufficienti per cercare di far fare a xelatex o lualatex cose che forse potrebbero fare, ma che on fanno.
Per esempio ti lamenti che \bar{\mathbb{A}} metta la barra fuori posto con i XITS math di default e i bb presi da un altro font; a me pare normale, anche se sarebbe possibile rimediare. Ti spiego: in tipografia le famiglie di font devono accordarsi; mescolare i XITS Math con gli Asana Math tipograficamente non è corretto perché i parametri del disegno dei due font sono diversi; tra l’altro il primo si accorda con i font di testo Times e altri font “stretti”, mente il secondo si accorda con i Platino. mescolare XITS e Asana in matematica sarebbe come comporre il testi intercalano lettere Times con lettere Palatino; nel testo non lo accetteresti; perché devi accettarlo in matematica?
Ora io sono un ingegnere matematico, vale a dire un ingegnere ricercatore universitario che ha usato la matematica durante tutta la sua attività di ricerca; so benissimo che la matematica dei tecnologi è meno complessa, anche per i simboli che vi vengono usati, di quella dei matematici, ma se proprio occorrono simboli strani, occasionali, e non sistematici come intere pagine UNICODE di glifi, allora esistono molti artifici come \mathpalette e \mathchoice per usare in matematica glifi tratti da polizze testuali o polizze anche di Dingbats, volendo. Non mi spingerei a dire che uno deve confezionarsi un font OpenType adatto alle proprie esigenze, ma lualatex, da quel che ho letto nella sua documentazione, sembrerebbe capace di assemblare in tempo reale dei font virtuali OpenType.
Siccome non uso lualatex abitualmente, ho pochissima esperienza in merito e non mi sono mai spinto più in là di qualche semplice esercizio. Altri forse possono dirti di più, ma ti consiglio da dilettante apprendista tipografo autodidatta di non mescolare font diversi.