Oso rispodere anche senza mai avere usato il pacchetto nomencl; La documentazione dice che per usarlo bisogna ad un certo punto mettere in ordine le voci della nomenclatura e a questo scopo serve bene l’uso del prefisso che viene richiesto opzionalmente nel comando \nomenclature e che viene prefissato alla voce da indicizzare nel modo che si preferisce;
Ora tu scrivi{
`
\printnomenclature[2.5cm]
\nomenclature[X]{$\mathds{A}$}{spiegazione A}
\nomenclature[X]{$\mathbf{B}$}{spiegazione B}
`
e in questo modo la sort key (la chiave di ordinamento) diventa rispettivamente
`
X$\mathds{A}$
X$\mathbf{B}$
`
e perciò la prima voce si trova alfabeticamente dopo la seconda voce, come tu giustamente ti lamenti che accada, ma se tu iscrivi:
`
\printnomenclature[2.5cm]
\nomenclature[XA]{$\mathds{A}$}{spiegazione A}
\nomenclature[XB]{$\mathbf{B}$}{spiegazione B}
`
le chiavi di ordinamento diventano rispettivamente:
`
XA$\mathds{A}$
XB$\mathbf{B}$
`
quindi la prima voce cade alfabeticamente prima della seconda.
Senza verificare sul campo, mi sembra che questa sia la soluzione che tu cerchi, ma naturalmente avendo un prefisso di due lettere devi stare attenta a come lo usi nelle altre voci.