Il tuo problema 1 a me non appare e \square è perfettamente definito (come in amsmath). Suppongo sia per via della nuova versione di XyMTeX recentemente apparsa su CTAN e che non ho installato. In ogni caso il codice non dovrebbe dare alcun errore. Puoi produrre un esempio minimo di “\square” che dia un errore?
Incuriosito ho dato un’occhiata alla nuova versione di XyMTeX, scoprendo che c’è un evidente errore in aliphat.sty (riga 1574):
`\let\square\squarplanar`
dovrebbe essere ovviamente
`\let\square\squareplanar`
È chiaro che la definizione sbagliata rende \square non definito (non è definito \squarplanar) e quindi il \renewcommand{\square}{\amssquare} produce l’errore!
Soluzione: aggiungi \providecommand{\square}{} prima di \renewcommand{\square}{\amssquare} e togli pure \let\xymsquare\square che non serve più a nulla.
Ciao
Enrico