Come ha detto @OldClaudio, non c’è un simbolo standard per quella grandezza. Nelle norme ISO la fase è indicata con la lettera \(\phi\), perciò probabilmente io scriverei \(\phi_\mathrm{m}\), salvo indicarlo al primo utilizzo. Anche un utente del forum, stimato e autorevole docente universitario, in un suo libro utilizza la stessa notazione (\(\varphi_\mathrm{m}\) come il prof. Bolzern), mentre il prof. Nise usa la variante \(\Phi_M\). In realtà nutro qualche dubbio sulla correttezza di questa notazione, perché se è vero che la grandezza è la fase (il che giustifica il simbolo principale), la parola “margine” non è una specificazione per la grandezza (come nel caso di “velocità di gruppo”), quindi probabilmente non è giustificato l’utilizzo del pedice “m” secondo le direttive seguite dall’ISO.
Il prof. Marro, che nel campo dei controlli automatici in Italia viene considerato un luminare, usa la notazione \(M_F\). Anche qui lo indicherei al primo utilizzo.
Sui testi americani (di elettronica) mi sembra di notare che la scelta più seguita è quella di scriverlo per esteso: “phase margin”.
Ciao