E’ proprio così! E con`\documentclass[10pt]{article} ` tutto torna a posto. Secondo me la differenza tra le due parentesi è dovuta al fatto che la y occupa più spazio verticale rispetto alla x e dunque, nel caso di 11pt la parentesi con la y diviengono più grandi delle altre.
Il comportamento non è soprendente perché con i comandi \left e \right il LaTeX sceglie la dimensione delle parentesi in base al contenuto, non in base ad altre parentesi eventualmente presenti.
Dato che nel caso specifico non è molto bella la resa stilistica (dato che non si nota molto la differenza della dimensione dei due pedici) forse ti conviene assegnare manualmente la dimensione delle parentesi.
Se invece la differenza in altezza dei pedici è vistosa come in questo esempio`\[ C(x,y) = E\delta(x,y) +
(1-E)*\exp\left[
-{\left(\frac{x}{L_{\binom{m}{n}}}\right)}^2
-{\left(\frac{y}{L_y}\right)}^2
\right] \]` il fatto che vengano usate parentesi di differente dimensione non dà fastidio.