Changer la taille d'un nb dans une formule

@pianiste06

\scriptsize s'utilise comme ça dans le texte :

{\normalsize Taille normale : 1, }{\scriptsize taille script : 1.}

Dans le cas présent, tu n'as pas donné les infos pertinentes. Il faut savoir si la formule est inline ou display. Je suppose qu'elle est inline (sinon, tu ne te plaindrais probablement pas), auquel cas je ferais :

$H(\frac{6}{5}; {\scriptstyle 1} ; \frac{7}{5})$

Non, ceci :

{\normalsize Taille normale : 1, }{\scriptsize taille script : 1.}

n'a aucune influence sur ce qui suit. L'erreur venait sûrement d'autre chose. Pour la trouver, toujours la même méthode : tu copies un document-squelette minimal, tu colles le code dedans et tu testes. Si ça marche là-dedans, tu compares avec ton document normal et tu te demandes pourquoi ça marche dans l'un et pas dans l'autre. Une variante : tu copies ton gros document et dans la copie, tu supprimes le maximum de choses jusqu'à arriver à un document minimal contenant juste la partie qui posait problème. Là, on peut réfléchir.

Sans un exemple complet minimal (ECM en français, MWE en anglais), impossible de dire pourquoi tu n'as pu faire ce « 3 » comme tu voulais.