Équation polaire d'un rectangle

Quelle drôle d'idée ! Pourquoi veux-tu faire ça ?

Je ne comprends toujours pas l'intérêt. Sinon c'est quoi, "l'équation polaire du carré" ?
On peut décrire le côté droit du rectangle (le segment d'extrémités $(a,-b)$ et $(a,b)$) par $\rho=\dfrac{a}{\cos(\theta)}$ avec $\theta\in [-\arctan(b/a),\arctan(b/a)]$. Je te laisse voir pour les autres côtés.

Il doit manquer un $2$ dans ta paramétrisation du carré, puisque pour $\theta=0$ elle donne $\rho=a\sqrt2$. Une paramétrisation du même genre pour le rectangle s'obtient exactement de la même façon :
$$\rho=\sqrt{\frac{b^2\cos^2(\theta)+a^2\sin^2(\theta)-\left|b^2\cos^2(\theta)-a^2\sin^2(\theta)\right|}{2\cos^2(\theta)\sin^2(\theta)}}\;.$$
L'annulation du dénominateur ne fait pas raler ton logiciel ?

Je ne sais pas quelle erreur tu fais, mais en tout cas cette formule dessine bien un rectangle. Regarde ce qui se passe (en Sage) :

Je subodore comme erreur une erreur de signe à l'intérieur de la valeur absolue au numérateur (un $+$ au lieu d'un $-$).
Pour l'obtention de la formule, c'est exactement la voie que tu indiquais dans ton premier message. On a une équation bicarrée en $\rho$ qu'on résout de la manière habituelle, et on en prend la plus petite racine positive.