解:设矩形的边长为$x\mathrm {cm}$
$ ①$当$5\ \mathrm {cm} $为等腰三角形的腰时
$ x(9-x)=\frac 12×8×3$
$ $解得$x_{1}=\frac {9+\sqrt {33}}2,$$x_{2}=\frac {9-\sqrt {33}}2$
经检验,两根均符合题意
$②$当$5\ \mathrm {cm} $为等腰三角形的底时
$ x(9-x)=\frac 12×5×6$
$ $解得$x_{1}=\frac {9+\sqrt {21}}2,$$x_{2}=\frac {9-\sqrt {21}}2$
经检验,两根均符合题意
∴矩形的长为$ \frac {9+\sqrt {33}}2、$$\frac {9-\sqrt {33}}2、$$\frac {9+\sqrt {21}}2、$$\frac {9-\sqrt {21}}2$