解:解方程$x^2-11x+30=0,$
$a=1,b=-11,c=30,$
$\Delta =b^2-4ac=(-11)^2-4×1×30=1>0,$
$x=\frac{11\pm1}{2},$得$x_1=5,$$x_2=6。$
分两种情况讨论:
① 当等腰三角形$ABC$的底边长为5,腰长为6时,
底边上的高为$\sqrt{6^2-(\frac{5}{2})^2}=\frac{\sqrt{119}}{2},$
此时三角形面积为$\frac{1}{2}×5×\frac{\sqrt{119}}{2}=\frac{5\sqrt{119}}{4};$
② 当等腰三角形$ABC$的底边长为6,腰长为5时,
底边上的高为$\sqrt{5^2-3^2}=4,$
此时三角形面积为$\frac{1}{2}×6×4=12。$
综上所述,$△ ABC$的面积为$\frac{5\sqrt{119}}{4}$或12。