解：
(1) 把$A(6,1)$代入$y=\frac{m}{x}，$得$m=6，$
$\therefore$ 反比例函数的解析式为$y=\frac{6}{x}。$
把$B(a,-3)$代入$y=\frac{6}{x}，$得$a=-2，$$\therefore B(-2,-3)。$
把$A(6,1),B(-2,-3)$代入$y=kx+b，$得
$\begin{cases}6k+b=1,\\-2k+b=-3,\end{cases}$
解得$\begin{cases}k=\frac{1}{2},\\b=-2.\end{cases}$
$\therefore$ 一次函数的解析式为$y=\frac{1}{2}x-2。$
(2) 设一次函数$y=\frac{1}{2}x-2$的图象与$x$轴交于点$C。$
令$y=0，$则$\frac{1}{2}x-2=0，$解得$x=4。$
$\therefore$ 点$C$的坐标是$(4,0)。$
$\therefore S_{△ AOB}=S_{△ AOC}+S_{△ BOC}=\frac{1}{2}×4×1+\frac{1}{2}×4×3=8。$
(3) $-2≤ x<0$或$x≥6。$
