Let $\mathrm{f}:\mathrm{R}-\left\{\frac{\mathrm{\alpha }}{6}\right\}⟶\mathrm{R}$ be defined by $\mathrm{f}\left(\mathrm{x}\right)=\frac{5\mathrm{x}+3}{6\mathrm{x}-\mathrm{\alpha }}$. Then the value of α for which (fof) (x) = x, for all $\mathrm{x}\in \mathrm{R}-\left\{\frac{\mathrm{\alpha }}{6}\right\}$ is

$\mathrm{f}\left(\mathrm{x}\right)=\frac{5\mathrm{x}+3}{6\mathrm{x}-\mathrm{\alpha }}$

$\begin{array}{c}\mathrm{Now}, \mathrm{f}\circ \mathrm{f}\left(\mathrm{x}\right)=\mathrm{f}\left(\frac{5\mathrm{x}+3}{6\mathrm{x}-\mathrm{\alpha }}\right)\\ =\frac{5\left(\frac{5\mathrm{x}+3}{6\mathrm{x}-\mathrm{\alpha }}\right)+3}{6\left(\frac{5\mathrm{x}+3}{6\mathrm{x}-\mathrm{\alpha }}\right)-\mathrm{\alpha }}=\frac{5(5\mathrm{x}+3)+3(6\mathrm{x}-\mathrm{\alpha })}{6(5\mathrm{x}+3)-\mathrm{\alpha }(6\mathrm{x}-2)}\end{array}$

Given, fof (x) = x

$\begin{array}{l}\Rightarrow \frac{5(5\mathrm{x}+3)+3(6\mathrm{x}-\mathrm{\alpha })}{6(5\mathrm{x}+3)-\mathrm{\alpha }(6\mathrm{x}-\mathrm{\alpha })}=\mathrm{x}\\ \Rightarrow 25\mathrm{x}+15+18\mathrm{x}-3\mathrm{\alpha }=30{\mathrm{x}}^2+18\mathrm{x}-6{\mathrm{\alpha x}}^2+{\mathrm{\alpha }}^2\mathrm{x}\\ \Rightarrow {\mathrm{x}}^2(30-6\mathrm{\alpha })+\mathrm{x}\left({\mathrm{\alpha }}^2-25\right)+3\mathrm{\alpha }-15=0\end{array}$

Comparing coefficients,

$\begin{array}{l}30-6\mathrm{x}=0\\ \Rightarrow 6\mathrm{\alpha }=30\\ \Rightarrow \mathrm{\alpha }=5\end{array}$