If ${\mathrm{x}}^2+2\mathrm{x}+2\mathrm{xy}+\mathrm{my}-3$ has two rational factors, then the value of m will be

Given expression ${\mathrm{x}}^2+2\mathrm{x}+2\mathrm{xy}+\mathrm{my}-3$ can be written as ${\mathrm{x}}^2+2\mathrm{x}(1+\mathrm{y})+(\mathrm{my}-3)$

But factors are rational, so ${\mathrm{B}}^2-4 \mathrm{AC}$ is perfect square.

Now $4\{{(1+\mathrm{y})}^2-(\mathrm{my}-3\left)\right\}\ge 0$

$\Rightarrow 4\{{\mathrm{y}}^2+1+2\mathrm{y}-\mathrm{m}+3\}\ge 0\Rightarrow {\mathrm{y}}^2+2\mathrm{y}-\mathrm{my}+4\ge 0$

Hence $2\mathrm{y}-\mathrm{m}=\pm 4\mathrm{y} \{\mathrm{as} \mathrm{it} \mathrm{is} \mathrm{perfect} \mathrm{square}\}$

$\Rightarrow 2\mathrm{y}-\mathrm{my}=4\mathrm{y}\Rightarrow \mathrm{m}=-2.$

Now taking $(-)$ sign, we get $\mathrm{m}=6.$