Откуда берется 24х и 16?

Раскрываем первую скобку (3х+4)² по формуле сокращенного умножения:

(х+у)²=х²+2ху+у²

(3х+4)²=(3х)²+2*4*3х+4²=9х²+24х+16

9х²+24х+16+3*(х-2)=46

9х²+24х+16+3х-6-46=0

9х²+24х+3х+16-6-46=0

9х²+27х-36=0 (сократим на 9)

х²+3х-4=0