На покраску пола в первой комнате истратили 40% краски во второй комнате 60% оставшейся краски а в третей остальные 1,2 кг краск

Пустьx кг краски было. В первой истратили 0,4x Тогда во второй (x-0.4x)*0.6 = 0.36 x  в итоге имеем 
x-0.4x-0.36x = 1.2
0.24 x = 1.2
x = 5

Использовали x кг краски. В первой комнате истратили 0,4x, осталось x-0,4x = 0,6x кг.
Во второй комнате истратили 0,6*0,6x = 0,36x кг, осталось 0,6x-0,36 = 0,24x кг или 1,2 кг.
0,24x = 1,2
x = 1,2:0,24
x = 5

Ответ: всего использовали 5 кг краски.