Четырех кошек взвесили попарно во всех возможных комбинациях. Получились массы:

Вариантов взвешивания попарно четырех кошек - 6:
             
                   

Очевидно, что во всех вариантах взвешивания каждая кошка представлена 3 раза (сама с собой кошка взвешена быть не может..)). Тогда:
          (a+b) + (a+c) + (a+d) + (b+c) + (b+d) + (c+d) = 3a+3b+3c+3d
          3*(a + b + c + d) = 9+10+11+12+14+16 = 72 (кг)
               a + b + c + d = 24 (кг)

Ответ: общая масса четырех кошек 24 кг.