У Коли 100 рублей и за эти 100 рублей он должен купить 100 животных.

Пусть коров- х
в- баранов
с-  кур
тогда получается система уравнений
в+с=100-х
3в+0,5с=100-10х

в=(100-х)-с=100-х-с
3(100-х-с)+0,5с=100-10х
300-3х-3с+0,5с=100-10х
300-3х-2,5с=100-10х
2,5с=200+7х
с=(200+7х)/2,5
с=80+2,8х

Что бы С получилось целым числом, надо. что бы 2,8*х- было то же целым числом.
Это возможно только при х=5,10,15,20...
Метод перебора
х=5      с=80+2,8*5=94     в=100-5-94=1
х=10   с=80+2,8*10=108-не подходит, так как больше 100, так  и 15,20,25.. тоже не подходят 

Ответ: 5 коров, 1 баран, 94 курицы

Проверка
5+1+94=100
5*10+1*3+94*0,5=50+3+ 47=100