скорость катера- х

скорость реки -у

скорость по течению х+у

скорость против х-у

время по течению 40/(х+у)

время против 6/(х-у)

общее время 3 часа

сложим время

40/(х+у) +6/(х-у) =3

решим с помощью замены и подстановки

х=13  у=7

х=14  у=2

проверка

40/(13+7)+6/(13-7)= 3 часа

40/(14+2)+6/(14-2)= 3 часа

Ответ скорость катера в стоячей воде  13 км/ч  или 14 км/ч