Um retângulo tem 40cm², um dos seus lados mede 3x mais que o o...

Vamos lá.

Veja, Artur,que a resolução é simples.
Vamos tentar fazer tudo passo a passo para um melhor entendimento.

i) Tem-se que um retângulo tem 40cm² de área. Sabendo-se que um dos seus lados mede "3x" cm a mais que o outro, determine qual é a medida dos lados desse retângulo.

Veja: se chamarmos um lado de "x" o outro medirá "x+3x = 4x", pois um dos lados é maior que o outro em "3x" a mais. Logo, como estamos chamando um lado de "x", então o outro será "4x".
E, como a área de um retângulo é dado por comprimento vezes altura (ou largura), então teremos que a área desse retângulo, que vale 40cm², será dada por:

x*4x = 40 efetuando este produto, teremos:
4x² = 40
x² = 40/4
x² = 10
x = ± √(10) cm mas como o lado do retângulo não tem medida negativa, então tomaremos apenas a raiz positiva e igual a:

x = √(10) cm < esta é a medida de um dos lados.
Logo, o outro lado será 4x = 4*√(10) = 4√(10) cm

ii) Assim, os dois lados "x" e "4x" terão as seguintes medidas, respectivamente:

√(10) cm  e  4√(10) cm < Esta é a resposta.

É isso aí.
Deu pra entender bem?

OK?
Adjemir.​