Est il possible que la maison lui appartienne?

Mon père a vécu avec ma mère dans cette maison pendant presque 40 ans en payant 1 loyer à sa sœur

Ce que vous appelez "loyer" se nomme au cas particulier une "indemnité d'occupation". 

Ce que je voudrai savoir c est "depuis le temps que mes parents payent, ils en sont arrivés à payer leur part et celle de ma tante au vu de la valeur de la maison. Alors peut on considérer que la maison appartient à ma mère (ou à nous les héritiers de mon defunt père)

Non, les droits restent ceux que chacun a pu acquérir suite au décès de vos grands-parents et père. 

depuis le temps que mes parents payent, ils en sont arrivés à payer leur part et celle de ma tante au vu de la valeur de la maison. Alors peut on considérer que la maison appartient à ma mère (ou à nous les héritiers de mon defunt père)

Le versement d'une indemnité d'occupation ne donne aucun droit de propriété. C'est un peu comme si vous disiez qu'un locataire devenait propriétaire du bien loué au bout d'un certain nombre d'années. 

Mon père a vécu avec ma mère dans cette maison pendant presque 40 ans en payant 1 loyer à sa sœur.

Votre père a vécu dans cette maison en payant une indemnité d'occupation à sa soeur, si tant est qu'ils étaient tous deux copropriétaire sans doute à 50% chacun

peut on considérer que la maison appartient à ma mère

Réponse négative. Référez vous à l'attestation de propriété établie suite au décès de votre père.

Des gens qui sont locataires et payent un loyer pendant 30 ans ne deviennent pas pour autant propriétaire.

Bah ici, c'est le même principe. A moins d'un contrat spécifique de leasing immobilier (ça existe apparemment) ou de viager, tous les loyers/indemnités d'occupation sont payés à fonds perdus.