Refus de rendre l'argent par le propriétaire

Bonjour,
Nous avons signé un bail le 01/09/09 avec le propriétaire vers 19h. En partant, il nous donne les clefs et nous montre le chauffage (chose à laquelle nous n'avions pas regardé!) un poele à pétrole!!! Nous retournons à l'hôtel, discutons avec mon père et je finis par lui dire que ce n'est pas possible! Nous avons osé rien dire, nous aurions dû agir directement. Mon père appelle donc le propriétaire le lendemain vers 9h ( nous n'avons pas voulu le déranger la nuit) pour lui expliquer que ce n'est pas possible. Le propriétaire répond que ce n'est pas possible d'annuler, qu'il a refusé d'autres personnes... Nous avons envoyé un recommandé ainsi que les clefs par recommandé et lui avons précisé que nous n'avions pas mis les pieds dans son appartement. Le propriétaire a trainé pour aller chercher le recommandé, précisant qu'il était en vacances. Aujourd'hui il refuse de me rendre l'argent. J'ai donné un mois + une caution équivalente à un mois. Il précise dans sa dernière lettre qu'il va nous renvoyer peut-être un mois de caution car sonappartement est loué à partir du 10/10. Il précise qu'il nous fait cadeau de la facture d'électricité........ Que dois-je faire?? Lui dois-je quand même un mois de loyer? Quels sont mes droits?

Merci beaucoup.