Problèmes avec les locataires

Bonjour,
Je suis propiétaire d'une maison individuelle qui est mise en location depuis fin septembre 2008. J'ai des soucis avec les locataires depuis le début. Tout d'abord, les loyers sont toujours payés en retard (sauf ce mois ci). Je suis donc obligé de leur réclamer a chaque fois. La dernière fois, j'ai eu une discussion avec eux et leur caution et a première vue, ca a porté ses fruits. Ce mois ci, ayant eu le loyer en tant et en heure, j'ai fais la quittance a la date du virement. Mais n'étant pas la, je ne leur ai donné que 4 jours apres. Ils m'ont sommé de changer la date et de la mettre au jour ou je leur ai donné... Je ne comprend pas pourquoi étant donné qu'il y a écrit "j'atteste avoir reçu ce jour...". Peuvent-ils me creer des problèmes pour avoir donner la quittance que 4 jours apres le versement du loyer ? Sachant qu'eux ont toujours plus d'une semaine de retard ?
Deuxiemement, il y a une petite veranda, datant des années 70. En fait, il s'agit de l'escalier exterieur qui a été fermé. Ils me disent que ca moisit dedans. J'ai vécu dans cette maison. En fait, il y a de la condensassion c'est pour cela que ca moisi. Eux me certifie que la dalle du dessus fuit... Bon, pour faire preuve de bonne volonté, je leur ai dit par oral que je mettrais un produit sur la dalle pour qu'elle soit étanche. Mais je pense que cela ne va pas suffir car ce n'est pas isolé. Que peuvent-ils me demander d'autre ? Est ce que je peux abattre cette "veranda" ? Ils me reprochent egalement que la cabine de douche fuit et que cela fait moisire le carrelage, chose qui ne met jamais arrivé tant que j'y habitais. Suis-je en droit d'enlever cette cabine ?
Par contre cela fait 3 mois que je leur demande de tailler la haie car cela depasse chez le voisin qui s'en plaind. Quel recours ai-je pour qu'ils le fasse ?
Au moment où ils ont emmenager, nous avions laissé une cuve de récuperation d'eau car elle était pleine, en leur disant qu'on la viderait dans l'hiver et la reprendrait au printemps. Cela a été fait par oral. Nous avons voulu la recuperer, nous avons donc téléphoné. Ils n'ont jamais répondu et me dise a present qu'il n'est pas question que l'on recupere cette cuve, qu'elle fait partie de la location, qu'elle est a eux. Ont-il le droit ? De meme, nous avions laissé quelques meubles pour les aider a demarrer. Ils les laissent dehors, pouvons nous les recuperer ? Je voulais mettre une cuisine amenager, ont ils le droit de refuser ?
Ca fait beaucoup de questions, mais je suis perdue face a des gens de mauvaise fois. C'est la premiere fois que je met un bien en location et la dernière. Je suis dégoutée en fait car tous les mois j'ai des problèmes et des prises de gueule avec eux. Ca devient invivable. Alors j'aimerais savoir ce que j'ai le droit ou non de faire afin de ne jamais pouvoir etre prise a defaut. Merci a toute personne qui pourra m'aider.