Litige avec un locataire

Bonjour,
Mon locataire m'a remis les clefs de l'appartement qu'il occupait dans une enveloppe simple. Il n'a respecté aucun préavis et ne m'a pas prévenu. A mon retour de vacances (3 semaines après), j'ai découvert les clefs de l'appartement et suis rentrée dans celui-ci. Mon locataire a laissé couler l'eau chaude, renverser les poubelles sur le toit, dégrader l'appartement, etc.
Le huissier refuse de venir constater les dégats puisque le locataire n'a pas signé le bail pour sa sortie.
La gendarmerie ne peut pas recevoir notre plainte.
Le locataire a changé de lieu d'habitation et a cloturé son dossier CAF. La CAf ne s'occupe pas des problèmes entre locataires et propriétaires, etc...
que puis-je faire, sacahnt qu'il n'avait pas réglé non plus tous ses loyers ?
Merci de votre réponse,
Cordialement,
Maglia