Départ locataire sans état des lieux mais avec remise des clefs

Bonjour,

Mon locataire vient de partir, il ne m'avait pas envoyé de courrier de préavis, mais à ce moment là, sachant qu'il ne payait pas son loyer, j'étais d'accord. Je préférais faire ça à l'amiable sachant que tous les mois c'était la guerre pour le loyer ( je percevais tout de même un peu de en temps, et avec le confinement ça n'a pas aidé).
Il m'a déposé les clefs dans la semaine, je lui demande de me signer un EdL pour justifier, car sinon je n'ai rien qui doit qu'il a quitté les lieux (pas de préavis, rien), mais il refuse ...
D'après mes recherches, je ne peux donc pas reprendre possession du logement sans être "hors la loi" , je suis donc obligée de faire intervenir un huissier? Vous me confirmez?
En plus, il reste quelques affaires... il m'a dit que normalement ça partait à la déchetterie...