Resiliation d'un contrat site web

Bonjour,
Je commence l'histoire du début.
Nous sommes une entreprise et avons signé un contrat de 4 ans avec le prestataire de notre site internet, en février 2012, ce contrat est fini, cependant nous ne voulons plus travailler avec eux, pendant les 4 années nous avons payé pour des mises a jour qui n'ont jamais été faites et aucun suivi n'a été fait. Nous n'avons pas respecter le délais de résiliation (qui est de 3mois avant la fin du contrat).
Je vous écris aujourd'hui pour vous demander que faire? a part résilier et payé les 24mois d'abonnement qui suive...
un arrangement a l'amiable est-il possible ?