Issu d'une famille de militants FO, Jean-Claude Mailly se syndique à son tour à ce syndicat en 1978 avant d'en devenir en 2004 le secrétaire général alors qu'il est à l'époque décrit par tous comme "l'homme de l'ombre ".
Titulaire d'un DEA de sciences économiques et sociales, il devient dès 1978 chargés d'études à la Caisse Nationale d'Assurance Maladie (CNAM). En 1981 sa carrière de militant prend son envol. En effet, après son élection au poste de délégué du personnel et sa nomination à celui de délégué syndical à la CNAM, il rentre dans les rangs des permanents de FO. De 1994 à 1999, il est membre du Conseil économique et social et, en 2000, il devient secrétaire confédéral chargé de la communication.
Le 7 février 2004, âgé de 51 ans et jouissant de sa figure de "fils spirituel"de Marc Blondel, qu'il accède à la fonction de secrétaire général de FO pour la première fois avant d'être réélu le 30 juin 2007.
