Cet escrimeur français a ferraillé de longues années avant de trouver la consécration olympique en dépit d’une supériorité évidente dès son plus jeune âge tant au fleuret qu’à l’épée. Il aurait pu participer aux Jeux de Londres 1908, mais il est au service militaire. En 1912, c’est l’équipe de France d’escrime qui boycotte les Jeux de Stockholm. Il ira finalement aux Jeux d’Anvers 1920 pour le gain d’une médaille d’argent par équipe.

Gaudin sera médaillé d’or par équipe aux Jeux de Paris 1924 à l’épée et au fleuret. Mais il a finalement 42 ans lorsqu’il obtient enfin l’or individuel aux Jeux d’Amsterdam 1928. Il s’impose dans les deux disciplines et devient ainsi le premier français quadruple champion olympique.

Par la suite, il exerce la profession de banquier, mais en mis en faillite, il met fin à ses jours.