Ce rameur Américain pratique le double scull, un bateau de deux équipiers, sans barreur. Il est triple champion olympique de la catégorie entre Anvers 1920 et Amsterdam 1928 pour trois titres obtenus consécutivement.

Paul Vincent Costello s’impose en compagnie de Jack Kelly, son partenaire sur les plans d’eau, mais aussi son parent dans la vie puisqu’il était cousin. Ils s’imposent à Anvers 1920 et Paris 1924. Paul Costello remporte un troisième titre consécutif à Amsterdam 1928 avec un nouveau partenaire, Charles McIlvaine.

Il reste le premier rameur à remporter une médaille d’or dans la même épreuve à trois Jeux olympiques consécutifs.

Néanmoins, historiquement, Costello a été quelque peu éclipsé par Kelly qui était également triple médaillé d’or olympique, mais qui était aussi le père de Grace Kelly, actrice et princesse de Monaco.

Costello et Kelly ont tous deux ramé pour le club de Philadelphie.