Son père étant gérant d’un stand de tir de Bucarest, Iosif Sirbu s’est tout naturellement lancé dans le tir sportif en 1937, à l’âge de 12 ans. Il remporta sa première compétition de niveau national deux ans plus tard. Après guerre, lors du premier championnat national, il devint champion de Roumanie dans l’épreuve du fusil libre en position debout. Sa première victoire internationale a eu lieu lors des championnats des Balkans à Belgrade en 1948, où il a remporté l’épreuve à la carabine libre.

Aux Jeux olympiques d’Helsinki 1952, il remporta l’épreuve du tir à 50 mètres avec la carabine de petit calibre, établissant un nouveau record du monde à 400 points. Le soviétique Boris Andreïev a réalisé le même score mais Sirbu a tapé 33 fois le centre de la cible, contre 28 à Andreïev. C’est ainsi que Sirbu est devenu le tout premier champion olympique de Roumanie.

En dépit de la baisse de sa vue, Iosif Sirbu participa à deux autres Jeux olympiques, se classant 5ème à Melbourne 1956 et 12ème à Rome 1960.

En septembre 1964, il a été retrouvé mort dans sa maison de Bucarest. Les circonstances de sa mort n’ont jamais été officiellement expliquées ni confirmées, mais l’on pense généralement qu’il se serait suicidé.

Un verdict médical l’avait empêché de participer aux Jeux olympiques de Tokyo 1964, à cause de sa maladie oculaire.