Nato a Grumo Appula, in provincia di Bari, nel '59, Sergio Rubini lasciò l'amato Sud per trasferirsi a Roma e frequentare l'Accademia d'Arte Drammatica a soli diciotto anni. Dopo due anni però, gli si presentò l'occasione di dirigere spettacoli propri, scritti dall'amico e collaboratore Umberto Marino. Dal teatro approdò alla radio e quindi al cinema in film come Desiderando Giulia, Il caso Moro, Figlio mio infinitamente caro fino alla grande occasione di interpretare un giovane Federico Fellini ne L'intervista: un incontro, quello con il regista riminese, che si rivelerà decisivo per la sua carriera.

Nel '90 Rubini firmerà il suo primo film da regista, La stazione, tratto da una commedia scritta da Marino e Gianfilippo Ascione di cui Rubini era stato protagonista. Il considerevole successo di critica e pubblico del film - interpretato anche da Margherita Buy che diverrà sua compagna di vita - spinse Sergio a rimettersi in gioco con un nuovo progetto da regista, il noir La bionda interpretato da Nastassia Kinski, il film però si rivela un insuccesso clamoroso, e spinge Rubini a realizzare un film successivo senza grandi pretese, e più adatto al grande pubblico.

Dopo la fine del legame con la Buy, Rubini inizierà a lavorare con Giuseppe Tornatore in Una pura formalità, una pellicola che gli permetterà di farsi conoscere oltre i confini del nostro paese e di lavorare anche in produzioni straniere. Al film di Tornatore seguiranno Nirvana di Salvatores, per il quale lavorerà anche in Amnèsia e Denti.

Tra gli altri suoi film più importanti, si ricordano Chiedi la luna, Il viaggio della sposa - da lui diretto - Del perduto amore, Il talento di Mr. Ripley e Manuale d'amore.