Urodził się 22 czerwca 1946 r. w Nowym Sączu. Karierę polityczną zaczął w czasach PRL. Był m. in. I sekretarzem Komitetu Wojewódzkiego PZPR w Białej Podlaskiej.

Po transformacji ustrojowej pełnił wysokie urzędy państwowe III RP. W latach 1993-1995 i 2004-2005 był marszałkiem Sejmu RP, a w latach 1995-1996 premierem.

Józef Oleksy od 10 lat cierpiał na chorobę nowotworową. Tuż przed Bożym Narodzeniem, w grudniu 2014 r. udzielił obszernego wywiadu Robertowi Mazurkowi z "Rzeczpospolitej".

Kilka dni temu były premier trafił w ciężkim stanie do jednego z warszawskich szpitali. Zmarł 9 stycznia, w wieku 68 lat.