Urodził się w Łodzi w 1914 r. w katolickiej rodzinie jako Jan Rajmund Kozielewski. Nazwisko Karski, pod którym przeszedł do historii, było wojennym pseudonimem. Ukończył prawo i przygotowywał się do pracy w dyplomacji, gdy wybuchła wojna. We wrześniu 1939 r. walczył z Niemcami, ale dostał się do niewoli sowieckiej, z której udało mu się zbiec. Szybko znalazł kontakt z podziemiem i został skierowany do misji kurierskich. O tym przydziale zadecydowała jego biegła znajomość kilku języków oraz znakomita pamięć, której powierzał najważniejsze fakty ze swych raportów. Pierwszą misję odbył do Francji, do której dotarł przez Słowację, Węgry, Jugosławię. W czasie kolejnej szczęście go opuściło. Latem 1941 r. na Słowacji został aresztowany przez gestapo. Obawiając się, że biciem i torturami uda się śledczym wyciągnąć z niego tajemnice, próbował popełnić samobójstwo, podcinając sobie żyły. Niemcy umieścili go w szpitalu w Nowym Sączu, skąd odbił go oddział podziemia, powiązany z socjalistami, na rozkaz Józefa Cyrankiewicza.

W 1942 r., aby zweryfikować informacje o zagładzie Żydów, Karski dwukrotnie nielegalnie wszedł do warszawskiego getta. Jego przewodnikiem tam był Leon Feiner, przed wojną działacz Bundu i znany adwokat. Prowadząc go, powtarzał: „Patrz i pamiętaj,

co tu zobaczyłeś”. Słowa Feinera okazały się przesłaniem, które zdeterminowało życie Karskiego. Wkrótce odbył wyprawę jeszcze bardziej niebezpieczną. W mundurze funkcjonariusza estońskiego oddziału wartowniczego wszedł na teren obozu przejściowego w Izbicy, gdzie dokonywano selekcji do gazu. To, co zobaczył, prześladowało go do śmierci. Pod koniec życia spotkał się z nim prof. Adam Daniel Rotfeld, jeden z najbardziej cenionych w świecie polskich dyplomatów. Wspomina, że Karski pomimo upływu lat, niezwykle głęboko przeżywał tamten czas. Łzy w jego oczach, gdy mówi o sytuacji Żydów w getcie, pojawiają się w kadrach filmu „Shoah” z 1985 r. Także przed śmiercią nie mógł o tym opowiadać bez wyraźnego wzruszenia, wspomina prof. Rotfeld.