Wychował się w katolickiej rodzinie jako najmłodszy z ośmiorga rodzeństwa. Ukończył prawo i dyplomację na Uniwersytecie Lwowskim oraz Wołyńską Szkołę Podchorążych Rezerwy. Tuż przed wybuchem II wojny światowej rozpoczął karierę dyplomatyczną w Ministerstwie Spraw Zagranicznych.
Po wkroczeniu Rosjan na wschodnie tereny Polski we wrześniu 1939 roku, Karski wraz z tysiącami polskich oficerów znalazł się w sowieckiej niewoli. Dzięki szczęśliwemu splotowi okoliczności przedostał się do niemieckiej strefy okupacyjnej i uciekł z transportu, podczas gdy większość jego towarzyszy broni zamordowano w 1940 roku w Katyniu.
Po dotarciu do Warszawy Karski zaangażował się w działalność ruchu oporu i został kurierem Polskiego Państwa Podziemnego. Obdarzony fotograficzną pamięcią i władający kilkoma językami kilkukrotnie wyruszał z misją do polskiego rządu na uchodźstwie we Francji i Wielkiej Brytanii, przewożąc tajne instrukcje i rozkazy. Przyczynił się do budowy struktur Polskiego Państwa Podziemnego i funkcjonowania tej największej w okupowanej Europie organizacji polityczno-wojskowej. Podczas trzeciej misji został aresztowany i torturowany przez Gestapo, próbował popełnić samobójstwo. Po odbiciu przez żołnierzy Armii Krajowej kontynuował konspiracyjną działalność.
W ramach przygotowań do ostatniej i najważniejszej misji Karski dwukrotnie został wprowadzony do warszawskiego getta, by na własne oczy zobaczyć tragiczną sytuację Żydów. W przebraniu ukraińskiego żołnierza spędził również kilka godzin w obozie przejściowym w Izbicy, z którego Żydów transportowano do obozów zagłady w Sobiborze i na Majdanku. Tam ponownie widział nieludzko traktowanych, umierających z głodu i rozstrzeliwanych ludzi.
W 1942 roku Karski przekazał informacje o eksterminacji Żydów zachodnim sojusznikom. Osobiście dostarczył szczegółowe raporty i jako naoczny świadek zaapelował do brytyjskiego Ministra Spraw Zagranicznych Anthony’ego Edena, przedstawicieli brytyjskich mediów i establishmentu o podjęcie działań mających na celu powstrzymania Holokaustu. W lipcu 1943 roku, w dwa miesiące po zagładzie warszawskiego getta, Karski spotkał się w Białym Domu z Prezydentem Stanów Zjednoczonych, Franklinem D. Rooseveltem. Rozmowy Karskiego nie przyniosły oczekiwanych rezultatów, a interwencja aliantów nigdy nie nastąpiła.
Po wojnie Jan Karski pozostał w USA, nie mógł wracać do komunistycznej Polski. Po ukończeniu studiów i uzyskaniu doktoratu na Uniwersytecie Georgetown w Waszyngtonie, przez czterdzieści lat wykładał stosunki międzynarodowe i teorię komunizmu w tamtejszej School of Foreign Service, kuźni amerykańskiej elity dyplomatycznej. W 1965 roku ożenił się z Polą Nireńską, polską Żydówką, wybitną tancerką i choreografką, która straciła część swojej rodziny podczas Holokaustu. W 1992 roku popełniła samobójstwo. O swoich doświadczeniach Karski napisał książkę pod angielskim tytułem Story of a Secret State, wydaną w 1944 roku w Stanach Zjednoczonych, gdzie stała się bestsellerem (w Polsce została wydana dopiero w 1999 i 2004 roku pod tytułem Tajne państwo). Tajne państwo przetłumaczono na wiele języków i wydano m.in. w Wielkiej Brytanii, Niemczech i w Hiszpanii.
Przez wiele lat Jan Karski nie ujawniał swoich wojennych przeżyć. Jego rola w informowaniu wolnego świata o trwającej zagładzie stała się znana dopiero po wywiadzie, jakiego udzielił w 1978 roku Claudowi Lanzmannowi realizującemu film „Shoah”. W 1982 roku jerozolimski Instytut Yad Vashem przyznał Karskiemu tytuł Sprawiedliwego wśród Narodów Świata, a w 1994 roku rząd Izraela oraz rodzinne miasto Łódź przyznały mu honorowe obywatelstwo.
W 1995 roku Jan Karski otrzymał z rąk Prezydenta Lecha Wałęsy Order Orła Białego, a 29 maja 2012 roku Prezydent Barack Obama odznaczył go pośmiertnie Prezydenckim Medalem Wolności, najwyższym amerykańskim odznaczeniem cywilnym.