Sartre ble født i Paris som sønn av marineoffiseren Jean-Baptiste Sartre (1874–1906). Hans mor Anne-Marie Schweitzer (1882–1969) var av tysk-elsassisk opprinnelse og var kusine av den tyske fredsprisvinneren Albert Schweitzer. Faren døde av en tropesykdom 15 måneder etter at Jean-Paul ble født, og hans unge mor reiste til sine foreldre, hvor han vokste opp under innflytelse av bestefaren Charles Schweitzer, en lektor i tysk, som underviste barnebarnet hjemme. Først som 10-åring ble Jean-Paul sendt på skole, på det prestisjefulle gymnaset Lycée Henri-IV.
I 1917 giftet moren seg på nytt og flyttet med sin nye mann til La Rochelle – en begivenhet som gikk sterkt inn på Jean-Paul. Da bestefaren oppdaget at den da 12 år gamle Jean-Paul hadde stjålet fra husholdningspengene for å kjøpe godterier for å bli populær hos klassekameratene, brøt han med ham.
I 1920 ble han sendt tilbake til Paris, og fortsatte å gå på Henri-IV som internatelev. Her ble han kjent med den senere forfatteren Paul Nizan, som introduserte ham for samtidslitteratur. I 1922 avla han sin baccalauréat og besluttet, sammen med Nizan, å forsøke å komme inn på elitehøyskolen École Normale Supérieure. De begynte derfor ved Lycée Louis-le-Grand, siden forberedelsesklassene for École Normale Supérieure der angivelig var bedre enn ved Henri-IV.