Сын врача, учился в Италии, Германии и Франции где его наставником в 1874-1878 был Эмиль Огюст Каролюс-Дюран. Ранние работы художника высоко оценил Генри Джеймс. Во Франции Сарджент сблизился с импрессионистами, теснее всего - с Клодом Моне (известна картина Сарджента Клод Моне, работающий на опушке леса). Также дружил c Робером де Монтескью, Полем Эллё. По большей части жил во Франции и Великобритании, много путешествовал по Европе, Северной Африке, Ближнему Востоку, часто бывал в Италии, не раз приезжал в США.

Сарджент — один из первых американских апатридов, художников-космополитов в Европе, денди образца Fin de si?cle. Его нередко причисляют к импрессионистам, хотя образцами для него всегда оставались Веласкес, Гейнсборо, Ван Дейк (Роден даже назвал его, не без иронии, Ван Дейком нашего времени).

По адресу Сарджента нередко высказывались скептически художники-импрессионисты (например, Камиль Писарро), критики из группы Блумсбери (Роджер Фрай). Однако в 1960-е годы к Сардженту пришло широкое признание, его выставки состоялись в крупных музеях Европы и США, он достиг ранга национального и мирового классика.
Похоронен в Бруквуде, графство Суррей.