Мама Леонида работала врачом, а папа был инженером. У Леонида был младший брат - Виктор. Родители старались воспитать в детях любовь к искусству и поощряли увлечение братьев театром и музыкой. Маленький Леня Харитонов никогда не упускал случая прочесть стихотворение или спеть песню на семейных торжествах в присутствии гостей. Подросшего Леонида родители отдали в престижную гимназию № 239, в которой театральный кружок вела актриса театра БДТ Мария Александровна Призван-Соколова. Ее рассказы о сцене настолько впечатлили юного Леонида, что он твёрдо решил стать артистом. Мальчик выделялся среди других учеников студии - он хорошо пел, умел держаться на сцене, и советы педагога схватывал на лету.
В школе Леонида Харитонова называли «артист», потому что он был непременным участником всех школьных самодеятельных спектаклей. После девятого класса Леонид сдал экзамены в театральную студию, но его не приняли, так как к этому времени у него не было аттестата зрелости. И после окончания школы Харитонов поступил в университет на юридический факультет. Харитонов прилежно изучал юридические науки в течение года, а в свободное время играл в студенческом самодеятельном драматическом кружке. В спектакле «Ревизор» он сыграл Бобчинского, и снова всерьёз задумался об актёрской карьере.
Во время учёбы в университете Харитонову предложили службу в разведке, предупредив, что предстоит работа за рубежом, и многим придётся пожертвовать. От этого предложения Харитонов отказался из-за любви к театру.
Когда гастролирующий в Ленинграде МХАТ объявил набор в свою школу-студию, Леонид решил сдать экзамены. Он успешно прошёл все экзаменационные туры, и был принят. Школу-студию имени В.И.Немировича-Данченко при МХАТе Харитонов окончил в 1954 году и был принят в труппу театра. В том же 1954 году Леонид Харитонов впервые снялся в кино в фильме «Школа мужества», где начал сниматься, ещё будучи студентом.
А через год, в 1955 году, на экраны страны вышла картина «Солдат Иван Бровкин».
Чтобы актёр привык к костюму своего героя, ему было разрешено носить солдатскую форму. Чтобы лучше изучить характер героя, Харитонов часами занимался строевой подготовкой, учился водить трактор и мотоцикл, и отказался от певца-дублёра. «Хочу петь сам», - настоял актер. Сценарий комедии Леонид Владимирович изучал несколько недель, вдумываясь в каждую строку, стараясь точнее представить образ Ивана, у которого всё выходит невпопад. Во время съёмок «Солдата Ивана Бровкина» у него открылась язва, нажитая во время блокады.
Летом 1955 года на улице Сухуми военный патруль задержал молодого солдата. Тот не приветствовал офицера и был явно не по уставу одет: ремень не затянут, ворот расстёгнут. Остановленный патрулём солдат, вместо того чтобы встать по стойке «смирно», пытался вступить в пререкания. Патруль доставил его в комендатуру. Через несколько минут задержанный, улыбаясь, вышел из комендатуры в сопровождении самого коменданта.
- Смотрите, больше не попадайтесь! Раз на вас форма, носите её, как указано в уставе, - сказал комендант, пожимая руку на прощанье.
- Есть! - щёлкнул каблуками солдат.
- Актёр это, - пояснил комендант офицеру. - "Школу мужества" видели? Вот он там играл.
Когда фильм «Солдат Иван Бровкин» вышел на экраны, Леонид Харитонов стал кумиром поколения. Ему писали письма солдаты, девушки, матери и бабушки, актёра приглашали на творческие встречи в клубы, школы и на заводы. Харитонов создал образ нового социального героя - непутёвого, но доброго, скромного и обаятельного. Персонажи Харитонова не только воспитывали, но и веселили зрителей всех поколений. Леонид и сам был похож на своих героев: никогда за себя не просил, жил скромно, общался со всеми на равных, не отказывал в помощи.
В 1962 году Харитонов перешёл в Театр имени Ленинского Комсомола, а затем в Драматический Театр имени Пушкина, но и там долго не задержался, и в 1963 году снова вернулся на мхатовскую сцену. Во МХАТе в спектакле «Палата №6» Леонид Харитонов сыграл одну из главных ролей. Его партнершей по сцене стала Татьяна Доронина. Казалось, в жизни Леонида Владимировича наступила светлая полоса. Но неожиданно этот спектакль, которым артист так дорожил, был снят с репертуара. Но потом спектакль было решено восстановить, но случилась новая беда — сгорели декорации к спектаклю.
В последние годы жизни Харитонов тяжело болел. Летом 1980 года, в дни московской Олимпиады, он перенес первый инсульт. Затем на съёмках фильма «Из жизни начальника уголовного розыска», 4 июля 1984 года, последовал второй инсульт.
В 1980-е годы Леонида Харитонова почти забыли. О его прошедшей славе напоминала лишь лента Владимира Меньшова «Москва слезам не верит», где перед входом в Театр киноактёра одна из героинь кричит от восторга: «Смотри! Харитонов!!!»
С возрастом Харитонов снимался крайне редко, преподавал, готовил себя к настоящей этапной роли. Иногда появлялся в эпизодах.
Леонид Владимирович не хотел повторяться, а новых ролей не предлагали. Он много ездил с выступлениями по Советскому Союзу, но за рубеж одного из самых популярных киноактёров 1950-х годов так и не выпустили.
20 июня 1987 года состоялся раздел МХАТа. Кто-то оставался с Ефремовым, а кто-то переходил к Дорониной. Харитонов не перешёл никуда. Он скоропостижно скончался 20 июня 1987 года от третьего инсульта.
