Родился 2 мая 1815 года в селе Ивановское Льговского уезда Курской губернии в семье князя Ивана Ивановича Барятинского и его супруги Екатерины Андреевны, урожденной графини Келлер. Назвали его Александром. Отец будущего генерал-фельдмаршала проходил службу в армии, награжденный за штурм Праги (предместья Варшавы) в 1794 году орденом Св. Георгия, он вскоре вышел в отставку, сделав блестящую дипломатическую карьеру, — был посланником в Лондоне, затем в Баварии.

Александр в 14 лет, лишившись отца, воспитывался в Москве, мечтая о военной службе.

С 26 июня 1831 года он юнкер Кавалергардского полка, спустя год оканчивает школу гвардейских юнкеров и подпрапорщиков. Распрощавшись со своим лучшим другом МЮ. Лермонтовым (он выпускался годом позже), Александр, произведенный в корнеты с зачислением в лейб-кирасирский полк, вскоре направляется на Кавказ, где участвует в экспедиции генерала Вельяминова в верховья реки Абим. В одном из боев во главе сотни казаков молодой офицер обратил неприятеля в бегство, но получил ранение пулей в правый бок (она оставалась там до конца жизни).

После излечения 1 января 1836 года получил назначение «состоять при наследнике» великом князе Александре Николаевиче. Во время трехлетнего путешествия с ним в Западную Европу он значительно пополнил свое образование, собрал богатую библиотеку.

24 марта 1845 года, по Высочайшему повелению, уже в чине полковника отправился на Кавказ, где продолжалась Кавказская война. После поражений 1840—1844 годов, император Николай I и Генеральный штаб предприняли попытку одним решающим ударом сломить сопротивление кавказских горцев, прорвавшись и захватив в Терской области селение Дарго, где укрепился Шамиль. 30-летний Барятинский был назначен командовать 3-м батальоном Кабардинского егерского полка. Военный поход на Дарго начался 31 мая.

13 июня при поражении войск Шамиля близ селений Гогатль и Анди Барятинский проявил особенные отличия. Раненый пулей в голень правой ноги (навылет), он остался в строю — и в награду за оказанные подвиги получил орден Святого Георгия 4-й степени. 14 июня, при движении к Анди, 3-й батальон, под командованием князя Барятинского, блистательно атаковал 6-тысячное скопище горцев и выбил их из завалов на высотах за рекой Годор.

6 июля 1-й и 2-й батальоны находились при взятии Дарго, затем 10 и 11 июля, участвовали в отбитии транспорта. С 13 по 20 июля прикрывали отступление отряда через Ичкерийский лес.

За Даргинский поход все три батальона получили новые Георгиевские знамена, причём 1-й и 2-й батальоны к старым надписям присоединили: «За взятие Анди 14 июня, Дарго 6 июля 1845 года»; 3-й батальон получил надпись: «За взятие Анди 14 июня 1845 года».

С 1847 года командир Кабардинского полка. 23 июня следующего года полк отличился в бою при Гергебиле, за что Барятинский получил чин генерал-майора с зачислением в свиту императора. «Как полковой командир был весьма требователен и строг, — отмечает один из его соратников, — вникал во все мелочи быта солдат и офицеров, не жалел тратить на полк и его вооружение свои собственные средства».

В 1850 году назначен командиром Кавказской гренадерской бригады, в следующем году — начальником левого флага Кавказской укрепленной линии. Провел две экспедиции против Большой Чечни — главного района действий Шамиля. «Они отличались малыми потерями в людях, что обеспечивалось хорошей разведкой и продуманной организацией, сопровождалось прокладкой новых дорог и лесных просек» — писал М.С. Воронцов.

С осени 1853 года начальник главного штаба русских войск на Кавказе, генерал-адъютант, генерал-лейтенант. С началом Восточной (Крымской) войны командир корпуса на турецкой границе, нанес тяжелое поражение неприятелю под Кюрюк-Дара, за что награжден орденом Св. Георгия 3-й степени.

В июле 1856 года назначен главнокомандующим и наместником на Кавказе с производством в генералы от инфантерии. В соответствии с разработанным планом действий против Шамиля провел ряд военных экспедиций.

В августе 1859 года под его личным руководством аула Гуниб разыгрался последний акт борьбы. «Гуниб взят. Шамиль в плену», — доносил он императору.

За успехи в утверждении власти России на Кавказе удостоен орденов Св. Георгия 2-й степени, Св. Андрея Первозванного, почетного звания шефа Кабардинского полка, в 1859 году — чина генерал-фельдмаршала.

С 1860 года член Государственного Совета, ряда правительственных комиссий. Автор ряда предложений по военной реформе, плану русско-турецкой войны 1877–1878 годов. Значительную часть времени проводил за границей, находясь на излечении в Германии, Италии, Франции.

Скончался 25 февраля 1879 года в Женеве. Похоронен в родовом имении — селе Ивановском Курской губернии. По оценке современников и военных историков, один из военачальников, умело, творчески владеющий принципами военного искусства, обладающий способностями организатора.