Братья Оллманы росли и воспитывались в Дейтона-Бич, Флорида; занимались музыкой с начала 1960 годов. В 1963 году они образовали «гаражную» группу The Escorts, которая два года спустя изменила название на The Allman Joys. Затем возник состав The Hour Glass: с ним братья переехали в Лос-Анджелес. The Hour Glass выпустили два альбома на Liberty Records, но успеха не добились. Все музыканты группы были освобождены от контрактных обязательств, за исключением Грегга: в нём одном представители Liberty увидели коммерческий потенциал.

Ещё гастролируя как The Allman Joys, братья Оллманы познакомились с Бутчем Траксом, участником группы The 31st of February. Вскоре после распада The Hour Glass, сентябре 1968 года, они решили присутпить к сотрудничеству. Записанный в те дни альбом вышел лишь в 1972 году под заголовком Duane & Greg Allman на лейбле Bold Records.

Дуэйн Оллман к концу 1968 года стал востребованным сессионным музыкантом при студии FAME Studios в Масл-Шоулз, Алабама. Он аккомпанировал таким исполнителям, как Арета Франклин, Кинг Кёртис, Перси Следж, сыграл в версии Уилсона Пикетта «Hey Jude», ставшей хитом.

Наконец, Оллман начал играть джемы с Беттсом, Траксом и Оукли в Джексонвилле. На место гитариста в новый состав был приглашен Эдди Хинтон (англ. Eddie Hinton), знакомый Дуэйна по студийной работе, но тот отверг предложение. Грегг в это время находился в Лос-Анджелесе, работая по контрактным обязательствам Hour Glass с компанией Liberty Records. Его вызвали в Джексонвилл.

The Allman Brothers Band образовались в Джексонвилле, Флорила, 26 марта 1969 года в составе: Дуэйн и Грегг Оллманы, Дикки Беттс, Берри Окли, Батч Тракс и Джей Джоханни Йоханссон. Музыканты дали серию концертов и затем выпустили дебютный альбом The Allman Brothers Band (1969), высоко оцененный критикой.

Альбом Idlewild South (1970), записанный с продюсером Томом Даудом, был благосклонно встречен критиками и имел коммерческий успех (#38, Billboard 200)[8]. По завершении работы над ним Дуэйн Оллман присоединился к Эрику Клэптону и Derek and the Dominos, чтобы записать альбом Layla and Other Assorted Love Songs, впоследствии признанный классическим.

В 1971 году вышел At Fillmore East, записанный 12 и 13 марта того же года в одноименном легендарном концертном зале. Он стал хитом (#13, Billboard 200)[8] и остался в истории как один из лучших концертных альбомов: журнал Rolling Stone поместил его на #49 в списке «500 величайших альбомов всех времен». Здесь группа проявила стилистическое разнообразие: аранжировки, в которых соединились хард-рок, блюз, влияния джаза и европейской классической музыки, были отмечен гитарным дуэтом Оллмана и Беттса, продолжительными бас-гитарными соло Окли; критики отметили также мощные, но гибкие партии ударных, хриплый вокал Грегга Оллмана («под» Рэя Чарльза). Говоря о композиции «In Memory of Elizabeth Reed», критики сравнивали группу с Джоном Колтрейном и Майлзом Дэвисом.

The Allman Brothers Band оказались последними, кому удалось выступить в Fillmore East: в июне 1971 года зал закрылся. Последние концерты здесь приобрели легендарный статус, поскольку продолжались всю ночь. В 2005 году Грегг Оллман вспоминал, как во время джемминга музыканты теряли всякое чувство времени, и понимали, что наступило утро, уже когда боковые двери распахивались, впуская в зал дневной свет.

Группа продолжала гастролировать; впоследствии одна из записей тех времен вышла под заголовком S.U.N.Y. at Stonybrook: Stonybrook, NY 9/19/71

29 октября 1971 года, вскоре после того, как альбом Fillmore East получил золотой статус, Дуйэн Оллман разбился на мотоцикле в Мейконе, штат Джорджия, врезавшись в грузовик, который начал разворачиваться на дороге. Участники группы решили не распускать группу. Дикки Беттс взял на себя функции основного гитариста и завершил работу Оллмана над альбомом Eat a Peach. Альбом, вышедший в феврале 1972 года был мягче предшественника и печальнее в тональности. В него был включен 34-минутный джемминг-трек «Mountain Jam», записанный во время концертов в Fillmore East. Группа дала несколько концертов квинтетом, после чего пригласила в состав пианиста Чака Ливелла. Этот новый вариант состава дебютировал 2 ноября 1972 года в телеконцерте ABC In Concert.

11 ноября 1972 года Берри Окли скончался от травм головы, полученных в результате дорожного инцидента, случившегося всего в трех кварталах от того места, где погиб Оллман. Существует легенда, согласно которой оба происшедствия случились на одном и том же месте, и что название альбома Eat a Peach имеет отношение к содержимому грузовика, в который врезался Оллман, но обе эти истории были впоследствии опровергнуты. В конце 1972 года на место Берри Окли в группу пришел Ламар Уильямс, при участии которого была завершена работа над альбомом Brothers and Sisters, выпущенным в августе 1973 года.

К этому времени Дикки Беттс стал официальным лидером группы. Альбом Brothers and Sisters включал в себя самые известные хиты группы: «Ramblin' Man» и «Jessica», им написанные. Первая из этих двух песен вышла синглом и поднялась до #2 в Billboard Hot 100.

The Allman Brothers Band стали одной из самых успешных концертных групп в стране. Возможно свое самое знаменитое выступление они провели 28 июля 1973 года: это был Летний Джем на ипподроме Уоткинс-Глен (штат Нью-Йорк), где также сыграли The Grateful Dead и The Band. Зрителями этого массового фестиваля стали 600 тысяч человек. На волне успеха Allman Brother Band известность резко возрос интерес к южному року; известность приобрели, в частности, Marshall Tucker Band (нередко выступавшие у Allman Brothers Band разогревщиками) и Lynyrd Skynyrd.

С большим успехом накануне Нового года прошел организованная промоутером Биллом Грэхэмом радиотрансляция выступления The Allman Brothers Band в сан-францисском зале Cow Palace. В концерте приняли участие Боз Скэггс, а также Джерри Гарсия и Билл Кройцман из Grateful Dead.

Вскоре однако отношения между участниками The Allman Brothers Band ухудшились. Дикки Беттс и Грегг Оллман начали каждый свою сольную карьеру. Оллман женился на Шер, причем разводился дважды, спустя краткий период воссоединения; перипетии этой истории широко освещались в прессе. Беттс и Ливелл тянули группу в разных стилистических направлениях; Оллман безуспешно пытался быть между ними посредником.

Внутренняя нестабильность сказалась на содержании альбома Win, Lose or Draw (1975), в записи некоторых его треков принимали не все участники группы. В числе треков, отмеченных критикой, были «Can’t Lose What You Never Had» Мадди Уотерса, инструментальная композиция Дикки Беттса «High Falls» и заглавный трек, написанный Греггом Оллманом (как отмечалось, под влиянием Джексона Брауна).

Группа распалась в 1976 году после того, как Грегг Оллман, будучи арестован за хранение наркотиков, согласился дать показания против гастрольного менеджера группы и ее друга «Скутера» Херринга. Чак Ливелл, Джей Джоханни Йохансон и Ламар Уильямс образовали группу Sea Level. Дикки Беттс начал сольную карьеру. Все четверо поклялись, что никогда не станут больше работать с Оллманом. Лейбл Capricorn Records выпустил сборник The Road Goes On Forever и концертный альбом Wipe the Windows, Check the Oil, Dollar Gas, пластинки, успеха не имевшие.

В 1987 году Epic Records подписал с Оллманом и Беттсом раздельные сольные контракты. И тут же The Gregg Allman Band выпустил неожиданный радиохит, заглавный трек альбома I'm No Angel. За ним последовали альбом Just Before the Bullets Fly. В 1989 году The Allman Brothers Band реформировались и вновь оказались в центре внимания, не в последнюю очередь благодаря архивному материалу, выпущенному компанией PolyGram, а также серии летних концертов на открытых площадках. К Оллману, Беттсу, Джеймо Йоханссону и Траксу присоединились Уоррен Хэйнс (гитара, вокал), Джонни Нил (клавишные) и Аллен Вуди (бас-гитара). Чак Ливел предпочел отправиться в турне как участник гастролирующего состава Rolling Stones - с ними он играл на концертах с 1982 года.

Проведя юбилейный 20th Anniversary tour, The ABB подписали контракт с Epic Records и выпустили альбом Seven Turns (1990), который получил превосходную прессу. Состав покинул Нил, но группа продолжала записываться: умеренный успех имели альбомы Shades Of Two Worlds (1991) и Where It All Begins (1994, четыре года спустя он стал золотым), в работе над которыми принял участие перкуссионист Марк Квинонес (англ. Marc Quinones).

В 1994 году Уоррен Хэйнс и Аллен Вуди образовали собственный сторонний проект Gov't Mule

Состав с Оллманом, Бутчем Траксом, Джеймо Йоханссоном и Дереком Траксом продолжил укреплять связи с молодой аудиторией, устраивая совместные концерты с музыкантами нового поколения: The String Cheese Incident, moe, Dave Matthews Band. В 2003 и 2005 годах The Allman Brothers с успехом выступили на фестивале Bonnaroo. Начиная с 2005 года группа стала устраивать собственный двухдневный фестиваль Wanee Music Festival в музыкальном парке Spirit of the Suwannee в Лайв-Оук, Флорида. Здесь The Allmans, Gov’t Mule и The Derek Trucks Band выступают на разных сценах вместе с более молодыми группами — North Mississippi Allstars, Robert Randolph and The Family Band, Medeski, Martin and Wood, Devon Allman’s Honeytribe, Nickel Creek, Mofro и другими.

В 2008 году группа сократила свою гастрольную программу из-за болезни Грега Оллмана (он лечился от гепатита). 20 ноября 2008 года The Allman Brothers Band получили награду Legend Of Live Award на церемонии вручения Billboard Touring Awards в Нью-Йорке.Группе отдали должное как «гастролирующим профессионалам, которые оказывали длительное и серьезное влияние на концертную индустрию».

В 2009 году The Allman Brothers Band отпраздновали 40-летнюю годовщину со дня образования. Группа дала серию концертов, приглашая музыкантов, которым приходилось играть с Дуэйном Оллманом. В числе приглашенных гостей были Эрик Клэптон, исполнивший песни из альбома Layla and Other Assorted Love Songs, участники Grateful Dead и Phish, блюзмен Бадди Гай, джазовый барабанщик Ленни Уайт, рэп/кантри-рокер Кид Рок.

Долгое время коллектив существовал как обычная клубная команда, играя под названиями The Noble Five, My Backyard и One Percent. В 1971—1972 годах менеджер Алан Уолден устроил для музыкантов сессии на Muscle Shoals Sound Studios Шеффилд, штат Алабама. Но растянувшийся на 2 года альбом по разным причинам тогда не вышел (на виниле уже только в 1978 году как сборник Skynyrd’s First And… Last, а в 1998-м и в расширенной CD-версии), и Skynyrd вернулись в бары играть популярный на юге США блюз-н-буги.

В 1973 году они встретились с продюсером и музыкантом Элом Купером (Al Cooper), и тогда они записали свой материал по-новому и выпустили первый официальный альбом под заголовком «Произносится: Ле-нерд Скин-нерд!» (так музыканты «прославили» реального человека, своего учителя физкультуры Леонарда Скиннера, что досаждал им в школе за длинные причёски). Здесь, в составе фактического секстета (на фото на обложке их семеро, но штатный басист Леон Уилксон (Leon Wilkeson) ушёл прямо с начала сессий — его партии исполнил один из гитаристов, известный сейшнмен Эд Кинг (Ed King), хотя затем, по настойчивому приглашению Ван Занта, он вернулся в группу) отметились три соло-гитариста, чьё созвучие позднее и станет визитной карточкой концертов семерки. Введение в структуру композиций третьей гитары сделало общее звучание альбома резко атакующим, в стиле Allman Brothers Band, творчество которых Lynyrd Skynyrd взяли за модель.

В музыке группа придерживается стиля, получившего название Южный рок, являющегося зажигательной смесью рок-н-ролла, блюза, буги и кантри. Импровизации, характерная часть этих стилей, составляют наиболее привлекательную часть их знаменитых концертных выступлений. Песня «Freebird», написанная в память великого гитариста Дуэйна Олмэна (из The Allman Brothers Band) — одна из самых известных баллад группы. Другая песня — упомянутая «Sweet Home Alabama» («Милая родина — Алабама») — была написана в шутку, в качестве ответа на композиции «Southern Man» и «Alabama» Нила Янга, а также как мнение об Уотергейтском скандале и критика в адрес тогдашнего губернатора Алабамы, Джорджа Уоллеса.