Родился 21 октября 1945 года в Кишиневе Молдавской ССР (Молдавия) в семье будущего генерала армии, командующего Воздушно-десантными войсками СССР Василия Маргелова. У Александра Маргелова был брат-близнец – Василий, который скончался в 2010 году.
В 1970 году Александр Васильевич окончил ракетный факультет Московского авиационного института (МАИ), а в 1978 году экстерном окончил Рязанское высшее воздушно-десантное командное училище и Военную академию бронетанковых войск.
В 1971 году начал работать в Центральном конструкторском бюро экспериментального машиностроения в Калининграде (город Королев), однако в этот же год перевелся на должность старшего инженера научно-технического комитета ВДВ. Участвовал в разработке и испытаниях десантных платформ, подготовке техники и личного состава.
В январе 1973 года на полигоне 106-й гвардейской дивизии ВДВ «Слободка» под Тулой в качестве оператора-наводчика Александр вместе с командиром экипажа Леонидом Зуевым осуществил первое в истории десантирование внутри боевой машины десанта. БМД-1 с парашютным комплексом «Кентавр» была сброшена с военно-транспортного самолета Ан-12 и произвела мягкую посадку в заданном районе. Операцией руководил отец Александра - Василий Маргелов.
23 января 1976 года впервые в мировой практике десантировали и произвели мягкую посадку БМД-1 на парашютно-реактивной системе с двумя членами экипажа на борту - майором Александром Маргеловым и подполковником Леонидом Щербаковым. Десантирование проводилось с огромным риском для жизни, без индивидуальных средств спасения. Десантирование техники с экипажем на реактивных системах позволило вводить в бой дивизии ВДВ не за 7 дней, как раньше, а за 22 минуты. Это стало серьезным козырем во время холодной войны. За подвиг Александр Маргелов награжден Золотой Звездой Героя Советского Союза.
Всего Александр Васильевич совершил 145 прыжков с парашютом, дважды десантировался внутри БМД и один раз - совместно с ней.
В 1980 году перешел на работу в Главное инженерное управление Госкомитета СССР по внешним экономическим связям, при этом был оставлен на действительной военной службе.
После распада СССР работал главным экспертом управления госкомпании «Росвооружение», а после в структурах Рособоронэкспорта.
В 2015 году выступил сооснователем «Фонда содействия военно-патриотическому воспитанию молодежи социальной поддержки ветеранов спецподразделений и членов их семей им. Героя Советского Союза генерала армии В. Ф. Маргелова».
Спустя 20 лет за свои подвиги в 70-е Указом президента РФ от 29 августа 1996 года Александр Маргелов и Леонид Щербаков получили почетные звания Героев России и ордена Красного Знамени. Также в послужном списке Александра есть государственные и ведомственные медали, орден Красной Звезды, медаль «За защиту Крыма».
«В 2017 году в парке на улице Энергетиков Сургуте ему был воздвигнут памятник. К слову, мемориал находится рядом с памятником его отцу Василию Маргелову. Светлая память Великому Герою!» - отметил глава Невинномысска, Герой России Михаил Миненков.