Александр Смоленский родился в семье эмигрантов из Австрии, окончил Джамбульский геолого-технологический институт в Казахстане. С 1974 года работал в типографиях, в 1980-м занял должность товароведа московской торговой фирмы «Весна». В 1981 году его обвинили в хищении госимущества и частном предпринимательстве — сам бизнесмен говорил, что использовал 6 кг типографской краски, чтобы набрать Библию. По официальным данным, его осудили на два года.
В 1987 году организовал один из первых строительных кооперативов в Москве. В 1989 году создал и возглавил коммерческий банк «Столичный». В 1994 году его переименовали в Столичный банк сбережений (СБС), в 1996 — в «СБС-Агро». Кредитная организация разорилась после дефолта, ее основатель возглавил финансовую группу ОВК. В 2003 году он продал холдинг Владимиру Потанину. Господин Смоленский после этого заявил журналистам, что отошел от дел.
Упоминался в числе бизнесменов, которые финансировали предвыборную кампанию Бориса Ельцина, их круг получил условное название «семибанкирщина». Помимо Александра Смоленского туда входили Борис Березовский, Михаил Ходорковский (признан в России иностранным агентом), совладелец банка «ОНЭКСИМ» Владимир Потанин, совладельцы «Альфа-банка» Петр Авен и Михаил Фридман, президент «Мост-банка» Владимир Гусинский, президент банка «Российский кредит» Виталий Малкин.
В 1995 году господин Смоленский входил в совет директоров ЗАО «Общественное российское телевидение», с 1996 года — в консультативный Совет по банковской деятельности при правительстве. В 1994 году был удостоен Ордена Дружбы народов. В соавторстве с журналистом Эдуардом Краснянским в 2006—2011 годы написал семь книг.