Родился 6 ноября 1862 г. в г. Вильно (ныне Вильнюс, Литва) в семье попечителя учебного округа (впоследствии его отец был товарищем министра народного просвещения).
Князь.
В 1884 г. окончил курс Императорского училища правоведения в Санкт-Петербурге.
Назначен сначала чиновником особых поручений при Эстляндском губернаторе кн. Шаховском (прославившемся политикой обрусения края), затем советником губернского правления.
Принимал участие в возведении православных храмов и школьных зданий в десяти новооткрытых приходах губернии.
В 1889 г. князь был командирован в Вену, где он представлял ведомство православного исповедания при закладке храма Российского посольства.
В 1890 г. был назначен помощником юрисконсульта при обер-прокуроре Св. Синода, а в 1894 г. - прокурором Московской Синодальной конторы.
Занимавший эту должность чиновник являлся одновременно руководителем Синодального училища, главным начальником Синодального хора,
управляющим Патриаршей библиотекой и Патриаршей ризницей, в его ведении находилось также управление церковным хозяйством и имуществом в Москве.
Занимался реорганизацией Московского Синодального хора.
Синодальное училище было превращено вскоре в церковную музыкально-певческую академию, имевшую своей задачей бережное хранение русского направления в пении и музыке в противовес итальянскому,
которое доминировало в Придворной певческой капелле.
Помимо того, что он внес огромный вклад в постановку певческого искусства, князь привел в порядок Патриаршую библиотеку и Патриаршую ризницу.
Собирал старые иконы древнего письма и организовал их реставрацию.
В 1896 г. получил звание камергера Императорского двора.
Осенью 1902 г. руководил подготовкой торжеств, связанных с церковным прославлением прп. Серафима Саровского.
С декабря 1903 г. - Тверской губернатор.
В октябре 1904 г. был уволен с должности губернатора, вернулся в Петербург и, получив звание гофмейстера Двора, был назначен сенатором.
В апреле 1905 г. стал товарищем обер-прокурора Св. Синода при уже больном К.П. Победоносцеве.
В октябре 1905 г. вышел в отставку с поста товарища обер-прокурора и вернулся в 1-й Департамент Сената.
В апреле 1906 г. после отставки кабинета С.Ю. Витте князь А.А. Ширинский-Шихматов был назначен обер-прокурором Св. Синода в правительстве И.Л. Горемыкина.
В июле 1906 г., когда Горемыкина сменил П. А. Столыпин, кн. Ширинский-Шихматов отказался войти в его кабинет и был назначен членом Государственного Совета, где вскоре стал виднейшим деятелем правой группы.
Одновременно он активно работал в обществе «Окраины России», которое было создано при его участии А.С. Стишинским и в задачи которого входило изучение духовной, культурной и исторической связи России с ее окраинами,
особенно с теми, где были сильны сепаратистские тенденции.
Также принимал активное участие в деятельности Русского Собрания (РС).
28 января 1909 г. совместно с председателем Совета РС кн. М.Л. Шаховским разработал проект объединения деятельности РС и Общества ревнителей исторического просвещения как единомышленных обществ.
В 1910 г. принимал участие в попытке примирения правых сил.
В 1907—1912 гг. князь был председателем «Бюро для взаимной осведомленности и совместных действий правых деятелей» в период легислатуры III Государственной Думы,
в состав которого кроме него входили 3 чел. от Государственной Думы (гр. А. А. Бобринский, А. С. Вязигин и Г. Г. Замысловский) и 3 чел. от Государственного Совета (М. Я. Говоруха-Отрок, кн. А. Н. Лобанов-Ростовский и А. С. Стишинский).
После гибели вел. кн. Сергея Александровича, который был председателем Императорского Православного Палестинского общества, эту должность заняла его вдова вел. кн. Елизавета Федоровна, а вице-председателем стал кн. Ширинский-Шихматов.
Принимал участие в организации строительства в г. Бари (Италия) Православного подворья и странноприимного дома для паломников
("Барградского комитета при Палестинском обществе для сбора пожертвований на строительство странноприимного дома для русских паломников в г. Бари").
Председатель "Барградского комитета" (1911).
Был также избран в члены Императорской археологической комиссии как знаток и собиратель древностей.
В 1915 г. основал Общество возрождения художественной Руси.
К работе Общества ему удалось привлечь незаурядные творческие силы — он лично знал почти всех знатоков и любителей русского искусства, зодчества, словесности, истории, иконографии, археологии, музыки и кустарничества.
Руководил реставрацией Успенского собора в Москве, строительством Николо-Александровского храма Императорского Православного Палестинского общества в Петрограде и подворья в г. Бари.
Немалый вклад он внес в строительство Феодоровского Государева Собора в Царском Селе, возведенного в память 300-летия Дома Романовых.
Участвовал в оборудовании нижнего храма и в создании окружающего собор «Царского городка», в котором должны были разместиться казармы Собственного его величества Конвоя и сводного гвардейского пехотного полка
(там хранилась лично собранная кн. Ширинским-Шихматовым коллекция старинной русской меди: братины, ковши, ендовы и прочее - всего свыше 350 предметов).
Общество возрождения художественной Руси состояло из 3 разрядов: словесности (подготовивший к печати 2-томный перечень русских слов, могущих заменить соответствующие иностранные),
художественный (успевший выпустить и распродать ок. 3 млн открыток с изображением памятников русского зодчества)
и хождений по Руси (задуманный на то время, когда окончившаяся война позволит разработать и осуществить обширный план художественно-просветительских поездок для групп народных учителей, учащихся и всех желающих).
Во время войны князь был назначен вице-председателем Комитета вел. кн. Ольги Николаевны для помощи семьям запасных, призванных под ружье,
а с осени 1916 г. также председателем Особого комитета для борьбы с злоупотреблениями, порожденными тыловой обстановкой
(уклонение от воинской повинности и прочими).
В 1915 — начале 1917 гг. он входил в сложившийся вокруг члена Государственного Совета А.А. Римского-Корсакова кружок правых деятелей (Д.П. Голицын, А.С. Стишинский, А.А. Макаров и др.),
который подготовил несколько записок на имя государя с предложением начать проведение более жесткой политики в отношении противников самодержавия.
25 февраля 1917 г. в самый разгар беспорядков в Петрограде он пытался спасти положение, предлагая правительству от имени правой группы Государственного Совета ввести в столице осадное положение.
Однако к советам кн. А.А. Ширинского-Шихматова не прислушались.
После большевистского переворота переехал в Москву, где вел тайную монархическую работу и пытался организовать спасение царской семьи.
22 августа (5 сентября) 1918 г., после объявления большевиками объявили «красного террора», скрывался,
а 1 сентября 1918 г. со всей семьей по чужим документам выехал из Москвы с эшелоном возвращавшихся на родину литовских беженцев.
Гродно (3 мес.), Варшава (1,5 года), Прага (4 мес.), Карлсбад (3 мес.): таковы первые этапы его эмигрантской жизни.
После убийства в 1918 г. прпмч. Елизаветы Федоровны кн. А.А. Ширинский-Шихматов был избран, уже в эмиграции, председателем Палестинского общества, оставаясь на этом посту до самой своей кончины.
Член правления Церковного совета в Варшаве (1920).
В начале 1921 г. обосновался в Германии (жил в Берлине и Мюнхене), где оставался до 1924 г.
На Съезде хозяйственного восстановления России (Рейхенгалль, Бавария), 16—23 мая 1921 г. был избран одним из 3-х членов руководящего органа монархической эмиграции Высшего монархического совета,
наряду с Н.Е. Марковым и А.М. Масленниковым.
Товарищ председателя 1-го Карловацкого собора (1921).
В 1924 г. семья кн. А.А. Ширинского-Шихматова перебралась в Париж.
В 1928 г. он был председателем президиума Четвертого монархического съезда в Париже.
Один из основателей русского православного храма во имя Знамения Божией Матери в помещении на rue d'Odessa в Париже в юрисдикции Русской Православной Церкви Заграницей (РПЦЗ).
Иконостас этого храма был сооружен по замыслу и под руководством князя, который был председателем комиссии по его украшению.
Заботясь о благолепии церкви, князь пожертвовал в нее частицу подлинной мантии прп. Серафима Саровского,
сохраненной со времени прославления святого и вывезенной им при отъезде из России.
Скончался 9/22 декабря 1930 г. в г. Севр (пригород Парижа) во Франции.