1 октября 1799 г. он во второй раз отставлен императором от службы и отослан в Грузино. Удаление Аракчеева из Санкт-Петербурга было выгодно тем представителям аристократии, которые начали в это время подготовку заговора против Павла I. На этот раз отставка продолжалась до нового царствования.
В 1801 г. на престол взошел император Александр Павлович, с которым Алексей Андреевич хорошо сблизился по службе. В 1802 г. Александр вновь призвал его на службу, назначив членом Комиссии для составления примерных штатов артиллерии, а 14 мая 1803 г. – вновь инспектором всей артиллерии и командиром лейб-гвардии Артиллерийского батальона.
Опыт деятельности Аракчеева в «гатчинских войсках» цесаревича Павла пригодился, когда надо было создавать первую в гвардейской бригаде конную артиллерийскую роту. Конная артиллерия начала XIX века – вид полевой артиллерии, в которой не только орудия и боекомплект, но и каждый номер орудийного расчета перевозились лошадьми, в силу чего прислуга обучалась не только действиям при орудии, но и ведению боя в конном строю. Конная артиллерия предназначалась для огневой поддержки кавалерии и создания мобильного артиллерийского резерва, поэтому имела на вооружении облегченные единороги и шестифунтовые пушки. В 1803–1811 гг. Аракчеев подготовил и осуществил реформу российской артиллерии, в результате которой она превратилась в самостоятельный род войск, усовершенствовалась ее организация (полки и батальоны заменены артиллерийскими бригадами), создана первая комплексная система артиллерийского вооружения (полевая артиллерия ограничена орудиями четырех калибров облегченной конструкции, определен боекомплект каждого орудия, пересмотрены штаты, введена единая конструкторская документация, разработаны образцовые эталонные детали для изготовителей и т. п.). Армейским пехотным дивизиям были приданы пешие артиллерийские бригады 3-ротного состава (батарейная и 2 легкие), а кавалерийским – конные артиллерийские роты, созданы подвижные артиллерийские арсеналы.
Аракчеев установил экзамены для артиллерийских офицеров, написал для них ряд наставлений. Еще по прибытии в Гатчину к артиллерийским частям цесаревича Павла Петровича Аракчеев обнаружил, что отсутствуют инструкции: что делает каждый номер при орудии. Артиллерист делал то, что приказывал офицер, приходившийся на два орудия. Аракчеев определил состав команд при орудиях, написал каждому номеру, что он делает, что он держит в руках, какая сумка на нем висит и т. д. Офицерам гвардии, естественно, не нравилась столь детальная регламентация, соблюдение которой возлагалось на них.
Преобразованная артиллерия успешно показала себя во время наполеоновских войн. Строгий к нерадивым, он не скупился на поощрения исправно исполнявшим службу: на награды в Артиллерийской экспедиции расходовалось около 11 тыс. руб. в год. В декабре 1807 г. Аракчеев был назначен состоять при Александре I «по артиллерийской части», а через два дня император предписал считать свои повеления, объявляемые Аракчеевым, именными императорскими указаниями. В 1804 г. по его инициативе образован Временный артиллерийский комитет для рассмотрения научно-технических вопросов, переименованный в 1808 г. в Ученый комитет по артиллерийской части; начал издаваться «Артиллерийский журнал».
В 1805 г. А. А. Аракчеев находился при государе в Аустерлицком сражении.
В 1807 г. Аракчеев был произведен в генералы от артиллерии. Для наведения порядка в военном ведомстве 13 января 1808 г. Александр I назначил Аракчеева министром военно-сухопутных сил (до 1810 г.), кроме того, 17 января – генерал-инспектором всей пехоты и артиллерии (до 1819 г.), с подчинением ему комиссариатского и провиантского департаментов. 26 января 1808 г. Аракчеев стал начальником императорской Военно-походной канцелярии и Фельдъегерского корпуса. Под его руководством завершилось введение дивизионной организации армии, улучшилось ее комплектование, снабжение и обучение войск. Во время управления министерством Аракчеевым были изданы новые правила и положения по разным частям военной администрации, упрощена и сокращена переписка, созданные рекрутские депо и учебные гренадерские батальоны готовили пополнение для линейных частей. Артиллерии была дана новая организация, приняты меры к повышению уровня специального образования офицеров, упорядочена и улучшена материальная часть. Положительные последствия этих улучшений не замедлили обнаружиться во время войн в 1812–1814 гг.
Граф А. А. Аракчеев на фоне казарм. Художник Дж. Доу.
Гр. А. А. Аракчеев принимал деятельное участие в войне с Швецией. Александр повелел немедленно и решительно перенести театр войны на шведский берег, пользуясь возможностью (редчайшей в истории обычно незамерзающего залива) перебраться туда по льду. Поскольку ряд генералов ввиду приказа государя перенести театр войны на шведский берег выставляли разные затруднения, Александр I, крайне недовольный бездействием русского командования, направил в Финляндию своего военного министра. Прибыв 20 февраля 1809 г. в Або, Аракчеев настоял на скорейшем выполнении высочайшей воли. Аракчеев буквально «столкнул» генералов на лед Ботнического залива. На возражение Барклая-де-Толли о том, что могут отстать продовольствие и боеприпасы, Аракчеев вместе с самим Барклаем выстроил полную схему не только войск, но и подвижных складов, чтобы они, не отставая, двигались синхронно с войсками.
Много препятствий пришлось претерпеть русским войскам, но Аракчеев действовал энергично, в результате чего выступившие 2 марта к Аландским островам русские войска быстро овладели ими, а 7 марта небольшой русский конный отряд уже занял на шведском берегу деревню Гриссельгам (ныне входит в коммуну Норртелье).
С оного числа вся французская война шла через мои руки, все тайные повеления, донесения и собственноручные повеления государя.
Во время движения русских войск к Аландским островам в Швеции последовала перемена в правлении: вместо Густава-Адольфа, свергнутого с престола, королем Швеции стал его дядя, герцог Зюдерманландский. Защита Аландских островов была вверена генералу Дебельну, который, узнав о стокгольмском перевороте, вступил в переговоры с командиром русского отряда Кноррингом о заключении перемирия, что и было сделано. Но Аракчеев не одобрил поступка Кнорринга и при свидании с генералом Дебельном сказал последнему, что он прислан от государя «не перемирие делать, а мир».
Последующие действия русских войск были блистательны: Барклай-де-Толли совершил славный переход через Кваркен, а Шувалов занял Торнео. 5 сентября был подписан русскими и шведскими уполномоченными Фридрихсгамский мир, по которому отошли к России Финляндия, часть Вестерботтена до реки Торнео и Аландские острова. Можно смело утверждать, что именно прибытие Аракчеева в действующую армию в качестве личного представителя императора ускорило завершение русско-шведской войны.