Алматинский областной государственный архив берет свое начало от областного архивного фонда, точная дата образования которого не установлена.

Есть сведения, что он существовал уже в 1919 году со штатом работников из 4-х человек. Приказ же об образовании областного архивного фонда, входившего в систему Центрального управления архивами Наркомата просвещения Туркестанской АССР, датирован 25 января 1921 года.

      Собирание и хранение документов было и в дореволюционном Семиречье. Благодаря усилиям энтузиастов-архивистов, были сохранены документы дореволюционного Семиречья, которые составили значительную часть дореволюционных фондов Центрального государственного архива Республики Казахстан.

В октябре 1924 года в результате национально-государственного размежевания республик Средней Азии и Казахстана  Джетысуйская область (губерния) вошла в состав Казахской АССР, Джетысуйское губернское (с 1928 года — Алматинское окружное) архивное бюро перешло в ведение Центрального краевого архива Казахской АССР и с конца 1929 года по декабрь 1933 года действовало в его составе.

26 октября 1933 года было создано Архивное управление на правах отдела Исполнительного комитета Алматинского областного Совета депутатов трудящихся. Одновременно на базе фондов бывшего окружного архивного бюро был образован Государственный архив Алма-Атинской области. Первый приказ облгосархива датирован 08 января 1934 года.

В марте 1935 года организованы районные архивы в 16 районах Алма-Атинской области.

С февраля 1939 года облгосархив находился в ведении Алма-Атинского областного архивного управления НКВД (затем МВД) Казахской ССР, с 19 августа 1960 года облархив вновь передан в ведение Архивного отдела при Алма-Атинском облисполкоме. Долгое время архив располагался в малоприспособленном для хранения документов помещениях.

В конце 1950-х годов начале 1960-х областной архив занимал дом одного из бывших зажиточных жителей города. Это было бревенчатое одноэтажное здание, состоявшее из обширного подвала (где хранились документы) и большой комнаты, где размещался весь коллектив, а также работали исследователи. Во дворе дома находился флигель, который являлся кабинетом начальника Архивного дела.

В 1962 году архив был переведен в специально построенное здание, где одновременно разместились центральные государственные архивы и Архивное управление Республики.

С 1977 года начали создаваться филиалы  облгосархива, что позволило несколько разгрузить хранилища облгосархива и приблизить архивы к населению.

В декабре 1981 года во вновь созданный Центральный государственный архив г. Алма-Аты переданы фонды учреждений и организаций городского звена.

С февраля 1992 года Алма-Атинский областной государственный архив перешел в подчинение Управления архивами и документацией Алматинской областной администрации, с октября 1995 года аппарата Акима Алма-Атинской области, а с января 1996 года Управление архивами и документацией преобразовано в Архивный отдел акима области, который в 1997 году был упразднен, а в июне 2000 года восстановлен в качестве Алматинского областного управления архива и выделен из штатов облгосархива.

С 2013 года облархив перешел в подчинение Управления культуры, архивов и документации Алматинской области.

На 2013 год КГУ «Государственный архив Алматинской области» имел 18 филиалов, расположенных в Алакольском, Аксуском, Балхашском, Илийском, Ескильдинском, Коксуском, Талгарском, Сарканском, Жамбылском, Енбекшиказахском, Кегенском, Панфиловском, Кербулакском, Каратальском, Уйгурском, Карасайском районах и в городах Текели, Капшагай.

В 2022 году Указом Президента РК от 3 мая 2022 г. за № 887, Алматинская область была разделена на две части: Жетысускую и Алматинскую области. Центром Алматинской области стал г. Капшагай, при этом возрождая память о великих деятелях нашей истории, город Капшагай переименован в город Конаев. Областным центром Алматинской области стал город Конаев.

На сегодняшний день в Алматинской области функционируют КГУ «Государственный архив Алматинской области» и его 10 филиалов, расположенных в Балхашском, Енбекшиказахском, Жамбылском, Илийском, Карасайском, Кегенском,  Райымбекском,  Талгарском,  Уйгурском  районах и в городе Конаев.