1971 жылы 18 тамызда Ақтөбе музыка училищесін ұйымдастыру туралы Қазақ КСР Министрлер Кеңесінің қаулысы шықты. Осылай 40 жыл бұрын оның даңқты тарихы басталды. Жаңадан құрылған мекеменің алғашқы директоры болып – Алматы мемлекеттік консерваториясының жас түлегі, Қ.Жұбанов шіәкірті Қожанбаев Қайырғали Үсенғалиұлы тағайындалды. Айтпақшы, қазақтың кәсіби музыкасының негізін қалаушы өзінің шәкірттері туралы өте ыстық ықыласпен жазды, оны үлкен шығармашылық потенциалы бар дарынды студенттердің бірі деп санады. Шынында да, осы керемет орындаушы, домбырашы және әнші, ұқыпты ұстаз, сезімтал дирижер және ерекше композитор, зиялы тұлға тәжірибелі ұйымдастырушы және әкімші бола алуының негізінде музыка училищесі дүниеге келді.
Қ.Ү. Қожанбаев еске салғандай қаладағы мәдени ағарту училищесі кәсіби музыканттардың өткір жетіспеушілігін жоя алмады, сондықтан балалар музыка мектептері мен жалпы білім беретін мектептерде музыка мамандарының тапшылығы сезілді. Осылайша, жаңа оқу орнының пайда болуы, уақыт талабы және бүкіл қала үшін маңызды оқиға болды. Қала әкімшілігі музыка училищесіне қаланың ескі бөлігінің орталығындағы ең әдемі ғимараттардың бірін бөлгені таңқаларлық емес еді. Ғимараттың әсерлі және үлкен жартылай шеңберлі терезелері қазірдің өзінде Ақтөбе тұрғындарының назарын өзіне аудартпай қоймайтынын барлығы жақсы біледі.
Бұл саладағы алғашқы кәсіби музыкалық мекеме біртіндеп дами бастады. Ол өз жұмысын 60 оқушымен және екі – халықтық аспаптар және хор дирижері бөлімінен бастады. Алғашқы оқытушылар Д.В. Агафонов, П. М. Савчук, А. А. Жакеева, Б. И. Мушенок, Н. П. Чуракова, Дж. М. Шелест, А. И. Ставниченко М.Х.Шынтасова және тағы басқалары болды. Келесі жылы оқуға 80 адам қабылданып, екі жаңа бөлім ашылды: В.Н. Фоменко басқаратын үрмелі аспаптар 17 оқушымен және 12 болашақ маманмен фортепиано бөлімі, жетекшісі – Н.И. Ткаченко. 1975 жылы оларға музыкатанушылар қосылды: Г.Н.Скурдинаның күш-жігерінің арқасында музыка теориясының бір саласы пайда болды. 1991 жылы «Ән салу» бөлімі дүниеге келді, оның «әкесі» Н.Е. Таубеков болды. Сонымен қатар бөлімін ашуға тырысқандар болды, бірақ тұрақты және жоғары кәсіби оқытушылар құрамының болмауына байланысты сәтсіздікке ұшырап отырды, тек 2010 жылы үрмелі және соқпалы аспаптардан бөлініп шекті аспаптар «қосылды» және оны Л.М.Исмұханбетова басқаратын дербес бөлім болды.
1984 жылы колледж жатақханасы салынды да, жатақхана облыс аудандары мен республиканың басқа қалаларынан келетін оқушыларға оқу ғимаратына жақын тұруға мүмкіндік берді.
Бірақ музыка мектебінің тарихы прогрессивті қозғалыс қана емес, сонымен бірге сәтсіздікке де ұшырап отырды. Оның жолдары мүлде раушан гүлдерімен себілген жоқ. 1984 жылы жазғы каникул кезінде мектеп электросымдарындағы техникалық ақауларға байланысты үлкен өрт болды. Ғимараттың жоғарғы қабаты, кітапхананың үлкен бөлігі, керемет акустикасы бар концерт залы толығымен өртенді. Бір жыл бойы мектеп ұжымы кішігірім жатақхана бөлмелерінде өз сабақтарын өткізді, тар әрі қолайсыз жер олардың көңіл-күйін еш түсірмеді. Бос уақытында мұғалімдер мен оқушылар құрылысшыларға оқу корпусын қалпына келтіруге көмектесті.
Қазақ КСР Министрлер Кеңесінің 1989 жылғы 22 тамыздағы № 257 қаулысымен Ақтөбе музыкалық колледжіне көрнекті жерлесіміз А.К.Жұбановтың есімі берілді, оның шығармашылығы Қазақстанның музыкалық мәдениетін қалыптастыру дәуірін құрады. 2006 жылы сәуірде Алматы мен Астанадағы туысқандары мен көрнекті музыканттарды шақырып, атақты қазақ өнерінің танымал майталманының 100 жылдығы колледжде салтанатты түрде аталып өтті. Ақтөбе музыкалық училищесінің 20 жылдық тарихында онда 87 мұғалім жұмыс істеді, олардың көпшілігі Алматы мемлекеттік консерваториясын, сонымен қатар Қазан, Саратов, Астрахань консерваторияларын бітірген
жоғары кәсіби білікті мамандар еді. Осы уақыт аралығында шамамен 950 маман бітірді, түрлі шығармашылық топтар құрылды: үрмелі, аралас және әйелдер хорларынан, қазақ және орыс халық аспаптар оркестрлері.
1994 жылы кәсіптік бағдар беру және колледжді жақсы оқытылған кадрлармен қамтамасыз ету мақсатында оның жанынан балалар музыкалық студиясы құрылды. Студияның алғашқы жетекшісі болып А.И. Зеникова болды, кейін оны М.В.Потудина, ал қазіргі таңда БМС-сын М.Г. Подлибнер басқарады.
1995 жылғы 11 желтоқсанда Қазақстан Республикасы Білім және ғылым министрлігінің 12.12.1995 жылғы № 314 бұйрығына сәйкес Ақтөбе музыкалық училищесі А.Қ.Жұбанов атындағы Ақтөбе музыкалық колледжі болып қайта құрылды..
Өтпелі 1990-шы жылдары, Қазақстан тәуелсіздігінің алғашқы жылдары, бүкіл республика үшін және Ақтөбе музыкалық колледжі үшін де экономикалық тұрғыдан қиын кезеңдер болды. Бүкіл әлемде мәдениет пен классикалық өнер биліктің материалдық қолдауынсыз өмір сүре алмайтынын өздеріңіз білесіздер, яғни осы жылдары мемлекеттік тапсырыс жыл сайын азайды, бағдарлама минимумға дейін қысқарды. 1999 жылы оқу орны мемлекеттік тапсырыс бойынша бір орын да ала алмады. Осы өтпелі кезең ішінде заңгер мен экономист мамандықтары сәнге айналды, олар көптеген орта және жоғары оқу орындарында жаңбырдан кейін кенеттен шыққан саңырауқұлақтар тәрізді көбейіп кетті. Ол кезде музыка колледжіне ақылы түрде бірінші курсқа бар-жоғы 12 адам қабылданды да, оның 6-уы ғана оқу бітірді. Кейбір мұғалімдер қиын-қыстау уақытта алыс-жақын жерлерге көшіп кетті, кейбірі басқа жұмыс тапты, бірақ ұжымның негізгі тірегі, сонымен қатар оның жақсы үрдісі сол қалпында сақталды.
Бірақ бұл барлық қиындықтар емес еді. Төбемізге жай түскендей болып Қазақстан Республикасы Үкіметінің 1997 жылғы 8 мамырдағы №814 бұйрығына сәйкес музыкалық колледжді гуманитарлық колледжбен біріктіру арқылы қайта құру туралы қаулысы келді. Осы түсініксіз оқу орнының жаңадан тағайындалған директорын тыңдап болғаннан кейін, команда шұғыл түрде Алматыға бір өкіл жіберді, музыка колледжінің осындай күш-жігерінің нәтижесінде Қазақстан бойынша Білім және мәдениет министрлігінің 1997 жылғы 3 маусымдағы № 200 бұйрығымен А.Қ.Жұбанов атындағы Ақтөбе музыка колледжі қайта құрылды. Сонымен біздің бүкіл республикамыз үшін осы қиын кезеңдер өтті, мемлекеттік тапсырыс қайтадан жанданды, 2002 жылы жаңа Типтік оқу бағдарламасы шықты. Үміткерлер мен олардың ата-аналары, балаларының барлығы заңгер және экономист бола алмайтындықтарын түсінді, әрі олардың көпшілігі – жұмыссыздар қатарын толықтыра бастаған еді. Музыканттардың мамандығы сұранысқа ие бола бастады, олар тек музыка мектептерінде ғана емес, колледждің өзі де барлық мамандықтар бойынша білікті кадрларға мұқтаж еді. 2011 жылы Ақтөбе музыкалық колледжі аймақтағы жалғыз музыкалық оқу орны болды, білімін жалғастырмаған түлектердің 100% -ы жұмысқа орналасты.
Колледждің 40 жылдық тарихында оны Қ.У. Қожанбаев (1971-89), Б.Д. Бухман (1989-90), Т.С. Алагузов (1990-95), В.Н. Фоменко (1995-2005), Н.Б.Конурбасова (2005-08). Қазіргі таңда колледжді А.Д.Исмагулов басқарады.