Гусейнгулу хан родился приблизительно в 1742-ом году в Южном Азербайджане. Принадлежал к племени Гойунлу/Гованлы гаджаров. Предполагается, что он родился в Казвине из-за того, что он иногда использовал имя Казвини. Однако наиболее вероятно, что использование этого прозвища связано с его победой над Садиг ханом Шагаги под Казвином и последующим правлением там.
Его отец, Мухаммад Хан Каджар, был известным военачальником. Место его рождения неизвестно.
В исторических источниках имя Гусейнгулу хана впервые упоминается в качестве члена дворца в Ширазе, где он был господином рабов. После вступления на престол Фатали шаха, он наградил Гусейнгулу за его преданность ему несколькими способами: он дал ему несколько должностей, в том числе управление Хорасаном, женился на сестре Гусейнгулу, предложил одной из дочерей Гусейнгулу выйти замуж за наследника принца Аббаса Мирза и согласился выдать свою 29-летнюю дочь замуж за сына Гусейнгулу Мухаммеда. Во время Первой русско-иранской войны (1804–1813) для защиты Иреванской крепости от русских войск шаху нужен был сильный и верный полководец. В 1807-ом году Фатали шах назначил Гусейнгулу ханом Иревана и главнокомандующим (сардаром) шахских войск. Через год в Иреван приезжает и брат Гусейнгулу – Гасан хан, который за храбрость получил титул «Сар Аслан» (то есть глава львов).
За 20 лет своего правления Гусейнгулу хан завоевал симпатию населения благодаря справедливому методу управления. Иностранные путешественники называли его одним из самых могущественных и богатых правителей, вплоть до наследника принца Аббаса Мирзы.
Гусейнгулу хан имел право распределять деньги. Он имел возможность использовать большую часть дохода в оборонительных целях. Гусейнгулу хан поощрял торговлю и установил стабильное управление. Армянские и русские источники также подтверждают, что Гусейнгулу хан был милосердным, искренним, щедрым, честным и справедливым ханом.
1 сентября 1827-го года русские войска осадили крепость Сардарабад. Гусейнгулу хан хотел вырваться из крепости Иреван и прийти на помощь своему внуку, который охранял крепость Сардарабад, но русские войска не позволили. Он был вынужден отступить к ирано-турецкой границе. Оборона Иреванской крепости возлагается на Гасан хана. 1 октября русские войска захватывают Иреванскую крепость. Гасан хан же был взят русскими в плен, и было решено отправить его в Петербург к императору Николаю I. По каким-то причинам карета, везущая Гасан хана, тормозит по дороге в город Екатериноград на реке Терек. Однако о его дальнейшей судьбе не сообщается. Фатали шах подарил меч тимурланга, доставшийся ему в наследство от Сефевидов, Гасан хану за храбрость, проявленную во время войн. Тот самый меч Гасан хана генерал-лейтенант Красовский посылает в подарок императору.
Согласно персидским источникам, Гусейнгулу Хан умер в Иране в 1831-ом году.