Кавказское наместничество образовано в составе России в 1786 году (по другим данным в 1785 году), затем наместничество стало губернией. Кавказское наместничество состояло из Кавказской и Астраханской областей, центром наместничества был сначала Екатериноград, а с 1790 года - Астрахань. В 1796 году выделилась Астраханская губерния, а Кавказское наместничество преобразовано в Кавказскую губернию. Центром Кавказской губернии был Екатеринодар. В состав губернии входили Георгиевск, Ставрополь, Кизляр, Екатериноград. С 1822 года - Кавказская область. Центром области в 1802-1822 годах был Георгиевск, затем - Ставрополь. В 1847 году Кавказская область преобразована в Ставропольскую губернию.

В издании "Изображение губернских, наместнических, коллежских и всех штатских мундиров" (1794) дано такое описание герба Кавказского наместничества:
"особого еще нет; а в рисунке вместо онаго помещен старый Астраханский, в голубом поле старинная Царская корона с серебряною под оною саблею поперек щита, острым концем в правую сторону положенною"

Тот же астраханский герб украшает карту Кавказского наместничества в "Российском атласе, из сорока четырех карт состоящем и на сорок два наместничества империю разделяющем" (1792) и карту Кавказского наместничества и земель Донских и Черноморских казаков в Атласе Российской империи 1796 г.

В "Статистической таблице Всероссийской империи..." И. Голицына (1807) герб Кавказской губернии описан так:

"Кавказской, в серебреном поле щита, вверху Царская золотая корона, а под ней меч с позлащеннаю рукояткою".

Голицын И. А. Статистическая таблица Всероссийской империи, или Физическое, политическое статистическое начертание России, с XIX го столетия, из новейших писателей извлеченное. - Москва, 1807 г.

В описании Российской империи Е. Зябловского (1815) герб губернии описан так:

"Герб Кавказской губернии не учрежден».

К тому времени Кавказская губерния уже была выделена из Астраханской.

Источник - "Статистическое описание Российской империи в нынешнем ея состоянии с предварительными понятиями о статистике и с общим обозрением Европы в статистическом виде" колл. советника и кавалера Е. Зябловскаго, 1815 г.

В собрании рисунков мундиров и мундирных пуговиц чиновников губерний 1809 года герб Кавказской губернии не изображен (вернее, вместо него изображен пустой щит).

Герб Кавказской области утвержден 23 октября 1828 года. Описание герба:

"Разделенный на две части щит представляет, в верхней своей половине, орла Российского в золотом поле, сидящего на вершине горы Кавказа. Он держит с одной стороны венок лавровый, с другой Перун. Под ногами его лежат расторженные цепи древнего Прометея. В нижней части щита, в голубом поле, изображен горный воинственный житель Кавказа, скачущий на коне по зеленой степи. Убегая от преследования, он стреляет из лука, по их древнему обычаю. В дали видны снеговые верхи Кавказских гор".

рисунок - из РГИА, ф.1343, оп.15, д.263, л.3; цит. по: Н.А.Охонько, Исторические символы Кавказа, Пятигорск, 2006, сс.11-12. Фотокопия листа с изображением герба - http://st-vedomosti.ru/sites/default/files/field/image/%D1%84%D0%BE%D1%80%D1%82%D0%BF%D0%BE%D1%81%D1%82.jpg

В Указе 1831 года об изображении губернских гербов на пуговицах чиновников герб Кавказской области изображен под короной.

Рисунки: 1) пуговица губернских чиновников из указа 1831 г., 2) фото пуговицы по указу 1831 г. с сайта PUGOVIZA.RU, 3) рисунок герба Кавказской области из рукописного атласа Грибовского, 1843 г.; 4) герб кавказской области с русских игральных карт 19 в.