Награды: ордена св. Анны 4 ст. (1838), св. Анны 3 ст. (1839), св. Георгия 4 ст. (1842), св. Анны 2 ст. (1848), св. Станислава 1 ст. (1860); Золотое оружие с надписью «За храбрость» (1847).

Армяно-григорианской веры.
Дворянин.
Встречается написание имени – Осип, фамилии – КАРГАНОВ.
1833 – окончил Кондукторские классы Главного ИУ. Оставлен в Училище для продолжения обучения.
1834 – окончил Офицерский класс Главного ИУ. Выпущен прапорщиком (5.1.1834) в полевые инженеры. Военный инженер.
«Он был … совершенно лысый; смолоду, когда выходил в офицеры, вместе с эполетами должен был заказать парик! Был характера удивительно доброго, вспыльчивый и большой умница».
Определен в сапб. 
…
Служил на Кавказе, участвовал в боевых действиях.
1840 – поручик Кавказского сапб.
«Знал Кавказ, как свой карман, и говорил на всех туземных языках. Он высокого был роста, полный мужчина, красивый, контужен в ногу, храбрец известный в Кавказской армии…».
Награжден орденом св. Георгия 4 ст. (25.1.1842) за проведение разведки (8-9.5.1841) реки Сулак и береговых укреплений, выбор выгодных мест переправы и наведение (11.5.1841) 2 мостов, под выстрелами неприятеля, что дало возможность отряду генерал-лейтенанта К.К. Фези переправиться и взять (15.5.1841) селение Чиркей, важный пункт Шамиля.
Штабс-капитан.
Капитан (1845).
На 1852 – уездный воинский начальник г. Нухи Шемахинской губернии. Подполковник.
Организовал преследование и захватил бежавшего Хаджи Мурата. Этот эпизод описан у Л.Н. Толстого, который имел личную переписку с сыном Корганова Иваном.
 «Хаджи Мурат, находившийся в г. Нухе, 22 апреля, выехав из города под предлогом прогулки, внезапно выстрелом из пистолета ранил сопровождавшего его квартального офицера, между тем как товарищ его убил конвойного урядника, и в то же время изменник с четырьмя приближенными ускакал по направлению к горам. Но скорые, решительные распоряжения управляющего Нухинским уездом подполковника Корганова не позволили Хаджи Мурату скрыться. Милиция Нухинская и Карабахская под начальством майора князя Туманова и штабс-капитана князя Аргутинского-Долгорукого, Елисуйская с приставом своим поручиком Хаджи-Ага-Беком и корнетом Ахмет-Ханом открыли беглецов в лесу близ сел. Беляджика и утром 23-го апреля, после отчаянного сопротивления, положили всех на месте». (Газета «Кавказ», 26.41852 г., № 25).
«Руководитель преследования подполковник Карганов возведен в чин полковника; через полгода он получит высшую награду – Монаршее благоволение, в 1858 году на его плечах уже будут красоваться генеральские эполеты, а через три года генерал в возрасте 44 лет будет уволен из армии и посвятит себя рыбному откупу (!) – любимому делу торговцев-армян». 
НШ Гурийского отряда (начальник – князь А.И. Гагарин). Полковник (1852).
«Полковник Иосиф Иванович Карганов, боевой офицер, образованный и очень умный. Он сын знаменитого когда-то Ваньки-Каина*, о подвигах которого гремела на Кавказе общая молва. Сам Иосиф прекрасный, с выразительными чертами лица армянского происхождения, страшно заикается от рождения и часто встречает непреодолимые затруднения выговорить слово, но зато, когда удается одолеть это механическое препятствие, речь его течет плавно и последовательно, дельно и красноречиво».
Упоминался (1852-53) в чине полковника и в должности управляющего Нухинским уездным управлением и военной в уезде частью.
Генерал-майор (26.6.1858).
Участвовал в подавлении сопротивления Шамиля (9-28.8.1859).
С 21.8.1959 – «Остановленные в Ирибе войска, под начальством генерал-майора Корганова, приступили к разрушению нагроможденных в Ирибе Даниель-беком укреплений, к вывозу находившихся там орудий и военных запасов».
До 4.4.1860 – командовал войсками в Абхазии.
С 1861 – в отставке. После завершения военной службы вернулся в Тифлис.
Участвовал в откупе Сальянских рыбных промыслов.
Жена Анна Авессаломовна (1816 – 1900-е), урожденная Бебутова, представительница знаменитого дворянского рода. Дети: Иван (1842 –1900-е) – судебный деятель; Генарий (30.4.1858, Кварели – 31.3.1890, Ростов) – российский пианист и композитор; окончил Лейпцигскую консерваторию (1877), продолжил занятия в консерватории Санкт-Петербурга, вернулся в Тифлис (1880), поступил на государственную службу, свободное время посвящал занятиям музыкой и композицией, выбран делегатом от грузинского отделения Императорского Русского музыкального общества для участия (1889) в праздновании  юбилея Антона Рубинштейна, которым был приглашен на жительство в Санкт-Петербург, возвращаясь в Тифлис, скоропостижно умер в Ростове.
Иосиф Иванович умер в 1870 г. (по другим данным – 1871 г.).

Примечание. Отцовство Ваньки-Каина (Иван Осипов, 1718 – после 1756), знаменитого вора, разбойника и московского сыщика, ставшего легендарным героем воровских приключений и удальства, невозможно по годам жизни.