Авраам Фиркович родился в 1787 году в семье крымских караимов-земледельцев в Луцком районе Волыни, входившей тогда в состав Российской империи, ныне Украина. В 1818 году он служил в местных крымско-караимских общинах в качестве младшего газана, или религиозного лидера, а оттуда отправился в город Евпаторию в Крыму. В 1822 году он переехал в караимскую общину в Гёзлеве, а в 1825 году был назначен газаном, или руководителем общины. Вместе с караимским дворянином Симхой Бабовичем он отправил царю меморандум с предложениями освободить караимов от тяжелых налогов, наложенных на еврейскую общину. В 1828 году он переехал в Бердичев, где познакомился со многими представителями хасидизма и узнал больше об их толкованиях еврейских Писаний, основанных на Талмуде и раввинистической традиции.

Встреча с евреями-раввинистами привела к тому, что Фиркович вступил с ними в конфликт. Он опубликовал книгу "Масса у-Мрива" (Евпатория, 1838), в которой аргументированно выступил против господствующей еврейской галахи раввинитов. В 1830 году он посетил Иерусалим, где собрал множество еврейских рукописей. По возвращении он оставался в течение двух лет в Константинополе в качестве учителя в тамошней караимской общине. Затем он отправился в Крым и организовал общество для издания старых караимских сочинений, несколько из которых появились в Евпатории (Козлов) с его комментариями. В 1838 году он был учителем детей Симхи Бабовича, главы русских крымских караимов, который год спустя рекомендовал его графу Воронцову и Историческому обществу Одессы как подходящего человека, которого можно послать для сбора материала для истории крымских караимов.

В 1839 году Фиркович начал раскопки на древнем кладбище Чуфут-Кале и обнаружил множество старых надгробий, утверждая, что некоторые из них относятся к первым векам. Следующие два года прошли в путешествиях по Кавказу, где он разграбил генизы старых еврейских общин и собрал множество ценных рукописей. Он дошел до Дербента и вернулся в 1842 году. В последующие годы он совершил другие путешествия такого же характера, посетив Египет и другие страны. В Одессе он стал другом Бецалеля Штерна и Симхи Пинскера, а проживая в Вильно, познакомился с Самуилом Иосифом Фуэнном и другими гебраистами. В 1871 году он посетил небольшую караимскую общину в Галиче, Галиция, где провел несколько реформ. Оттуда он отправился в Вену, где был представлен графу Бойсту, а также познакомился с Адольфом Еллинеком. Он вернулся, чтобы провести свои последние дни в Чуфут-Кале, от которого сейчас осталось лишь несколько зданий и множество руин. Однако дом Фирковича все еще сохранился на этом месте.

В результате своих исследований он сосредоточился на происхождении предков крымских караимов, которые, по его утверждению, прибыли в Крым еще до христианской эры. Поэтому караимы не могут считаться виновными в распятии Иисуса, поскольку они поселились в Крыму в столь ранний период. Его теории убедили российский императорский двор в том, что крымских караимов нельзя обвинять в распятии Иисуса, и они были исключены из ограничительных мер против евреев. Многие из его выводов были оспорены сразу после его смерти, и, несмотря на их важную ценность, до сих пор ведутся споры по поводу многих собранных им документов.

Российская национальная библиотека приобрела Вторую коллекцию Фирковича в 1876 году, чуть более чем через год после смерти Фирковича.