Osman Gazi'nin; "Her kim pazarda satış yapıp para kazanırsa bunun iki akçasını versin, satamazsa hiçbir şey vermesin ve bu kuralı kim bozarsa Allah'da onun dinini ve dünyasını bozsun." fermanı ile Osmanlı topraklarında başlayan vergi uygulamasını, I. Murat zamanın da ilk mali teşkilatın kurulmasıyla devlet teşkilatının içinde yer almıştır.
Fatih Sultan Mehmet ile başlayan yükselme döneminden itibaren imparatorluğun hem gelirlerinde, hem giderlerindeki önemli artış nedeniyle bu yapı gelişmesine rağmen 1838 yılında yayınlanan bir Hattı-Hümayun'a kadar devlet teşkilatı içinde resmen bir Maliye Nezareti mevcut değildi. Bu nezaretin yapısı her biri bir "Reis" in başkanlığındaki dairelerden oluşmaktaydı. Bu daireler içinde Baş Vergisi veya Haraç Dairesi, "Avarız" ve "Bedeli Nuzil" denilen ve kentlerden mahalleler itibariyle alınan resimlerle ilgili dairelerden oluşuyordu. Bir anlamda bugünkü İstanbul Vergi Dairesi Başkanlığının görevlerinin bu dairelerin görevlerinin içinde bulunduğu anlaşılmaktadır. Bununla birlikte 23 Nisan 1920 tarihinde açılan Türkiye Büyük Millet Meclisinde kabul edilen ilk kanun bir vergi kanunu olması vergiye verilen önemin bir tezahürüdür. Maliye Bakanlığının 1923 yılında kurulmasının ardından "Maliye Vekaleti Teşkilatı ve Vazifeleri Hakkında Kanun" 29.5.1936 tarihinde kabul edilmiş ve 5.6.1936 tarih ve 3322 sayılı Resmi Gazete'de yayınlanmıştır. 2996 sayılı Kanun'da belirtilen ve bugünkü Başkanlığımızın da görev alanını kapsayan, Varidat Müdürlüğünün görevleri: varidat kanunlarının tatbikatını idare etmek teşkilatının faaliyetini tanzim eylemek, bina ve arazi vergilerinin tarh, tahakkuk, tahrir ve tadil işlerine ait kanun ve nizamnameleri ve bunlara müteallik tadilleri ihzar etmek ve tatbikattaki ihtilaf ve tereddütler üzerine vaki olacak suallere cevap vermek ve bu işlere ait kanuni icapların zamanında yapılmaları için lazım gelen tedbirleri almak, varidata tesiri olan bütün kanun projelerini tetkik ve mütalaa beyan etmek, kanunlarına göre maliye vekaletinin mezuniyetiyle terkinleri icap eden vergilerin terkinlerine ait muameleleri yapmak şeklinde belirtilmiştir.
05.05.2005 tarihinde kabul edilen ve 16.05. 2005 tarih ve 25817 sayılı Resmi Gazete'de yayımlanarak yürürlüğe giren 5345 sayılı GİB'in Teşkilat ve Görevleri Hakkında Kanun doğrultusunda Bakanlar Kurulunun 13/06/2005 Tarihli ve 2005/9064 Sayılı Kararıyla 29 ilde o ilin adıyla anılan 29 adet vergi dairesi başkanlığı kurulmasını kararlaştırması sonucunda Konya Defterdarlığından ayrılarak Konya Vergi Dairesi Başkanlığı ismini almış ve 16.09.2005 tarihinde faaliyetlerine başlamıştır.