对于古代特务机构，我们比较熟知的是明朝的锦衣卫、东厂、西厂、内行厂。虽然明代的厂卫是古代特务机构之集大成，但要论特务组织的传承，三国时期魏、吴就有校事，北魏则有内外侯官，到了唐代更有不良人、丽竟门和“察事所子”，直到宋代出现皇城司，才算是特务组织的真正建立，堪称古代版的“克格勃”。
宋朝的皇城司前身系武德司。武德司起于五代，其名称出现可上溯至五代后唐："武德使史彦琼者，以伶官得幸，帝待之以腹心之任，都府之中，威福自我，正言以下，皆胁肩低首，曲事不暇…" ;至后汉隐帝诛杀权臣，"乾佑末，隐帝用武德使李业等谋，诛大臣杨弅等…" 武德使为皇帝爪牙，权柄甚重，牵制"宿卫诸将"和枢密院。
五代十国是一个乱世，纲常伦理荡然无存，弑父、杀君之事层出不穷。各家皇帝为了自身的安全，纷纷建立特务机构，以期能侦查事机，防患于未然。虽然武德司的长官武德使只有正七品，却由皇帝身边的贴身心腹担任，或者干脆就是皇帝的贴身宦官担任，品低权重，权倾朝野。

而后周太祖郭威、世宗柴荣由于对武德司不怎么重视。尤其是柴荣，最终导致了赵匡胤的陈桥兵变黄袍加身，轻而易举地从孤儿寡母手中夺走了后周的天下，可谓是血的教训。
赵匡胤建立宋朝后，赵匡胤幕府旧僚王仁赡"授武德使" "上尝遣武德卒潜察远方事" 。王仁赡为人阴险，精于手腕，迅速扭转武德司无所作为的局面，成为“中外益畏其口”的恐怖所在。即使权势颇重的宰相赵普，一见到宋太祖单独留王仁赡说话，也惊惧不已，从而上奏：“仁赡奸邪，陛下昨日召与语，此人倾毁臣。”宋太祖不得不下诏安慰他：“我留王仁赡说话，见我教谁去唤来，你莫肠肚儿窄妒他，我又不见是证见，只教外人笑我君臣不和睦，你莫恼官家。”
王仁瞻之后，武德使先后由刘知信和王继恩出任，皆"戚里致贵，尤被亲任，中外践历，最为旧故" 。时人称"太祖采听明远，每边阃之事，纤悉必知" ，多赖武德司刺探之功。刘知信是宋太祖的姨表弟，其母是宋太祖母亲杜太后的亲妹妹。刘知信年幼丧父，三岁时就寄养在宋太祖家中，和宋太祖如兄弟一般。王继恩则是宋太祖最宠信的宦官，“特承恩顾”，名字都是宋太祖的御赐。
太平兴国六年(981)十一月十日，改武德司正式改名为皇城司。
 6park.com
皇城司的官兵均由皇帝亲自挑选，独立于殿前和侍卫两军，人数约六千余人。不仅负责保卫皇宫，而且负责探察官员、军人的非法、阴谋活动，官员的经济问题以及民俗异事及谤议朝政等等，无所不包。为了让武德司更有效率地发挥作用，赵匡胤规定皇城司不隶属于政府系统，完全秉承皇帝个人的意志行事，不受官僚集团、监察机构的掣肘。形成了集侦查、缉捕、鞫讯、收监等于一身的专职特务机构。
在宋朝，当兵都要在脸上或者手臂上刺字，称“黥卒”。而皇城司的人虽然也属军队，但有一项特殊优待，即只在“髀间雕青”，即在大腿上刺字，以便开展秘密侦查活动。
作为特务监察机构，皇城司本身就极受官僚集团忌惮。兼之多有亲从亲事狂行悖法、纪律废弛，素遭诟病，时有臣僚上书弹劾。仁宗末年，司马光就曾上《论皇城司巡查亲事官札子》抨击皇城司构陷诽谤、因言罪事。元佑元年，御史中丞刘挚亦曾上《弹四凶疏》指出皇城司 "凌辱棰讯，惨毒备至，无所求而不得，无所问而不承，被其阴害，不可胜数。于是上下之人其情惴惴，朝夕不敢自保而相顾以目者殆十年。"
皇城司建立之初主要是探查军中情状，预防阴谋扰乱，后来随着宋辽开战，职责又兼有敌国的军事情报的探察，最后逐渐涵盖了官情民事，大事小情都在其监察范围之内。然而北宋末年的“靖康之变”，皇城司不但没能保护得了徽、钦二帝，其所在反而成为金人处理宋朝的场所。

靖康二年（1127年），金人索太上皇、帝后、诸王、妃主为质，时辅太子留守、少傅、同知枢密院孙傅，留太子不遣，即“寓直皇城司”内。随后，金人威逼另立异姓，众官又于皇城司集议，最终决定以张邦昌为帝，建立伪楚。而当金朝要挟宋改定都城时，也是让百官“于皇城司议迁都之地”。
保卫赵宋皇帝的皇城司，成为外敌议定赵宋存亡的地方，这可算是绝大的讽刺了。
宋高宗的南宋建立后，重建的皇城司比北宋时期还要威风，权力更大。察事卒“游于市间”，一旦听到有人“言其奸者”，便可“即捕送大理寺狱杀之”。神宗时代，倒霉鬼被皇城司查到，会被“锻炼罗织，必致以罪”，已经让人“不敢偶语，兢兢朝夕”，但还会有关押、审讯过程，即使定罪也大多不是死刑。而到了南宋高宗时期，倒霉鬼竟然会被直接“杀之”，可想而知其恐怖氛围会让人何等窒息了。
但正如北宋的皇城司面对金军铁骑毫无作用一样，南宋皇城司面对元军时也是既不能侦察其军情，又不能抵抗其武力。当南宋灭亡时，皇城司也随之一起毁灭。