吳考槃7歲時入讀私塾,學習8年。1919年以優(yōu)異成績考進海門中興醫(yī)學校,并于1922年。1923年咱家晉級考試,獲得醫(yī)師資格證書。1924年任上海浦東中國醫(yī)藥專門學校講師,擔任《傷寒論》和《方劑學》的教學。1925年由于戰(zhàn)亂,從上海返回故鄉(xiāng),開業(yè)行醫(yī)。
1933年創(chuàng)辦海門保神醫(yī)學校,親任校長兼教員。1956年受江蘇省衛(wèi)生廳特邀來到南京江蘇省中醫(yī)學校(南京中醫(yī)學院前身、現(xiàn)為南京中醫(yī)藥大學)執(zhí)教,為該院(校)的創(chuàng)始人之一,先后擔任過金匱教研室顧問、醫(yī)經(jīng)教研組組長。1978年被評定為我國第一批中醫(yī)教授。1979年聘任為《金匱》《傷寒論》專業(yè)碩士研究生導師。曾任海門縣政協(xié)委員,江海日報醫(yī)學檢討編輯,歷任南京市三、四、五、六、八屆人大代表,江蘇省中醫(yī)學會第一、二、三屆理事,第一批獲得國務院特殊津貼的專家,省中醫(yī)學會理事、顧問,并兼任光明中醫(yī)函授大學顧問,張仲景國醫(yī)大學名譽教授。多次被評為學校先進工作者。
吳老作為中醫(yī)文獻學科的奠基人,中醫(yī)藥文獻重點學科的前帶頭人,數(shù)十年來,為學科的建設默默奉獻。編撰與主審20多部著作,發(fā)表了大量具有指導意義和學術價值的論文,在中醫(yī)學術界享有崇高的聲譽,被贊譽為著名經(jīng)典醫(yī)籍注釋大家與研究大師、中醫(yī)界的“活字典”、中醫(yī)藥文獻研究的一代宗師。