及第後被授職為南京禮部主事。
不久，後因母親去世而離職丁憂。喪期滿後改任兵部職方郎中又調任台州府知府。
當時東南海疆已經遭受了四年的倭患，朝廷商議訓練地方鄉兵來抵禦倭寇。
參將戚繼光請求給他三年的時間訓練地方鄉兵而後將他們派往前線。譚綸也訓練了一千人。
他制定了約束隊伍的紀律，從副將以下節節相互制約，分配明確，進止整齊劃一，不久就成為精兵。
倭寇進攻柵浦時譚綸親自帶隊迎擊，三戰三捷。倭寇又從松門，澶湖劫掠附近的六個縣，進而圍攻台州，沒有攻克只得離去。
倭寇轉而侵犯仙居，臨海。譚綸將他們全部擒拿，斬殺。嘉靖三十七年閏七月，譚綸升任浙江按察司海道副使，招募更多浙東地區的良家子弟加以訓練而且戚繼光所訓練的兵馬也已經到期。譚綸趁機收編了他們，罷除外地兵，不再調派他們。
次年三月，倭寇從象山縣登岸，衝擊台州。譚綸率軍在馬崗，何家＜石＋覽＞等地將其擊破，斬首七十七級；又與戚繼光一起在葛埠，南灣打敗倭寇。
嘉靖三十九年九月，經直浙總督胡宗憲舉薦，譚綸被加封為浙江布政使司右參政，因遇上父母的喪事而離職。
屢敗倭寇:後來，譚綸因兵部尚書楊博的舉薦而復出，任浙江布政使司右參政兼按察司副使，統率浙軍討伐饒平林朝曦起義，林朝曦是大強盜張璉的餘黨。張璉已被消滅，林朝曦佔據巢穴不投降並攻擊程鄉，知縣徐甫宰嚴陣以待並且派遣主簿梁維棟到起義軍中去告諭起義軍解散。
林朝曦眾叛親離，棄巢逃走。譚綸與廣東軍追擊並擒獲了他。六月，譚綸改“於福建管糧”他以地方稍歸寧靜為由，請求回家終制。因討平張璉與江西流賊功勞先後得到賞賜。
就在譚綸居家時，戚繼光屢次擊敗倭寇，浙東略略安定，經戚繼光努力，浙江倭患終告解除。福建的倭寇活動卻愈來愈猖獗。
嘉靖四十一年，倭寇進犯福建並聯合福寧，連江等地的倭寇先後攻陷壽寧，寧德等地。從廣東南澳方面侵略的倭寇聯合福清，長樂的倭寇攻陷玄鍾所，並進犯龍巖，松溪，大田，古田，莆田等地。戚繼光再度出擊，經過幾番戰鬥將閩廣一帶的倭寇大致掃清。
就在戚繼光部凱旋迴浙不到一個月，倭寇再度興兵進犯邵武，攻陷興化。嘉靖四十二年三月朝廷再次啟用譚綸，升其為都察院右僉都御史，福建巡撫，協調各部行動。
倭寇駐紮在崎頭城，都指揮歐陽深在激戰中犧牲。平海衛，政和，壽寧等地均被攻陷。一時間“四野一空，八閩俱震。”
四月，譚綸會集戚繼光，與總兵官俞大猷，劉顯研究作戰計劃。先在各海道上環立柵欄阻斷倭寇海上歸路又決定由戚家軍擔任中路主攻，俞大猷，劉顯軍為左，右兩翼。
戰鬥開始後，譚綸按計劃部署各部進攻。由戚繼光率中軍突破敵陣，左右軍緊隨其後。最後在平海衛大敗倭寇，斬首兩千餘級，救還被擄男女三千餘人並追殲散逃的倭寇，光復了一府二縣。
七月，譚綸上疏奏捷。世宗下詔升授他為都察院右副都御史，十月，譚綸認為延平，建寧，汀州，邵武地區殘破不堪，請求緩期徵收已經蠲免的賦稅，又考察舊制，建立了五座水寨，扼守海口，推薦戚繼光擔任總兵官鎮守該地。朝廷下詔全部准予施行。十一月，倭寇又圍攻仙遊，譚綸命戚繼光於十二月領兵援救，在仙遊城下以各個擊破的戰術，一舉消滅倭寇。嘉靖四十三年（1564年）初，戚繼光繼續在王倉坪、蔡丕嶺打敗倭寇，其餘倭寇逃竄，廣東境內全部安定了。同年四月，譚綸因倭患基本平定，上奏請歸家終喪，得到朝廷允准。
歷撫三地
嘉靖四十四年（1565年