印度海軍作為一個獨立的軍種是于 1950 年正式組建的。1952年，印度海軍成立了第一支艦隊——西部艦隊。1969年，印度海軍的第二支艦隊——東部艦隊成立。自從20世紀80年代以來，印度一直在持續不斷地發展和壯大海軍，其中的潛艇作戰兵力是印度海軍發展的重點對象之一，經過40餘年的努力，印度海軍潛艇兵力已經具有一定的規模，成為南亞引人注目的國家之一。
印度的南面瀕臨印度洋，出於地域方面的考慮，印度在發展其海軍方面，特別是在發展其潛艇兵力的過程中，首先採用從外國引進的方式，然後在積累了一定經驗並且建造技術達到一定水準之後，累採取獨立建造潛艇的方式，從而走過了與其他國家迥然不同的發展之路。印度海軍是於1968年從接受前蘇聯援助開始起步組建潛艇部隊的。1968～1975年期間，印度海軍從前蘇聯海軍陸續購置了8艘F級潛艇。這8艘潛艇之中的第一艘是「坎德瑞」號潛艇，該艇於1968年7月16日從前蘇聯運抵印度。接著，其餘的7艘F級潛艇分別於1969年1月至1975年12月相繼運抵印度。
印度政府與德國霍瓦茲公司於1981年12月11日簽訂了4艘209型1500噸級潛艇的購置與建造合同。這4艘潛艇被印度海軍命名為「希沙瑪」級常規動力潛艇。根據合同中的條款，其中第一批的2艘潛艇由德國設計並於1982年由德國霍瓦茲公司開工建造，這2 艘潛艇於1986年建成服役。
從德國引進的第二批2艘潛艇則由印度從德國霍瓦茲公司購買了建造權，從德國購買組件由印度的瑪扎岡船塢公司進行組裝建造。這2艘潛艇分別於1984年6月和9月在瑪札岡船塢有限公司開工建造。20世紀60年代以前，印度基本上不具備設計和建造大型海軍艦艇的能力。但是，為了在這方面取得迅速改觀和進步，印度採用技術引進的方式，直接汲取先進國家的技術精華，快速提高本國的水準。
1966年，印度的瑪札岡船塢有限公司開始建造英國設計的「利安德」級護衛艦，這是印度建造軍用艦艇的一個重要起點。經過 10多年的努力，瑪札岡船塢有限公司逐漸學習並掌握了建造潛艇的技術，于 1984 年開始建造「希沙瑪」級常規動力潛艇，這標誌著印度自此擁有了自行建造潛艇的能力。由印度建造的第一艘「希沙瑪」級的「沙爾基」號潛艇於1984年6月5日開工，1989年9月30日下水， 1992年2月7日服役。第二艘「山古爾」號於1989年9月3日開工， 1998年3月21日下水， 1994年5月28日服役。1984年時，印度政府曾經計畫再增建2艘209型潛艇，但是這項計畫後來被取消，因此，印度最終擁有4艘209型潛艇。
1983年，印度與前蘇聯簽訂了購買6艘蘇制的K級常規動力攻擊型潛艇的合同。後來，由於印度海軍購買德國209型潛艇計畫受阻，因此，印度海軍又與前蘇聯續簽了加購4艘K級潛艇的合同。這樣，印度海軍總共從前蘇聯購置了 10 艘 K 級潛艇。這一批 10 艘潛艇購置之後，印度把該級潛艇命名為「辛德赫格霍斯」級潛艇。這 10 艘潛艇都是前蘇聯於1986年4月30日至1990年12月30日在列寧格勒的蘇達米赫造船廠建造的。
從 1997 年開始，印度海軍在俄羅斯的幫助下對這 10 艘「辛德赫格霍斯」級潛艇進行了現代化改裝。俄羅斯的「紅寶石」設計局、「革新者」試驗設計局以及「曙光」科研生產聯合體等部門為印度海軍的K級潛艇的現代化改裝制定了一套完整的計畫。這一計畫的主要內容是在K級潛艇上裝備一套先進的反艦巡航飛彈系統、新型慣導系統以及包括飛彈控制分系統在內的自動化作戰資訊系統。經過現代化改裝的K級潛艇，將具有發射3M54型和3M54E1型（SS—N—27）潛射反艦巡航飛彈的能力。該型飛彈射程為180千米，巡航速度馬赫數為0.7，主動雷達制導，攻擊飛行速度馬赫數為2.5，彈頭質量為450千克。另外還具備了發射 SA—N—8 型對空飛彈的能力，該型飛彈利用輕便型發射裝置，採用紅外製導，射程為6千米。
根據印度與俄羅斯的協議，印度海軍的S—58 「辛杜維爾」號潛艇是第一艘經過上述內容的現代化改進的潛艇，該艇于 1997 年6月在俄羅斯的北德文斯克造船廠正式開始實施現代化改裝，於1999年4月完工。接著，俄羅斯海軍於1999年5月在聖彼得堡的「海軍上將」造船廠又對印度的另外2艘K級潛艇進行了同樣內容的現代化改裝施工。2000年5月，俄羅斯海軍在北德文斯克造船廠對印度的第4艘K級潛艇進行了同樣的現代化改裝。經過現代化改裝的印度海軍K級潛艇，其作戰能力有了大幅度的提高。
除了加緊購置和建造常規動力潛艇之外，印度極為渴望加入世界上擁有核潛艇國家的行列。為此，印度於1988年從前蘇聯海軍租用了一艘C—Ⅰ型巡航飛彈核潛艇，租期為 3 年，1991 年印度海軍按時把租借的核潛艇交還了俄羅斯。
印度海軍利用這3 年的時間，培訓了一批數量可觀的核潛艇艇員隊伍，更為重要的是印度海軍把前蘇聯的C—1型巡航飛彈核潛艇作為研製核潛艇的重要橋梁，充分利用3年的時間對核潛艇的結構、性能以及基本設計思想進行了深入的研究和探討，從而初步掌握了核潛艇的設計技能。
於是，在此基礎上印度開始制定自己獨立發展核潛艇的計畫，這一計畫被稱為「先進技術艦艇」計畫或者P4102計畫。根據這一計畫，印度打算首先研製一種型號的攻擊型核潛艇。該型核潛艇的艇體長度為100米，水下排水量為6500噸左右，艇上裝備一座壓水反應堆和一臺功率為 70 千瓦的汽輪機，艇上裝備 7 葉螺旋槳，水下最高航速為 34 節，該型核潛艇上裝備 6 具533毫米魚雷發射管，此外還裝備飛彈垂直發射裝置，可以發射潛射反艦巡航飛彈。印度海軍打算首先建造 5 艘這種核潛艇。
然而，在研製過程中，印度卻遇到了種種困難，經過了10 年的努力，在花費了6億美元之後，印度獨立研製核潛艇的這項「先進技術艦艇」計畫如陷泥沼，始終沒有取得重大進展。2004年，印度又向俄羅斯租借了兩艘「阿庫拉」級核攻擊潛艇，並繼續進行核潛艇的研究和建造。
2009年7月26日，印度第一艘自主研發的核潛艇正式下水。這艘建造時間長達11年的核潛艇，取名「殲敵」號，該核潛艇排水量約為6000噸，造價29億美元。「殲敵號」裝有12支攜有一噸核彈頭、射程700千米的K15短程彈道飛彈。其核心單一壓水式反應堆由印度甘地原子能研究中心開發。這艘潛艇要進行為期兩年的試航，計畫于 2011 年正式服役。
印度租借過俄羅斯的。有消息稱，印度國產首艘核潛艇就是以「阿庫拉」級為母型,或者參照了「阿庫拉」級的設計。「阿庫拉」 級潛艇是俄羅斯一型先進的攻擊型核潛艇。
另外，據《印度時報》2010年3月17日的報道，俄羅斯方面準備將「海豹」號核潛艇租借給印度海軍，租期為10年。這艘「海豹」號核潛艇原來是俄海軍編號K—152的「阿庫拉一11」級攻擊型核潛艇。該潛艇排水量 8140 噸，長 108 米（有數據說為 111.7米），寬 13.5 米。這艘核潛艇在 1993 年就開始建造，但由於資金問題，直到2008年才完工並於2009年進入俄海軍服役。印度海軍租借這艘潛艇後，將把它重新命名為「查克拉」號。