Город-крепость Курмыш основан в 1372 году в целях защиты Нижегородского княжества от набегов инородцев: мордвы, татар, черемисов (марийцев). По свидетельству Никоновской летописи «лета 6680 князь городецкий Борис Константинович постави себе град на реце Суре и нарече имя ему Курмыш». /ПСРЛ тт 11-12/
Курмышом в средние века на Руси называли часть города или поселения, расположенного в однорядку на высоком месте. Действительно, Курмыш был очень маленькой пограничной крепостью, вокруг которой с напольной стороны в виде посада раскинулись слободы: Казачья, Ямская, Стрелецкая, Алексеевская, Инвалидная.
С 14 по 16 века город Курмыш был самой восточной крепостью сначала Владимиро-Суздальского, а затем княжества Московского и принимал на себя все удары Казанского ханства. Город-крепость был оборудован по всем правилам русских средневековых форпостов. Курмыш был окружëн «тыном вострым» (частоколом), рубленной деревянной крепостью с семью башнями, небольшим валом и глубоким пятиметровым рвом, заполненным водой. Стены города защищали 50 сторожевых казаков, 75 стрельцов и 6 пушкарей на вооружении которых состояло 20 «пищалей затинных» (крепостных ружей) и 2 «пищали полковых» (полевых пушки). В городе имелась таможня с таможенными служащими, 30-ю ямщиками и 6-ю толмачами (переводчиками). Управлялся город в военном отношении воеводой, а хозяйственными делами ведал государев подьячий.
После взятия Казани / 1552 г. / Курмыш теряет своё военное предназначение, но остаётся таможенным пунктом Нижегородского края и получаем статус уезда. Неслась и погранично — постовая служба по линии Корсунь-Арзамас.
В 1670 году в Курмыш приходит отряд Максима Осипова, правой руки Степана Разина. Склонив на свою сторону около двух сотен чуваш, черемисов, мордвы, Осипов, пробыв в городе неделю, 1 октября отправляется с отрядом в сторону Лысково.
Через сто с небольшим лет, в июле 1774 г., город встречает небольшой отряд другого «народного смутьяна» Емельяна Пугачёва, который был разбит под Симбирском и Казанью, и тоже искал в городе и уезде крестьянской поддержки.
В начале 18 века по новому административно-территориальному делению Курмыш становится уездным центром Алатырской провинции Нижегородской губернии и по вновь составленному реестру городов России получает номер 403.
В 1780 году при Екатерине II Курмышский уезд передаётся вновь образованной Симбирской губернии. А 22 декабря 1780 г. по докладу Правительствующего Сената Екатериной II Курмышу высочайше пожалован герб «на зелёном поле 2 скрещённых лука в знак того, что обитатели сих мест употребляют сие орудие с отменным проворством».
В 19 веке Курмыш — небольшой уездный город с 2916 жителями. В городе в это время имелось: пристань на Суре, 2 поташных и 5 кирпичных заводов, ямская (почтовая) станция, ветеринарная служба, аптека, общественная бесплатная читальня, земская больница на 20 кроватей с врачом и 3 фельдшерами, 2 церковно-приходские школы, городское двухклассное училище и женская прогимназия. B городе звонили колокола 5 храмов: Покровско-Никольской, Рождественской, Троицкой, Тихона Задонского церквей и Успенского собора.
После революции в 1923 г. Курмыш стал районным центром Нижегородской области.
В 1957 г. перестал быть районным центром и входит на правах простого села в состав Спасского района Горьковской области .
В 1962 г. Курмышские земли и село переходит в состав Пильнинского района.
В 2022 г. Курмыш празднует своё 650-ти летие.