Основан в 13 в. С 1724 г. город получил название Гумбинен. Это немецкое название от балтийской основы gumbas, gumba – “возвышение”, встречающейся в топонимии других балтийских территорий. Допускается также образование от литовского gumbis – “рыбная вершина”, что связывают с положением селения при впадении р. Ромните (ныне Красная) в р. Писсу и удобством рыбной ловли в этом месте.
До 1945 г. город находился в составе Германии (Восточная Пруссия), затем в составе России. Был взят 20 января 1945 г. войсками 3 Белорусского фронта в ходе Инстербургско-Кёнигсбергской операции.
В 1946 г. переименован в честь Героя Советского Союза капитана С.И. Гусева (1918-45), погибшего 18 января 1945 г. в боях за опорный пункт Гросс-Байтчен (ныне Подгоровка Гусевского района).
В 2012 году в Гусеве прошла масштабная газификация жилых домов. Осенью 2016 году в городе был открыт православный Храм Всех Святых.