El club fue fundado oficialmente en 1875 bajo el nombre de Small Heath Alliance por un entusiasta grupo de jugadores de críquet pertenecientes a la Iglesia de la Santísima Trinidad en el barrio obrero de Small Heath, situado en la ciudad de Birmingham, en el condado de West Midlands (Inglaterra, a orillas del río Rea y sobre las colinas centrales del país). La propuesta surgió ante la necesidad imperiosa de contar con una disciplina atlética invernal y de mantención física para los jugadores de críquet durante el largo receso del verano. Liderados por deportistas locales como Thomas Fletcher, el equipo disputó sus primeros partidos amistosos en un terreno baldío en Arthur Street, consolidando rápidamente una identidad basada en el esfuerzo de la clase trabajadora y la herencia eclesiástica de su origen.
Tras cambiar su nombre a Small Heath en 1888 y profesionalizarse de forma definitiva en la Football League, el club experimentó un crecimiento institucional imparable. Para principios del siglo XX, las antiguas canchas de Muntz Street resultaban totalmente insuficientes para albergar a su creciente afición. Bajo la dirección directiva de Harry Morris, el club adoptó el nombre de Birmingham en 1905 y adquirió un predio en Borderley, inaugurando en diciembre de 1906 el célebre e imponente estadio de St Andrew's ante más de 32.000 espectadores, estableciendo lo que se convertiría en su estadio definitivo y hogar espiritual reconocido.
La década de 1950 marcó un período de gran competitividad para el club de St Andrew's. En 1956, el equipo dirigido por el mánager Arthur Turner alcanzó la final de la FA Cup en Wembley, cayendo de manera competitiva ante el Manchester City en un duelo sumamente disputado. Esa misma temporada, Birmingham City grabó su nombre con orgullo en la historia de la disciplina al convertirse en el primer club inglés en participar en una competición europea oficial, la Copa de Ferias de 1955-58, logrando alcanzar la final de dicho certamen continental en las ediciones consecutivas de 1960 y 1961.
El 23 de mayo de 1963, Birmingham City escribió una de sus páginas más célebres y recordadas. En la final a doble partido de la Copa de la Liga (League Cup), el equipo se midió cara a cara con su eterno e histórico clásico rival de la ciudad, el Aston Villa. De la mano del mánager Gil Merrick y guiados en el terreno por el goleador Ken Leek, los 'Blues' se impusieron con jerarquía por un global de 3-1, alzando el primer trofeo mayor oficial en la historia de la institución y desatando un festejo singular en el sector azul de los West Midlands.
El 27 de febrero de 2011, en el recordado césped del nuevo Wembley, Birmingham City protagonizó una de las mayores sorpresas coperas del siglo XXI. En la final de la Copa de la Liga (Carling Cup), el equipo conducido por Alex McLeish derrotó de manera esforzada al destacado Arsenal por 2-1. Tras adelantarse con gol de Nikola Žigić, los 'Blues' resistieron el asedio londinense y, en el minuto 89, el delantero nigeriano Obafemi Martins capitalizó un error defensivo para empujar el balón a las redes, desatando la gran entusiasmo de la hinchada y sumando la segunda Copa de la Liga a las vitrinas del club.