취업을 통한 한국인의 독일이주가 본격화된 1970년대 이후, 본 교회 설립전 독일 남부지방에는 통계에 의해 간호사와 유학생 1500여명, 그 외 미국인과 결혼한 한인 여성등 500여명을 합하여 약 2000여명의 한국인이 거주하고 있었습니다. 이 중 신앙이 있던 교인들이 중심이 되어 1969년부터 독일 남부 각 지역에서 기도모임을 조직하여, 예배를 드리고 교제를 나누며, 타국에서 서로 돕고 위로하는 귀한 신앙생활을 시작했습니다. 후에 이를 바탕으로 여러 지역에서 교우회라는 명칭으로 모임을 발전시켰으며, 이를 바탕으로 한인교회 설립에 초석을 쌓았습니다.

이같은 한인 기독교인들의 활동과 기도에 대한 하나님의 응답으로 1976년 5월 25일에 김종렬 목사가 한독협정서에 의해 한국기독교협의회로부터 선교사로 파송되어 슈투트가르트에 도착했고, 약 3주 후인 1976년 6월 20일 주일에 슈투트가르트에서 15명의 교인이 모여 공식적인 첫 예배를 드림으로서 독일남부지방한인교회가 설립 되었습니다. 1977년 1월 16일에 슈투트가르트에서 한인교회 창립 총회를 개최하고 임원을 선출 함으로서 조직교회로서 면모를 갖추기 시작했고, 독일남부지방 한인교회의 교구는 독일의 남부지방인 뷔르템베르크(Württemberg)주와 바이에른(Bayern)주로 정한다는 규정하에, 뷔르템베르크주의 슈투트가르트교회와 튀빙엔교회 그리고 바이에른주의 뮌헨교회와 뉘른베르크교회, 이렇게 네 지역교회가 한 명의 목사 관할하에 놓이게 되었습니다.

이후, 지역교회들을 일원화할 필요성을 느껴 1978년 12월에 독일남부지방한인교회의 정관이 만들어졌고, 그 정관에 의해 1979년부터 독일남부지방한인교회가 조직되어 운영되기에 이릅니다. 이를 통해 교역자와 성도 모두 하나되어 사역한 결과, 1980 – 1982년 사이에 슈투트가르트 지역교회 관할 하에 괴핑엔(Göppingen)과 슈베비쉬 그뮌트(Schwäbisch Gmünd)에 기도처가, 뉘른베르크(Nürnberg) 지역교회 관할 하에 암베르크(Amberg), 호엔펠트(Hohenfeld), 크라일스하임(Crailsheim)에 기도처가 새로 생겼으며, 괴핑엔 기도처는1983년부터 교회로 승격되어, 독일남부지방한인교회의 지역교회가 되었습니다. 당시 재적교인수는 400여명이었으며, 1976년 이후 세례 받은자가 120여명에 이를 정도로 교회가 성장하였습니다.

이렇게 교회가 성장함에 따라, 한국의 경상도와 전라도를 합친것 보다도 더 넓은 지역에서 한 명의 담임목사가 목회전반을 담당한다는 것이 점점 어려워졌기에, 김종렬 목사는 독일 남부지방에선 슈투트가르트를 중심으로 목회자 한 명, 뮌헨을 중심으로 목회자 한 명, 그리고 뉘른베르크를 중심으로 목회자 한 명 이렇게 도합 세명의 목회자를 두고 목회를 하는것이 바람직하다는 판단을 내려서 이를 독일과 한국에 요청하였습니다.