Der Begriff geht zum einen auf das Wort Sauerkraut sowie die abwertende Bezeichnung Krauts für die deutschen Soldaten im Zweiten Weltkrieg zurück. Zur Kreation des Begriffs Krautrock soll John Peel, ein bekannter englischer Radio-Moderator, 1968 durch den Titel Mama Düül und ihre Sauerkrautband spielt auf der LP Psychedelic Underground der Band Amon Düül angeregt worden sein. Darüber hinaus nahm im Mai 1973 die Hamburger Gruppe Faust für Virgin Records im Studio „The Manor“ in Oxfordshire ihre vierte LP auf, dessen erstes Stück „Krautrock“ hieß. Virgin Records übernahm daraufhin diesen Begriff als Genre-Bezeichnung für Rockmusik aus Deutschland.
In Deutschland wurde Krautrock oft als selbstironische Bezeichnung für die eigene Musik verwendet, um damit auszudrücken, dass man Deutschland für ein popkulturelles Entwicklungsland hielt. Krautrock war zu Beginn mehr als Sammelbegriff für Musik aus Deutschland zu sehen. Es gab weder eine einheitliche Bewegung, noch weitreichende stilistische Gemeinsamkeiten.
Abgesehen von der Verwendung des nicht schmeichelhaft gemeinten Wortes „Kraut“ wird durch diese Zusammenfassung verschiedenster Stilrichtungen und die Reduzierung auf ihre geographische beziehungsweise nationale Herkunft der Begriff Krautrock auch oft als eine abwertende Bezeichnung verstanden. So waren beispielsweise Amon Düül und Agitation Free dem Psychedelic Rock verpflichtet, Tangerine Dream neigten eher dem Bereich der elektronischen Musik zu, Guru Guru praktizieren zunächst Space Rock à la Hawkwind und frühe Pink Floyd, Embryo waren dem Jazz Rock, Birth Control dem Hardrock zuzuordnen, während Can eine nahezu avantgardistische Kompositionshaltung wählten. Wobei sich die Bands insgesamt oft durch eigene Interpretationen der anglo-amerikanischen Muster auszeichneten, was auch internationale Anerkennung mit sich brachte.
Schon früh gab es Bands, die wie selbstverständlich auf Deutsch sangen (Ihre Kinder). Bemerkenswert ist die Nähe vieler Bands zum außerparlamentarischen Widerstand und zu linken Gruppierungen (Floh de Cologne, Ton Steine Scherben, Lokomotive Kreuzberg). „Agitation Free“ hatten ihren Übungsraum in der K1 und spielten oft bei Aktionen der Haschrebellen. Bemerkenswert ist auch die Tatsache, dass Gruppen wie Omega (Ungarn) und Nektar (GB/USA) aufgrund ihres Erfolgs in der BRD oft zu den Krautrockern gezählt werden.
Als einzig gemeinsame Grundtendenz wäre die Neigung zu komplexeren Strukturen zu nennen, wodurch eine enge Verwandtschaft zu Progressive Rock/Artrock und Jazzrock besteht. Aus heutiger Sicht ist besonders hervorzuheben, dass hier auffällig viele Musiker mit der damals neuartigen Synthesizer-Technik experimentierten. Dies gilt neben Can vor allem für Tangerine Dream und deren Umfeld (Klaus Schulze, Ash Ra Tempel), die so möglicherweise die Basis für den späteren Welterfolg von Kraftwerk (Autobahn, 1974) lieferten.
Da sich angefangen vom Hip-Hop-Pionier Afrika Bambaataa bis hin zu Techno-„Originator“ Juan Atkins international viele Musiker der folgenden Generationen explizit auf diesen „elektronischen“ Bereich bezogen, kommt dem Krautrock rückblickend eine durchaus große pophistorische Bedeutung zu, auch wenn dies seinerzeit weder beabsichtigt noch absehbar gewesen ist. Deutliche Krautrock-Einflüsse lassen sich auch bei Indie-Bands wie Sonic Youth (vor allem Can) und Stereolab (vor allem Neu!) feststellen.
Immer geläufiger wird der Begriff Krautrock als Genrebezeichnung für psychedelische und experimentelle Rockmusik mit elektronischen Elementen. .
