Słowo herb przejęte zostało z języka czeskiego gdzie pierwotne jego brzmienie erb miało podwójne znaczenie – „dziedzictwo” lub „uzbrojenie”. Do języka czeskiego natomiast zostało przejęte z języka niemieckiego, gdzie pierwotne jego brzmienie Erbe oznacza „dziedzictwo”. Nieco inny jest źródłosłów herbu w językach Europy Zachodniej. Tam o identyfikacyjnej funkcji herbu i jego genezie świadczy nazwa związana z uzbrojeniem: arma, arms (coat ofarms), armoires, Wappen (co dawniej w języku niemieckim miało to samo znaczenie co Waffen).
Z dużą dozą prawdopodobieństwa można stwierdzić, że sam herb wywodzi się ze znaków własnościowych i bojowych. W heraldyce istnieją dwie zasadnicze hipotezy dotyczące pochodzenia herbu.
Pierwsza, starsza, skłania się do zdania, iż herby pochodzą od znaków własnościowych i poprzez takowe przeszły na znaki bojowe. Druga, nowsza, wywodzi herby od znaków wojskowych lub inaczej mówiąc – od znaków bojowo-rozpoznawczych, nie wyklucza jednak udziału znaków własnościowych w rozwoju herbu.
Za teorią o wojskowym pochodzeniu herbu przemawia fakt zmian, jakie zaszły na polach walki w XII wieku wraz z pojawieniem się ciężkiej jazdy. Rycerze zakuci w zbroję, z głową okrytą hełmem, z przyłbicą szczelnie zakrywającą twarz – stawali się bliźniaczo do siebie podobni. Utrudniało to w znacznym stopniu rozpoznawanie pojedynczych rycerzy, a nawet całych oddziałów. Sytuacja taka wymusiła umieszczanie znaków identyfikujących, początkowo noszonych na żerdziach przed oddziałem, potem przeniesionych na proporce i chorągwie. W wyniku ewolucji rynsztunku bojowego znaki z chorągwi i proporców umieszczano również na tarczach i hełmach. Dalszy rozwój uzbrojenia, a zwłaszcza zastosowanie dużych rozmiarów tarcz, sprawił, że uznano je za najdogodniejsze miejsce do umieszczania nań godeł.
Nie jest możliwe podanie dokładnej daty powstania herbu. Proces ten odbywał się stopniowo i – jak już wyżej wspomniałem – z dużą dozą prawdopodobieństwa można przypuszczać, że większość znaków bojowo-rozpoznawczych dała początek rysunkom herbów.
Pamiętać jednak należy, że w każdym ze średniowiecznych krajów stan rycerski rozwijał się inaczej. Różne warunki ekonomiczne, kulturowe, a także społeczne wpłynęły odmiennie na powstanie, a następnie ewolucję również tej dziedziny kultury rycerskiej, jaką jest heraldyka.
Pierwsze znaki cechowała pełna dowolność i naiwność rysunku, nie ujętego jeszcze w żadne reguły i prawidła. Przełomowy okres dla powstania herbu to okres wojen krzyżowych (XII w.), które spowodowały zetknięcie się rycerstwa europejskiego z wojownikami świata Orientu. Miało to ogromny wpływ na wygląd godeł. Z kolei wpływ na wykształcenie się reguł i ściśle określonych zasad heraldycznych miały turnieje rycerskie. Organizacja turniejów rycerskich, tak bardzo popularna w krajach Europy Zachodniej, w Polsce, pomimo kilku prób przeprowadzonych przez Władysława Jagiełłę, nie przyjęła się. I w tym między innymi należy upatrywać przyczyn tak diametralnych różnic w heraldyce zachodniej w stosunku do heraldyki polskiej.
W trakcie organizacji turniejów rycerskich powoływano specjalnych urzędników – heroldów, do zadań których należało anonsowanie wstępujących w szranki rycerzy poprzez dokładne opisywanie ich znaków – herbów. W ten sposób heroldowie stopniowo wprowadzają ściśle określone reguły i zasady opisywania herbu, których rysunek staje się coraz bardziej klarowny i jednoznaczny.
Okres od XI do XII wieku należy przyjąć jako okres powstawania i kształtowania się herbu w Europie Zachodniej. W Polsce powyższą datację należy przesunąć o około 100 lat później.
