Het stadje is vernoemd naar de reiziger Johnny Coleman die hier tijdens een zandstorm zijn ossenwagen moest achterlaten.

In 1908 vond Zacharias Lewala een bijzondere steen op de plek van het huidige Kolmanskop. Omdat hij niet wist wat voor een steen het precies was, liet hij hem aan zijn baas zien. Deze herkende het gelijk als diamant. Kort daarna werd duidelijk dat dit niet een unieke vondst was, maar dat het gebied rijk was aan diamanten.
In korte tijd kwamen er dan ook veel, van oorsprong Duitse, mijnwerkers naar Kolmanskop om ook hun geluk te zoeken.
Ooit had Kolmanskop een ziekenhuis, een dancing, een elektriciteitscentrale, een school, een kegelbaan, een theater en een treinstation.
Kort na de Eerste Wereldoorlog bleken de meeste diamanten rondom het stadje gedolven. Mede met de ontdekking van een nieuw en groter diamantgebied ten zuiden van de stad zorgde dit voor de langzame aftakeling van Kolmanskop. Uiteindelijk verlieten de laatste bewoners Kolmanskop in 1954, waarna de stad is overgelaten aan moeder natuur.
Dit is ook gelijk het bijzondere aan Kolmanskop: een verlaten stad die langzaam wordt opgeslokt door de omliggende woestijn.