Grüb wird 1150 als "Grube", d.h. "Siedlung in der Grube erwähnt. Der Ortslage nach zählt das Dorf zu den nach gelenkten Waldrodungen entstandenen Spätsiedlungen des hohen Mittelalters, nachdem die besseren Siedlungsplätze schon vergeben waren. Auf die geringe Qualität der Äcker weisen die Flurnamen "Pfennigäcker" südwestlich und "Steinbruch" westlich des Dorfes hin.
Der Ortsname kann auf eine frühere Flurbezeichnung "In der Grube" zurückgehen. Reste eines ersten Siedlungskerns bildet wohl der Burgstall auf dem Grübesberg. Um 1800 hat der Weiler nach BUNDSCHUH u.a. "10 in das Kammeralamt Ansbach gehörige Unterthanen". 1807 wird Grüb zusammen mit 13 anderen Orten nach Weihenzell gepfarrt. Im Jahre 1856 verfügt der Ort über 14 Häuser, 17 Familien sowie 69 Einwohnern. Er gehört zur Pfarrei und Schule Weihenzell. An Gewerbebetreibenden leben zu dieser Zeit in Grüb ein Wirt, ein Schmied, ein Schuster und ein Wagner. Zur Gemeinde gehörten die Weiler Gebersdorf und Wippendorf.
1867 zählt der Weiler 64 Einwohner und 29 Gebäude. Um 1900 hat das Dorf 56 Einwohner in 15 Wohngebäuden. 1978 leben 56 Einwohner in Grüb.