Die Großmutter sitzt im Schaukelstuhl vor dem Kamin, und um sie herum hat sich die aufmerksam lauschende Enkelschar versammelt. Dieses gewiss allzu romantische Bild birgt dennoch einen wahren Kern. In der heutigen multimedialen Welt ist kaum mehr vorstellbar, dass die mündliche Überlieferung von Sagen und Märchen eine Möglichkeit war, Kindern und Erwachsenen die geheimnisvolle Welt zu deuten und sie mit örtlichen Besonderheiten wie Höhlen vertraut zu machen. So ist nicht verwunderlich, dass sich auch um die Gertrudenberger Höhle etliche Sagen ranken.

Höhlen sind für manch einen auch heute noch unheimliche und gefahrvolle Orte. Um wie viel bedrohlicher stellten sich frühere Menschen die Höhlenwelt vor. So war zum Beispiel der Glaube verbreitet, tief unter der Erdoberfläche befinde sich die Hölle, und der Weg dorthin führe durch Höhlen. So lag auch die Vermutung nahe, dass unterirdische Gänge Höhlen miteinander verbinden, sodass man von einer zur anderen in der Nähe gelegenen Höhle kommen könne. In einer Sage heißt es, die Gertrudenberger Höhle sei mit der Hüggelhöhle bei Hasbergen verbunden. Beim Hüggel handelt es sich um ein historisches Erzabbaugebiet, in dem sich eine natürliche Höhle befunden haben soll. Sie wird als "Meister Wunderlichs Hohl", also als Höhle des Teufels bezeichnet.

Sagen über die Hüggelhöhle erzählen von den bei Erzbergwerken üblichen Zwergen, die als "Sgönauken" bezeichnet werden, von einem schwarzen Hund, einem im Berg arbeitenden Schmied und davon, dass das Geheimgericht der heiligen Feme in der Höhle getagt habe. Außerdem sei Baron von Stahl aus Sutthausen in der Höhle herumgeirrt, bis er nach mehreren Tagen endlich den Ausgang wiederfand.

Diese Sagen von der Hüggelhöhle wurden später gleichlautend auf die Gertrudenberger Höhle übertragen. Sie sind sozusagen "durch den unterirdischen Gang" vom Hüggel zum Gertrudenberg gelangt.

Einige für Höhlen typische Sagen sind so genannte Wandersagen. Sie wurden an unterschiedlichen Orten erzählt, so auch in Osnabrück. In der Gertrudenberger Höhle spuke es, Drachen hausten dort und von einem Lindwurm und "heimatlosen Waldmenschen" wird berichtet. Drei Schüler oder Studenten seien nicht aus der Höhle zurückgekehrt heißt es in einer Sage, und in einer anderen ist die Rede von versteckten Waffen, Edelsteinen und Gold.

Abgesehen von den Wandersagen beziehen sich zwei ausschließlich auf Osnabrück.
Die Sage vom Tecklenburger Fleischboten handelt von einem Streit zwischen der Stadt Tecklenburg und dem Landesherrn, dem Bischof von Osnabrück. Zur Aussöhnung sollten die Tecklenburger drei nach menschlichem Ermessen unmöglich zu beschaffende Dinge liefern: Rosen ohne Dornen, Wevelinghofer Geldmünzen und drei blaue Windhunde. Die cleveren Tecklenburger erfüllten die Bedingungen, sogar die blauen Hunde lieferten sie. In einem blauen Zimmer bekamen Hunde blaues Futter von blau gekleideten Wärtern, sodass schließlich blaue Windhunde gezüchtet waren. In einer Sagenvariante heißt es, die Windhunde seien in der Gertrudenberger Höhle "blau" gezüchtet worden.

In einem Gedicht von Hermann Meyer wird 1932 von einer patriotischen Jungfrau und der Belagerung Osnabrücks durch Karl den Großen berichtet. Ein fränkischer Hauptmann will einen Bauern zwingen, den geheimen Gang durch den Gertrudenberg in die Stadt zu verraten. Der Knecht bietet sich an, das Heer zu führen, wenn er die Bauerstochter zur Frau bekommt. Der Hauptmann ist damit einverstanden. Den Knecht verlässt in der Dunkelheit der Höhle jedoch der Mut, und die Jungfrau führt die Soldaten in einen Abgrund. Sie opfert sich für die Stadt Osnabrück.

Entgegen anderen Höhlensagen haben die Sagen über die Gertrudenberger Höhle das Wissen über diesen Ort nicht vermehrt.