Die Arbeit an den Grotten begann während der Nördlichen Wei-Dynastie (385-535 n. Chr.), als Kaiser Xiaowen die Hauptstadt seines Reiches von Datong nach Luoyang verlegte. Die älteste Höhle der Longmen Grotten, die Guyang-Grotte, wird auf das Jahr 493 datiert. Die einst farbig bemalten Skulpturen geben auch heute noch einen Hinweis darauf, wie prachtvoll sie bei ihrer Herstellung einst ausgesehen haben. Im Zentrum der Höhle steht der Shakyamuni-Buddha, der von jeweils einem Bodhisattva auf jeder Seite umgeben ist. Insgesamt enthält die Höhle mehr als 800 Inschriften, mehr als jede andere buddhistische Höhle in China. Sie berichten über Künstlernamen, Daten und sogar Gründe für die Gravierung einzelner Figuren in den vielen kleinen Nischen der Höhle. 600 der Inschriften zeigen die feine Kalligraphie der Nördlichen Wei. Aus diesem Grund ist die Guyang-Grotte eine wichtige Forschungsstätte für Kalligraphie, Steinskulpturen, Malereien und Architektur der Nördlichen Wei-Dynastie. Neun der Inschriften dieser Höhle zählen zu den "20 ausgewählten Denkmalinschriften der Longmen-Grotten".

Die Guyang-Grotte ist eine wahre Schatzkammer für die Erforschung der Nördlichen Wei-Dynastie