Wenn Sie sich die grundlegende Von-Neumann-Architektur ansehen, würde sich das ROM irgendwo in Ihrem Speicher befinden, ja. Aber da es sich um eine theoretische Architektur handelt, kann man sie nicht 1: 1 der realen Welt zuordnen. Es heißt nur, dass es eine Form von Speicher gibt, in die Daten gelesen und möglicherweise beschrieben werden können. Wenn es sich um RAM, ein ROM, eine Festplatte oder so handelt, wäre etwas anderes eine andere Geschichte.
Am Ende des Wiki-Artikels finden Sie auch, dass selbst so etwas wie die Anzahl der Caches usw. nicht zum Modell gehört.