Überlegung dazu: ich glaube, ein Rollenspiel etabliert bei Erstkontakt ein bestimmtes Spielgefühl, dass sich - je nach Gruppe zu unterschiedlichen Teilen - aufgrund von Spielmechanik, Weltbeschreibung und erlebten/typischen Abenteuern/Kampagnen konstituiert. Wenn ein Spiel mal den Durchbruch mit einer Edition schafft, hat man also eine ordentliche Spielerbasis, die ein bestimmtes Gefühl erwartet. Solange sich nun die Systeme evolutionär weiterentwickeln, werden neue Spieler mit einem ähnlichen Spielgefühl sozialisiert und virtuell in die "große Gemeinschaft" der Durchschnittsspieler von X integriert. Der Vorteil dabei ist, dass - so lange die Edition nicht komplett disfunktional ist, was aber wegen des zuvor vorausgesetzten Erfolgs vergleichsweise unwahrscheinlich ist - fallen vielleicht hinten ein paar Leute raus, aber dafür kommen vorn ein paar neue dazu. Der Nachteil ist: gerade bei ansteigender Komplexität gewinnst Du vielleicht irgendwann nicht mehr ausreichend Neuspieler. Der Vorteil ist: Deine Spielerschaft wird nicht fragmentiert.
Meine Behauptung wäre: für große Systeme ist evolutionäre Weiterentwicklung trotzdem die erfolgversprechendere Strategie, insbesondere wenn Nostalgie im Zeitgeist nicht allzu negativ besetzt ist.
Die Herausforderung ist aber natürlich:
a) Du willst neues Zeug verkaufen, also musst Du Dein System regelmäßig so erneuern, dass die Leute einen Anreiz sehen zu wechseln
b) Dein System hat möglicherweise Schwachpunkte, die Du gern ausmerzen möchtest - und nur weil Aspekt X in einem anderen Spiel besser gelöst ist, heißt das noch nicht, das sich das leicht in Dein Design integrieren ließe
c) Du musst Dein System einfach genug halten, dass neue Leute damit anfangen, aber komplex genug, dass den "Altspielern" nicht langweilig wird
d) Du musst gleichzeitig versuchen, Deinen "Markenkern" zu erhalten
Die von Dir genannten Beispiele sowie das von Rumpel genannte Runequest Glorantha bekommen das, soweit ich das sagen kann, recht ordentlich hin. Auch D&D5 hat es halbwegs geschafft, Spieler verschiedener Editionen auf eine gemeinsame Basis zu bringen - selbst bei Nörglern wie mir ist es so, dass sich die meisten Kritikpunkte mit einer moderaten Revision und einer leicht veränderten Produktpolitik schon adressieren ließen.
Manche Dinge sind natürlich trotzdem beinahe irreparabel kaputt - für die Zauberpest und das Weitersetzen der Zeitlinie um 100 Jahre sollte man den/die Verantwortlichen auch heute noch mit Anlauf in die Eier treten.
Bei den angesprochenen Problembären DSA und Shadowrun, die den Bruch gewagt haben, ist mein Eindruck, dass die Verzweiflung über die Probleme des eigenen Systems so groß war, dass man sich dachte, man ritte ein totes Pferd und stiege lieber ab bzw. wagte besser den Reboot. Das illustriert meiner Meinung nach ganz gut die Schwierigkeit, die oben genannten vier Dimensionen vernünftig auszubalancieren. Zumindest im Falle von Shadowrun bin ich der Meinung, dass das auch an einem fragwürdigen Verständnis der eigenen Stärken und Schwächen bzw. dem Festhalten an einigen untauglichen Setzungen geschuldet ist.
Abschließend sei allerdings angemerkt: während ich für große Systeme eine konservative, evolutionäre Strategie für nützlich halte, bedeutet das nicht unbedingt, dass neue Systeme das ebenso halten müssen. Die haben dann allerdings, selbst wenn sie sauber designt sind, natürlich das Problem, dass sie sich erstmal in einem Markt, der von zahlreichen alten Marken dominiert wird, etablieren müssen.