Vorbereitung:

Erzeuge in TextEdit:

Testdokument #1 mit der Einstellung "Plain Text" in den Preferences.

Optional:
Testdokument #2 mit der Einstellung "Rich Text" in den Preferences.
(Im Grunde reicht schon eines der beiden Dokumente um den Effekt zu beobachten)

Wähle die Einstellung "Rich Text" in den Preferences, wenn Dokument #1 vorliegt oder "Plain Text", wenn Dokument #2 vorliegt.

Nun der Effekt:
- TextEdit ohne geöffnetes Dokument schließen.
- TextEdit neu starten.
- Es öffnet sich ein neues leeres Dokument wie gewohnt.
- Im Menü File > Open Recent eines jener Dokumente wählen, dessen Format nicht mit dem aktuell vorgegebenen Format übereinstimmt.

Ergebnis: Das leere Dokument ändert den Titel und nimmt sogar das Seitenverhältnis des neu geöffneten Dokuments an. Die Seite bleibt jedoch leer.

Abhilfe: Das blanke Dokument vor dem Öffnen des nächsten schließen.

Ich weiß nicht, ob dieses Phänomen neu mit 11.6.1 auftritt oder auch schon bei vorhergehenden Versionen zu beobachten ist.

IMHO hat Apple die TextEdit.app kaputt gemacht. ich bin auf CotEditor umgestiegen (kostenlos im App Store).