Da ich diesen Thread nicht mehr ergänzen kann hier die Lösung, wie sie sich jetzt bei mir herauskristallisiert hat:
Verschiebt oder kopiert man mehrere Dateien und es sind bereits Dateien gleichen Namens am Zielort vorhanden, wechselt der Dialog mit "Ersetzen" und "Abbrechen" scheinbar wahllos zischen den beiden dritten Möglichkeiten "Beide behalten" oder "Überspringen".
Nach vielen Tests steht nun fest, "Beide behalten" erscheint, wenn vier oder weniger Dateien gleichen Namens am Zielort vorhanden sind, "Überspringen" bei mehr als vier Dateien gleichen Namens am Zielort.

Vielleicht stellt sich ja auch mal jemand anderes diese Frage.

Danke für die Mühen. Seit Mavericks ärgere ich mich auch darüber.