Hallo liebe Hybrid-User,

meine Masterarbeit steht an und ein wichtiger Teil wird GEN AI sein. Nun läuft fast alles auch auf dem Mac, nur wie ihr wisst, CPU basiert. Da wird aus 50sek PC-Nivida-Power schnell 50min Mac-M3-Schnecke.
Ich habe mal Gegoogelt und nach Nivida-PCs geschaut. Schnell landet man in der "Gaming-Ecke" für meine Anforderungen. Sehr erstaunt mußte ich feststellen, dass PC mit schneller Grafikkarte, Nivida sollte laut Google zb.mind. 16GB RAM haben, und den mir bekannten Mac-Spezifikationen praktisch genauso teuer sind wie ein Studio. 2500-3000€ sind mir als Nivida-Rechen-Maschine zu viel. Habe ich da einen Denkfehler und habe da falsch geschaut?


Grafikkarten anschließen über TB funktioniert ja leider nicht. Renderfarmen gibt es zu diesem Thema leider auch nicht.

(PS: Es geht wirklich nur um die AI-Geschichten. Ansonsten ist der Mac ein Traum. In meiner Professionellen Fotografie- und 3d-Arbeit bin ich nie an die Genzen gestoßen und Boulder Gate 3 läuft super flüssig auf "Ultra-Grafik")

Das stimmt nicht. Jede Software, die korrekt an macOS angepasst ist und Apples "Core ML" verwendet, verteilt die Last auf Wunsch automatisch auf CPU, GPU und Neural Engine.

Es heißt außerdem "Diffusion".

Ja, in der Theorie, nur sin die AI Programme leider ALLE CPU basiert. Sie sind NICHT auf Metal umgestellt und werden es auch nicht.

Oder in anderen Worten. Ein Rechendurchgang dauertr auf einem Lenovo PC-Book ca. 1min, auf dem Mac >5min.

Zuerst: Ja - Grafikkarten kosten aktuell 500€-1500€ - AMD Grafikkarten haben aber im 500€ Segment schon 16 GB im Gegensatz zu Nvidia - bei denen geht das ganze ab 700-800€ los. Noch besser wird es mit einer GraKa die auf ihrem Board noch Anschlüsse für SSDs hat.

Tatsächlich ist die Frage, (ohne das ich es selber tue) wie sehr du dich mit Technik dahinter auskennst. Also willst du eine GenAi programmieren - oder nur Ergebnisse auswerten?

Letzteres wäre ja einfach zu gewährleisten, da man Kapazitäten ja kaufen kann.

Marcel Bresink
Was StableDiffusion angeht, klappt das mit "Nutze Alles" leider über CoreML nicht. CPU+GPU gehen stabil, CPU+NeuralEngine geht stabil, aber die Option "All" sorgt leider für viel Instabilität. Kann man selbst im Apple-Beispielprojekt bzgl StableDiffusion testen:

MacStudio
Anders als man oft liest, sind auch PCs nicht völlig kostenlos Wenn du eine High-End-Maschine willst, bist du dort natürlich auch mehrere tausend Euro los. Welche ML-Operation dauert denn auf einem PC 50 Sekunden, auf einem Mac 50 Minuten? Eine Nvidia 4090 ist natürlich sicher schneller als ein M3 Max was ML-Anwendungen angeht, aber wir sprechen hier definitiv nicht von solchen Sphären.

Schon mal das probiert?

Ich habe nicht von Metal geredet, sondern von Core ML. Und was sollen "die AI-Programme" sein?

Auf dem Mac gibt es viele, sehr gut angepasste Anwendungen wie z.B. Diffusers, DiffusionBee oder AUTOMATIC1111. Das bekannteste und beliebteste Programm ist Draw Things.

Wie gesagt, es handelt sich um reine AI Geschichten mit experimentellem Code des MIT oder der UNI Chicago usw. (von GidHub, in Python usw).

@ Philantrop
Ja, von solchen Mac-Apps rede ich. Nach 5h habe ich den Rechenvorgang abgebrochen. Selbe Aufgabe live in der UNI während der Vorlesung auf einem Thinkpad. Eben nur in der PC Version mit passender Nivida-Karte.

Du scheinst Dich im Vorhinein auf bestimmte Software festgelegt zu haben, ohne zu prüfen, ob der Mac nicht bereits viel weiter ist. Das sind keine gute Voraussetzungen für eine Master-Arbeit. Wenn Du nicht konkret verrätst, was genau Du machen willst, kann Dir niemand helfen.

Auf dem Mac kannst Du mit vernünftiger Software und dem SDXL Turbo-Modell innerhalb von 1,6 Sekunden ein Foto der Größe 512 x 512 generieren.

Aktuell beschäftige ich mich mit dem Watermarking bzw Poison-Attacks auf die Hamburger Laion Datenbank. Die Arbeiten der University of Chicago mit der Software "Nightshade" sind vielleicht bekannt. Für andere Experimente dient der Code des MIT der rudimentär mal für Photoguard geschrieben wurde. Generell haben wir da engen Kontakt zu M.I.T. Profs. Vieles läuft auf GitHub, aber ich benötige vor allem Stable Diffusion um eigene CLIP-Datenbanken zu berechnen. Denn der Beweis einer erfolgreichen Poison Attack funktioniert nur, wenn ich sie auch in ein eigenes CLIP Model einfüge. Die Arbeiten des MIT bzw. Chicago sind da natürlich wegweisend, aber ich als Künstler habe da andere Zielsetzungen, die ich in meiner Arbeit leider selber erforschen muß.
Die Verschiebung der Vektoren (*), also die Mathematische Einbettung der Objekte im Clip-Model, rechnet auf Nivida recht flott, auf dem Mac-CPU jedoch endlos. ((*)durch Eingriff von Informatikern in den Code).
Mit Prompt-Bildchen hat das alles nicht viel zu tun, dass interessiert mich wenig. Das kann ich ja auch in der Cloud machen lassen...

https://www.heise.de/hintergrund/Der-Fall-Taylor-Swift-Drei-Moeglichkeiten-gegen-Deepfake-Pornografie-vorzugehen-9613730.html

Hier ein aktueller Artikel der das Thema ganz gut umreist. Tatsächlich lässt sich viel nur durch "Spielerei" entdecken, warum zumindest in meinem UNI-Dunstkreis, Kunst und Informatik sehr eng zusammenarbeiten.
Oder anders gesagt: Jeder Ingenieur benötigt einen Rennfahrer oder Testpiloten, der die Grenzen aufzeigt und austestet.

Nehmen wir mal als Beispiel die Software "Glaze". Um beim Rennfahrerbeispiel zu bleiben: Die haben zwar bewiesen dass das Auto fährt, aber nicht was man alles mit einem Auto machen kann!
Lässt Du Glaze mit SD in einer Feedbackschleife laufen , kommen da echt spannende Sachen bei raus, die auch für die Macher unendlich interessant sind.

Das muss man auch sagen, wenn man solche Behauptungen aufstellt. Oben wurde schwammig behauptet, du würdest dich mit "GEN AI" beschäftigen. In Wirklichkeit geht es um die Manipulation der Trainingsphase während des Machine Learning für die spätere Verwendung in einer generativen KI.

egal, in welche Richtung Du die Tools benutz, alles im Prinzip das gleiche... und alles scheint irgendwie auf NIVIDA Karten besser zu laufen, um auf die Basis meiner Frage zurück zu kommen. Berechnungen laufen da einfach schneller drauf. Warum auch immer.
Reicht es nun, einen Aldi PC zu kaufen und da eine teure Nivida rein zusetzten? oder muß ich da auch ein teures Mainboard usw. dazu kaufen ...?

Du kannst auch als Einstieg für Stable Diffusion eine Nvidia RTX 3060 mit 12GB nehmen. Dauert dann natürlich auch etwas länger als bei stärkeren Grafikkarten aber sollte auch schon eine brauchbare Leistung bringen.

VRAM der GPU ist halt wichtig, also vermutlich lieber eine RTX 3060 12GB als z.B. eine RTX 3060 Ti mit 8GB.

Ah, danke ist das Mainboard da entscheidend? Vom Mac wissen wir ja, dass der Prozessor usw. nicht alles ist, sondern die Kommunikation zwischen CPU, GPU und RAM usw.
"Ferrari-Motor in ein Opel Corsa einbauen" - oft ist dann ein normaler "Ford Fiesta" schneller

Soweit ich weiß, ist die CPU-Leistung sekundär. Von daher würde ein "Aldi-PC" mit dicker Graka funktionieren.
Aber letztlich kannst Du auch einen Gaming-PC mit passender Graka kaufen, das wird funktionieren. NVIDIA-Karten mit 16GB gibt es schon unter 500€. Mit ca. 1300€ für PC mit 32GB RAM und 2TB SSD solltest Du daher hinkommen.

https://www.ankermann.com/de/pc-systeme/gaming-business-v2-intel-core-i7-11700f-nvidia-geforce-rtx-3060-12gb-32gb-ram-1000gb-m.2-wildrabbit-aero-case-650w-bequiet-win-11-wifi-libreoffice_4260561746700.html

1000€ - und ich kann sogar mein Studio Display rudimentär anschließen. 1000 ist machbar... ich denke das hier im Forum auch viele Hybrid arbeiten. Einige Film/3D-Tools gibt es ja leider nicht für den Mac.

Die Gefahr ist nur, dass ich dann auch spiele... starte gleich schon wieder Boulder Gate 3...

Dann vielleicht lieber hier schauen:

Eine aktuelle NVIDIA GPU mit 16GB RAM wäre eine 4070 Ti Super ab 857€, wenn weniger Leistung reicht dann auch eine 4060 Ti ab 455€. Kannst mit 4060 Ti also auch locker einen PC für unter 1000€ zusammenstellen, musst dann natürlich selber zusammen bauen. Mit Fertig-PCs kenne ich mich leider nicht aus.