Zum Inhalt springen

Das GSF wandelt Links in Affiliate Links um, um ggf. eine Provision erhalten zu können. Gerne nutzen bitte, danke! Mehr Infos, wie ihr das GSF unterstützen könnt, findet ihr im GSF Support Topic.

Generative KI lokal rendern

Featured Replies

Geschrieben

Ein ziemlich komplexes Thema.

Wer weiss wo sich das noch hin entwickelt.

Hater haten bitte auf Facebook. Da habe ich eine Seite und freue mich dort von euch zu hören ;)

Für Bild und Video:

Konfigurieren von Workflows - also Clip, Conditioning, VAE, Sampler usw.

Verstehen, selber erstellen und weiterentwickeln.

 

Für Text / Informationen

Deepseek, GPT etc.

Vorteile von lokaler Generierung:

  • isolierte Environments

  • reproduzierbare Ergebnisse

  • keine DSGVO Probleme

  • keine laufenden Kosten (außer der Infrastruktur natürlich)

 

PS: Ich verwende Solarenergie

Bearbeitet von Nico Caragua

  • Gast änderte den Titel in Generative KI lokal rendern - selber schrauben anstatt machen lassen
Geschrieben

Jo, ich hab grad auch nen Member gepusht, Commit abgegeben und dann den Pullrequest geschlossen. Jetzt muss noch einer das Review machen und dann kann die CI starten. 

 

😂

Geschrieben

Ey, was sind das für Fremdsprachen, die Ihr zwei da sprecht? :-D
 

Versteh nur "Bahnhof, Koffer klauen" und " Fahrradständer Helgoland"...

Bearbeitet von schindol broer

Geschrieben

Hi,

ich interessiere mich auch für das Thema, bin aber noch weiter am Anfang :rotwerd:

Hast du gute Seiten im Netz für das Basiswissen?

LG

Roland

Geschrieben

  

Am 29.9.2025 um 13:41 schrieb schindol broer:

Ey, was sind das für Fremdsprachen, die Ihr zwei da sprecht? :-D
 

Versteh nur "Bahnhof, Koffer klauen" und " Fahrradständer Helgoland"...

 

 

...

Bearbeitet von Nico Caragua

Geschrieben
vor 5 Minuten schrieb mistelfix:

Hi,

ich interessiere mich auch für das Thema, bin aber noch weiter am Anfang :rotwerd:

Hast du gute Seiten im Netz für das Basiswissen?

LG

Roland


reddit ist eine Quelle für ein paar wenige gute Informationen. Aber häufig schlecht formuliert, lückenhaft, unbeantwortet etc, und häufig nur bei Einzelinformationen wertvoll die man durch viel Lesen nebenher erfährt. Also nicht für den grundlegenden Start geeignet finde ich.

 

Mit welchen Tools und Modellen willst du arbeiten?

Weisst du das schon?

 

Welche Hardware hast du?

Bearbeitet von Nico Caragua

Geschrieben

Es gibt noch keine Hardware oder Tools. Ziel wäre es, Bilder oder Video lokal zu generieren – im Kontext kommerzieller Nutzung. Und vor allem müssten alle (Trainings-)Daten lokal bleiben, so dass ein sicherer Umgang mit sensiblen Daten gewährleistet ist.

Geschrieben
vor 34 Minuten schrieb mistelfix:

Es gibt noch keine Hardware oder Tools. Ziel wäre es, Bilder oder Video lokal zu generieren – im Kontext kommerzieller Nutzung. Und vor allem müssten alle (Trainings-)Daten lokal bleiben, so dass ein sicherer Umgang mit sensiblen Daten gewährleistet ist.

 

Es läuft alles lokal ab.

Keine API

Das ist ja das spannende daran (also für einige zumindest :sigh: )

Bearbeitet von Nico Caragua

Geschrieben

einigt euch auf einen einfachen test usecase: tanzende brüste

 

GO

Geschrieben
Am 29.9.2025 um 15:05 schrieb light:

test usecase: tanzende brüste

Guter Tipp

Bearbeitet von Nico Caragua

Geschrieben

...

Bearbeitet von Nico Caragua

Geschrieben

...

 

 

 

Bearbeitet von Nico Caragua

Geschrieben

Da ich immer nach schnellen Bugfixes statt nachhaltiger Lösung gefragt werde:

Integralhelm mit getöntem Visier.

Geschrieben

und jetzt daraus ein erstes Video

 

 

Bearbeitet von Nico Caragua

Geschrieben

 

edit

Bearbeitet von Nico Caragua

Geschrieben

Ich denke das muss jeder selber wissen.

Z.B. wenn du tanzende Brüste sehen willst.

Bearbeitet von Nico Caragua

  • Gast änderte den Titel in Generative KI lokal rendern
Geschrieben

edit: hat sich erledigt

 

Bearbeitet von Nico Caragua

Geschrieben

Das interessiert mich jetzt sehr. Hab genau dafür nen Anwendungsfall. Hab ne Scanner App getestet und die Daten in ein CAD importiert, aber da kam nur was raus was wie ne hässliche Kartoffel aussah. Der Scan selbst sah am Handy noch ganz gut aus.

 

Wie genau gehst du da vor?

Geschrieben

Du wirst dein Objekt vermutlich als Mesh bekommen haben. Ich denke da ist CAD wenig geeignet für. Bzw. im Umkehrschluss ist Mesh nicht für CAD geeignet.

 

Lade dein Ergebnis doch einfach mal hoch.

Bearbeitet von Nico Caragua

  • 2 Wochen später...
Geschrieben

edit

Bearbeitet von Nico Caragua

Geschrieben

edit: mittlerweile irrelevant

Bearbeitet von Nico Caragua

Geschrieben

Ich erstelle gerade einen Single-Shot-Assistant als WordPress Plugin.

Ihr seid herzlich eingeladen ihn zu auszuprobieren.

Er ist erreichbar unter https://in-one.ai

keine Accounts. Es entsteht kein Memory- was ein User schreibt das verschwindet sobald der Chat verlassen wird.

Zukünftige Modelle werde ich modular integrieren.

Ich würde mich natürlich über viel Feedback freuen.

Bearbeitet von Nico Caragua

  • 4 Wochen später...
Geschrieben

Vor nicht allzu langer Zeit stand ich bei dem Thema noch ganz am Anfang und habe angefangen, Bildchen und kurze Videoclips zu erstellen.

Seitdem ist echt viel passiert. Der Bildbereich hat sich auch bei den Open-Source Modellen stark entwickelt, und macht richtig Spaß. Vor allem bei menschlichen Charakteren ist die Qualität beeindruckend, und wie ich finde, sogar besser als bei Google's aktuellem Model. Bei Videos bin ich ehrlich gesagt raus. Da sitzen scheinbar so viele Leute den ganzen Tag dran, da kommt man von der Qualität gar nicht mehr ran, wenn man nicht sauteure Hardware kauft und sich den ganzen Tag damit beschäftigt. Ich schaue ab und zu zu, lasse es aber aktuell erst einmal liegen. Erst neulich habe ich andere Modelle versucht. Die Implementierung hat 3 Tage !!! gedauert. Das Ergebnis war qualitativ schlecht, die Performance mies - wie meine Laune.

Bei meinem Chatfenster Projekt, dem In-One AI Chatbot, bin ich hingegen gut weitergekommen. Heute am Weihnachtstag läuft mein GPU Testserver durchgehend. Wer mag, darf knallhart testen und beobachten, wie das Chatfenster reagiert und sich alles zusammensetzt. Es ist faszinierend zu sehen, wie schnell sich so etwas entwickelt, wenn man ein bisschen dranbleibt – vom ersten Experiment bis zu einem funktionierenden Testlauf.

Einfach ein kleiner Einblick in das, womit ich gerade herumspiele und wie das einen hineinzieht. Habt ihr vielleicht etwas neues und spannendes ausprobiert?

Geschrieben

Der kann aber nix, oder?

Auf Fragen verweist er immer auf den Kundensupport. Und 1 + 2 kann er auch nicht rechnen... -D

Bilder generieren wäre ja mal ganz interessant. Aber so sehe ich da nicht viel Test-Möglichkeit.

Geschrieben
vor 7 Minuten schrieb AAAB507:

Der kann aber nix, oder?

Auf Fragen verweist er immer auf den Kundensupport. Und 1 + 2 kann er auch nicht rechnen... -D

Bilder generieren wäre ja mal ganz interessant. Aber so sehe ich da nicht viel Test-Möglichkeit.

Ja, der kann definitiv nicht alles 😉
Rechnen und klassische Q&A wie bei ChatGPT sind nicht seine Stärke.
Dafür zeigt er sein Potenzial, wenn man ihn auf eigene Daten loslässt – da merkt man schnell, dass die Kernfunktion anders funktioniert als bei Modellen ohne Websitebezug oder Regeln.
Bilder generieren läuft bei mir aktuell lokal schon grundlegend, mehr dazu will ich aber noch nicht sagen.

Was mich besonders fasziniert: ein frei wählbares Modell – in diesem Fall eines mit befriedigenden verbalen Kommunikationsfähigkeiten und sehr guter Geschwindigkeit – auf bezahlbarer Hardware laufen zu lassen und es bequem über ein Headless CMS mit normaler Sprache zu steuern. Dank seiner sprachlichen Fertigkeiten kann es sinnvoll Regeln und Szenarien verstehen und berücksichtigen. Im Moment handelt es sich um ein erstes Basic-Set an Regeln und Verhaltenshinweisen.

Bearbeitet von Nico Caragua

Geschrieben

Bei Bildern und Suche kommt größtenteils nur Müll bei der Ki raus.

Wozu das Ganze?

Sorry, meine Meinung, jeder wie er will.

Bearbeitet von inna halle

Geschrieben
vor 14 Stunden schrieb inna halle:

Bei Bildern und Suche kommt größtenteils nur Müll bei der Ki raus.

Wozu das Ganze?

Sorry, meine Meinung, jeder wie er will.

Worauf beziehst du dich konkret?

So ganz allgemein auf AI?

Dass du deine Meinung äußerst ist nicht nur in Ordnung, sondern total wichtig. Sonst wäre das ja hier ein Monolog.

Selbst wenn du demgegenüber total negativ stehen solltest ist das in Ordnung, solange nur es selbst im Offtopic Bereich nicht zu offtopic wird, weil persönlich beleidigend o.ä. was ich bedauerlich finden würde.

Ich kenne das Problem mit dem KI Spam auf den sozialen Netzwerken. Das ist total übel. Ich selber habe auch etwas rumgespammt mit zwei Vespisti, die total chaotisch herumfahren, denen Nikolausmützen aufgesetzt, die Beleuchtung verändert, Schnee auf die Fahrbahn gezaubert. Aber alles ziemlich simpel -> kam total schlecht an obwohl es schon so absurd war dass man es witzig finden könnte. Klar, die Menschen sind voll bis oben hin damit. Für mich war das Experiment aufgegangen, weil ich eben diese Erkenntnis daraus ziehen konnte.

Menschen werden durch KI auch Jobs verlieren, und neue Jobs werden geschaffen. Das wird noch längere Zeit ein brisantes Thema sein denke ich.

Ich selber sehe darin total viel kritisch, muss aber wegen meines Berufs da einfach irgendwann mit. Dann jetzt eben Vollgas (ein wenig verschlafen und deswegen momentan noch hinterher). Ich für mich checke eben ab was Sinn macht und was nicht. Hier im Thread dürfen aber ja natürlich auch andere Projekte und Standpunkte geteilt werden.

Was z.B. komplett KI-generierte Videos im Fernsehen anbelangt: z.B. Coca-Cola, McDonalds uva. sehen das anders als du, wie aus Untersuchungen hervorgeht heute auch bereits ein großer Teil der restlichen Industrie.

Eigentlich war ich ja mit dem Thema Bild und Video erstmal durch. Aber bei gegebenem Anlass hier drei Beispiele.

Bei lokaler Generierung lassen sich Stile anhand von "Loras" trainieren, so dass neue Perspektiven und Szenen gerendert werden können, in denen die Charaktere, Hintergründe, Stile eben so aussehen wie in vorangegangenen Szenen. Das ganze lässt sich dann super miteinander kombinieren. Die Möglichkeiten (aber auch Fehlversuche) sind zahlreich.

PS: hier ein lokal erstelltes Bild (6s/it auf einer Quadro P4000). Auf Basis dessen könnte man diverse Animationen erstellen, aus denen beliebig viele Szenen und beliebig lange Filme entstehen.

1.png

PS2: und hier zwei aus Gemini (noch das "alte" Gemini).

3.png

2.png

Ein Film von Julian Usiato:

No image preview

1.166 Aufrufe · 29 Reaktionen | A short film inspired by...

A short film inspired by Michael Levin’s lectures on morphogenesis and Platonic space. I’ve never really known how to cope with the fact that we are all, individually and collectively, a walking...

Bearbeitet von Nico Caragua

Erstelle ein Benutzerkonto oder melde Dich an, um zu kommentieren

Wer ist Online 0

  • Keine registrierten Benutzer online.

Wichtige Information

Diese Website nutzt Cookies und vergleichbare Funktionen zur Verarbeitung von Endgeräteinformationen und personenbezogenen Daten. Die Verarbeitung dient der Einbindung von Inhalten, externen Diensten und Elementen Dritter. Je nach Funktion werden dabei Daten an Dritte weitergegeben. Einige dieser Verfahren sind technisch unerlässlich, andere kommen nur mit Ihrer Zustimmung zum Einsatz, eine Anpassung ist in den die Cookie-Einstellungen möglich. Für Details siehe die Datenschutzerklärung

Account

Navigation

Suche

Suche

Configure browser push notifications

Chrome (Android)
  1. Tap the lock icon next to the address bar.
  2. Tap Permissions → Notifications.
  3. Adjust your preference.
Chrome (Desktop)
  1. Click the padlock icon in the address bar.
  2. Select Site settings.
  3. Find Notifications and adjust your preference.