Zum Inhalt springen

Das GSF wandelt Links in Affiliate Links um, um ggf. eine Provision erhalten zu können. Gerne nutzen bitte, danke! Mehr Infos, wie ihr das GSF unterstĂŒtzen könnt, findet ihr im GSF Support Topic.

Generative KI lokal rendern

Featured Replies

Geschrieben

Ein ziemlich komplexes Thema.

Wer weiss wo sich das noch hin entwickelt.

Hater haten bitte auf Facebook. Da habe ich eine Seite und freue mich dort von euch zu hören ;)

FĂŒr Bild und Video:

Konfigurieren von Workflows - also Clip, Conditioning, VAE, Sampler usw.

Verstehen, selber erstellen und weiterentwickeln.

 

FĂŒr Text / Informationen

Deepseek, GPT etc.

Vorteile von lokaler Generierung:

  • isolierte Environments

  • reproduzierbare Ergebnisse

  • keine DSGVO Probleme

  • keine laufenden Kosten (außer der Infrastruktur natĂŒrlich)

 

PS: Ich verwende Solarenergie

Bearbeitet von Nico Caragua

  • Gast Ă€nderte den Titel in Generative KI lokal rendern - selber schrauben anstatt machen lassen
Geschrieben

Jo, ich hab grad auch nen Member gepusht, Commit abgegeben und dann den Pullrequest geschlossen. Jetzt muss noch einer das Review machen und dann kann die CI starten. 

 

😂

Geschrieben

Ey, was sind das fĂŒr Fremdsprachen, die Ihr zwei da sprecht? :-D
 

Versteh nur "Bahnhof, Koffer klauen" und " FahrradstÀnder Helgoland"...

Bearbeitet von schindol broer

Geschrieben

Hi,

ich interessiere mich auch fĂŒr das Thema, bin aber noch weiter am Anfang :rotwerd:

Hast du gute Seiten im Netz fĂŒr das Basiswissen?

LG

Roland

Geschrieben

  

Am 29.9.2025 um 13:41 schrieb schindol broer:

Ey, was sind das fĂŒr Fremdsprachen, die Ihr zwei da sprecht? :-D
 

Versteh nur "Bahnhof, Koffer klauen" und " FahrradstÀnder Helgoland"...

 

 

...

Bearbeitet von Nico Caragua

Geschrieben
vor 5 Minuten schrieb mistelfix:

Hi,

ich interessiere mich auch fĂŒr das Thema, bin aber noch weiter am Anfang :rotwerd:

Hast du gute Seiten im Netz fĂŒr das Basiswissen?

LG

Roland


reddit ist eine Quelle fĂŒr ein paar wenige gute Informationen. Aber hĂ€ufig schlecht formuliert, lĂŒckenhaft, unbeantwortet etc, und hĂ€ufig nur bei Einzelinformationen wertvoll die man durch viel Lesen nebenher erfĂ€hrt. Also nicht fĂŒr den grundlegenden Start geeignet finde ich.

 

Mit welchen Tools und Modellen willst du arbeiten?

Weisst du das schon?

 

Welche Hardware hast du?

Bearbeitet von Nico Caragua

Geschrieben

Es gibt noch keine Hardware oder Tools. Ziel wĂ€re es, Bilder oder Video lokal zu generieren – im Kontext kommerzieller Nutzung. Und vor allem mĂŒssten alle (Trainings-)Daten lokal bleiben, so dass ein sicherer Umgang mit sensiblen Daten gewĂ€hrleistet ist.

Geschrieben
vor 34 Minuten schrieb mistelfix:

Es gibt noch keine Hardware oder Tools. Ziel wĂ€re es, Bilder oder Video lokal zu generieren – im Kontext kommerzieller Nutzung. Und vor allem mĂŒssten alle (Trainings-)Daten lokal bleiben, so dass ein sicherer Umgang mit sensiblen Daten gewĂ€hrleistet ist.

 

Es lÀuft alles lokal ab.

Keine API

Das ist ja das spannende daran (also fĂŒr einige zumindest :sigh: )

Bearbeitet von Nico Caragua

Geschrieben

einigt euch auf einen einfachen test usecase: tanzende brĂŒste

 

GO

Geschrieben
Am 29.9.2025 um 15:05 schrieb light:

test usecase: tanzende brĂŒste

Guter Tipp

Bearbeitet von Nico Caragua

Geschrieben

...

Bearbeitet von Nico Caragua

Geschrieben

...

 

 

 

Bearbeitet von Nico Caragua

Geschrieben

Da ich immer nach schnellen Bugfixes statt nachhaltiger Lösung gefragt werde:

Integralhelm mit getöntem Visier.

Geschrieben

und jetzt daraus ein erstes Video

 

 

Bearbeitet von Nico Caragua

Geschrieben

 

edit

Bearbeitet von Nico Caragua

Geschrieben

Ich denke das muss jeder selber wissen.

Z.B. wenn du tanzende BrĂŒste sehen willst.

Bearbeitet von Nico Caragua

  • Gast Ă€nderte den Titel in Generative KI lokal rendern
Geschrieben

edit: hat sich erledigt

 

Bearbeitet von Nico Caragua

Geschrieben

Das interessiert mich jetzt sehr. Hab genau dafĂŒr nen Anwendungsfall. Hab ne Scanner App getestet und die Daten in ein CAD importiert, aber da kam nur was raus was wie ne hĂ€ssliche Kartoffel aussah. Der Scan selbst sah am Handy noch ganz gut aus.

 

Wie genau gehst du da vor?

Geschrieben

Du wirst dein Objekt vermutlich als Mesh bekommen haben. Ich denke da ist CAD wenig geeignet fĂŒr. Bzw. im Umkehrschluss ist Mesh nicht fĂŒr CAD geeignet.

 

Lade dein Ergebnis doch einfach mal hoch.

Bearbeitet von Nico Caragua

  • 2 Wochen spĂ€ter...
Geschrieben

edit

Bearbeitet von Nico Caragua

Geschrieben

edit: mittlerweile irrelevant

Bearbeitet von Nico Caragua

Geschrieben

Ich erstelle gerade einen Single-Shot-Assistant als WordPress Plugin.

Ihr seid herzlich eingeladen ihn zu auszuprobieren.

Er ist erreichbar unter https://in-one.ai

keine Accounts. Es entsteht kein Memory- was ein User schreibt das verschwindet sobald der Chat verlassen wird.

ZukĂŒnftige Modelle werde ich modular integrieren.

Ich wĂŒrde mich natĂŒrlich ĂŒber viel Feedback freuen.

Bearbeitet von Nico Caragua

  • 4 Wochen spĂ€ter...
Geschrieben

Vor nicht allzu langer Zeit stand ich bei dem Thema noch ganz am Anfang und habe angefangen, Bildchen und kurze Videoclips zu erstellen.

Seitdem ist echt viel passiert. Der Bildbereich hat sich auch bei den Open-Source Modellen stark entwickelt, und macht richtig Spaß. Vor allem bei menschlichen Charakteren ist die QualitĂ€t beeindruckend, und wie ich finde, sogar besser als bei Google's aktuellem Model. Bei Videos bin ich ehrlich gesagt raus. Da sitzen scheinbar so viele Leute den ganzen Tag dran, da kommt man von der QualitĂ€t gar nicht mehr ran, wenn man nicht sauteure Hardware kauft und sich den ganzen Tag damit beschĂ€ftigt. Ich schaue ab und zu zu, lasse es aber aktuell erst einmal liegen. Erst neulich habe ich andere Modelle versucht. Die Implementierung hat 3 Tage !!! gedauert. Das Ergebnis war qualitativ schlecht, die Performance mies - wie meine Laune.

Bei meinem Chatfenster Projekt, dem In-One AI Chatbot, bin ich hingegen gut weitergekommen. Heute am Weihnachtstag lĂ€uft mein GPU Testserver durchgehend. Wer mag, darf knallhart testen und beobachten, wie das Chatfenster reagiert und sich alles zusammensetzt. Es ist faszinierend zu sehen, wie schnell sich so etwas entwickelt, wenn man ein bisschen dranbleibt – vom ersten Experiment bis zu einem funktionierenden Testlauf.

Einfach ein kleiner Einblick in das, womit ich gerade herumspiele und wie das einen hineinzieht. Habt ihr vielleicht etwas neues und spannendes ausprobiert?

Geschrieben

Der kann aber nix, oder?

Auf Fragen verweist er immer auf den Kundensupport. Und 1 + 2 kann er auch nicht rechnen... -D

Bilder generieren wÀre ja mal ganz interessant. Aber so sehe ich da nicht viel Test-Möglichkeit.

Geschrieben
vor 7 Minuten schrieb AAAB507:

Der kann aber nix, oder?

Auf Fragen verweist er immer auf den Kundensupport. Und 1 + 2 kann er auch nicht rechnen... -D

Bilder generieren wÀre ja mal ganz interessant. Aber so sehe ich da nicht viel Test-Möglichkeit.

Ja, der kann definitiv nicht alles 😉
Rechnen und klassische Q&A wie bei ChatGPT sind nicht seine StÀrke.
DafĂŒr zeigt er sein Potenzial, wenn man ihn auf eigene Daten loslĂ€sst – da merkt man schnell, dass die Kernfunktion anders funktioniert als bei Modellen ohne Websitebezug oder Regeln.
Bilder generieren lÀuft bei mir aktuell lokal schon grundlegend, mehr dazu will ich aber noch nicht sagen.

Was mich besonders fasziniert: ein frei wĂ€hlbares Modell – in diesem Fall eines mit befriedigenden verbalen KommunikationsfĂ€higkeiten und sehr guter Geschwindigkeit – auf bezahlbarer Hardware laufen zu lassen und es bequem ĂŒber ein Headless CMS mit normaler Sprache zu steuern. Dank seiner sprachlichen Fertigkeiten kann es sinnvoll Regeln und Szenarien verstehen und berĂŒcksichtigen. Im Moment handelt es sich um ein erstes Basic-Set an Regeln und Verhaltenshinweisen.

Bearbeitet von Nico Caragua

Geschrieben

Bei Bildern und Suche kommt grĂ¶ĂŸtenteils nur MĂŒll bei der Ki raus.

Wozu das Ganze?

Sorry, meine Meinung, jeder wie er will.

Bearbeitet von inna halle

Geschrieben
vor 14 Stunden schrieb inna halle:

Bei Bildern und Suche kommt grĂ¶ĂŸtenteils nur MĂŒll bei der Ki raus.

Wozu das Ganze?

Sorry, meine Meinung, jeder wie er will.

Worauf beziehst du dich konkret?

So ganz allgemein auf AI?

Dass du deine Meinung Ă€ußerst ist nicht nur in Ordnung, sondern total wichtig. Sonst wĂ€re das ja hier ein Monolog.

Selbst wenn du demgegenĂŒber total negativ stehen solltest ist das in Ordnung, solange nur es selbst im Offtopic Bereich nicht zu offtopic wird, weil persönlich beleidigend o.Ă€. was ich bedauerlich finden wĂŒrde.

Ich kenne das Problem mit dem KI Spam auf den sozialen Netzwerken. Das ist total ĂŒbel. Ich selber habe auch etwas rumgespammt mit zwei Vespisti, die total chaotisch herumfahren, denen NikolausmĂŒtzen aufgesetzt, die Beleuchtung verĂ€ndert, Schnee auf die Fahrbahn gezaubert. Aber alles ziemlich simpel -> kam total schlecht an obwohl es schon so absurd war dass man es witzig finden könnte. Klar, die Menschen sind voll bis oben hin damit. FĂŒr mich war das Experiment aufgegangen, weil ich eben diese Erkenntnis daraus ziehen konnte.

Menschen werden durch KI auch Jobs verlieren, und neue Jobs werden geschaffen. Das wird noch lÀngere Zeit ein brisantes Thema sein denke ich.

Ich selber sehe darin total viel kritisch, muss aber wegen meines Berufs da einfach irgendwann mit. Dann jetzt eben Vollgas (ein wenig verschlafen und deswegen momentan noch hinterher). Ich fĂŒr mich checke eben ab was Sinn macht und was nicht. Hier im Thread dĂŒrfen aber ja natĂŒrlich auch andere Projekte und Standpunkte geteilt werden.

Was z.B. komplett KI-generierte Videos im Fernsehen anbelangt: z.B. Coca-Cola, McDonalds uva. sehen das anders als du, wie aus Untersuchungen hervorgeht heute auch bereits ein großer Teil der restlichen Industrie.

Eigentlich war ich ja mit dem Thema Bild und Video erstmal durch. Aber bei gegebenem Anlass hier drei Beispiele.

Bei lokaler Generierung lassen sich Stile anhand von "Loras" trainieren, so dass neue Perspektiven und Szenen gerendert werden können, in denen die Charaktere, HintergrĂŒnde, Stile eben so aussehen wie in vorangegangenen Szenen. Das ganze lĂ€sst sich dann super miteinander kombinieren. Die Möglichkeiten (aber auch Fehlversuche) sind zahlreich.

PS: hier ein lokal erstelltes Bild (6s/it auf einer Quadro P4000). Auf Basis dessen könnte man diverse Animationen erstellen, aus denen beliebig viele Szenen und beliebig lange Filme entstehen.

1.png

PS2: und hier zwei aus Gemini (noch das "alte" Gemini).

3.png

2.png

Ein Film von Julian Usiato:

No image preview

1.166 Aufrufe · 29 Reaktionen | A short film inspired by...

A short film inspired by Michael Levin’s lectures on morphogenesis and Platonic space. I’ve never really known how to cope with the fact that we are all, individually and collectively, a walking...

Bearbeitet von Nico Caragua

Erstelle ein Benutzerkonto oder melde Dich an, um zu kommentieren

Wer ist Online 0

  • Keine registrierten Benutzer online.

Wichtige Information

Diese Website nutzt Cookies und vergleichbare Funktionen zur Verarbeitung von EndgerĂ€teinformationen und personenbezogenen Daten. Die Verarbeitung dient der Einbindung von Inhalten, externen Diensten und Elementen Dritter. Je nach Funktion werden dabei Daten an Dritte weitergegeben. Einige dieser Verfahren sind technisch unerlĂ€sslich, andere kommen nur mit Ihrer Zustimmung zum Einsatz, eine Anpassung ist in den die Cookie-Einstellungen möglich. FĂŒr Details siehe die DatenschutzerklĂ€rung

Account

Navigation

Suche

Suche

Configure browser push notifications

Chrome (Android)
  1. Tap the lock icon next to the address bar.
  2. Tap Permissions → Notifications.
  3. Adjust your preference.
Chrome (Desktop)
  1. Click the padlock icon in the address bar.
  2. Select Site settings.
  3. Find Notifications and adjust your preference.