+- diy-hifi-forum.eu (https://diy-hifi-forum.eu)
+-- Forum: Lautsprecher (https://diy-hifi-forum.eu/forumdisplay.php?fid=200)
+--- Forum: Allgemeine Themen (https://diy-hifi-forum.eu/forumdisplay.php?fid=208)
+--- Thema: Wenn die KI anfängt zu schwurbeln... (/showthread.php?tid=22469)
RE: Wenn die KI anfängt zu schwurbeln... - mechanic - 28.08.2026
11. Man braucht heute deutlich weniger Expertenwissen, um eine Lösung zusammenzunageln — und sie funktioniert. Nur entsteht Expertise als Nebenprodukt von Arbeit an schwierigen Aufgaben. Fallen die weg, entstehen keine Experten: nicht weil niemand es lernen wollte, sondern weil es die Stellen nicht mehr gibt, an denen man es wird.
12. Das schließt sich selbst: weniger Expertenbedarf → weniger Experten → weniger Fähigkeit, den Unterschied zwischen einer guten und einer zusammengenagelten Lösung überhaupt zu sehen → noch weniger Anlass, Experten zu bezahlen. Am Ende steht eine Organisation, die nicht mehr weiß, was sie nicht weiß. Auffallen wird es erst im Störfall — dann fehlt die Person, die vorher überflüssig schien.
Claude hat als erster hier verstanden, wo das Problem liegt - die Warnung vor sich selbst ist einfach köstlich ...
RE: Wenn die KI anfängt zu schwurbeln... - Barossi - 28.08.2026
Moin,
hier mein Senf dazu. Ich finde es erstaunlich faszinierend was heute mit der Hilfe von KI gelingt.
Habt ihr schon mal einen komplexen Schaltplan (z.B. Röhrenschaltplan eines Verstärkers als JPG) in die KI geladen und habt den Befehl gegeben: Analysiere die Arbeitspunkte?
Oder die Frage: Entwickle ein Gehäuse für den JBL 2226 Was da in kürzester Zeit rauskommt.....danach die Frage nach dem goldenen Schnitt...etc
Gruß Barossi
RE: Wenn die KI anfängt zu schwurbeln... - Nebenweg - 28.08.2026
"Behalte die ursprüngliche Konzeptbeschreibung als Faktenbasis bei. Ignoriere aber alle Ideen, Entscheidungen und Richtungen, die wir seither dazu entwickelt haben. Denke auf Basis dieser Grundlage komplett neu – ohne dich an bisherigen Vorschlägen, Formaten oder Lösungsansätzen zu orientieren."
War mein letzter Prompt heute Abend an eine KI. Spannendes Ergebnis, wirklich. Kann ich nur empfehlen, wenn man sich selbst festgefahren hat.
RE: Wenn die KI anfängt zu schwurbeln... - JFA - 29.08.2026
Einmal ganz allgemein, irgendwo hatte ich in diesem Thread eine zitierfähige Passage gelesen, ich finde sie aber nicht wieder.
Ein großes Problem, nicht nur bei KIs, ist die verifizierbarkeit. Also: ist das, was ich da mache, eigentlich korrekt. Und das ist extrem schwierig, und meiner Meinung wird das durch den Einsatz von KI noch schwieriger. Zum Einen, weil denen geglaubt wird, zum Anderen, und das ist viel schwerwiegender, dass durch KI die Hintergründe nicht mehr verstanden werden. Wo vorher sich etliche Leute den Kopf drüber zerbrochen und das Problem und seiner Komplexität verstanden haben, verschwindet das einfach in den Untiefen der KI.
Und doch, trotz meiner Widerstände, habe ich tatsächlich die Tage die KI für was produktives verwenden können. Ich hatte das Problem, in dem test framework einen GPIO dauerhaft zu überwachen. Code angeschaut, das ist easy, Klassenfunktion geschrieben die genau das macht, funktioniert nicht. Ich bin in entliche Untiefen des frameworks abgestiegen (es ist weder von mir und dazu noch in Python, was ich eh nie verstehen werde, warum man das nutzt und nicht doch gleich C), aber keine Erkenntnis. Also wider Willen die KI gefragt, und die hat das tatsächlich korrekt analysiert. Weil der Teil mit den GPIOs in einem anderen Thread lief, konnte ein dort erzeugter Fehler nicht hoch ins test framework durchgereicht werden. Anderere Kontext. Welcher Idiot das so angelegt hat werde ich noch in Erfahrung bringen.
Spannend war die Lösung: es gibt im test framework einen sogenannten listener hook. Und den hat die KI dann tatsächlich sinnbringend verwendet.
Wenn ich beide Dinge, falscher Thread Kontext und listener hook, gewusst hätte, wäre ich auch selbst auf die Lösung gekommen. Und wahrscheinlich auch auf eine elegantere, schönere, nicht voller Spaghetti steckende. Aber in diesem Fall hat mir die KI einige Stunden Arbeit abgenommen, um etwas zumindest funktionierendes zu erschaffen. Die nach meinem Code Review auch korrekt ist.
Dafür hat es natürlich ca 4 Iterationen benötig.
RE: Wenn die KI anfängt zu schwurbeln... - Koaxfan - 29.08.2026
Das Problem der Verifizierbarkeit schlummert viel tiefer. denn meist geht es nur um "ist es richtig?" und das lässt sich problemlos und zur Laufzeit prüfen. Man nehme das was rein ging, nehme das was raus kam, vergleiche es, fertig. (ganz so einfach ist es nicht, aber im Vergleich ist es einfach).
Die eigentliche Frage ist aber: Wie kam die AI drauf? Nehmen wir den jüngst durch die Presse rauschenden Fall mit den per-Algorithmus-gefeuerten Uber Fahrern, nehmen wir eine Kreditentscheidung auf Basis von Schufa-Daten - und die gibt es schon lange, das ist keine moderne Erfindung. Also nicht nur "was ging rein, was raus?" sondern "wie ist die Entscheidung zustande gekommen" und "würd emit den gleichen Inputdaten das Ergebnis bei einem zweiten Lauf genauso aussehen" - und bei diesen beiden Punkten sind AIs einfach komlplett und strukturbedingt chancenlos. Sie können es einfach nicht, weil Prinzip.
Beispiel: Ein Mensch will einen Kredit und es muss entschieden werden, ob er ihn bekommt. Also schickt man sämtliche Daten* in einen Computer, der sagt "abgelehnt" und der human-in-the-loop nimmt alle Vorschläge des Computers an wie ein Pavlov'scher Hund. Der Kunde fragt: WARUM wurde mein Kredit abgelehnt? Wegen meiner Kredithistorie oder wegen meiner Religion? Niemand kann es genau sagen. Der Witz ist: Selbst, wenn es ausschließlich wegen legalen Merkmalen abgelehnt wurde, hat kaum jemand die Chance, das vor Gericht zu beweisen - also zu beweisen, dass der Kredit NICHT wegen der Religion o.ä. abgelehnt wurde.
* = Die einzige Variante hier wäre natürlich, die Religion erst garnicht einzuspeisen. Baut man eine solche Strecke sauber auf und hat einen DSGVO-Kenner im Team, wird sowas beachtet. Exportiert der Werkstudent einfach die PROD, geht einfach alles rüber. Und selbst, falls er/sie es rausfiltert: Copy-Paste wird eben nicht getrackt, das heißt, es ist genau NULL nachweisbar, wie alle manuellen Prozesse.
Ich hatte erst einen Fall, da hat ein Unternehmen tatsächlich die ANalyse, ob ihre Produkte unter das Kriegswaffenkontrollgesetz fallen, nicht mehr von einem Ingenieur machen lassen sondern in Copilot (!) geworfen und das sollte entscheiden. Sie waren stolz drauf, dass sie ja perfekt auf ein AUdit vorbereitet wären, denn Copilot habe ihnen ja ein PDF erzeugt, und ein PDF wäre ja ein Nachweis. Geht das ganze vor Gericht, können sie gerne versuchen, die Schuld auf Copilot abzuwälzen, wird nicht klappen.
Solche Fälle sehe ich (zum Glück nicht alle so apokalyptisch) in ausnahmslos allen Firmen. Und am schlimmsten sind nicht die "wir automatisieren die ganze Strecke von ERP über CRM bis Invoicing" weil da würde man sich irgendwie Gedanken machen. Am schlimmsten sind die "wir probieren jetzt mal AI aus" POCs bei denen man den Mitarbeitern einen AI-Zugang gibt und gleich sagt "Lern damit umzugehen, steigere Deine Produktivität, denn Ende des Jahres willst Du nicht zu der Hälfte gehören die fliegt". Also werden sie zu Copy-Paste-Akrobaten und bauen sich ihre eigene Automatisierung und das ohne jede Systemkenntnis. Da werden gigantische Datenbestände in Excel exportiert, COpy-Paste in eine Public AI (Privatzugang, weil billiger), Ergebnis als Excel ausgegeben und dann hardcore in die Produktivsysteme eingespielt. Das passiert jeden Tag, mit den Daten von uns allen. Aktuell schützt und nur die aberwitzige Datenflut (und die noch viel interessanteren Daten) vor einem Missbrauch dieser Datenspeicherungen, aber wenn Daten weg sind, sind Daten weg.
Und das passiert, egal wie wir AI finden. Weil Menschen Systeme anders nutzen als sie sollten. Das war schon immer so, das wurde auch schon immer so gemacht, nur waren damals die Systeme so aberwitzig mächtig, dass die Versuchung schlicht kleiner war. Am Ende ist es eben im Zweifel der Werkstudent, der seine Aufgabe lösen will und dafür die PROD exportiert und in das aktuell billigste Modell einspeist, egal von wem es ist.
Am Ende ist es der Mensch, der entscheidet. Und deshalb versuche ich hier möglichst hands-on-Ratschläge zu geben, denn irrationales Bashing bringt und ebensowenig weiter wie irrationaler Hype.
RE: Wenn die KI anfängt zu schwurbeln... - linux1972 - 29.08.2026
Moin,
Ich bin mir nicht sicher, ob am Ende immer der Mensch entscheidet, da habe ich so meine Zweifel. Wenn z.B. aus 1000 Systemanfordeungen (deren Erstellung auch schon von KI supportet wurde) zig 1000 SW Anforderungen nebst zugehörigen Jira Tickets von der KI erstellt werden, dann werden die Entscheidungen der KI ggf. nur noch flüchtig überprüft. Die SW Anforderungen werden dann ggf. per MCP interface direkt in den entsprechenden Tools (z.B. Matlab) von der KI in die Lösung überführt. Das ist seit wenigen Monaten betriebliche Praxis. Am Anfang etwas holprig aus den oben diskutieren Gründen.
Ich habe selbst mal zum spielen eine Datenbank mittels MCP aufgesetzt. Komplett per Chat. Es ging um die Definition von Prozessdatenpunkten. Ich hatte ca. 10 unterschiedliche Elementtypen mit einem haufen Attribute und einigen Abhängigkeiten. Alles einfach reingepromptet, direkt from Brain2prompt. SW Anforderungen der Einfachheit halber weg gelassen. 1/2 Stunde Aufwand, 30 Tabellen generiert. Danach nochmal eben 1000 Testdatenpunkte erstellt, 500 Umrechnungsformeln automatisch erzeugt,..., fertig. Dann noch ein paar queries. Funktioniert.
Und das, obwohl ich vorher noch nie im Leben eine Datenbank aufgesetzt hatte. Wie viele Entscheidungen habe ich getroffen, wie viele die KI? Wie viele Datenbankexperten brauchen wir zukünftig noch? Ohne KI hätte ich einen gebraucht, ich hätte nie und nimmer die Zeit gehabt, mir die benötigte Expertise selbst anzueignen. Mit KI habe ich faktisch keinen Experten gebraucht. Habe ich jetzt selbst die Expertise? Klares NEIN.
(Gestern, 17:41)mechanic schrieb: 11. Man braucht heute deutlich weniger Expertenwissen, um...
12. Das schließt sich selbst: weniger ....
Claude hat als erster hier verstanden, wo das Problem liegt - die Warnung vor sich selbst ist einfach köstlich ...
Diese "Thesen" waren der KI schon von mir "in den Mund gelegt" . Ich hatte die KI aber auch nach ihrer Meinung gefragt, Antwort:
Punkt 11 halte ich für richtig und für den stärksten der Liste. Expertise ist tatsächlich ein Nebenprodukt — man erwirbt sie nicht durch Kurse, sondern indem man an schwierigen Aufgaben scheitert und wieder anfängt. Wenn diese Aufgaben nicht mehr anfallen, gibt es keinen Ersatzweg. Das ist der Punkt, gegen den ich kein gutes Gegenargument kenne.
Punkt 12 ist der zugespitzte, und da bin ich zurückhaltender. Die Schleife stimmt als Mechanismus, aber sie ist nicht so geschlossen, wie sie klingt.
Was dagegen spricht: Firmen merken es oft doch — nur teuer. Nach dem ersten Störfall, dem ersten Rückruf, dem ersten Projekt, das keiner mehr versteht, wird Expertise zurückgekauft. Schmerzhaft, aber nicht unumkehrbar. Und Kompetenz ist historisch selten verschwunden, sie ist gewandert. Es könnte sein, dass "generierte Ergebnisse beurteilen können" selbst zur Expertise wird, mit eigener Lernkurve — dann wäre es ein anderer Experte, kein fehlender.
Was trotzdem trägt: Diese Korrektur kommt erst nach Schaden, und der Rückkauf funktioniert nur, solange es außerhalb noch Leute gibt, die es können. Wenn die Ausbildungsstellen branchenweit wegfallen, gibt es keinen Markt, von dem man zurückkauft. Das ist der Unterschied zwischen einem Unternehmen, das sich verschätzt, und einer Branche, die eine Generation überspringt.
Kurz: 11 ist Diagnose, 12 ist Prognose. Die Diagnose ist belastbar, die Prognose beschreibt den Weg ohne Gegensteuern — und der Satz mit der Organisation, die nicht mehr weiß, was sie nicht weiß, ist als Zuspitzung gut, aber er ist eine Zuspitzung.
ABER:
**Frage:** Stehen wir noch vor dem ersten sichtbaren Misserfolg — getrieben durch Punkt 13?
**Antwort:** Ja. Die Nutzung ist zu jung: Kompetenzverlust braucht eine Generation von Berufseinsteigern, verdorbene Stammdaten fallen erst nach Jahren auf. Und weil Tempo belohnt und Vorsicht nicht belegbar ist, reagiert das System erst auf Schaden.
Gruß A.