In den Kommentaren lass ich gestern sinngemäß: wen wundert es, alle wissen, dass #LLMs ständig Fehler machen.
-
@AwetTesfaiesus Daher ist eine kritische Betrachtung der Eingaben und Ausgaben der Maschine absolut elementar, muss ständig passieren und wird nie enden. So wie Sicherheitstests, TüV und so weiter beim KFZ. Und trotzdem schlüpfen Fehler durch und verursachen Unfälle.
5/6
Mal bis hierher zusammengefasst, IMHO:
- Die Juristerei (hier als Beispiel, also nicht nur diese) muss ihren eigenen Anspruch wieder erhöhen, und wir alle sollten da lauter und mehr kritisieren. (Es ist halt nicht einfach für uns Laien)- LLMs skalieren Probleme, die wir ohne diese schon massiv haben. Aber was lösen sie wirklich? Wer profitiert davon? Und wer hat die Macht?
(Danke für das Aufmachen der interessanten Diskussion:) ).
-
@TheOneSwit mag sein, aber zum heutigen Stand erhältst du keine logische Antwort. Du erhältst das Ergebnis, das laut vorhandener Datenlage das häufigste und deshalb das wahrscheinlichste ist. Und das dann auch noch mit einem Datenhaufen, in dem wissenschaftliche Erkenntnisse, die auf Evidenz basieren gleich gewichtet werden mit Hokuspokus und Schwurbelei. Da verzichte ich dann lieber auf diesen #AISlop @AwetTesfaiesus
Stimme ich absolut zu. Das Grundproblem ist hier jedoch dass die meisten LLM nicht dazu da sind dir eine korrekte Antwort aus den zugrundeliegenden Daten zu liefern, sondern dir zu schmeicheln und nach dem Mund zu reden damit du es toll findest, es häufig benutzt und viel Geld dafür bezahlst. Und nebenbei soll am besten noch etwas Werbung für Partnerprodukte gemacht werden und deine Informationsvetsorgung kontrolliert werden.
-
@Der_zuversichtliche_Daniel @marcuwekling das ist eben der springende Punkt! Aber jedenfalls ist auch Schnelligkeit ein Problem! Bei deutschen Gerichten liege 1 Mio Verfahren unerledigt
Also lieber schnell nicht nachvollziehbare Ergebnisse als langsamer nachvollziehbare Ergebnisse?
-
Stimme ich absolut zu. Das Grundproblem ist hier jedoch dass die meisten LLM nicht dazu da sind dir eine korrekte Antwort aus den zugrundeliegenden Daten zu liefern, sondern dir zu schmeicheln und nach dem Mund zu reden damit du es toll findest, es häufig benutzt und viel Geld dafür bezahlst. Und nebenbei soll am besten noch etwas Werbung für Partnerprodukte gemacht werden und deine Informationsvetsorgung kontrolliert werden.
@TheOneSwit Das kommt noch dazu, es ist auch Manipulationstool und Finanzblase für Spekulanten. @AwetTesfaiesus
-
Konkret: Ich könnte mir vorstellen, dass in dieser (!) konkreten Herangehensweisen an KI viel Coping steckt. Lügen wir uns hier kollektiv in die eigene (intellektuelle) Tasche?
Oder pfeifen wir hier sogar schon verzweifelt im Walde?
Liege ich komplett falsch?
@AwetTesfaiesus Am schönsten finde ich, wenn KI-Ludditen Nutzern von KI "Denkfaulheit" vorwerfen. Deren Argumente sind die Satanic Panic von TV, Videospielen, Google, Wikipedia, Kazaa, jeder neuen Technologie nur in pseudo-intellektuellem Gewand nochmal aufgewärmt und wirkt, als wären sie Lobbyisten der Rechteverwertungsindustrie.
Wären Computer ohne KI die deterministischen Maschinen die sie fordern würde nicht 3 mal am Tag ihr Word abstürzen weil sie Malware haben. Ich finds lächerlich
-
In den Kommentaren lass ich gestern sinngemäß: wen wundert es, alle wissen, dass #LLMs ständig Fehler machen. @marcuwekling sagte am Montag bei der Lesung Ähnliches.
Dazu:
1️⃣In der juristischen Ausbildung lernst du, dass 50-70% der Verwaltungsakt falsch sind. Default: falsch!
2️⃣Dazu: in meiner Schulzeit waren Atlanten/Karten immer falsch (DDR drin, teils Saarland draußen, Jugoslawien komplett). Ich habe nicht gehört, dass über Schulen ähnlich gesprochen wird, wie über LLMs. #kiFehler können mehr oder weniger schwerwiegend sein. Da LLMs im Gegensatz zu Menschen kein Weltmodell besitzen, ist die Schwere der Fehler nicht sinnvoll begrenzbar. Ein menschlicher Koch kann Zucker und Salz verwechseln, aber er wird nie auf die Idee kommen, Klebstoff auf die Pizza zu schmieren.
LLMs sind vor allem dort sinnvoll, wo es nicht auf die Schwere der gemachten Fehler ankommt. Oft liegt das aber schlicht und ergreifend daran, dass es um Vorgänge geht, wo das Ergebnis ohnehin irrelevant ist.
-
hm, was meint denn "nachbilden"? Letztlich ist eine Rechen-/und Rechner-Leistung immer ("nur") eine Rechenleistung und schlicht etwas anderes als die Leistung eines menchlichen Gehirns. Die Verarbeitungsprozesse eines Körpers mit entsprechenden Schnittstellen zur Umwelt können nicht "nachgebildet" werden. Man sollte aufhören, diese schrägen Narrative von sog. Künstlicher "Intelligenz" usw. mitzutragen.
@Ottilie_Katz
Auch hier widerspreche ich.Captain Kirk flog vor Jahrzehnten durch das Weltall und funkte über seinen aufklappbaren Kommunikator, "Scotty, beam mich rauf!"
Auch damals habe ich gehört, so was wie bei Star Trek wird es wohl nie geben.Heute haben wir Smartphones, die ein vielfaches von dem, was ein einfacher Kommunikator kann, können.
Daher will und werde ich nie irgendetwas ausschließen, und spätestens mit Quantenrechnern wird noch mehr möglich.
-
@AwetTesfaiesus Am schönsten finde ich, wenn KI-Ludditen Nutzern von KI "Denkfaulheit" vorwerfen. Deren Argumente sind die Satanic Panic von TV, Videospielen, Google, Wikipedia, Kazaa, jeder neuen Technologie nur in pseudo-intellektuellem Gewand nochmal aufgewärmt und wirkt, als wären sie Lobbyisten der Rechteverwertungsindustrie.
Wären Computer ohne KI die deterministischen Maschinen die sie fordern würde nicht 3 mal am Tag ihr Word abstürzen weil sie Malware haben. Ich finds lächerlich
@AwetTesfaiesus Schau dir mal an, wie elektronische Komponenten im AKW in sicherheitsrelevanten Bereichen zertifiziert werden müssen. Chips sind eben nicht deterministisch.
Nicht-KI Algorithmen sind genauso ein Problem, angefangen in HR die Bewerber hart diskriminiert, PLZ, (Nach)name, Hautfarbe, ...
Und finde ich richtig übel: Rückfallwahrscheinlichkeit bei Straftätern - und damit Strafmaß und Haftentlassung
Aber das ist ok, denn es ist getarnt als objektive Mathematik.
-
@Der_zuversichtliche_Daniel @marcuwekling vergleichsweise: verschwindend gering! Das wäre fast immer Sozialkriminalität. Kannst du googeln.
-
@andreas_tengicki @oldperl Brockhaus war nicht wahr
@AwetTesfaiesus @andreas_tengicki
deswegen wohl das wahr auch in Anführungszeichen.
Schriftliche Sammlungen haben halt auch zumeist einen Zeitbezug mit ihrer Wahrheit, den man bei der Bewertung auch immer beachten sollte.
Kein einfaches Thema...
-
@Ottilie_Katz
Auch hier widerspreche ich.Captain Kirk flog vor Jahrzehnten durch das Weltall und funkte über seinen aufklappbaren Kommunikator, "Scotty, beam mich rauf!"
Auch damals habe ich gehört, so was wie bei Star Trek wird es wohl nie geben.Heute haben wir Smartphones, die ein vielfaches von dem, was ein einfacher Kommunikator kann, können.
Daher will und werde ich nie irgendetwas ausschließen, und spätestens mit Quantenrechnern wird noch mehr möglich.
@oldperl @Ottilie_Katz @BrennpunktUA
So oft kannst du das aber nicht gehört haben:
-
@AwetTesfaiesus Ja, dort wo ich selbst Kompetenz mitbringe und dort wo nicht: da suche ich immer nach mehreren glaubwürdigen Quellen. Aber klar, irgendwo kommen alle an Grenzen. Dehalb liebe ich das Fediverse. Das ist ein Netzwerk für menschliche Kompetenzerweiterung
@oldperl@energisch_
Schön gesagt, Marina. Wobei es, wie eigentlich immer, auch sehr auf einen selbst ankommt.
Wenn ich Aussagen ohne eigene Prüfung des Wahrheitsgehaltes bzw. ob sie zu meiner eigenen Meinung passen, übernehme, dann muss ich mich im Nachhinein nicht wundern. -
@energisch_
Schön gesagt, Marina. Wobei es, wie eigentlich immer, auch sehr auf einen selbst ankommt.
Wenn ich Aussagen ohne eigene Prüfung des Wahrheitsgehaltes bzw. ob sie zu meiner eigenen Meinung passen, übernehme, dann muss ich mich im Nachhinein nicht wundern.@oldperl Richtig, und ziemlich egal, wo die ursprüngliche Quelle liegt. Dennoch vertraue ich peer-gecheckten wissenschaftlichen Veröffentlichugen mehr als einer Zeitungsmeldung oder einer LLMbasierte online Recherche. Denn noch zeigt die Erfahrung, dass die large language modell basierten KI Tools zu häufig falsch liegen.
Die Gefahr, dass dann solche falschen Ergebnisse in unsere gängigen Daten einfließen ist groß und deshalb müssen wir doppelt aufpassen.
@AwetTesfaiesus -
@AwetTesfaiesus @Chaotica @Lamal
Das ist aber eher ein Problem verursacht von unserer Bildungskatastrophe
@expertenkommision_cyberunfall @Chaotica @Lamal Auch, allerdings ist es bereits seit mindestens meiner Schulzeit in den 1970ern eher akzeptiert „nie gut in Mathe (oder Chemie oder Physik)" gewesen zu sein, also eigentlich naturwissenschaftlich ungebildet. Selbst als Promi im Fernsehen.
Wer sich hingegen dafür interessiert(e), Dinge weiss und erklären kann, Unfug und faktenfreie Meinungen nicht einfach stehen lässt, gilt als Streber, Nerd, wird bereits in der Schule gemobbt, in Filmen als Loser dargestellt.
Das führt dann z.B. dazu, dass erwachsene Menschen, die für sich und andere Verantwortung haben, die menschengemachte Klimakrise "nicht glauben“. Obwohl die Kurven eindeutig sind und die Zusammenhänge in einem halben Dutzend Schulversuchen demonstrierbar. Was Hoimar von Ditfurth schon 1978 im Fernsehen getan hat.
Oder dass sie Infektionsrisiken und exponenzielles Wachstum nicht wahrhaben wollen. Was sind Wirkungsgrade. Warum ist Homöopathie Unfug.
"Naja, die Wissenschaft ist sich ja auch nicht einig“, „die einen sagen so, die anderen so“ und ähnliche Sprüche.
Das zieht sich durch alle Schichten und Altersgruppen. Bei weitem nicht nur „Bild“-Lesende.
Aber deshalb kann die „Bild“ (und „Welt" etc.) Kampagnen gegen Wärmepumpen fahren und die Fossil-Fans der CxU „eFuels“ als angebliche Lösung verkaufen.
