In den Kommentaren lass ich gestern sinngemäß: wen wundert es, alle wissen, dass #LLMs ständig Fehler machen.

@AwetTesfaiesus Zurück zu den LLM.

Die grundlegende Ablehnung sehe ich nicht. Hier ist das Fediverse eine Blase. Dass KI nicht so viel wie erwartet genutzt wird, liegt an einer Überschätzung des Bedarfs gegenüber Investierenden. Und daran, dass wir (in DE) sehr viel weniger weit in der Digitalisierung der Bevölkerung sind, als wir glauben.

3/x

@AwetTesfaiesus In den Diskussionen wird von einer neutralen LLM ausgegangen. Die Machtverhältnisse und Beeinflussung sind aber entscheidender Bestandteil der Diskussion oder sollten es sein. Man schaue sich nur die bekannt gewordenen Fälle ein wie zum Beispiel bei Grok. Die diskutierten Fälle der "absichtlichen Fehler zur Erreichung politischer Ziele" werden mit LLM skaliert und (noch) weniger nachvollziehbar.

4/x

@AwetTesfaiesus Daher ist eine kritische Betrachtung der Eingaben und Ausgaben der Maschine absolut elementar, muss ständig passieren und wird nie enden. So wie Sicherheitstests, TüV und so weiter beim KFZ. Und trotzdem schlüpfen Fehler durch und verursachen Unfälle.

5/6

@Der_zuversichtliche_Daniel @marcuwekling das ist eben der springende Punkt! Aber jedenfalls ist auch Schnelligkeit ein Problem! Bei deutschen Gerichten liege 1 Mio Verfahren unerledigt

@AwetTesfaiesus

Mal bis hierher zusammengefasst, IMHO:
- Die Juristerei (hier als Beispiel, also nicht nur diese) muss ihren eigenen Anspruch wieder erhöhen, und wir alle sollten da lauter und mehr kritisieren. (Es ist halt nicht einfach für uns Laien)

- LLMs skalieren Probleme, die wir ohne diese schon massiv haben. Aber was lösen sie wirklich? Wer profitiert davon? Und wer hat die Macht?

(Danke für das Aufmachen der interessanten Diskussion:) ).

@energisch_ @AwetTesfaiesus

Stimme ich absolut zu. Das Grundproblem ist hier jedoch dass die meisten LLM nicht dazu da sind dir eine korrekte Antwort aus den zugrundeliegenden Daten zu liefern, sondern dir zu schmeicheln und nach dem Mund zu reden damit du es toll findest, es häufig benutzt und viel Geld dafür bezahlst. Und nebenbei soll am besten noch etwas Werbung für Partnerprodukte gemacht werden und deine Informationsvetsorgung kontrolliert werden.

@AwetTesfaiesus

Also lieber schnell nicht nachvollziehbare Ergebnisse als langsamer nachvollziehbare Ergebnisse?

@TheOneSwit Das kommt noch dazu, es ist auch Manipulationstool und Finanzblase für Spekulanten. @AwetTesfaiesus

@AwetTesfaiesus Am schönsten finde ich, wenn KI-Ludditen Nutzern von KI "Denkfaulheit" vorwerfen. Deren Argumente sind die Satanic Panic von TV, Videospielen, Google, Wikipedia, Kazaa, jeder neuen Technologie nur in pseudo-intellektuellem Gewand nochmal aufgewärmt und wirkt, als wären sie Lobbyisten der Rechteverwertungsindustrie.

Wären Computer ohne KI die deterministischen Maschinen die sie fordern würde nicht 3 mal am Tag ihr Word abstürzen weil sie Malware haben. Ich finds lächerlich

@AwetTesfaiesus @marcuwekling

Fehler können mehr oder weniger schwerwiegend sein. Da LLMs im Gegensatz zu Menschen kein Weltmodell besitzen, ist die Schwere der Fehler nicht sinnvoll begrenzbar. Ein menschlicher Koch kann Zucker und Salz verwechseln, aber er wird nie auf die Idee kommen, Klebstoff auf die Pizza zu schmieren.

LLMs sind vor allem dort sinnvoll, wo es nicht auf die Schwere der gemachten Fehler ankommt. Oft liegt das aber schlicht und ergreifend daran, dass es um Vorgänge geht, wo das Ergebnis ohnehin irrelevant ist.

@Ottilie_Katz
Auch hier widerspreche ich.

Captain Kirk flog vor Jahrzehnten durch das Weltall und funkte über seinen aufklappbaren Kommunikator, "Scotty, beam mich rauf!"
Auch damals habe ich gehört, so was wie bei Star Trek wird es wohl nie geben.

Heute haben wir Smartphones, die ein vielfaches von dem, was ein einfacher Kommunikator kann, können.

Daher will und werde ich nie irgendetwas ausschließen, und spätestens mit Quantenrechnern wird noch mehr möglich.

@BrennpunktUA @AwetTesfaiesus

@AwetTesfaiesus Schau dir mal an, wie elektronische Komponenten im AKW in sicherheitsrelevanten Bereichen zertifiziert werden müssen. Chips sind eben nicht deterministisch.

Nicht-KI Algorithmen sind genauso ein Problem, angefangen in HR die Bewerber hart diskriminiert, PLZ, (Nach)name, Hautfarbe, ...

Und finde ich richtig übel: Rückfallwahrscheinlichkeit bei Straftätern - und damit Strafmaß und Haftentlassung

Aber das ist ok, denn es ist getarnt als objektive Mathematik.

@Der_zuversichtliche_Daniel @marcuwekling vergleichsweise: verschwindend gering! Das wäre fast immer Sozialkriminalität. Kannst du googeln.

@AwetTesfaiesus @andreas_tengicki

deswegen wohl das wahr auch in Anführungszeichen.

Schriftliche Sammlungen haben halt auch zumeist einen Zeitbezug mit ihrer Wahrheit, den man bei der Bewertung auch immer beachten sollte.
Kein einfaches Thema...

@oldperl @Ottilie_Katz @BrennpunktUA

So oft kannst du das aber nicht gehört haben:

https://en.wikipedia.org/wiki/Beam_me_up,_Scotty

@energisch_
Schön gesagt, Marina. Wobei es, wie eigentlich immer, auch sehr auf einen selbst ankommt.
Wenn ich Aussagen ohne eigene Prüfung des Wahrheitsgehaltes bzw. ob sie zu meiner eigenen Meinung passen, übernehme, dann muss ich mich im Nachhinein nicht wundern.

@AwetTesfaiesus

@oldperl Richtig, und ziemlich egal, wo die ursprüngliche Quelle liegt. Dennoch vertraue ich peer-gecheckten wissenschaftlichen Veröffentlichugen mehr als einer Zeitungsmeldung oder einer LLMbasierte online Recherche. Denn noch zeigt die Erfahrung, dass die large language modell basierten KI Tools zu häufig falsch liegen.
Die Gefahr, dass dann solche falschen Ergebnisse in unsere gängigen Daten einfließen ist groß und deshalb müssen wir doppelt aufpassen.
@AwetTesfaiesus

@expertenkommision_cyberunfall @Chaotica @Lamal Auch, allerdings ist es bereits seit mindestens meiner Schulzeit in den 1970ern eher akzeptiert „nie gut in Mathe (oder Chemie oder Physik)" gewesen zu sein, also eigentlich naturwissenschaftlich ungebildet. Selbst als Promi im Fernsehen.

Wer sich hingegen dafür interessiert(e), Dinge weiss und erklären kann, Unfug und faktenfreie Meinungen nicht einfach stehen lässt, gilt als Streber, Nerd, wird bereits in der Schule gemobbt, in Filmen als Loser dargestellt.

Das führt dann z.B. dazu, dass erwachsene Menschen, die für sich und andere Verantwortung haben, die menschengemachte Klimakrise "nicht glauben“. Obwohl die Kurven eindeutig sind und die Zusammenhänge in einem halben Dutzend Schulversuchen demonstrierbar. Was Hoimar von Ditfurth schon 1978 im Fernsehen getan hat.

Oder dass sie Infektionsrisiken und exponenzielles Wachstum nicht wahrhaben wollen. Was sind Wirkungsgrade. Warum ist Homöopathie Unfug.

"Naja, die Wissenschaft ist sich ja auch nicht einig“, „die einen sagen so, die anderen so“ und ähnliche Sprüche.

Das zieht sich durch alle Schichten und Altersgruppen. Bei weitem nicht nur „Bild“-Lesende.

Aber deshalb kann die „Bild“ (und „Welt" etc.) Kampagnen gegen Wärmepumpen fahren und die Fossil-Fans der CxU „eFuels“ als angebliche Lösung verkaufen.