In den Kommentaren lass ich gestern sinngemäß: wen wundert es, alle wissen, dass #LLMs ständig Fehler machen.

@AwetTesfaiesus Am schönsten finde ich, wenn KI-Ludditen Nutzern von KI "Denkfaulheit" vorwerfen. Deren Argumente sind die Satanic Panic von TV, Videospielen, Google, Wikipedia, Kazaa, jeder neuen Technologie nur in pseudo-intellektuellem Gewand nochmal aufgewärmt und wirkt, als wären sie Lobbyisten der Rechteverwertungsindustrie.

Wären Computer ohne KI die deterministischen Maschinen die sie fordern würde nicht 3 mal am Tag ihr Word abstürzen weil sie Malware haben. Ich finds lächerlich

@AwetTesfaiesus @marcuwekling

Fehler können mehr oder weniger schwerwiegend sein. Da LLMs im Gegensatz zu Menschen kein Weltmodell besitzen, ist die Schwere der Fehler nicht sinnvoll begrenzbar. Ein menschlicher Koch kann Zucker und Salz verwechseln, aber er wird nie auf die Idee kommen, Klebstoff auf die Pizza zu schmieren.

LLMs sind vor allem dort sinnvoll, wo es nicht auf die Schwere der gemachten Fehler ankommt. Oft liegt das aber schlicht und ergreifend daran, dass es um Vorgänge geht, wo das Ergebnis ohnehin irrelevant ist.

@Ottilie_Katz
Auch hier widerspreche ich.

Captain Kirk flog vor Jahrzehnten durch das Weltall und funkte über seinen aufklappbaren Kommunikator, "Scotty, beam mich rauf!"
Auch damals habe ich gehört, so was wie bei Star Trek wird es wohl nie geben.

Heute haben wir Smartphones, die ein vielfaches von dem, was ein einfacher Kommunikator kann, können.

Daher will und werde ich nie irgendetwas ausschließen, und spätestens mit Quantenrechnern wird noch mehr möglich.

@BrennpunktUA @AwetTesfaiesus

@AwetTesfaiesus Schau dir mal an, wie elektronische Komponenten im AKW in sicherheitsrelevanten Bereichen zertifiziert werden müssen. Chips sind eben nicht deterministisch.

Nicht-KI Algorithmen sind genauso ein Problem, angefangen in HR die Bewerber hart diskriminiert, PLZ, (Nach)name, Hautfarbe, ...

Und finde ich richtig übel: Rückfallwahrscheinlichkeit bei Straftätern - und damit Strafmaß und Haftentlassung

Aber das ist ok, denn es ist getarnt als objektive Mathematik.

@Der_zuversichtliche_Daniel @marcuwekling vergleichsweise: verschwindend gering! Das wäre fast immer Sozialkriminalität. Kannst du googeln.

@AwetTesfaiesus @andreas_tengicki

deswegen wohl das wahr auch in Anführungszeichen.

Schriftliche Sammlungen haben halt auch zumeist einen Zeitbezug mit ihrer Wahrheit, den man bei der Bewertung auch immer beachten sollte.
Kein einfaches Thema...

@oldperl @Ottilie_Katz @BrennpunktUA

So oft kannst du das aber nicht gehört haben:

https://en.wikipedia.org/wiki/Beam_me_up,_Scotty

@energisch_
Schön gesagt, Marina. Wobei es, wie eigentlich immer, auch sehr auf einen selbst ankommt.
Wenn ich Aussagen ohne eigene Prüfung des Wahrheitsgehaltes bzw. ob sie zu meiner eigenen Meinung passen, übernehme, dann muss ich mich im Nachhinein nicht wundern.

@AwetTesfaiesus

@oldperl Richtig, und ziemlich egal, wo die ursprüngliche Quelle liegt. Dennoch vertraue ich peer-gecheckten wissenschaftlichen Veröffentlichugen mehr als einer Zeitungsmeldung oder einer LLMbasierte online Recherche. Denn noch zeigt die Erfahrung, dass die large language modell basierten KI Tools zu häufig falsch liegen.
Die Gefahr, dass dann solche falschen Ergebnisse in unsere gängigen Daten einfließen ist groß und deshalb müssen wir doppelt aufpassen.
@AwetTesfaiesus

@expertenkommision_cyberunfall @Chaotica @Lamal Auch, allerdings ist es bereits seit mindestens meiner Schulzeit in den 1970ern eher akzeptiert „nie gut in Mathe (oder Chemie oder Physik)" gewesen zu sein, also eigentlich naturwissenschaftlich ungebildet. Selbst als Promi im Fernsehen.

Wer sich hingegen dafür interessiert(e), Dinge weiss und erklären kann, Unfug und faktenfreie Meinungen nicht einfach stehen lässt, gilt als Streber, Nerd, wird bereits in der Schule gemobbt, in Filmen als Loser dargestellt.

Das führt dann z.B. dazu, dass erwachsene Menschen, die für sich und andere Verantwortung haben, die menschengemachte Klimakrise "nicht glauben“. Obwohl die Kurven eindeutig sind und die Zusammenhänge in einem halben Dutzend Schulversuchen demonstrierbar. Was Hoimar von Ditfurth schon 1978 im Fernsehen getan hat.

Oder dass sie Infektionsrisiken und exponenzielles Wachstum nicht wahrhaben wollen. Was sind Wirkungsgrade. Warum ist Homöopathie Unfug.

"Naja, die Wissenschaft ist sich ja auch nicht einig“, „die einen sagen so, die anderen so“ und ähnliche Sprüche.

Das zieht sich durch alle Schichten und Altersgruppen. Bei weitem nicht nur „Bild“-Lesende.

Aber deshalb kann die „Bild“ (und „Welt" etc.) Kampagnen gegen Wärmepumpen fahren und die Fossil-Fans der CxU „eFuels“ als angebliche Lösung verkaufen.