In den Kommentaren lass ich gestern sinngemäß: wen wundert es, alle wissen, dass #LLMs ständig Fehler machen.

@AwetTesfaiesus 2/2 …dabei referenzieren sie sich mit zunehmender Menge auch noch selbst und trainieren sich an gemachten Fehlern.

Wenn ich will, phantasiert mir das Ding einige hundert Seiten Begründung mit, die zwar Bullshit ist, aber jede Bescheidprüfung prohibitiv teuer macht…

@AwetTesfaiesus
Ich finde die Analogie zur Alphabetisierung recht hilfreich.
Meine Bank zB kann mir - selbst auf Nachfrage in der technischen Abteilung - nicht präzise erklären, wie mein Kreditscore zustande kommt. „Der Computer“ spuckt halt eine Zahl aus und die wird dann geglaubt.
Da ist kein wesentlicher Unterschied mehr zu „Priester liest aus Buch vor und man muss das einfach glauben.“
@Lamal

@Chaotica @falk ich auch! Insbesondere wegen KI.

Massenhaft Fehler bleiben dennoch. Auch außerhalb des Sozialbereichs. Nur weil die FDP es immer sagt, ist es ja nicht falsch: Nichtanwendungserlasse im Steuerrecht sind auch ein rechtsstaatliches Problem.

@Saupreiss das fasst weite Teile des Jurastudiums in Deutschland auch ganz gut zusammen

@AwetTesfaiesus

Ein Teil deiner Annahmen wird "Eliza Effekt" genannt.

Und folgender Satz klingt sehr nach dem Coping, dass du beschreibst:

"Der Mensch wünscht sich zwar menschliche Empathie von der KI, gleichzeitig genießt er die Gewissheit, es mit einer Maschine zu tun zu haben."

https://www.impulse.de/organisation/eliza-effekt/7632397.html

@BrennpunktUA @AwetTesfaiesus

ich sehe Technologie nicht per se als gut oder schlecht an.

Wichtig ist, zu wissen, wo die Gefahren sind sie zu hinterfragen und was Mensch daraus macht.

Klar nutze ich KI. Ich weiß nur noch nicht ob ich damit schneller zum Ziel komme.

Und bei einige Sachen muss man echt höllisch aufpassen weil es oft verwechselt wird, was gerade der aktuelle Stand ist.

Aber die Büchse der Pandora ist eh schon offen. Ich finde die alte Eu Regulierung zur Ki gut und wichtig.

@AwetTesfaiesus @Chaotica @Lamal

Vielleicht hilft es, die Strukturen und Organisationen/Personen "dahinter" zu betrachten.
KI/AI wird von Personen und Orgas gehypt und überwiegend betrieben, die klare faschistische Strukturen aufzeigen.
Es ist mehr als gut belegt, dass KI/AI durch das notwendige Training nicht nur die. in den Trainingsdaten vorhandenen Vorurteile erlernt, sondern sogar verfestigt und das Training nur durch Ausbeutung gelingt.

@expertenkommision_cyberunfall

Meh. Bildungskatastrophe hin oder her: Es ist illusorisch, die Mathematik, die da et large am Werken ist, sinnvoll zu vermitteln.

Auch Spezialisten können bestenfalls in Einzelfällen nachvollziehen, wie welche Antwort zu welchem Zeitpunkt zustande kam. Natürlich ist das alles deterministische Mathematik. Aber mit so vielen Variablen, dass es im Regelfall nicht deterministisch überprüft werden kann.

@AwetTesfaiesus @Chaotica @Lamal

@AwetTesfaiesus @odrotbohm @marcuwekling

Wenn 50% falsch sind bei > 3Monaten bearbeitungszeit, wäre dann nicht ein System mit 50% Fehleranfälligkeit und 1 Minute Bearbeitung das bessere System? z.B. Münzwurf oder Würfel?
Woher nimmst du die Annahme, dass das LLM nur 20% Fehleranfällig wäre? Es hat doch lediglich die bisherigen Daten als Grundlage. Und falls 50% falsch sind, dann sind ja auch (im Schnitt) 50% der Revisionen falsch. Es gibt also keine besseren Daten.

@AwetTesfaiesus @odrotbohm @marcuwekling

Wenn 50% falsch sind bei > 3Monaten bearbeitungszeit, wäre dann nicht ein System mit 50% Fehleranfälligkeit und 1 Minute Bearbeitung das bessere System? z.B. Münzwurf oder Würfel?
Woher nimmst du die Annahme, dass das LLM nur 20% Fehleranfällig wäre? Es hat doch lediglich die bisherigen Daten als Grundlage. Und falls 50% falsch sind, dann sind ja auch (im Schnitt) 50% der Revisionen falsch. Es gibt also keine besseren Daten.

@Saupreiss

Ich bezog mich auf Elektrizität. Die Mathematik wird erst hart, wenn es um Elektronik oder Nachrichtentechnik geht.
Also zumindest empfand ich das so.

@AwetTesfaiesus @Chaotica @Lamal

@expertenkommision_cyberunfall @Chaotica @Lamal

Erlaube mir eine Polemik zu früher Stunde zu replizieren, die hier kürzlich ein junges Familienmitglied vorbrachte:

„Ihr immer mit eurem bequemen Tesla-Haß; wie oft fragt ihr euch eigentlich, wieviel KdF-Wagen in so einem supadupa p.c. ID.3 steckt?“

Vielleicht anders gesagt: wieviel Kaiserreich steckt eigentlich jetzt noch (de lege lata) in unserem Staat.

@AwetTesfaiesus

Früher wäre recht wenig Werbung für blaue Tabletten in deinem Briefkasten gelandet: Der Ertrag hätte die hohen Kosten nicht aufgefangen. Mit der E-Mail kam es bekanntlich anders; Kosten der Abwehr derartiger Produktinformation übersteigt regelmäßig jene ordnungsgemäßer Lieferungen.

Ähnlich verhält sich das mit dem Lernen. Natürlich ist ein Schlüter keine sakrosankte Bibel. Aber er bildet einen gewissen Konsens ab. Man kann viele Schlüters mit wenig Aufwand machen…

@Chaotica
GIGO - Garbage In, Garbage Out

Aber es hilft nix, selbst wenn Du zweifelsfrei beweisen kannst dass der Computer Müll produziert hat wird daran festgehalten.

@AwetTesfaiesus @Lamal

@Gormfull @odrotbohm @marcuwekling trainierst du mit den Bescheiden oder mit den Urteilen, die sie aufheben?

@AwetTesfaiesus @odrotbohm @marcuwekling zumal: man könnte ja durchaus ein LLM auf Gesetzestexten trainieren. Dass dann "einfach" gesetzeskonforme Bescheide erlässt. Statt unzulässig Entscheidungen zu treffen, die dann per Gericht bereinigt werden müssen.

@Reinald @odrotbohm @marcuwekling age old dream

@AwetTesfaiesus Das ist interessant. Man weiß ja, dass ausgerechnet die Anthropomorphisierung - neben der vermuteten "Intelligenz" eines so teuren Systems - zur übermäßigen Vertrauensseligkeit ggü KI beiträgt. Einer der zentralen Aspekte dabei ist das eloquente und konfidente "Auftreten", welches man in KI-Ausgaben sieht. Demgegenüber bringt jede:r menschliche Gesprächspartner:in mit der eigenen Menschlichkeit/Positionalität/Unvollkommenheit immer schon Anlass zum Zweifel mit in die Interaktion.

Ich bin also noch nicht überzeugt, dass wir KI ggü tatsächlich kritischer als Menschen ggü sind. Ich glaube, Laien neigen zu Vertrauen in konfidentes, eloquentes Auftreten - wie es in den Textsorten begegnet, die Du nennst - gleichermaßen.

Spannend finde ich die (KI-unabhängigen) Fragen, ob es erstens eine empirisch höhere Wahrscheinlichkeit der tatsächlichen Unwahrheit eloquenter Aussagen und zweitens eine mit der Ausbildung zur Jurist:in eingeübte Immunität ggü Eloquenz und Konfidenz gibt.

@AwetTesfaiesus

Na, dann frag lieber nicht wieviel von den Menschenversuchen der Nazis in Medizin stecken.

Was aus dem Kaiserreich in unserem Staat steckt? Vieles was durch solidarische, linksgelesene Strukturen im Kaiserreich erkämpft wurde, aber auch vieles, was Konservative konservieren wollten.
Die Bundesrepublik war eine Befreiung, keine Revolution.

@Chaotica @Lamal

@AwetTesfaiesus @odrotbohm @marcuwekling

Ausserdem gibt es da das Problem mit alpha und beta- Fehlern ( false-negative und false-positive).
Da es sehr wenige Klagen gegen positive Bescheide geben wird, wissen wir über die false-positives gar nichts, bzw. Sind der Annahme, dass da kaum Fehler gemacht werden. Eine “vernünftige” KI oder Mitarbeiter*in würde schnell auf den Trichter kommen, dass alle positiv-Bescheide “richtig” sind.