In den Kommentaren lass ich gestern sinngemäß: wen wundert es, alle wissen, dass #LLMs ständig Fehler machen.

@Ascendor Ein Beispiel:

D könnte sich wegen einer Beihilfe zum Diebstahl des B in einem besonders schweren Fall nach §§
242 I, 243 I S. 2 Nr. 1, 27 I strafbar gemacht haben, indem er ...

Hierzu bedarf es einer beihilfefähigen Haupttat des B.

B könnte sich gemäß §§ 242 I, 243 I 2 Nr. 1 strafbar gemacht haben, indem er … mitnahm.

Diebstahl gem. § 242 I ist …
---
Ein Wort plausibel wahrscheinlich nach dem anderen.

In den Kommentaren lass ich gestern sinngemäß: wen wundert es, alle wissen, dass #LLMs ständig Fehler machen. @marcuwekling sagte am Montag bei der Lesung Ähnliches.

Dazu:
1️⃣In der juristischen Ausbildung lernst du, dass 50-70% der Verwaltungsakt falsch sind. Default: falsch!
2️⃣Dazu: in meiner Schulzeit waren Atlanten/Karten immer falsch (DDR drin, teils Saarland draußen, Jugoslawien komplett). Ich habe nicht gehört, dass über Schulen ähnlich gesprochen wird, wie über LLMs. #ki

@oldperl ich möchte klarstellen: ich frage mich u.A. warum wir menschlichen Aussagen nicht mit derselben Skepsis begegnen, wie der KI und zwar selbst dann nicht, wenn wir wissen, dass die Ergebnisse mit über 50%iger Wahrscheinlichkeit falsch sind (Jobcenterbescheid?). Wieso ist die falsche „Map of Europe“ ein Anlass zur Empörung, die 10tausend falschen Karten in unseren Schulen aber nicht?

@AwetTesfaiesus ?

@AwetTesfaiesus
Vertrauen ist ein sehenden Auges eingegangenes Risiko zur Komplexitätsreduzierung.

Ganz ohne geht es meiner Meinung nach nicht.
Deshalb sollten Prozesse Prüfschleifen haben, spätestens dann, wenn sie zu irreversiblen Konsequenzen führen ( zB Abbruch eines Hauses).
Je größer der Aufwand, die Verbreitung und das Ansehen einer Quelle (zB Schulbücher), desto mehr Qualitätssicherungsmaßnahmen erwarte ich. Alleine schon deswegen, weil die -> Informationsdarbietung <- deren Existenzgrundlage ist. Es ist ihre primäre Aufgabe.

Früher bedeutete ein Fehler in einer solchen Drucksache einen Reputationsverlust und war damit geschäftsschädigend.

@oldperl

@AwetTesfaiesus Da erscheint es mir irgendwie sinnvoller, die vorhandenen Fehler und ihre Quellen zu reduzieren, anstatt neue zu verbreiten.

Konkret: Ich könnte mir vorstellen, dass in dieser (!) konkreten Herangehensweisen an KI viel Coping steckt. Lügen wir uns hier kollektiv in die eigene (intellektuelle) Tasche?

Oder pfeifen wir hier sogar schon verzweifelt im Walde?

Liege ich komplett falsch?

@AwetTesfaiesus ein gegenargument wäre, dass verwaltungsakte unter anderem wegen verschiedenster ismen mit absicht falsch ausgeführt werden, und es gefährlich ist, diese zu industrialisieren.

zum anderen haben llms ganz neue unknown unkowns wie dinge schiefgehen können, und die tatsache, dass schon mehrere menschen direkt durch die verwendung von llms und ais gestorben sind, ist meiner meinung nach grund genug, ...

@AwetTesfaiesus OK, und was beweist das? Natürlich ist es wahrscheinlich, dass in menschlichen Texten Wörter wahrscheinlich auf andere Wörter folgen. Nur haben die Menschen diese Wörter nicht aufgrund von Wahrscheinlichkeitsberechnungen aneinander gereiht, sondern weil sie nachgedacht haben und die Worte einen semantischen Sinn ergeben haben.
Die Wahrscheinlichkeit, die die KI benutzt, ist also gerade dadurch entstanden, dass sie Texte zum Training verwendet hat, die von Menschen erzeugt wurden. Daher WIRKT es, als wäre die KI eine Intelligenz. Ist sie aber nicht. Sie denkt nicht nach, sie reiht nur Wörter aufgrund von Wahrscheinlichkeiten aneinander.

@Ascendor Das soll sagen: Scheinplausibilität wird oft hingenommen. Warum ist es für uns ein Skandal, dass KI das auch macht?

@AwetTesfaiesus ein gegenargument wäre, dass verwaltungsakte unter anderem wegen verschiedenster ismen mit absicht falsch ausgeführt werden, und es gefährlich ist, diese zu industrialisieren.

zum anderen haben llms ganz neue unknown unkowns wie dinge schiefgehen können, und die tatsache, dass schon mehrere menschen direkt durch die verwendung von llms und ais gestorben sind, ist meiner meinung nach grund genug, ...

@Aubrieta @oldperl

Auf welcher Schule warst Du denn? Dass etwa Landkarten falsch sind, war bei uns default.

@SusanneBonn Allein, mir fehlt der Glaube!

@jlink Sorry! Worin liegt der Unterschied zu menschlichem Lernen tatsächlich und vor allem: was folgt daraus für die Praxis?

Glaubst Du nicht, die Mitarbeiter:in auf dem Jobcenter "lernt" nicht auch täglich Dinge, die sie nicht lernen sollte (und wendet sie nachher unzulässig an)?

Beispiel in der Praxis: Der Antrag stinkt nach Raucherwohnung. Nirgendwo im SGB steht das, aber ich kenne Menschen, die daraus schließen: "Wer qualmt, säuft auch".

@AwetTesfaiesus @jlink ich glaube das Beispiel sofort, und dennoch hinterlässt es bei mir ein "autsch". Jesus und Maria, sollten die Sachbearbeiter da nicht geschult sein, ihre eigenen Vorurteile reflektiert zu erkennen? Wie mag das dann erst bei Namen, Handschrift und Schreibfehlern sein?

@oldperl ich denke, meine Frage wird missverstanden. Natürlich sollten wir hinterfragen. Ich frage mich aber: hinterfragen wir menschliche Ergebnisse mit demselben Eifer?

@jlink Sorry! Worin liegt der Unterschied zu menschlichem Lernen tatsächlich und vor allem: was folgt daraus für die Praxis?

Glaubst Du nicht, die Mitarbeiter:in auf dem Jobcenter "lernt" nicht auch täglich Dinge, die sie nicht lernen sollte (und wendet sie nachher unzulässig an)?

Beispiel in der Praxis: Der Antrag stinkt nach Raucherwohnung. Nirgendwo im SGB steht das, aber ich kenne Menschen, die daraus schließen: "Wer qualmt, säuft auch".

@AwetTesfaiesus @jlink ich glaube das Beispiel sofort, und dennoch hinterlässt es bei mir ein "autsch". Jesus und Maria, sollten die Sachbearbeiter da nicht geschult sein, ihre eigenen Vorurteile reflektiert zu erkennen? Wie mag das dann erst bei Namen, Handschrift und Schreibfehlern sein?

@AwetTesfaiesus Der Unterschied ist mMn die menschliche Fähigkeit zur Reflexion. Und dass wir am Ende Rechenschaft ablegen müssen - zumindest manche von uns.