In den Kommentaren lass ich gestern sinngemäß: wen wundert es, alle wissen, dass #LLMs ständig Fehler machen.

@AwetTesfaiesus
Gymnasium während der 2000er.
Wir hatten nen Diercke Atlas, aber wenig länderspezifisch damit gearbeitet. Eher mit den Klimakarten und den Vegetationszonen etc.
Später hatte ich geography wg. bilingualem Unterricht, dafür gab es kein klassisches Lehrbuch.

Ich erinnere mich nur, dass die Erdkunde-Leute irgendwas zu Fruchtfolgen lernen mussten, so als gäbe es noch Kartoffelferien.
An falsche Landkarten erinnere ich mich nicht.
In der Zeit war aber auch nicht so viel Umbruch in lehrplanrelevanten Regionen. Könnte also auch ein "Jahrzehnt"-assoziiertes Problem sein.

@oldperl

@AwetTesfaiesus Das gilt derzeit für ziemlich viele wünschenswerte bis dringend nötige Bestrebungen. Aber vielleicht gibt es ja doch noch sinnvollere Möglichkeiten als aufzugeben.

@AwetTesfaiesus @jlink ich glaube das Beispiel sofort, und dennoch hinterlässt es bei mir ein "autsch". Jesus und Maria, sollten die Sachbearbeiter da nicht geschult sein, ihre eigenen Vorurteile reflektiert zu erkennen? Wie mag das dann erst bei Namen, Handschrift und Schreibfehlern sein?

@Reinald @jlink die sind alle geschult.

Sie sind aber auch Menschen.

Und für viele Menschen gilt: das Leben ist eine Glockenkurve! Die meisten Leute sind so wie die meisten Leute eben sind!

@AwetTesfaiesus @oldperl
In kurz:

Menschen sind Menschen, manipulierbar fehlerhaft.

Der Brockhaus/Wikipedia war recherhiert und "wahr".

Computer sind/waren Maschinen die etwas deterministisch berechnet haben. Das Ergebnis war quasi "mathematisch richtig" und nachvollziehbar. Man verlässt sich darauf.

LLMs liefern statistisch wahrscheinliche Halluzinationen ohne Verständnis von wahr und falsch. Wir unterstellen aber Intelligenz und nutzen es als Lexikon.

Ist halt schwierig/falsch.

@AwetTesfaiesus Der Unterschied ist mMn die menschliche Fähigkeit zur Reflexion. Und dass wir am Ende Rechenschaft ablegen müssen - zumindest manche von uns.

@Reinald @jlink

Wollt ihr noch ein paar "Alltagswissen" aus dem Jurist:innen-Leben:

1. Ob ein männlicher Zeuge lügt, erkannte ein Ausbilder (Richter mit Leitungsfunktion) meiner besseren Hälfte u.A. an deren Unterarmen! (tätowiert=Knastvogel=Lügner)

2. Ein:e Polizist:in verriet mir: ob man einen Straftäter vor sich hat, erkennt man (natürlich) an den Schuhen. (Betrüger haben billiges Schuhwerk)

Glaubt nicht, dass die Welt vor lauter Menschen nicht sei, wie sie ist.

@jlink da irgendwo verorte ich mein Störgefühl auch.

@andreas_tengicki @oldperl Brockhaus war nicht wahr

@AwetTesfaiesus Nein ich seh das auch so. Und nebenbei ist das eine philosophisch ziemlich interessante Frage. Ist unsere natürliche Intelligenz wirklich irgendwie erhaben über die maschinelle? Es gibt dazu viel spannende Literatur. Roger Penrose: The Emperor's new mind fällt mir gerade ein.

Witzigerweise scheint mir gerade die IT-Bubble, die ja in gewisser Weise mal besonders verantwortlich ist dafür, besonders streng mit den LLMs zu sein. Haben die einfach nur Angst um ihre Coder-Jobs?

@AwetTesfaiesus
Hmm, OK. Wenn ich sowas lese, springt immer mein Advocatus Diaboli an:
Diesen Prozess könnte man signifikant durch den Einsatz von ... "KI" ... verbessern. Also nicht einfach einen Chatbot fragen, sondern richtig, Vektor-DB mit den Inhalten, exakte Scopes und dediziertes, (nach-) trainiertes Netz, meinetwegen noch ein LLM zum nett Aufbereiten der Antworten.
@BrennpunktUA @marcuwekling

@AwetTesfaiesus jupp, die entwicklung ist überall nicht gut, und ich kann gut verstehen, dass dann manchmal "egal was, hauptsache was anderes" verlockend ist, aber ki, zumindest in dem rahmen wie es momentan benutzt und entwickelt wird, ain't it.

pharmakonzerne sind nicht die guten, aber sie können verhältnismäßig wenig schaden anrichten, weil die regularien ziemlich solide sind. natürlich erst immer *nachdem* menschen zu schaden kamen...

@lothar @BrennpunktUA @marcuwekling

@AwetTesfaiesus ... und auf der zeitleiste sind wir in der it-branche auf jeden fall noch in der zeit wo sich ärzte vor einer operation vielleicht die hände waschen, wenn sie auf dem weg dahin an einem waschbecken vorbeikommen, und leute auf der titanik zum spaß ganzkörperröntgenaufnahmen von sich machen lassen.

@AwetTesfaiesus

Für mich ist der Unterschied zwischen Fehlern von Menschen und Fehlern von Programmen die Möglichkeit, Korrektur vom Schreiberling verlangen zu können. Es muss für falsche Tatsachenbehautungen Haftung geben.

Wenn ein Polizist in seinem Bericht Müll produziert, kann er identifiziert werden und den Kram korrigieren. Und muss, bei vorsätzlichen Fehlern mit Konsequenzen rechnen. (Ob das in der Realität wirklich passiert lasse ich erstmal außer acht - es gibt wenigstens die rechtliche Möglichkeit)
Bei der KI gibt es keine Möglichkeit für Konsequenzen. Wie sollen die aussehen? Abschaltung für ein par Stunden? Wie soll sie KI denn denn lernen, dass Lügen falsch ist, so ganz ohne Bewusstsein? Wer soll sie denn tragen? Oder soll die Haftung vonder Herstellerfirma, die sich schon beim Füttern ihres Produktes um keine Gesetze geschehrt hat, und damit durchkommt, übernommen werden?
Oder doch wieder von der Person, deren Arbeit die KI machen sollte?

@energisch_ @AwetTesfaiesus

hmm, und wenn wir jetzt da einen Menschen wie Trump dazu vergleichen?

Menschen fantasieren recht ähnlich und sind recht ähnlich von ihrer eigenen Genialität überzeugt. Wir zerstören wissentlich gerade unseren Planeten, glauben an irgendwelche Götter und das Thema Fakenews oder Vorurteile brauch ich kaum ansprechen. Wäre toll wenn irgendwas unsere Fehler korrigieren würde, dann bräuchten wir nicht mal mehr irgendwelche Parteien wählen.

@AwetTesfaiesus vielleicht sollten die berichte einfach wichtig genug
sein dass sie irgendwer liest und dann merkt wenn scheiße drinsteht? wenn ich die mit chatbots erstelle (ich weigere mich das intelligenz zu nennen) kann ich sie lieber weglassen

@TheOneSwit irgendwas? Da krieg ich gleich Kopfschüttelattacken - wie soll etwas, das solche Irrlichter wie Menschen schaffen, das noch fehlergeneigt ist als wir Menschen selbst, je Lösungen für lebenswichtige Probleme zaubern? Magie gilt nicht
Die Trumps dieser Welt, die gab es schon in unserer Geschichte. Auch im Atomwaffen Zeitalter. Wenn wir Solidarität leben mit den anderen, die nicht so sind, dann besiegen wir auch solche Despoten.
@AwetTesfaiesus

@energisch_ @AwetTesfaiesus

Das irgendwas bezog sich auf die Aussage dass unsere menschlichen Fehler von uns Menschen korrigiert werden würden. Das seh ich weder bei uns Menschen noch bei den LLM die wir nach unserem Vorbild gestalten und für göttlich halten.

Bei LLM und Menschen sehe ich jedoch starke ähnlichkeiten was Informationsverarbeitung betrifft vor allem bei fehlerhaften oder mangelnden Informationen.

Da spinnen wir noch viel mehr Blödsinn als so eine LLM.

@AwetTesfaiesus KI kann keine Validität garantieren, im Gegenteil. Dem Stumpfsinn wird mancherorts Tür und Tor geöffnet!