@AwetTesfaiesus Vielleicht auch Haftung von Unernehmen für alles, was in ihrem Namen getan und kommuniziert wird, stärken (wieder ohne unbedingt direkt und nur „KI“ ins Visier zu nehmen)? Dann sollten die sich zwei mal überlegen, wie sehr sie auf LLM-Einsatz ohne engmaschiges Monitoring setzen.

---

Im Endeffekt glaube ich, dass das einer der Bereiche ist, in denen „die Gesellschaft“ zeigen muss, dass die Alternativen besser sind (und sie ggf. besser entwickeln, wenn sie das in Wirklichkeit noch nicht sind).

Der Staat kann da ggf. in seinem Bereich ganz ohne Regulierung/Gesetze mit gutem Beispiel voran gehen, indem er z.B. Verwaltungsvorgänge so sehr vereinfacht und so gut dokumentiert, dass es überhaupt keinen LLM-Chatbot *braucht*, um mit ihnen klar zu kommen.

@AwetTesfaiesus Besteht vielleicht doch noch die Hoffnung, dass die Blase rechtzeitig platzt und das Ganze auf ein Normalmaß zurechtstutzt, bevor ein Gesetzgebungs-Verfahren überhaupt durch wäre?

Der Privatwirtschaft Kontaktwege vorzuschreiben, erscheint mir auch erst mal schwierig. Ein irgendwo auf der Welt ausgelagerter First-Level-Support, der ein wenig hilfreiches Skript abarbeitet, ist im Zweifel nicht so viel besser als ein LLM. Wenn man das macht, sollte es vielleicht nicht (nur) auf „KI“ abzielen, sondern generell auf die barrierearme Erreichbarkeit von Menschen mit Entscheidungskompetenz? Im Zweifel teuer – am Ende auch für die Kund*innen – und killt das Business sehr billiger Call-Center.

@AwetTesfaiesus Schwierig.

Einerseits fand ich die grünen Positionen schon bei Kernenergie und Gentechnik immer etwas sehr holzschnittartig und würde hier wieder die gleiche Gefahr sehen. Mag aber ebenso sein, dass „stabile“ Ablehnung bei den Wähler*innen in der Zielgruppe in all diesen Fällen gut ankommt.

Andererseits ist der LLM-Hype wirklich anstrengend.

Aber kriegt man da schnell genug Regelungen formuliert, die auch Sinn ergeben? Was heißt „KI-frei“? Reicht es, dass das Produkt, die Dienstleistung „KI-frei“ ist? Oder muss es auch der Support, die Kontakt-Kanäle sein? Alle? Dürfen die Entwickler*innen LLMs in ihrer Arbeit einsetzen, solange kein LLM im letztendlichen Produkt direkt enthalten ist?

@AwetTesfaiesus Würde das Problem einerseits eher dort sehen, wo den Ergebnissen eines LLM *mehr* geglaubt wird als menschlichen Ergebnissen. Habe in den letzten Monaten viel zu oft Dinge wie „Ich hab' mal eben ChatGPT/Claude/Grok gefragt: …“ gelesen.

Andererseits in der schieren Menge qualitativ zweifelhafter Inhalte, die da mit wenig Aufwand und geringem Nutzen produziert werden, die halt noch mal anstrengender machen zu sortieren, zu bewerten, zu widersprechen, als es ohnehin schon war.

@AwetTesfaiesus Hmm. Also, ja, natürlich machen auch Menschen Fehler, viele Fehler. Und ich glaube auch nicht, dass das generell selten gesehen wird. Mit einer gehörigen Portion Bias gibt es für jedes Thema und für jede Gruppe andere Menschen, die die Fehler dort schon immer und überall gesehen haben (und dabei dann selbst wieder Fehler machen).

Und einige Menschen konnten auch schon immer Fehler und im Weiteren das Reden über Dinge, von denen sie eigentlich nicht so viel Ahnung haben, durch kluge Verpackung verdecken und damit erstaunlich gut durchkommen.

LLMs machen es „nur“ sehr einfach, dass jetzt sehr viele Menschen sehr schnell sehr viele (oft erschreckenderweise sogar für die Ersteller*innen selbst) plausibel klingende Texte erzeugen können.