All watched over by #MachinesOfLovingGrace?

@AwetTesfaiesus Wichtiger finde ich aber sich aus der Abhängigkeit von Gatekeepern und sehr großen online Plattformen zu lösen und auf eigene Lösungen zu setzen.

Alternativen bevorzugen und Ausschreibungen mit Anforderungen wo man auch Eigentümer der Software, Daten und Infrastruktur wird.

Nebenbei wird dann auch automatisch das Thema mit der KI besser.

@larsmb @AwetTesfaiesus

Ich würde hier den Vergleich zum Leben ohne Girokonto aufmachen. Das muss möglich sein aber dann hast du mit vielen Einschränkungen zu rechnen. Dabei gibt es ein Recht auf ein Konto damit du nicht wegen Repressalien auf einmal kein Konto mehr hast und alles verlierst.

Im Allgemeinen finde ich wir sollten hier eher über die Rechte von Menschen argumentieren und weniger über technische Details.

@AwetTesfaiesus Besteht vielleicht doch noch die Hoffnung, dass die Blase rechtzeitig platzt und das Ganze auf ein Normalmaß zurechtstutzt, bevor ein Gesetzgebungs-Verfahren überhaupt durch wäre?

Der Privatwirtschaft Kontaktwege vorzuschreiben, erscheint mir auch erst mal schwierig. Ein irgendwo auf der Welt ausgelagerter First-Level-Support, der ein wenig hilfreiches Skript abarbeitet, ist im Zweifel nicht so viel besser als ein LLM. Wenn man das macht, sollte es vielleicht nicht (nur) auf „KI“ abzielen, sondern generell auf die barrierearme Erreichbarkeit von Menschen mit Entscheidungskompetenz? Im Zweifel teuer – am Ende auch für die Kund*innen – und killt das Business sehr billiger Call-Center.

@lysis das sehe ich nicht so. Ich vermute auch, du denkst hier nicht (wie ich) an den Staatlichen Einsatz. Deutschland reguliert immer schon die „Mittel“ des Staates. Krasse Bsp: viele PolizeiG verbieten den Einsatz von Sprengmitteln oder Maschinengewehren (nicht -pistolen) gegen Menschen in der polizeilichen Arbeit. Manche Länder verbieten den Einsatz von bestimmten Waffen gegen Personen in Menschenmengen.

Es geht auch um „Tools“

https://www.rv.hessenrecht.hessen.de/bshe/document/jlr-SOGHEV5P55

https://voris.wolterskluwer-online.de/browse/document/7b0e247f-3789-309a-82e5-f72ba043e8d9

@AwetTesfaiesus
Die lassen sich selten klar rausarbeiten. KI ist im Moment super unprofitabel. Die Infrastruktur kostet, die Zugänge sind billig ohne Ende und nur durch externe Investoren sind die ganzen Konzerne überhaupt in der Lage, den Betrieb aufrecht zu erhalten und um Markanteile zu kämpfen. Gewinner sind da nur die, die ein fettes Gehalt raustragen und das nächste goldene Kalb rausholen, wenn die Blase platzt.

Ich erinnere mich an eine Hauptversammlung der BASF, ich glaub 2022. Damals hatten sie ihr Offshore-Solarprojekt in der Nordsee sowie Photovoltarik auf den Gebäuden angekündigt. Ein Mitarbeiter fragte, warum die BASF hier in Windkraft und Solarstromerzeugung investiert, ob Atomkraft nicht sinnvoller sei. Herr Brudermüller antwortete seinerzeit "Ja, das haben wir durchgerechnet. Um es kurz zu machen: Atomkraft ist viel zu teuer!" Und das lässt sich genauso auf die bundesdeutschen AKWs anwenden, die kochten literally auch nur Wasser. Und da stellt sich schon die Frage: Eine Technologie, die teuer ist und ohne Subventionen keinen Gewinn abwirft, wie kann man da Geld raustragen? Aber sehr offensichtlich ging das...

@AwetTesfaiesus Ich mag den Begriff so gar nicht und verwende ihn ungern. Ich würde lieber über Klassifizierer, statistische Text-/Bildgeneratoren, Häufigkeitsanalyse und Fuzzysearch reden.

@streetcoder ich unterstelle: sie wird überall schon genutzt. Überall!

@AwetTesfaiesus Ich bin nur so mittel von allgemeinen Regeln begeistert und glaube, dass es primär auf den Einsatzzweck ankommt.
In Niedersachsen haben wir zum KI-Einsatz in der Sicherheitspolitik mit der @digital_gruen_nds den folgenden Beschluss erwirkt, den ich sehr gut finde:

https://gruene-niedersachsen.de/ki-und-sicherheit/

Ob meine Steuererklärung von einer KI geprüft wird ist mir ehrlicherweise egal, allerdings ist es mir wichtig, dass ich im Streitfall einen menschlichen Richter anrufen kann.

@AwetTesfaiesus
allgemein kann ich es vielleicht so sagen: Wenn ich eine Dienstleistung in Anspruch nehme (staatlich oder nicht), dann ist es mir erstmal egal wie diese erbracht wird. Am Ende verbleibt die Verantwortung dafür aber bei einem Menschen - wenn die KI einen Fehler macht, dann ist der Anbieter zuständig.

@AwetTesfaiesus Vielleicht auch Haftung von Unernehmen für alles, was in ihrem Namen getan und kommuniziert wird, stärken (wieder ohne unbedingt direkt und nur „KI“ ins Visier zu nehmen)? Dann sollten die sich zwei mal überlegen, wie sehr sie auf LLM-Einsatz ohne engmaschiges Monitoring setzen.

---

Im Endeffekt glaube ich, dass das einer der Bereiche ist, in denen „die Gesellschaft“ zeigen muss, dass die Alternativen besser sind (und sie ggf. besser entwickeln, wenn sie das in Wirklichkeit noch nicht sind).

Der Staat kann da ggf. in seinem Bereich ganz ohne Regulierung/Gesetze mit gutem Beispiel voran gehen, indem er z.B. Verwaltungsvorgänge so sehr vereinfacht und so gut dokumentiert, dass es überhaupt keinen LLM-Chatbot *braucht*, um mit ihnen klar zu kommen.

@AwetTesfaiesus Ich hatte auch an öffentliche/staatlichen Einsatz gedacht, deshalb habe ich “Organisationen” geschrieben. Aber ich verstehe den Einwand. Vielleicht benötigen wir ein differenziertes Vorgehen. Ich sehe KI weiter auf einer Ebene mit Excel, oder selbst geschriebener Software die auf Datenbanken zugreift, die ich allgemein nicht reguliert sehen möchte. Ich kann mir aber Sonderfälle vorstellen, in denen ich jede Form von KI ausschließen möchte.

@AwetTesfaiesus Absolute Zustimmung.

@AwetTesfaiesus Als Beispiel: wenn man viele Seiten Papierakten hat, deren Daten man statistisch erfassen möchte: warum nicht ein LLM-Modell zur Schrifterkennung drauf werfen? Der Einsetzende muss dann für das Ergebnis haften.

Wenn es aber z.B. um eine konkrete staatliche Entscheidung geht (Asyl, Gesundheitskosten, Gerichtsurteile, …), sollte die nicht hauptsächlich von KI abhängig sein.

Ich glaube ich meine eigentlich: es kommt auf den Einsatz(ort) der KI an.

@AwetTesfaiesus

Definitiv. Ich will z.B. wenn ich meinen Hausarzt anrufen mit einem Menschen sprechen und nicht "Hier ist der digitale Assistent der Praxis xyz, bereitgestellt durch Doctolib" hören.

Ich will keine Produkte die mit KI zwangsbeglückt werden und ich am Ende dafür zahlen soll.

Ich will keine Suchergebnisse bei denen die ersten Treffer alle auf KI-Slop zeigen.

@lysis

Link zu: Traue keinem Scan, den du nicht selbst gefälscht hast
"Bei Kopierern kommt das raus, was man reinsteckt." – Wer das denkt, sollte diesen Vortrag besuchen.
Von David Kriesel

https://media.ccc.de/v/31c3_-_6558_-_de_-_saal_g_-_201412282300_-_traue_keinem_scan_den_du_nicht_selbst_gefalscht_hast_-_david_kriesel

@necrosis nur zur Klarstellung: Zustimmung zu welcher Seite der oder-Frage

@AwetTesfaiesus 

Ich würde es aus aus dem Recht auf Selbstbestimmung ableiten. Wird bei der Durchdringung der KI in alle Lebensbereiche meine informationelle Selbstbestimmung gewahrt? Kann ich mich trotz der Durchdringung der KI in alle Lebensbereiche noch so frei entfalten, das die einzige Grenze der freien Entfaltung meiner Persönlichkeit die Verletzung der Rechte anderer bleibt? Wenn nein, dann müssen meiner Meinung nach Räume geschaffen werden, die das ermöglichen. Also KI freie Räume.

@AwetTesfaiesus nenn mich altmodisch aber ich würde erst dann von KI sprechen wenn das System sich wie in der Sciencefiction Literatur Asimovs verhält.

@lysis es gibt momentan Bestrebungen, in der Justiz KI einzusetzen, um den Akteninhalt zu streamlinen (vulgo: zusammenzufassen). Das halte ich wegen der Garantie auf rechtliches Gehöre für extrem schwierig!

@AwetTesfaiesus Anspruch auf KI-freiheit. Kein KI-Zwang.