All watched over by #MachinesOfLovingGrace?

@AwetTesfaiesus Ich dachte an Daneel Olivaw und Giskard Reventlov aber sure

@brolf if it's not in the movie, I don't know it!

@AwetTesfaiesus KI wird vor allem Kapitalismus optimieren. Hier und da kann es auch dir und mir nutzen, z.B. in der Medizin um Krankheiten besser und früher zu erkennen. So wie die Rahmenbedinungen jetzt sind, überwiegen jedoch die Nachteile.

Und es gibt für die Strafverfolgung ein paar offene Türen, die sich waffenfähig machen lassen. Ob oder ob nicht ist leider eine politische Entscheidung der Innenbehörden.

Dabei wäre es m.E. andersherum richtig. Finanziell haften, statt strafrechtlich verantworten.

@carlamelee @jwildeboer @larsmb

@torsten Den ersten Teil Deiner Aussage sehe ich jedenfalls aktuell ähnlich.

@falk Meinst Du das wirklich so, oder ist das ein Mäßigungsreflex? Advocata Diaboli: Alkoholkonsum lehren wir ja in der Schule auch nicht aktiv.

@torsten @AwetTesfaiesus Wir müssen KI hier aber trennen zwischen dem LLM Quatsch im Copilot und Groks Bildgenerator auf der einen Seite und etwa KI bei der Proteinfaltung auf der anderen Seite.

Ansätze wie die von Alphafold sind da sehr erfolgversprechend.

https://www.zeit.de/digital/2024-05/alphafold-google-kuenstliche-intelligenz-molekuele-dna

@AwetTesfaiesus Ich glaube nicht, dass die Frage so wie sie gestellt ist, zielführend ist. "KI" ist ein viel zu schwammiger Begriff. Unter KI - oder besser: maschinellem Lernen - werden so viele verschiedene Algorithmen und Anwendungsfälle zusammengefasst, dass die Forderung nach "KI"-Freiheit keinen Sinn ergibt.
Einfaches Beispiel aus unserer Archivarbeit: Unsere Nutzer:innen können einen großen Index aller bei uns digital oder digitalisiert vorliegenden Bestände nutzen. Die Erstellung dieses Indexes wäre ohne KI nicht möglich, denn Texterkennung (OCR) ist natürlich eine KI-Anwendung, ebenso die Transkription von Audio- und Video-Dateien. Sollen wir jetzt unsere Nutzer:innen davor warnen, dass sie KI nutzen, wenn sie mit Hilfe dieses Volltextindexes bei uns recherchieren? Das wäre Unsinn. Andererseits müssen wir sie aber tatsächlich darauf hinweisen, dass die Rechercheergebnisse wahrscheinlich unvollständig sind, weil die automatische Texterkennung eine gewisse Fehlerquote hat.
Jetzt kommt natürlich das Argument, dass "diese Art von KI" nicht gemeint sei, sondern nur Deep Learning. Aber auch ein einfacher, ziemlich gut durchschaubarer und in Maßen kontrollierbarer KI-Algorithmus wie lineare Regression kann gesellschaftlich massiven Schaden anrichten. Zum Beispiel wenn er über die Kreditwürdigkeit von Menschen entscheidet. Oder wenn er - wie es die Arbeitsagentur in Österreich wollte - darüber entscheidet, welche:r Arbeitslose eine Qualifizierungsmaßnahme bekommt oder nicht.
Es ist primär nicht das Werkzeug, sondern sein Einsatz, der gesellschaftlich diskutiert werden muss. Eine Debatte über ein pauschales Recht auf "KI"-Freiheit geht dabei an den realen Problemen vorbei.

@kaibojens @torsten Kannst Du darlegen, woran Du diese Unterscheidung konkret fest machst?

Nehmen wir etwas ungefährliches:

Sagen wir, Dein Antrag auf Ausnahmeparkerlaubnis wird von der KI gewürdigt und beschieden.

Oder Deine Zulassung zu einem Erlaubnispflichtigen Beruf.

Oder die Studienplatzvergabe.

Oder die Anerkennung von Bestimmten Kosten als 'außergewöhnliche Belastung' bei der Einkommensteuer.

@AwetTesfaiesus auf jeden Fall, wobei das leider nur sehr eingeschränkt geht.

Ein Recht auf menschliche Überprüfung einer KI Entscheidung ist IMHO das mindeste, ein Recht auf Leben, das nicht strukturell von KI abhängt, wäre wünschenswert.

Ein Recht auf Leben in dem eine Interaktion mit KI nicht erzwungen wird, adressiert IMHO vor allem ein Gefühl, löst aber kein Problem, wenn im Hintergrund doch wieder alles über KI läuft. Das Siegel kommt stark auf die Umsetzung an.

1/n

@ASBFreiburg Das weiß ich und ich habe bewußt weit gefragt.

Wenn ich die Richtervereinigung richtig höre ist ja schon der Einsatz von Webformularen KI.

Und "das ist nicht gemeint" sage ich explizit nicht. Aber auch bei der OCR finde ich das schon problematisch.

https://media.ccc.de/v/31c3_-_6558_-_de_-_saal_g_-_201412282300_-_traue_keinem_scan_den_du_nicht_selbst_gefalscht_hast_-_david_kriesel

Es geht mir (auch) um die extreme Bedeutung: Gibt es ein Recht auf Existenz in einem Gemeinwesen (Staat), ohne mit KI in Interaktion treten zu müssen oder zum Gegenstand (Objekt) von KI gemacht zu werden?

@AwetTesfaiesus @torsten Ich habe noch keine abschließende Meinung zu alldem, tendiere aber dazu mich Rainer Mühlhoff und seinem Buch „Künstliche Intelligenz und der neue Faschismus“ und dort dem Kapitel „Von der Fallprüfung zur Fallwette“ anzuschließen. (1/3)

@AwetTesfaiesus ein Aspekt von KI, von dem es kein Opt-Out gibt, sind die indirekten Konsequenzen: Hardwarepreise, die durch die Decke gehen, der Ressourcenbedarf und (da sollte IMHO mehr Fokus drauf gelegt werden) die enormen Risiken für die Wirtschaft:

Zum einen die Spekulationsblase, die jederzeit die Weltwirtschaft in eine Krise stürzen kann, die alle Unternehmen betrifft, egal ob sie KI einsetzten oder nicht.

2/n

@AwetTesfaiesus und zum anderen Unternehmen, die gerade massiv Know-How verlieren, weil sie an Stellen auf KI setzen, an denen sie es nicht sollten. Auf die Gründe und ob das kurzfristig sogar aufgeht, möchte ich gar nicht eingehen. Aber die Wirtschaft geht hier gerade enorme Risiken ein.

Das Ziel verantwortungsvoller Wirtschaftspolitik in DE und der EU muss es sein, dafür zu sorgen, dass die Wirtschaft einen KI-Kollaps überleben kann.

3/3

@AwetTesfaiesus Der Grat zwischen "Technikfeindlichkeit" und "Recht auf KI-Freiheit" ist schmal.
Vor allem: KI ≠ LLM.
Maschinelles Handschrift-Lesen (Adressen auf Briefen) oder Vorsortieren von Röntgenbildern u.Ä. ist etabliert, toll und KI. Forschung in jede Richtung sollte auch möglich sein.
Aber z.B. ahnungslos stammelnde Support-Abwimmler auf LLM-Basis sollte man per Gesetz sofort ablehnen können, das ganze DeepFake-Video-Zeug braucht dringend Regulierung. Und der Ressourcenverbrauch!

@weddige @AwetTesfaiesus Menschliche Überprüfung? Die „Technik“ fand am 6.1., dass mein Facebook-Profil Fake ist. Menschliche Überprüfung? Wird versprochen, bislang aber noch nichts zu sehen. Zudem ist meine Erfahrung mit solchen Menschen, die für derartige Konzerne Überprüfungen machen, keineswegs gut: das sind schlecht bezahlte Click-Worker, die im Akkord arbeiten. Zudem ist das die letzte Instanz. Gut, mein Facebook-Account ist nicht so wichtig. Aber ich warne davor, Menschen ganz generell für klug zu halten. Es gibt genügend Leute, die das nicht sind, oder deren Anreize gar nicht vorsehen, dass sie intelligente Entscheidungen treffen.

@AwetTesfaiesus Vielleicht denke ich zu informationstechnisch und zu wenig juristisch: Maschinelles Lernen ist für mich zunächst einmal ein Programmierparadigma: Um ein bestimmtes Problem zu lösen, wähle ich dann die Option KI (also ein Training mit Lerndaten), wenn diese einer klassisch-prozeduralen Programmierung überlegen ist. Noch mal das Beispiel OCR: Frühe Texterkennungssystem hatten versucht, mit Hilfe von prozeduralem Code zu beschreiben, wie ein "X" oder ein "U" aussieht. Die Fehlerquote war dabei aber viel höher als bei den Ansätzen, die mit Trainingsdaten gearbeitet haben und den Computer "selbst" herausfinden ließen, was ein "X" und was ein "U" ist. Bei anderen Problemstellungen ist es genau umgekehrt: Lernalgorithmen liefern deutlich schlechtere Ergebnisse als klassisch prozedurale. KI oder nicht KI ist informationstechnisch keine Grundsatzfrage, sondern eine pragmatische Entscheidung.
Worauf ich hinauswill: Wenn wir das als Grundrechtsfrage diskutieren wollen, dann wäre letztlich die Forderung konsequent, das Recht auf ein Leben ohne elektronische Datenverarbeitung zu fordern. Tatsächlich gab es diese Diskussion in den 80er Jahren anlässlich der Debatten um die Volkszählung bzw. deren Boykott (wir haben da einen sehr interessanten Bestand bei uns im Archiv). Aber dieser Zug ist meines Erachtens abgefahren.
Das heißt nicht, dass es sich nicht lohnen würde, sich noch mal die Debatten aus den 80er Jahren anzuschauen. Ich habe das neulich anlässlich eines Rechercheauftrags gemacht und war positiv überrascht, wie viel Substanz die damaligen Kritiken zum Teil hatten - damals hatte ich das als junger Informatikstudent als bloße Maschinenstürmerei abgetan.

@AwetTesfaiesus Ich meine das wirklich so, weil wir gerade in diesem Bereich ein massives (!) Bildungsproblem haben und das durch ignorieren des Themas nicht besser wird.

@forthy42 staatlicher Kontext?

@falk Quasi wie Schwimmunterricht?