All watched over by #MachinesOfLovingGrace?
-
@AwetTesfaiesus Ich glaube nicht, dass die Frage so wie sie gestellt ist, zielführend ist. "KI" ist ein viel zu schwammiger Begriff. Unter KI - oder besser: maschinellem Lernen - werden so viele verschiedene Algorithmen und Anwendungsfälle zusammengefasst, dass die Forderung nach "KI"-Freiheit keinen Sinn ergibt.
Einfaches Beispiel aus unserer Archivarbeit: Unsere Nutzer:innen können einen großen Index aller bei uns digital oder digitalisiert vorliegenden Bestände nutzen. Die Erstellung dieses Indexes wäre ohne KI nicht möglich, denn Texterkennung (OCR) ist natürlich eine KI-Anwendung, ebenso die Transkription von Audio- und Video-Dateien. Sollen wir jetzt unsere Nutzer:innen davor warnen, dass sie KI nutzen, wenn sie mit Hilfe dieses Volltextindexes bei uns recherchieren? Das wäre Unsinn. Andererseits müssen wir sie aber tatsächlich darauf hinweisen, dass die Rechercheergebnisse wahrscheinlich unvollständig sind, weil die automatische Texterkennung eine gewisse Fehlerquote hat.
Jetzt kommt natürlich das Argument, dass "diese Art von KI" nicht gemeint sei, sondern nur Deep Learning. Aber auch ein einfacher, ziemlich gut durchschaubarer und in Maßen kontrollierbarer KI-Algorithmus wie lineare Regression kann gesellschaftlich massiven Schaden anrichten. Zum Beispiel wenn er über die Kreditwürdigkeit von Menschen entscheidet. Oder wenn er - wie es die Arbeitsagentur in Österreich wollte - darüber entscheidet, welche:r Arbeitslose eine Qualifizierungsmaßnahme bekommt oder nicht.
Es ist primär nicht das Werkzeug, sondern sein Einsatz, der gesellschaftlich diskutiert werden muss. Eine Debatte über ein pauschales Recht auf "KI"-Freiheit geht dabei an den realen Problemen vorbei.@ASBFreiburg Das weiß ich und ich habe bewußt weit gefragt.
Wenn ich die Richtervereinigung richtig höre ist ja schon der Einsatz von Webformularen KI.
Und "das ist nicht gemeint" sage ich explizit nicht. Aber auch bei der OCR finde ich das schon problematisch.
Es geht mir (auch) um die extreme Bedeutung: Gibt es ein Recht auf Existenz in einem Gemeinwesen (Staat), ohne mit KI in Interaktion treten zu müssen oder zum Gegenstand (Objekt) von KI gemacht zu werden?
-
@kaibojens @torsten Kannst Du darlegen, woran Du diese Unterscheidung konkret fest machst?
Nehmen wir etwas ungefährliches:
Sagen wir, Dein Antrag auf Ausnahmeparkerlaubnis wird von der KI gewürdigt und beschieden.
Oder Deine Zulassung zu einem Erlaubnispflichtigen Beruf.
Oder die Studienplatzvergabe.
Oder die Anerkennung von Bestimmten Kosten als 'außergewöhnliche Belastung' bei der Einkommensteuer.
@AwetTesfaiesus @torsten Ich habe noch keine abschließende Meinung zu alldem, tendiere aber dazu mich Rainer Mühlhoff und seinem Buch „Künstliche Intelligenz und der neue Faschismus“ und dort dem Kapitel „Von der Fallprüfung zur Fallwette“ anzuschließen. (1/3)
-
@AwetTesfaiesus auf jeden Fall, wobei das leider nur sehr eingeschränkt geht.
Ein Recht auf menschliche Überprüfung einer KI Entscheidung ist IMHO das mindeste, ein Recht auf Leben, das nicht strukturell von KI abhängt, wäre wünschenswert.
Ein Recht auf Leben in dem eine Interaktion mit KI nicht erzwungen wird, adressiert IMHO vor allem ein Gefühl, löst aber kein Problem, wenn im Hintergrund doch wieder alles über KI läuft. Das Siegel kommt stark auf die Umsetzung an.
1/n
@AwetTesfaiesus ein Aspekt von KI, von dem es kein Opt-Out gibt, sind die indirekten Konsequenzen: Hardwarepreise, die durch die Decke gehen, der Ressourcenbedarf und (da sollte IMHO mehr Fokus drauf gelegt werden) die enormen Risiken für die Wirtschaft:
Zum einen die Spekulationsblase, die jederzeit die Weltwirtschaft in eine Krise stürzen kann, die alle Unternehmen betrifft, egal ob sie KI einsetzten oder nicht.
2/n
-
@AwetTesfaiesus ein Aspekt von KI, von dem es kein Opt-Out gibt, sind die indirekten Konsequenzen: Hardwarepreise, die durch die Decke gehen, der Ressourcenbedarf und (da sollte IMHO mehr Fokus drauf gelegt werden) die enormen Risiken für die Wirtschaft:
Zum einen die Spekulationsblase, die jederzeit die Weltwirtschaft in eine Krise stürzen kann, die alle Unternehmen betrifft, egal ob sie KI einsetzten oder nicht.
2/n
@AwetTesfaiesus und zum anderen Unternehmen, die gerade massiv Know-How verlieren, weil sie an Stellen auf KI setzen, an denen sie es nicht sollten. Auf die Gründe und ob das kurzfristig sogar aufgeht, möchte ich gar nicht eingehen. Aber die Wirtschaft geht hier gerade enorme Risiken ein.
Das Ziel verantwortungsvoller Wirtschaftspolitik in DE und der EU muss es sein, dafür zu sorgen, dass die Wirtschaft einen KI-Kollaps überleben kann.
3/3
-
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
@AwetTesfaiesus Der Grat zwischen "Technikfeindlichkeit" und "Recht auf KI-Freiheit" ist schmal.
Vor allem: KI ≠ LLM.
Maschinelles Handschrift-Lesen (Adressen auf Briefen) oder Vorsortieren von Röntgenbildern u.Ä. ist etabliert, toll und KI. Forschung in jede Richtung sollte auch möglich sein.
Aber z.B. ahnungslos stammelnde Support-Abwimmler auf LLM-Basis sollte man per Gesetz sofort ablehnen können, das ganze DeepFake-Video-Zeug braucht dringend Regulierung. Und der Ressourcenverbrauch! -
@AwetTesfaiesus auf jeden Fall, wobei das leider nur sehr eingeschränkt geht.
Ein Recht auf menschliche Überprüfung einer KI Entscheidung ist IMHO das mindeste, ein Recht auf Leben, das nicht strukturell von KI abhängt, wäre wünschenswert.
Ein Recht auf Leben in dem eine Interaktion mit KI nicht erzwungen wird, adressiert IMHO vor allem ein Gefühl, löst aber kein Problem, wenn im Hintergrund doch wieder alles über KI läuft. Das Siegel kommt stark auf die Umsetzung an.
1/n
@weddige @AwetTesfaiesus Menschliche Überprüfung? Die „Technik“ fand am 6.1., dass mein Facebook-Profil Fake ist. Menschliche Überprüfung? Wird versprochen, bislang aber noch nichts zu sehen. Zudem ist meine Erfahrung mit solchen Menschen, die für derartige Konzerne Überprüfungen machen, keineswegs gut: das sind schlecht bezahlte Click-Worker, die im Akkord arbeiten. Zudem ist das die letzte Instanz. Gut, mein Facebook-Account ist nicht so wichtig. Aber ich warne davor, Menschen ganz generell für klug zu halten. Es gibt genügend Leute, die das nicht sind, oder deren Anreize gar nicht vorsehen, dass sie intelligente Entscheidungen treffen.
-
@ASBFreiburg Das weiß ich und ich habe bewußt weit gefragt.
Wenn ich die Richtervereinigung richtig höre ist ja schon der Einsatz von Webformularen KI.
Und "das ist nicht gemeint" sage ich explizit nicht. Aber auch bei der OCR finde ich das schon problematisch.
Es geht mir (auch) um die extreme Bedeutung: Gibt es ein Recht auf Existenz in einem Gemeinwesen (Staat), ohne mit KI in Interaktion treten zu müssen oder zum Gegenstand (Objekt) von KI gemacht zu werden?
@AwetTesfaiesus Vielleicht denke ich zu informationstechnisch und zu wenig juristisch: Maschinelles Lernen ist für mich zunächst einmal ein Programmierparadigma: Um ein bestimmtes Problem zu lösen, wähle ich dann die Option KI (also ein Training mit Lerndaten), wenn diese einer klassisch-prozeduralen Programmierung überlegen ist. Noch mal das Beispiel OCR: Frühe Texterkennungssystem hatten versucht, mit Hilfe von prozeduralem Code zu beschreiben, wie ein "X" oder ein "U" aussieht. Die Fehlerquote war dabei aber viel höher als bei den Ansätzen, die mit Trainingsdaten gearbeitet haben und den Computer "selbst" herausfinden ließen, was ein "X" und was ein "U" ist. Bei anderen Problemstellungen ist es genau umgekehrt: Lernalgorithmen liefern deutlich schlechtere Ergebnisse als klassisch prozedurale. KI oder nicht KI ist informationstechnisch keine Grundsatzfrage, sondern eine pragmatische Entscheidung.
Worauf ich hinauswill: Wenn wir das als Grundrechtsfrage diskutieren wollen, dann wäre letztlich die Forderung konsequent, das Recht auf ein Leben ohne elektronische Datenverarbeitung zu fordern. Tatsächlich gab es diese Diskussion in den 80er Jahren anlässlich der Debatten um die Volkszählung bzw. deren Boykott (wir haben da einen sehr interessanten Bestand bei uns im Archiv). Aber dieser Zug ist meines Erachtens abgefahren.
Das heißt nicht, dass es sich nicht lohnen würde, sich noch mal die Debatten aus den 80er Jahren anzuschauen. Ich habe das neulich anlässlich eines Rechercheauftrags gemacht und war positiv überrascht, wie viel Substanz die damaligen Kritiken zum Teil hatten - damals hatte ich das als junger Informatikstudent als bloße Maschinenstürmerei abgetan. -
@falk Meinst Du das wirklich so, oder ist das ein Mäßigungsreflex? Advocata Diaboli: Alkoholkonsum lehren wir ja in der Schule auch nicht aktiv.
@AwetTesfaiesus Ich meine das wirklich so, weil wir gerade in diesem Bereich ein massives (!) Bildungsproblem haben und das durch ignorieren des Themas nicht besser wird.
-
@weddige @AwetTesfaiesus Menschliche Überprüfung? Die „Technik“ fand am 6.1., dass mein Facebook-Profil Fake ist. Menschliche Überprüfung? Wird versprochen, bislang aber noch nichts zu sehen. Zudem ist meine Erfahrung mit solchen Menschen, die für derartige Konzerne Überprüfungen machen, keineswegs gut: das sind schlecht bezahlte Click-Worker, die im Akkord arbeiten. Zudem ist das die letzte Instanz. Gut, mein Facebook-Account ist nicht so wichtig. Aber ich warne davor, Menschen ganz generell für klug zu halten. Es gibt genügend Leute, die das nicht sind, oder deren Anreize gar nicht vorsehen, dass sie intelligente Entscheidungen treffen.
@forthy42 staatlicher Kontext?
-
@AwetTesfaiesus Ich meine das wirklich so, weil wir gerade in diesem Bereich ein massives (!) Bildungsproblem haben und das durch ignorieren des Themas nicht besser wird.
@falk Quasi wie Schwimmunterricht?
-
@falk Quasi wie Schwimmunterricht?
@AwetTesfaiesus Guter Vergleich. Obwohl: eigentlich nicht. Schwimmunterricht ist thematisch recht klar abgrenzbar. Bie KI geht es vielmehr um den allgemeinen/übergreifenden Kompetenzaufbau bzgl. der KI-Nutzung in allen relevanten Bereichen, sozusagen ein Meta-Skill.
-
@forthy42 staatlicher Kontext?
@AwetTesfaiesus Naja, ich vermute schon stark, dass ich da Kommentare geschrieben habe, die mir eine Einreise in die USA unmöglich machen werden, ist ja aktuell kaum zu vermeiden ;-). Aber in der Sperre war nicht von „mit Kommentar X haben Sie gegen unsere Gemeinschaftsrichtlinien verstoßen“ die Rede, sondern davon, dass mein Profil angeblich nicht „authentisch“ sei.
-
Was hat KI mit Intelligenz zu tun - nichts! Also ist sie lediglich ein Versuch, Nutzer tiefgreifend zu beeinflussen. Und aus diesen Gründen wird sie von Tech Riesen und Autokraten (die immer nur das Beste wollen: den Menschen selbst) gefordert und gefördert.
Und, wir sind Jahrtausende ohne diese Technologien ausgekommen. Hätte homo sapiens sie benötigt, hätte die Natur reagiert.Wenn eines Taages eine KI gestützte Auswertung deiner Röntenbilder hilft einen Tumor rechtzeitig zu erkennen, so das er noch bekämpft werden kann?
-
Wenn eines Taages eine KI gestützte Auswertung deiner Röntenbilder hilft einen Tumor rechtzeitig zu erkennen, so das er noch bekämpft werden kann?
Die Auswertung hilft auch nichts wenn ich auf die Straße trete und überfahren werden. Welche Wahrscheinlichkeit ist jetzt wahrscheinlicher?
-
@kaibojens @torsten Kannst Du darlegen, woran Du diese Unterscheidung konkret fest machst?
Nehmen wir etwas ungefährliches:
Sagen wir, Dein Antrag auf Ausnahmeparkerlaubnis wird von der KI gewürdigt und beschieden.
Oder Deine Zulassung zu einem Erlaubnispflichtigen Beruf.
Oder die Studienplatzvergabe.
Oder die Anerkennung von Bestimmten Kosten als 'außergewöhnliche Belastung' bei der Einkommensteuer.
@AwetTesfaiesus@mastodon.social @kaibojens@gruene.social @torsten@libranet.de
@coastGNU@federation.network
In allen diese Fälle sollte ein Vorher/Nachher Monitoring statt finden. Gerade solch ein Monitoring ist übrigens eine hervorragende Aufgabe für ne KI.
In den Fällen, und nur in denen, in denen es zu einer Verbesserung führt kann KI bleiben. Nach einiger Zeit wird as Monitoring wiederholt.
Im Prinzip ein KI-TÜV.
\*Steuern\*
Was die Steuern angeht, gerade da kann KI ein mächtiges Werkzeug sein Steuerhinterziehung zu verhindern. Ich denke durchaus genügend Geld, ausreichend für für ein bedingungsloses Grundeinkommen. -
Ich wüsste gern von Euch:
️ Brauchen wir dasselbe für KI?Ich denke nämlich, es ist absehbar, dass KI sehr schnell in alle Lebensbereiche diffundieren wird.
Es sind sicher mehrere Modelle denkbar. Z.B. drängt sich m.E. auf:
1. Ein Recht auf Leben, das nicht strukturell von KI abhängt
2. Ein Recht auf Leben in dem eine Interaktion mit KI (Staat/Privat) nicht erzwungen wird
3. Ein Recht auf menschliche Überprüfung einer KI Entscheidung.
4. Sigel für KI-freie Produkte/Dienstleistungen?
2/3@AwetTesfaiesus Ja. Am Besten gleich "Ein Recht auf Leben ohne Digitalisierung (und damit In-Gefahr-bringen) der eigenen Daten"
-
@WolGus nochmal advocata diaboli: Kernfusion steuern, Ernten, Wasserverbrauch, Verkehrsströme optimieren. Deine Steuererklärung optimieren. Deinen verstorbenen Partner simulieren.
An Verheißungen ist ja wahrlich kein Mangel.
Gerade frisch reingekommen und wir stehen ja noch weit, weit vorn am Anfang der Entwicklung...
-
@AwetTesfaiesus Ja. Am Besten gleich "Ein Recht auf Leben ohne Digitalisierung (und damit In-Gefahr-bringen) der eigenen Daten"
@max Ironie?
-
@AwetTesfaiesus Naja, ich vermute schon stark, dass ich da Kommentare geschrieben habe, die mir eine Einreise in die USA unmöglich machen werden, ist ja aktuell kaum zu vermeiden ;-). Aber in der Sperre war nicht von „mit Kommentar X haben Sie gegen unsere Gemeinschaftsrichtlinien verstoßen“ die Rede, sondern davon, dass mein Profil angeblich nicht „authentisch“ sei.
@forthy42 du bist kein Bot?
-
@forthy42 du bist kein Bot?
@AwetTesfaiesus Als Beweis, dass man ein Bot ist, muss man heutzutage einige Bikini-Mädchen posten.
