All watched over by #MachinesOfLovingGrace?
-
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
Es sollte einen Anspruch auf klar dokumentierte, nachvollziehbare Prozesse und Entscheidungsfindung, rein durch Menschen geben.
Sowie eine Verpflichtung jegliche Nutzung von KI offenzulegen (Bilder, Textbestandteile etc) -
@AwetTesfaiesus Seit es Managerversicherungen gibt ist die Kontrollfunktion und die Verantwortung z.B. von Aufsichtsräten praktisch irrelevant geworden. @larsmb
@jwildeboer @AwetTesfaiesus @larsmb ganz so einfach ist es dann doch nicht. Kommt drauf an, ob es Bußgelder sind, nach meinem Kenntnisstand läuft noch ein Prozess beim EUGH dazu, speziell bei Verstößen gegen die DSGVO ist nicht sicher, ob man sich im Management da quasi "freikaufen" kann über Versicherungen. Kommt ja auch darauf an, ob es Management in einem KRITIS Bereich ist usw...
-
All watched over by #MachinesOfLovingGrace? Mich würde Eure Meinung sehr interessieren:
Der Schutz von “anderen“ Lebensentwürfen war mE immer grüner Kernbestand. Es war immer grün, bestimmte intrusive Technologien für Menschen mindestens optional zu halten; z.B. Leben ohne Atomenergie, Atomwaffenfreie Zonen, Leben ohne GMO/Gentechnik, ohne Auto.
Es war mE Teil des Grünen Grund-Konsens, zumindest für Optionalität zu sein. Die Grünen in
haben sich sogar so genannt (anders gaan leven).
1/3@AwetTesfaiesus Imho muss eine Gesetzgebung in die Richtung gehen, die @digitalcourage mit ihrer Petition gegen Digitalzwang einschlagen.
https://digitalcourage.de/digitalzwang
#Digitalzwang #KI -
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
@AwetTesfaiesus Bitte, bitte Ja, ja, ja und ja!!!
-
@AwetTesfaiesus Ich dachte an Daneel Olivaw und Giskard Reventlov aber sure
-
@AwetTesfaiesus Ich dachte an Daneel Olivaw und Giskard Reventlov aber sure
@brolf if it's not in the movie, I don't know it!
-
@WolGus nochmal advocata diaboli: Kernfusion steuern, Ernten, Wasserverbrauch, Verkehrsströme optimieren. Deine Steuererklärung optimieren. Deinen verstorbenen Partner simulieren.
An Verheißungen ist ja wahrlich kein Mangel.
@AwetTesfaiesus KI wird vor allem Kapitalismus optimieren. Hier und da kann es auch dir und mir nutzen, z.B. in der Medizin um Krankheiten besser und früher zu erkennen. So wie die Rahmenbedinungen jetzt sind, überwiegen jedoch die Nachteile. -
@jwildeboer @AwetTesfaiesus @larsmb ganz so einfach ist es dann doch nicht. Kommt drauf an, ob es Bußgelder sind, nach meinem Kenntnisstand läuft noch ein Prozess beim EUGH dazu, speziell bei Verstößen gegen die DSGVO ist nicht sicher, ob man sich im Management da quasi "freikaufen" kann über Versicherungen. Kommt ja auch darauf an, ob es Management in einem KRITIS Bereich ist usw...
Und es gibt für die Strafverfolgung ein paar offene Türen, die sich waffenfähig machen lassen. Ob oder ob nicht ist leider eine politische Entscheidung der Innenbehörden.
Dabei wäre es m.E. andersherum richtig. Finanziell haften, statt strafrechtlich verantworten.
-
@AwetTesfaiesus KI wird vor allem Kapitalismus optimieren. Hier und da kann es auch dir und mir nutzen, z.B. in der Medizin um Krankheiten besser und früher zu erkennen. So wie die Rahmenbedinungen jetzt sind, überwiegen jedoch die Nachteile.
@torsten Den ersten Teil Deiner Aussage sehe ich jedenfalls aktuell ähnlich.
-
@AwetTesfaiesus Guter Gedanke, würde ich aber differenzierter betrachten. KI kann Vieles verbessern helfen, darf aber nicht das Ruder übernehmen. Bereits jetzt wissen manche Behörden-MA nicht, warum “der Computer" best. Entscheidungen trifft. Auch Pauschal KI-freie Schulen halte ich daher für einen Fehler. Wie sollen wir KI einigermaßen beherrschen, wenn wir die Kids nicht lehren, damit umzugehen?
@falk Meinst Du das wirklich so, oder ist das ein Mäßigungsreflex? Advocata Diaboli: Alkoholkonsum lehren wir ja in der Schule auch nicht aktiv.
-
@AwetTesfaiesus KI wird vor allem Kapitalismus optimieren. Hier und da kann es auch dir und mir nutzen, z.B. in der Medizin um Krankheiten besser und früher zu erkennen. So wie die Rahmenbedinungen jetzt sind, überwiegen jedoch die Nachteile.
@torsten @AwetTesfaiesus Wir müssen KI hier aber trennen zwischen dem LLM Quatsch im Copilot und Groks Bildgenerator auf der einen Seite und etwa KI bei der Proteinfaltung auf der anderen Seite.
Ansätze wie die von Alphafold sind da sehr erfolgversprechend.
https://www.zeit.de/digital/2024-05/alphafold-google-kuenstliche-intelligenz-molekuele-dna
-
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
@AwetTesfaiesus Ich glaube nicht, dass die Frage so wie sie gestellt ist, zielführend ist. "KI" ist ein viel zu schwammiger Begriff. Unter KI - oder besser: maschinellem Lernen - werden so viele verschiedene Algorithmen und Anwendungsfälle zusammengefasst, dass die Forderung nach "KI"-Freiheit keinen Sinn ergibt.
Einfaches Beispiel aus unserer Archivarbeit: Unsere Nutzer:innen können einen großen Index aller bei uns digital oder digitalisiert vorliegenden Bestände nutzen. Die Erstellung dieses Indexes wäre ohne KI nicht möglich, denn Texterkennung (OCR) ist natürlich eine KI-Anwendung, ebenso die Transkription von Audio- und Video-Dateien. Sollen wir jetzt unsere Nutzer:innen davor warnen, dass sie KI nutzen, wenn sie mit Hilfe dieses Volltextindexes bei uns recherchieren? Das wäre Unsinn. Andererseits müssen wir sie aber tatsächlich darauf hinweisen, dass die Rechercheergebnisse wahrscheinlich unvollständig sind, weil die automatische Texterkennung eine gewisse Fehlerquote hat.
Jetzt kommt natürlich das Argument, dass "diese Art von KI" nicht gemeint sei, sondern nur Deep Learning. Aber auch ein einfacher, ziemlich gut durchschaubarer und in Maßen kontrollierbarer KI-Algorithmus wie lineare Regression kann gesellschaftlich massiven Schaden anrichten. Zum Beispiel wenn er über die Kreditwürdigkeit von Menschen entscheidet. Oder wenn er - wie es die Arbeitsagentur in Österreich wollte - darüber entscheidet, welche:r Arbeitslose eine Qualifizierungsmaßnahme bekommt oder nicht.
Es ist primär nicht das Werkzeug, sondern sein Einsatz, der gesellschaftlich diskutiert werden muss. Eine Debatte über ein pauschales Recht auf "KI"-Freiheit geht dabei an den realen Problemen vorbei. -
@torsten @AwetTesfaiesus Wir müssen KI hier aber trennen zwischen dem LLM Quatsch im Copilot und Groks Bildgenerator auf der einen Seite und etwa KI bei der Proteinfaltung auf der anderen Seite.
Ansätze wie die von Alphafold sind da sehr erfolgversprechend.
https://www.zeit.de/digital/2024-05/alphafold-google-kuenstliche-intelligenz-molekuele-dna
@kaibojens @torsten Kannst Du darlegen, woran Du diese Unterscheidung konkret fest machst?
Nehmen wir etwas ungefährliches:
Sagen wir, Dein Antrag auf Ausnahmeparkerlaubnis wird von der KI gewürdigt und beschieden.
Oder Deine Zulassung zu einem Erlaubnispflichtigen Beruf.
Oder die Studienplatzvergabe.
Oder die Anerkennung von Bestimmten Kosten als 'außergewöhnliche Belastung' bei der Einkommensteuer.
-
Ich wüsste gern von Euch:
️ Brauchen wir dasselbe für KI?Ich denke nämlich, es ist absehbar, dass KI sehr schnell in alle Lebensbereiche diffundieren wird.
Es sind sicher mehrere Modelle denkbar. Z.B. drängt sich m.E. auf:
1. Ein Recht auf Leben, das nicht strukturell von KI abhängt
2. Ein Recht auf Leben in dem eine Interaktion mit KI (Staat/Privat) nicht erzwungen wird
3. Ein Recht auf menschliche Überprüfung einer KI Entscheidung.
4. Sigel für KI-freie Produkte/Dienstleistungen?
2/3@AwetTesfaiesus auf jeden Fall, wobei das leider nur sehr eingeschränkt geht.
Ein Recht auf menschliche Überprüfung einer KI Entscheidung ist IMHO das mindeste, ein Recht auf Leben, das nicht strukturell von KI abhängt, wäre wünschenswert.
Ein Recht auf Leben in dem eine Interaktion mit KI nicht erzwungen wird, adressiert IMHO vor allem ein Gefühl, löst aber kein Problem, wenn im Hintergrund doch wieder alles über KI läuft. Das Siegel kommt stark auf die Umsetzung an.
1/n
-
@AwetTesfaiesus Ich glaube nicht, dass die Frage so wie sie gestellt ist, zielführend ist. "KI" ist ein viel zu schwammiger Begriff. Unter KI - oder besser: maschinellem Lernen - werden so viele verschiedene Algorithmen und Anwendungsfälle zusammengefasst, dass die Forderung nach "KI"-Freiheit keinen Sinn ergibt.
Einfaches Beispiel aus unserer Archivarbeit: Unsere Nutzer:innen können einen großen Index aller bei uns digital oder digitalisiert vorliegenden Bestände nutzen. Die Erstellung dieses Indexes wäre ohne KI nicht möglich, denn Texterkennung (OCR) ist natürlich eine KI-Anwendung, ebenso die Transkription von Audio- und Video-Dateien. Sollen wir jetzt unsere Nutzer:innen davor warnen, dass sie KI nutzen, wenn sie mit Hilfe dieses Volltextindexes bei uns recherchieren? Das wäre Unsinn. Andererseits müssen wir sie aber tatsächlich darauf hinweisen, dass die Rechercheergebnisse wahrscheinlich unvollständig sind, weil die automatische Texterkennung eine gewisse Fehlerquote hat.
Jetzt kommt natürlich das Argument, dass "diese Art von KI" nicht gemeint sei, sondern nur Deep Learning. Aber auch ein einfacher, ziemlich gut durchschaubarer und in Maßen kontrollierbarer KI-Algorithmus wie lineare Regression kann gesellschaftlich massiven Schaden anrichten. Zum Beispiel wenn er über die Kreditwürdigkeit von Menschen entscheidet. Oder wenn er - wie es die Arbeitsagentur in Österreich wollte - darüber entscheidet, welche:r Arbeitslose eine Qualifizierungsmaßnahme bekommt oder nicht.
Es ist primär nicht das Werkzeug, sondern sein Einsatz, der gesellschaftlich diskutiert werden muss. Eine Debatte über ein pauschales Recht auf "KI"-Freiheit geht dabei an den realen Problemen vorbei.@ASBFreiburg Das weiß ich und ich habe bewußt weit gefragt.
Wenn ich die Richtervereinigung richtig höre ist ja schon der Einsatz von Webformularen KI.
Und "das ist nicht gemeint" sage ich explizit nicht. Aber auch bei der OCR finde ich das schon problematisch.
Es geht mir (auch) um die extreme Bedeutung: Gibt es ein Recht auf Existenz in einem Gemeinwesen (Staat), ohne mit KI in Interaktion treten zu müssen oder zum Gegenstand (Objekt) von KI gemacht zu werden?
-
@kaibojens @torsten Kannst Du darlegen, woran Du diese Unterscheidung konkret fest machst?
Nehmen wir etwas ungefährliches:
Sagen wir, Dein Antrag auf Ausnahmeparkerlaubnis wird von der KI gewürdigt und beschieden.
Oder Deine Zulassung zu einem Erlaubnispflichtigen Beruf.
Oder die Studienplatzvergabe.
Oder die Anerkennung von Bestimmten Kosten als 'außergewöhnliche Belastung' bei der Einkommensteuer.
@AwetTesfaiesus @torsten Ich habe noch keine abschließende Meinung zu alldem, tendiere aber dazu mich Rainer Mühlhoff und seinem Buch „Künstliche Intelligenz und der neue Faschismus“ und dort dem Kapitel „Von der Fallprüfung zur Fallwette“ anzuschließen. (1/3)
-
@AwetTesfaiesus auf jeden Fall, wobei das leider nur sehr eingeschränkt geht.
Ein Recht auf menschliche Überprüfung einer KI Entscheidung ist IMHO das mindeste, ein Recht auf Leben, das nicht strukturell von KI abhängt, wäre wünschenswert.
Ein Recht auf Leben in dem eine Interaktion mit KI nicht erzwungen wird, adressiert IMHO vor allem ein Gefühl, löst aber kein Problem, wenn im Hintergrund doch wieder alles über KI läuft. Das Siegel kommt stark auf die Umsetzung an.
1/n
@AwetTesfaiesus ein Aspekt von KI, von dem es kein Opt-Out gibt, sind die indirekten Konsequenzen: Hardwarepreise, die durch die Decke gehen, der Ressourcenbedarf und (da sollte IMHO mehr Fokus drauf gelegt werden) die enormen Risiken für die Wirtschaft:
Zum einen die Spekulationsblase, die jederzeit die Weltwirtschaft in eine Krise stürzen kann, die alle Unternehmen betrifft, egal ob sie KI einsetzten oder nicht.
2/n
-
@AwetTesfaiesus ein Aspekt von KI, von dem es kein Opt-Out gibt, sind die indirekten Konsequenzen: Hardwarepreise, die durch die Decke gehen, der Ressourcenbedarf und (da sollte IMHO mehr Fokus drauf gelegt werden) die enormen Risiken für die Wirtschaft:
Zum einen die Spekulationsblase, die jederzeit die Weltwirtschaft in eine Krise stürzen kann, die alle Unternehmen betrifft, egal ob sie KI einsetzten oder nicht.
2/n
@AwetTesfaiesus und zum anderen Unternehmen, die gerade massiv Know-How verlieren, weil sie an Stellen auf KI setzen, an denen sie es nicht sollten. Auf die Gründe und ob das kurzfristig sogar aufgeht, möchte ich gar nicht eingehen. Aber die Wirtschaft geht hier gerade enorme Risiken ein.
Das Ziel verantwortungsvoller Wirtschaftspolitik in DE und der EU muss es sein, dafür zu sorgen, dass die Wirtschaft einen KI-Kollaps überleben kann.
3/3
-
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
@AwetTesfaiesus Der Grat zwischen "Technikfeindlichkeit" und "Recht auf KI-Freiheit" ist schmal.
Vor allem: KI ≠ LLM.
Maschinelles Handschrift-Lesen (Adressen auf Briefen) oder Vorsortieren von Röntgenbildern u.Ä. ist etabliert, toll und KI. Forschung in jede Richtung sollte auch möglich sein.
Aber z.B. ahnungslos stammelnde Support-Abwimmler auf LLM-Basis sollte man per Gesetz sofort ablehnen können, das ganze DeepFake-Video-Zeug braucht dringend Regulierung. Und der Ressourcenverbrauch! -
@AwetTesfaiesus auf jeden Fall, wobei das leider nur sehr eingeschränkt geht.
Ein Recht auf menschliche Überprüfung einer KI Entscheidung ist IMHO das mindeste, ein Recht auf Leben, das nicht strukturell von KI abhängt, wäre wünschenswert.
Ein Recht auf Leben in dem eine Interaktion mit KI nicht erzwungen wird, adressiert IMHO vor allem ein Gefühl, löst aber kein Problem, wenn im Hintergrund doch wieder alles über KI läuft. Das Siegel kommt stark auf die Umsetzung an.
1/n
@weddige @AwetTesfaiesus Menschliche Überprüfung? Die „Technik“ fand am 6.1., dass mein Facebook-Profil Fake ist. Menschliche Überprüfung? Wird versprochen, bislang aber noch nichts zu sehen. Zudem ist meine Erfahrung mit solchen Menschen, die für derartige Konzerne Überprüfungen machen, keineswegs gut: das sind schlecht bezahlte Click-Worker, die im Akkord arbeiten. Zudem ist das die letzte Instanz. Gut, mein Facebook-Account ist nicht so wichtig. Aber ich warne davor, Menschen ganz generell für klug zu halten. Es gibt genügend Leute, die das nicht sind, oder deren Anreize gar nicht vorsehen, dass sie intelligente Entscheidungen treffen.
