All watched over by #MachinesOfLovingGrace?
-
@AwetTesfaiesus Als Beispiel: wenn man viele Seiten Papierakten hat, deren Daten man statistisch erfassen möchte: warum nicht ein LLM-Modell zur Schrifterkennung drauf werfen? Der Einsetzende muss dann für das Ergebnis haften.
Wenn es aber z.B. um eine konkrete staatliche Entscheidung geht (Asyl, Gesundheitskosten, Gerichtsurteile, …), sollte die nicht hauptsächlich von KI abhängig sein.
Ich glaube ich meine eigentlich: es kommt auf den Einsatz(ort) der KI an.
@lysis es gibt momentan Bestrebungen, in der Justiz KI einzusetzen, um den Akteninhalt zu streamlinen (vulgo: zusammenzufassen). Das halte ich wegen der Garantie auf rechtliches Gehöre für extrem schwierig!
-
@necrosis nur zur Klarstellung: Zustimmung zu welcher Seite der oder-Frage
@AwetTesfaiesus Anspruch auf KI-freiheit. Kein KI-Zwang.
-
@AwetTesfaiesus nenn mich altmodisch aber ich würde erst dann von KI sprechen wenn das System sich wie in der Sciencefiction Literatur Asimovs verhält.
@brolf
So? -
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
@AwetTesfaiesus Guter Gedanke, würde ich aber differenzierter betrachten. KI kann Vieles verbessern helfen, darf aber nicht das Ruder übernehmen. Bereits jetzt wissen manche Behörden-MA nicht, warum “der Computer" best. Entscheidungen trifft. Auch Pauschal KI-freie Schulen halte ich daher für einen Fehler. Wie sollen wir KI einigermaßen beherrschen, wenn wir die Kids nicht lehren, damit umzugehen?
-
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
Es sollte einen Anspruch auf klar dokumentierte, nachvollziehbare Prozesse und Entscheidungsfindung, rein durch Menschen geben.
Sowie eine Verpflichtung jegliche Nutzung von KI offenzulegen (Bilder, Textbestandteile etc) -
@AwetTesfaiesus Seit es Managerversicherungen gibt ist die Kontrollfunktion und die Verantwortung z.B. von Aufsichtsräten praktisch irrelevant geworden. @larsmb
@jwildeboer @AwetTesfaiesus @larsmb ganz so einfach ist es dann doch nicht. Kommt drauf an, ob es Bußgelder sind, nach meinem Kenntnisstand läuft noch ein Prozess beim EUGH dazu, speziell bei Verstößen gegen die DSGVO ist nicht sicher, ob man sich im Management da quasi "freikaufen" kann über Versicherungen. Kommt ja auch darauf an, ob es Management in einem KRITIS Bereich ist usw...
-
All watched over by #MachinesOfLovingGrace? Mich würde Eure Meinung sehr interessieren:
Der Schutz von “anderen“ Lebensentwürfen war mE immer grüner Kernbestand. Es war immer grün, bestimmte intrusive Technologien für Menschen mindestens optional zu halten; z.B. Leben ohne Atomenergie, Atomwaffenfreie Zonen, Leben ohne GMO/Gentechnik, ohne Auto.
Es war mE Teil des Grünen Grund-Konsens, zumindest für Optionalität zu sein. Die Grünen in
haben sich sogar so genannt (anders gaan leven).
1/3@AwetTesfaiesus Imho muss eine Gesetzgebung in die Richtung gehen, die @digitalcourage mit ihrer Petition gegen Digitalzwang einschlagen.
https://digitalcourage.de/digitalzwang
#Digitalzwang #KI -
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
@AwetTesfaiesus Bitte, bitte Ja, ja, ja und ja!!!
-
@AwetTesfaiesus Ich dachte an Daneel Olivaw und Giskard Reventlov aber sure
-
@AwetTesfaiesus Ich dachte an Daneel Olivaw und Giskard Reventlov aber sure
@brolf if it's not in the movie, I don't know it!
-
@WolGus nochmal advocata diaboli: Kernfusion steuern, Ernten, Wasserverbrauch, Verkehrsströme optimieren. Deine Steuererklärung optimieren. Deinen verstorbenen Partner simulieren.
An Verheißungen ist ja wahrlich kein Mangel.
@AwetTesfaiesus KI wird vor allem Kapitalismus optimieren. Hier und da kann es auch dir und mir nutzen, z.B. in der Medizin um Krankheiten besser und früher zu erkennen. So wie die Rahmenbedinungen jetzt sind, überwiegen jedoch die Nachteile. -
@jwildeboer @AwetTesfaiesus @larsmb ganz so einfach ist es dann doch nicht. Kommt drauf an, ob es Bußgelder sind, nach meinem Kenntnisstand läuft noch ein Prozess beim EUGH dazu, speziell bei Verstößen gegen die DSGVO ist nicht sicher, ob man sich im Management da quasi "freikaufen" kann über Versicherungen. Kommt ja auch darauf an, ob es Management in einem KRITIS Bereich ist usw...
Und es gibt für die Strafverfolgung ein paar offene Türen, die sich waffenfähig machen lassen. Ob oder ob nicht ist leider eine politische Entscheidung der Innenbehörden.
Dabei wäre es m.E. andersherum richtig. Finanziell haften, statt strafrechtlich verantworten.
-
@AwetTesfaiesus KI wird vor allem Kapitalismus optimieren. Hier und da kann es auch dir und mir nutzen, z.B. in der Medizin um Krankheiten besser und früher zu erkennen. So wie die Rahmenbedinungen jetzt sind, überwiegen jedoch die Nachteile.
@torsten Den ersten Teil Deiner Aussage sehe ich jedenfalls aktuell ähnlich.
-
@AwetTesfaiesus Guter Gedanke, würde ich aber differenzierter betrachten. KI kann Vieles verbessern helfen, darf aber nicht das Ruder übernehmen. Bereits jetzt wissen manche Behörden-MA nicht, warum “der Computer" best. Entscheidungen trifft. Auch Pauschal KI-freie Schulen halte ich daher für einen Fehler. Wie sollen wir KI einigermaßen beherrschen, wenn wir die Kids nicht lehren, damit umzugehen?
@falk Meinst Du das wirklich so, oder ist das ein Mäßigungsreflex? Advocata Diaboli: Alkoholkonsum lehren wir ja in der Schule auch nicht aktiv.
-
@AwetTesfaiesus KI wird vor allem Kapitalismus optimieren. Hier und da kann es auch dir und mir nutzen, z.B. in der Medizin um Krankheiten besser und früher zu erkennen. So wie die Rahmenbedinungen jetzt sind, überwiegen jedoch die Nachteile.
@torsten @AwetTesfaiesus Wir müssen KI hier aber trennen zwischen dem LLM Quatsch im Copilot und Groks Bildgenerator auf der einen Seite und etwa KI bei der Proteinfaltung auf der anderen Seite.
Ansätze wie die von Alphafold sind da sehr erfolgversprechend.
https://www.zeit.de/digital/2024-05/alphafold-google-kuenstliche-intelligenz-molekuele-dna
-
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
@AwetTesfaiesus Ich glaube nicht, dass die Frage so wie sie gestellt ist, zielführend ist. "KI" ist ein viel zu schwammiger Begriff. Unter KI - oder besser: maschinellem Lernen - werden so viele verschiedene Algorithmen und Anwendungsfälle zusammengefasst, dass die Forderung nach "KI"-Freiheit keinen Sinn ergibt.
Einfaches Beispiel aus unserer Archivarbeit: Unsere Nutzer:innen können einen großen Index aller bei uns digital oder digitalisiert vorliegenden Bestände nutzen. Die Erstellung dieses Indexes wäre ohne KI nicht möglich, denn Texterkennung (OCR) ist natürlich eine KI-Anwendung, ebenso die Transkription von Audio- und Video-Dateien. Sollen wir jetzt unsere Nutzer:innen davor warnen, dass sie KI nutzen, wenn sie mit Hilfe dieses Volltextindexes bei uns recherchieren? Das wäre Unsinn. Andererseits müssen wir sie aber tatsächlich darauf hinweisen, dass die Rechercheergebnisse wahrscheinlich unvollständig sind, weil die automatische Texterkennung eine gewisse Fehlerquote hat.
Jetzt kommt natürlich das Argument, dass "diese Art von KI" nicht gemeint sei, sondern nur Deep Learning. Aber auch ein einfacher, ziemlich gut durchschaubarer und in Maßen kontrollierbarer KI-Algorithmus wie lineare Regression kann gesellschaftlich massiven Schaden anrichten. Zum Beispiel wenn er über die Kreditwürdigkeit von Menschen entscheidet. Oder wenn er - wie es die Arbeitsagentur in Österreich wollte - darüber entscheidet, welche:r Arbeitslose eine Qualifizierungsmaßnahme bekommt oder nicht.
Es ist primär nicht das Werkzeug, sondern sein Einsatz, der gesellschaftlich diskutiert werden muss. Eine Debatte über ein pauschales Recht auf "KI"-Freiheit geht dabei an den realen Problemen vorbei. -
@torsten @AwetTesfaiesus Wir müssen KI hier aber trennen zwischen dem LLM Quatsch im Copilot und Groks Bildgenerator auf der einen Seite und etwa KI bei der Proteinfaltung auf der anderen Seite.
Ansätze wie die von Alphafold sind da sehr erfolgversprechend.
https://www.zeit.de/digital/2024-05/alphafold-google-kuenstliche-intelligenz-molekuele-dna
@kaibojens @torsten Kannst Du darlegen, woran Du diese Unterscheidung konkret fest machst?
Nehmen wir etwas ungefährliches:
Sagen wir, Dein Antrag auf Ausnahmeparkerlaubnis wird von der KI gewürdigt und beschieden.
Oder Deine Zulassung zu einem Erlaubnispflichtigen Beruf.
Oder die Studienplatzvergabe.
Oder die Anerkennung von Bestimmten Kosten als 'außergewöhnliche Belastung' bei der Einkommensteuer.
-
Ich wüsste gern von Euch:
️ Brauchen wir dasselbe für KI?Ich denke nämlich, es ist absehbar, dass KI sehr schnell in alle Lebensbereiche diffundieren wird.
Es sind sicher mehrere Modelle denkbar. Z.B. drängt sich m.E. auf:
1. Ein Recht auf Leben, das nicht strukturell von KI abhängt
2. Ein Recht auf Leben in dem eine Interaktion mit KI (Staat/Privat) nicht erzwungen wird
3. Ein Recht auf menschliche Überprüfung einer KI Entscheidung.
4. Sigel für KI-freie Produkte/Dienstleistungen?
2/3@AwetTesfaiesus auf jeden Fall, wobei das leider nur sehr eingeschränkt geht.
Ein Recht auf menschliche Überprüfung einer KI Entscheidung ist IMHO das mindeste, ein Recht auf Leben, das nicht strukturell von KI abhängt, wäre wünschenswert.
Ein Recht auf Leben in dem eine Interaktion mit KI nicht erzwungen wird, adressiert IMHO vor allem ein Gefühl, löst aber kein Problem, wenn im Hintergrund doch wieder alles über KI läuft. Das Siegel kommt stark auf die Umsetzung an.
1/n
-
@AwetTesfaiesus Ich glaube nicht, dass die Frage so wie sie gestellt ist, zielführend ist. "KI" ist ein viel zu schwammiger Begriff. Unter KI - oder besser: maschinellem Lernen - werden so viele verschiedene Algorithmen und Anwendungsfälle zusammengefasst, dass die Forderung nach "KI"-Freiheit keinen Sinn ergibt.
Einfaches Beispiel aus unserer Archivarbeit: Unsere Nutzer:innen können einen großen Index aller bei uns digital oder digitalisiert vorliegenden Bestände nutzen. Die Erstellung dieses Indexes wäre ohne KI nicht möglich, denn Texterkennung (OCR) ist natürlich eine KI-Anwendung, ebenso die Transkription von Audio- und Video-Dateien. Sollen wir jetzt unsere Nutzer:innen davor warnen, dass sie KI nutzen, wenn sie mit Hilfe dieses Volltextindexes bei uns recherchieren? Das wäre Unsinn. Andererseits müssen wir sie aber tatsächlich darauf hinweisen, dass die Rechercheergebnisse wahrscheinlich unvollständig sind, weil die automatische Texterkennung eine gewisse Fehlerquote hat.
Jetzt kommt natürlich das Argument, dass "diese Art von KI" nicht gemeint sei, sondern nur Deep Learning. Aber auch ein einfacher, ziemlich gut durchschaubarer und in Maßen kontrollierbarer KI-Algorithmus wie lineare Regression kann gesellschaftlich massiven Schaden anrichten. Zum Beispiel wenn er über die Kreditwürdigkeit von Menschen entscheidet. Oder wenn er - wie es die Arbeitsagentur in Österreich wollte - darüber entscheidet, welche:r Arbeitslose eine Qualifizierungsmaßnahme bekommt oder nicht.
Es ist primär nicht das Werkzeug, sondern sein Einsatz, der gesellschaftlich diskutiert werden muss. Eine Debatte über ein pauschales Recht auf "KI"-Freiheit geht dabei an den realen Problemen vorbei.@ASBFreiburg Das weiß ich und ich habe bewußt weit gefragt.
Wenn ich die Richtervereinigung richtig höre ist ja schon der Einsatz von Webformularen KI.
Und "das ist nicht gemeint" sage ich explizit nicht. Aber auch bei der OCR finde ich das schon problematisch.
Es geht mir (auch) um die extreme Bedeutung: Gibt es ein Recht auf Existenz in einem Gemeinwesen (Staat), ohne mit KI in Interaktion treten zu müssen oder zum Gegenstand (Objekt) von KI gemacht zu werden?
-
@kaibojens @torsten Kannst Du darlegen, woran Du diese Unterscheidung konkret fest machst?
Nehmen wir etwas ungefährliches:
Sagen wir, Dein Antrag auf Ausnahmeparkerlaubnis wird von der KI gewürdigt und beschieden.
Oder Deine Zulassung zu einem Erlaubnispflichtigen Beruf.
Oder die Studienplatzvergabe.
Oder die Anerkennung von Bestimmten Kosten als 'außergewöhnliche Belastung' bei der Einkommensteuer.
@AwetTesfaiesus @torsten Ich habe noch keine abschließende Meinung zu alldem, tendiere aber dazu mich Rainer Mühlhoff und seinem Buch „Künstliche Intelligenz und der neue Faschismus“ und dort dem Kapitel „Von der Fallprüfung zur Fallwette“ anzuschließen. (1/3)
