All watched over by #MachinesOfLovingGrace?
-
@AwetTesfaiesus Ich bin nur so mittel von allgemeinen Regeln begeistert und glaube, dass es primär auf den Einsatzzweck ankommt.
In Niedersachsen haben wir zum KI-Einsatz in der Sicherheitspolitik mit der @digital_gruen_nds den folgenden Beschluss erwirkt, den ich sehr gut finde:https://gruene-niedersachsen.de/ki-und-sicherheit/
Ob meine Steuererklärung von einer KI geprüft wird ist mir ehrlicherweise egal, allerdings ist es mir wichtig, dass ich im Streitfall einen menschlichen Richter anrufen kann.
@AwetTesfaiesus
allgemein kann ich es vielleicht so sagen: Wenn ich eine Dienstleistung in Anspruch nehme (staatlich oder nicht), dann ist es mir erstmal egal wie diese erbracht wird. Am Ende verbleibt die Verantwortung dafür aber bei einem Menschen - wenn die KI einen Fehler macht, dann ist der Anbieter zuständig. -
@AwetTesfaiesus Besteht vielleicht doch noch die Hoffnung, dass die Blase rechtzeitig platzt und das Ganze auf ein Normalmaß zurechtstutzt, bevor ein Gesetzgebungs-Verfahren überhaupt durch wäre?
Der Privatwirtschaft Kontaktwege vorzuschreiben, erscheint mir auch erst mal schwierig. Ein irgendwo auf der Welt ausgelagerter First-Level-Support, der ein wenig hilfreiches Skript abarbeitet, ist im Zweifel nicht so viel besser als ein LLM. Wenn man das macht, sollte es vielleicht nicht (nur) auf „KI“ abzielen, sondern generell auf die barrierearme Erreichbarkeit von Menschen mit Entscheidungskompetenz? Im Zweifel teuer – am Ende auch für die Kund*innen – und killt das Business sehr billiger Call-Center.
@AwetTesfaiesus Vielleicht auch Haftung von Unernehmen für alles, was in ihrem Namen getan und kommuniziert wird, stärken (wieder ohne unbedingt direkt und nur „KI“ ins Visier zu nehmen)? Dann sollten die sich zwei mal überlegen, wie sehr sie auf LLM-Einsatz ohne engmaschiges Monitoring setzen.
---
Im Endeffekt glaube ich, dass das einer der Bereiche ist, in denen „die Gesellschaft“ zeigen muss, dass die Alternativen besser sind (und sie ggf. besser entwickeln, wenn sie das in Wirklichkeit noch nicht sind).
Der Staat kann da ggf. in seinem Bereich ganz ohne Regulierung/Gesetze mit gutem Beispiel voran gehen, indem er z.B. Verwaltungsvorgänge so sehr vereinfacht und so gut dokumentiert, dass es überhaupt keinen LLM-Chatbot *braucht*, um mit ihnen klar zu kommen.
-
B brolf@chaos.social shared this topic
-
@lysis das sehe ich nicht so. Ich vermute auch, du denkst hier nicht (wie ich) an den Staatlichen Einsatz. Deutschland reguliert immer schon die „Mittel“ des Staates. Krasse Bsp: viele PolizeiG verbieten den Einsatz von Sprengmitteln oder Maschinengewehren (nicht -pistolen) gegen Menschen in der polizeilichen Arbeit. Manche Länder verbieten den Einsatz von bestimmten Waffen gegen Personen in Menschenmengen.
Es geht auch um „Tools“
https://www.rv.hessenrecht.hessen.de/bshe/document/jlr-SOGHEV5P55
https://voris.wolterskluwer-online.de/browse/document/7b0e247f-3789-309a-82e5-f72ba043e8d9
@AwetTesfaiesus Ich hatte auch an öffentliche/staatlichen Einsatz gedacht, deshalb habe ich “Organisationen” geschrieben. Aber ich verstehe den Einwand. Vielleicht benötigen wir ein differenziertes Vorgehen. Ich sehe KI weiter auf einer Ebene mit Excel, oder selbst geschriebener Software die auf Datenbanken zugreift, die ich allgemein nicht reguliert sehen möchte. Ich kann mir aber Sonderfälle vorstellen, in denen ich jede Form von KI ausschließen möchte.
-
N necrosis@chaos.social shared this topic
-
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
@AwetTesfaiesus Absolute Zustimmung.
-
@AwetTesfaiesus Ich hatte auch an öffentliche/staatlichen Einsatz gedacht, deshalb habe ich “Organisationen” geschrieben. Aber ich verstehe den Einwand. Vielleicht benötigen wir ein differenziertes Vorgehen. Ich sehe KI weiter auf einer Ebene mit Excel, oder selbst geschriebener Software die auf Datenbanken zugreift, die ich allgemein nicht reguliert sehen möchte. Ich kann mir aber Sonderfälle vorstellen, in denen ich jede Form von KI ausschließen möchte.
@AwetTesfaiesus Als Beispiel: wenn man viele Seiten Papierakten hat, deren Daten man statistisch erfassen möchte: warum nicht ein LLM-Modell zur Schrifterkennung drauf werfen? Der Einsetzende muss dann für das Ergebnis haften.
Wenn es aber z.B. um eine konkrete staatliche Entscheidung geht (Asyl, Gesundheitskosten, Gerichtsurteile, …), sollte die nicht hauptsächlich von KI abhängig sein.
Ich glaube ich meine eigentlich: es kommt auf den Einsatz(ort) der KI an.
-
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
Definitiv. Ich will z.B. wenn ich meinen Hausarzt anrufen mit einem Menschen sprechen und nicht "Hier ist der digitale Assistent der Praxis xyz, bereitgestellt durch Doctolib" hören.
Ich will keine Produkte die mit KI zwangsbeglückt werden und ich am Ende dafür zahlen soll.
Ich will keine Suchergebnisse bei denen die ersten Treffer alle auf KI-Slop zeigen.
-
@AwetTesfaiesus Als Beispiel: wenn man viele Seiten Papierakten hat, deren Daten man statistisch erfassen möchte: warum nicht ein LLM-Modell zur Schrifterkennung drauf werfen? Der Einsetzende muss dann für das Ergebnis haften.
Wenn es aber z.B. um eine konkrete staatliche Entscheidung geht (Asyl, Gesundheitskosten, Gerichtsurteile, …), sollte die nicht hauptsächlich von KI abhängig sein.
Ich glaube ich meine eigentlich: es kommt auf den Einsatz(ort) der KI an.
Link zu: Traue keinem Scan, den du nicht selbst gefälscht hast
"Bei Kopierern kommt das raus, was man reinsteckt." – Wer das denkt, sollte diesen Vortrag besuchen.
Von David Kriesel -
@AwetTesfaiesus Absolute Zustimmung.
@necrosis nur zur Klarstellung: Zustimmung zu welcher Seite der oder-Frage
-
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
Ich würde es aus aus dem Recht auf Selbstbestimmung ableiten. Wird bei der Durchdringung der KI in alle Lebensbereiche meine informationelle Selbstbestimmung gewahrt? Kann ich mich trotz der Durchdringung der KI in alle Lebensbereiche noch so frei entfalten, das die einzige Grenze der freien Entfaltung meiner Persönlichkeit die Verletzung der Rechte anderer bleibt? Wenn nein, dann müssen meiner Meinung nach Räume geschaffen werden, die das ermöglichen. Also KI freie Räume.
-
@AwetTesfaiesus Ich mag den Begriff so gar nicht und verwende ihn ungern. Ich würde lieber über Klassifizierer, statistische Text-/Bildgeneratoren, Häufigkeitsanalyse und Fuzzysearch reden.
@AwetTesfaiesus nenn mich altmodisch aber ich würde erst dann von KI sprechen wenn das System sich wie in der Sciencefiction Literatur Asimovs verhält.
-
@AwetTesfaiesus Als Beispiel: wenn man viele Seiten Papierakten hat, deren Daten man statistisch erfassen möchte: warum nicht ein LLM-Modell zur Schrifterkennung drauf werfen? Der Einsetzende muss dann für das Ergebnis haften.
Wenn es aber z.B. um eine konkrete staatliche Entscheidung geht (Asyl, Gesundheitskosten, Gerichtsurteile, …), sollte die nicht hauptsächlich von KI abhängig sein.
Ich glaube ich meine eigentlich: es kommt auf den Einsatz(ort) der KI an.
@lysis es gibt momentan Bestrebungen, in der Justiz KI einzusetzen, um den Akteninhalt zu streamlinen (vulgo: zusammenzufassen). Das halte ich wegen der Garantie auf rechtliches Gehöre für extrem schwierig!
-
@necrosis nur zur Klarstellung: Zustimmung zu welcher Seite der oder-Frage
@AwetTesfaiesus Anspruch auf KI-freiheit. Kein KI-Zwang.
-
@AwetTesfaiesus nenn mich altmodisch aber ich würde erst dann von KI sprechen wenn das System sich wie in der Sciencefiction Literatur Asimovs verhält.
@brolf
So? -
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
@AwetTesfaiesus Guter Gedanke, würde ich aber differenzierter betrachten. KI kann Vieles verbessern helfen, darf aber nicht das Ruder übernehmen. Bereits jetzt wissen manche Behörden-MA nicht, warum “der Computer" best. Entscheidungen trifft. Auch Pauschal KI-freie Schulen halte ich daher für einen Fehler. Wie sollen wir KI einigermaßen beherrschen, wenn wir die Kids nicht lehren, damit umzugehen?
-
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
Es sollte einen Anspruch auf klar dokumentierte, nachvollziehbare Prozesse und Entscheidungsfindung, rein durch Menschen geben.
Sowie eine Verpflichtung jegliche Nutzung von KI offenzulegen (Bilder, Textbestandteile etc) -
@AwetTesfaiesus Seit es Managerversicherungen gibt ist die Kontrollfunktion und die Verantwortung z.B. von Aufsichtsräten praktisch irrelevant geworden. @larsmb
@jwildeboer @AwetTesfaiesus @larsmb ganz so einfach ist es dann doch nicht. Kommt drauf an, ob es Bußgelder sind, nach meinem Kenntnisstand läuft noch ein Prozess beim EUGH dazu, speziell bei Verstößen gegen die DSGVO ist nicht sicher, ob man sich im Management da quasi "freikaufen" kann über Versicherungen. Kommt ja auch darauf an, ob es Management in einem KRITIS Bereich ist usw...
-
All watched over by #MachinesOfLovingGrace? Mich würde Eure Meinung sehr interessieren:
Der Schutz von “anderen“ Lebensentwürfen war mE immer grüner Kernbestand. Es war immer grün, bestimmte intrusive Technologien für Menschen mindestens optional zu halten; z.B. Leben ohne Atomenergie, Atomwaffenfreie Zonen, Leben ohne GMO/Gentechnik, ohne Auto.
Es war mE Teil des Grünen Grund-Konsens, zumindest für Optionalität zu sein. Die Grünen in
haben sich sogar so genannt (anders gaan leven).
1/3@AwetTesfaiesus Imho muss eine Gesetzgebung in die Richtung gehen, die @digitalcourage mit ihrer Petition gegen Digitalzwang einschlagen.
https://digitalcourage.de/digitalzwang
#Digitalzwang #KI -
Was meint Ihr: ist das abgedrehte „Technikfeindlichkeit“ und „Spinnerei“ oder sollte es einen Anspruch auf KI-Freie Gemeinden, KI-freie Schulen, KI-freie Ämter, KI-freies Leben geben (bzw. gibt es ihn bereits, z.B. wg der Würdegaratie, vgl https://de.wikipedia.org/wiki/Objektformel)?
Und sollte er (grundrechtlich?) garantiert sein?
3/3
@AwetTesfaiesus Bitte, bitte Ja, ja, ja und ja!!!
-
@AwetTesfaiesus Ich dachte an Daneel Olivaw und Giskard Reventlov aber sure
-
@AwetTesfaiesus Ich dachte an Daneel Olivaw und Giskard Reventlov aber sure
@brolf if it's not in the movie, I don't know it!
