@AwetTesfaiesus Als Beispiel: wenn man viele Seiten Papierakten hat, deren Daten man statistisch erfassen möchte: warum nicht ein LLM-Modell zur Schrifterkennung drauf werfen? Der Einsetzende muss dann für das Ergebnis haften.

Wenn es aber z.B. um eine konkrete staatliche Entscheidung geht (Asyl, Gesundheitskosten, Gerichtsurteile, …), sollte die nicht hauptsächlich von KI abhängig sein.

Ich glaube ich meine eigentlich: es kommt auf den Einsatz(ort) der KI an.

@AwetTesfaiesus Ich hatte auch an öffentliche/staatlichen Einsatz gedacht, deshalb habe ich “Organisationen” geschrieben. Aber ich verstehe den Einwand. Vielleicht benötigen wir ein differenziertes Vorgehen. Ich sehe KI weiter auf einer Ebene mit Excel, oder selbst geschriebener Software die auf Datenbanken zugreift, die ich allgemein nicht reguliert sehen möchte. Ich kann mir aber Sonderfälle vorstellen, in denen ich jede Form von KI ausschließen möchte.

@AwetTesfaiesus Für mich ist KI ein Tool, welches Firmen neben anderen Dingen (z.B. Datenbanken, menschliche Mitarbeiter, beliebige Software) einsetzen, um Prozesse auszugestalten. Die Regulierung dieser Dinge sollte sich IMO auf die Verarbeitung der Daten und das Ergebnis beziehen; nicht auf die Auswahl der “Tools”.
Überspitzt formuliert: Würde sich die Garantie eines Excel-freiern Prozesses sinnvoll umsetzen lassen?

@AwetTesfaiesus KI-frei sollte nicht das Ziel sein. KI wird sich IMO nach der anfänglichen Hype-Phase ähnlich in “unsichtbar” in unserem Leben festsetzen wie das Internet.
Aber eine gesetzliche Verantwortung für die Organisationen, die KI einsetzen und eine gesetzlich vorgeschriebene Nachvollziehbarkeit der KI-basierten Entscheidungen sollte es geben. Damit Firmen/Ämter/etc sich nicht mit “Computer says No” weg ducken können.