Brandgefährlich: KI-Agenten in unseren Betriebssystemen

suehlmann_faul@social.tchncs.de

Wir stehen kurz davor, direkt von unseren Betriebssystemen vollkommen überwacht zu werden - dauerhaft, tief integriert, kaum abschaltbar.

KI‑Agenten auf PC und Smartphone sehen alles, bevor Nachrichten verschlüsselt werden und nachdem sie entschlüsselt sind - damit wird Ende‑zu‑Ende‑Verschlüsselung faktisch ausgehebelt.

Was gerade passiert

- Große Anbieter bauen ihre Betriebssysteme so um, dass „agentische KI“ ständig Tastatureingaben, Bildschirminhalte, Apps, Kontext und Verhalten mitprotokolliert, um „proaktiv helfen“ zu können.

-Aus einem praktischen Assistenten wird so ein forensischer Dauer-Logger auf dem Endgerät - also genau dort, wo unsere bisherige Sicherheitsarchitektur bisher einen Schutzwall eingezogen hat
(weiter)

suehlmann_faul@social.tchncs.de

Warum das brandgefährlich ist

- Wenn das OS Screenshots, Inhalte und Metadaten abgreift, sind sichere Messenger, VPNs und E2E‑Verschlüsselung nur noch Fassade: Der Klartext liegt bereits im KI‑Agenten.

- Gerät oder Agent kompromittiert? Dann wird der KI‑Layer zum Generalschlüssel für Chats, Mails, Dokumente, berufliche Geheimnisse - und zum perfekten Ziel für Staaten, Strafverfolger und Wirtschaftsspionage.

Was wir jetzt brauchen

- Unternehmen, Behörden und Bildungseinrichtungen dürfen diese Agenten nicht unkritisch ausrollen, nur weil sie „Produktivität“ versprechen.

(weiter)

proteus@troet.cafe

@suehlmann_faul
Und das @bsi findet das bestimmt total geil. Deswegen sind die auch so eng mit den US-Nazis ...

suehlmann_faul@social.tchncs.de

- Es braucht technische Schranken (strict local only, echte Off‑Schalter, Trennung von KI‑Layer und sensiblen Apps) und eine Regulierung, die OS‑weite KI‑Überwachung wie staatliche Massenüberwachung behandelt – nicht wie ein nettes Feature.

- Und wie immer braucht es die Zivilgesellschaft:
öffentlicher Druck auf Politik und Aufsichtsbehörden, damit tief integrierte KI-Agenten rechtlich wie invasive Überwachungstechnologie behandelt und streng begrenzt werden.

- Wir brauchen Aufklärung, um eine breite Verweigerung gegenüber OS‑weiter KI-Überwachung zu organisieren

suehlmann_faul@social.tchncs.de

https://www.computerweekly.com/de/feature/Agentische-KI-und-die-damit-verbundenen-Risiken

https://www.derstandard.at/story/3000000304299/ki-agent-oder-ki-spion-der-gefaehrliche-weg-in-die-totalueberwachung-auf-pc-und-smartphone

gunter@squeet.me

Zum Glück gibt's noch Linux

miri64@ohai.social

@suehlmann_faul sehr zu empfehlen zu dem Thema, ist auch der Talk der Entwickelnden des Messangers #Signal auf dem #39c3: https://media.ccc.de/v/39c3-ai-agent-ai-spy

abulling@fedifreu.de

@suehlmann_faul Die Lösung ist so einfach, dass es fast peinlich ist, das zu schreiben: #linux #bsd done.

suehlmann_faul@social.tchncs.de

@abulling natürlich. Aber was ist mit den anderen Menschen, die vielleicht noch nicht einmal von Linux geschweige denn @GrapheneOS gehört haben?

c_th1@digitalcourage.social

@suehlmann_faul @abulling @GrapheneOS

Es ist Unsere Aufgabe, die Pflicht der Nerds, die normalen Menschen ,, Muggel ,, zu belehren, bekehren, Informieren, Installieren !!!!

m@ms.vg

@suehlmann_faul Ich nicht.

neuimneuland@mastodon.social

@abulling @suehlmann_faul Die Gefahr droht nicht nur auf Betriebssystem-Ebene. Auch weit verbreitete Applikationen gehen langsam diesen Weg. Beispiel: Visual Studio Code mit der Copilot-Integration, die die Eingaben im Editor "überwacht".

Abspeckgeflüster – Forum für Menschen mit Gewicht(ung)

Brandgefährlich: KI-Agenten in unseren Betriebssystemen