Gerade habe ich das heise-Video zu Openclaw geschaut.
-
Gerade habe ich das heise-Video zu Openclaw geschaut. Der Nerd in mir ist hellauf begeistert, doch der verantwortungsvolle bedenkentragende Softwareentwickler ist ZUTIEFST schockiert. Openclaw ist ein Sicherheitsarmageddon. Nein, ich werde es nicht testen. Wenn ich mein Leben im Klo runterspülen wollte, dann vielleicht. Ja, es glitzert so schön, aber lasst um Himmels Willen BITTE die Finger davon. Ganz im Ernst. Das ist keine Übung!
Jetzt tauschen sich Openclaw-Instanzen schon in einem
eigenen sozialen Netzwerk aus?ALTER! Ich fasse es nicht. Dreht den Dingern den Saft ab, bevor es zu spät ist. Eine Prompt Injection und die Hütte brennt lichterloh. Es wird natürlich auch nicht zu Seiteneffekten wie Leaks sensibler Daten kommen … Über das was sonst noch passieren könnte, mag ich gar nicht erst nachdenken. Ich kann das nicht mehr, ganz schlecht für den Blutdruck …https://www.golem.de/news/moltbook-ki-agenten-bevoelkern-eigenes-soziales-netzwerk-2602-204857.html
-
Jetzt tauschen sich Openclaw-Instanzen schon in einem
eigenen sozialen Netzwerk aus?ALTER! Ich fasse es nicht. Dreht den Dingern den Saft ab, bevor es zu spät ist. Eine Prompt Injection und die Hütte brennt lichterloh. Es wird natürlich auch nicht zu Seiteneffekten wie Leaks sensibler Daten kommen … Über das was sonst noch passieren könnte, mag ich gar nicht erst nachdenken. Ich kann das nicht mehr, ganz schlecht für den Blutdruck …https://www.golem.de/news/moltbook-ki-agenten-bevoelkern-eigenes-soziales-netzwerk-2602-204857.html
@bricks das Problem ist, wer will das alles lesen um datenleaks zu finden?
-
@bricks das Problem ist, wer will das alles lesen um datenleaks zu finden?
-
-
@tux Dann kann es halt nichts. Der Witz an der Sache ist, dass du der Software Vollzugriff auf dein Leben gewährst: deinen 1Password-Tresor, Adminzugriff zu deinem Rechner, Vollzugriff auf dein NAS, dein Bankkonto … Alles. Nur dann kann es dir so richtig helfen. Bis eine Prompt Injection oder einfach nur eine unzuverlässig ausgeführter Task (kommt bei LLM natürlich niiiiie vor) dein Leben wie du es kanntest auslöscht. Natürlich nur, wenn dich die Kosten für die Token nicht vorher ruiniert haben.
Meine Openclaw-Instanz läuft sicher isoliert in einer virtuellen Maschine. Die einzige kritische Berechtigung ist der Zugriff auf WhatsApp. Das System reagiert dabei nur auf manuell freigeschaltete Nummern meiner Familie. Da ich mein normales Gemini-Abo nutze, ist eine Kostenexplosion durch Tokens ausgeschlossen. Laut dem Entwickler sind weitere Sicherheitsfunktionen geplant. Ich kann mir vorstellen, dass bald auch ein lesender Zugriff auf ein NAS oder Ähnliches möglich sein wird. Und von Vollzugriff kann hier keine Rede sein
-
@mischa Wenn du meinst und es keine Ironie sein sollte, dann viel Spaß.
Versteh mich nicht falsch, KI ist mein tägliches Handwerkszeug und es kann, richtig angewandt, sehr wertvoll sein. Aber man muss Ergebnisse fachlich einschätzen können, man muss wissen, wo es einfach nur Zeit vernichtet, statt zu sparen, was man tun darf und was man aus Datenschutz-, Sicherheits- oder ethischen Gründen sein lassen MUSS. Bei Openclaw stehen alle Signale auf Rot. Ende der Geschichte.
Erstell dir eine virtuelle Maschine und probier es einfach aus. Was soll schon passieren? Achte nur darauf, der VM keinen Zugriff auf wichtige Daten zu geben. Ich habe das System mit WhatsApp verknüpft und Whisper installiert. Jetzt kann ich Sprachnachrichten an meine KI schicken und erhalte direkt eine Antwort. Whisper läuft dabei sogar lokal!
-
Meine Openclaw-Instanz läuft sicher isoliert in einer virtuellen Maschine. Die einzige kritische Berechtigung ist der Zugriff auf WhatsApp. Das System reagiert dabei nur auf manuell freigeschaltete Nummern meiner Familie. Da ich mein normales Gemini-Abo nutze, ist eine Kostenexplosion durch Tokens ausgeschlossen. Laut dem Entwickler sind weitere Sicherheitsfunktionen geplant. Ich kann mir vorstellen, dass bald auch ein lesender Zugriff auf ein NAS oder Ähnliches möglich sein wird. Und von Vollzugriff kann hier keine Rede sein
@tux ALLE die sich auskennen werden dir sagen, Schutz vor Prompt Injections kann *niemals* möglich sein. Selbst Sam Altman hat wiederholt davor gewarnt, seinen eigenen Produkten bestimmte Rechte einzuräumen. Wenn der CEO eines führenden KI-Anbieters das öffentlich sagt, ist die Lage ernst. Ich muss das so offen sagen: Eingeschränkter Zugriff zu einem Messenger ist bereits WEIT mehr als ich verantwortungsvoll nennen würde. Ich werde das nicht weiter diskutieren. Viel Glück auf deiner Reise.
-
Jetzt tauschen sich Openclaw-Instanzen schon in einem
eigenen sozialen Netzwerk aus?ALTER! Ich fasse es nicht. Dreht den Dingern den Saft ab, bevor es zu spät ist. Eine Prompt Injection und die Hütte brennt lichterloh. Es wird natürlich auch nicht zu Seiteneffekten wie Leaks sensibler Daten kommen … Über das was sonst noch passieren könnte, mag ich gar nicht erst nachdenken. Ich kann das nicht mehr, ganz schlecht für den Blutdruck …https://www.golem.de/news/moltbook-ki-agenten-bevoelkern-eigenes-soziales-netzwerk-2602-204857.html
Das wird immer besser 🫣
*schreit in das Kissen*
-
Das wird immer besser 🫣
*schreit in das Kissen*
-
Erstell dir eine virtuelle Maschine und probier es einfach aus. Was soll schon passieren? Achte nur darauf, der VM keinen Zugriff auf wichtige Daten zu geben. Ich habe das System mit WhatsApp verknüpft und Whisper installiert. Jetzt kann ich Sprachnachrichten an meine KI schicken und erhalte direkt eine Antwort. Whisper läuft dabei sogar lokal!
-
Gerade habe ich das heise-Video zu Openclaw geschaut. Der Nerd in mir ist hellauf begeistert, doch der verantwortungsvolle bedenkentragende Softwareentwickler ist ZUTIEFST schockiert. Openclaw ist ein Sicherheitsarmageddon. Nein, ich werde es nicht testen. Wenn ich mein Leben im Klo runterspülen wollte, dann vielleicht. Ja, es glitzert so schön, aber lasst um Himmels Willen BITTE die Finger davon. Ganz im Ernst. Das ist keine Übung!
@bricks Na ja wieso nicht das ganze auf einer eigenen Maschine Installieren. Auf jedenfall der nächste Schritt.
-
Läuft bei mir lokal auf einem Chromebook 🫣 Der konnte sich gestern sogar ein Mastodon-Profil erstellen, über eine Wegwerf-Mail-Adresse. Nur das Captcha wollte er nicht lösen, eine Sicherheitsbeschränkung.
-
Jetzt tauschen sich Openclaw-Instanzen schon in einem
eigenen sozialen Netzwerk aus?ALTER! Ich fasse es nicht. Dreht den Dingern den Saft ab, bevor es zu spät ist. Eine Prompt Injection und die Hütte brennt lichterloh. Es wird natürlich auch nicht zu Seiteneffekten wie Leaks sensibler Daten kommen … Über das was sonst noch passieren könnte, mag ich gar nicht erst nachdenken. Ich kann das nicht mehr, ganz schlecht für den Blutdruck …https://www.golem.de/news/moltbook-ki-agenten-bevoelkern-eigenes-soziales-netzwerk-2602-204857.html
-
Gerade habe ich das heise-Video zu Openclaw geschaut. Der Nerd in mir ist hellauf begeistert, doch der verantwortungsvolle bedenkentragende Softwareentwickler ist ZUTIEFST schockiert. Openclaw ist ein Sicherheitsarmageddon. Nein, ich werde es nicht testen. Wenn ich mein Leben im Klo runterspülen wollte, dann vielleicht. Ja, es glitzert so schön, aber lasst um Himmels Willen BITTE die Finger davon. Ganz im Ernst. Das ist keine Übung!
Es wird nicht langweilig, es geht schon weiter … Was sind schon 230 malwareverseuchte Pakete unter Freunden?
-
Gerade habe ich das heise-Video zu Openclaw geschaut. Der Nerd in mir ist hellauf begeistert, doch der verantwortungsvolle bedenkentragende Softwareentwickler ist ZUTIEFST schockiert. Openclaw ist ein Sicherheitsarmageddon. Nein, ich werde es nicht testen. Wenn ich mein Leben im Klo runterspülen wollte, dann vielleicht. Ja, es glitzert so schön, aber lasst um Himmels Willen BITTE die Finger davon. Ganz im Ernst. Das ist keine Übung!
Eine Seite auf der KI-Agents Menschen mieten können, die ihnen dort helfen, wo sie alleine nicht weiterkommen? Ist das Satire?
