Das Bundesamt für Sicherheit in der Informationstechnik (BSI) arbeitet intensiv an klaren Sicherheitskriterien und sogenannten „Best Practices“ für die Absicherung von „KI-Agenten“. Das sagte ein Behördensprecher am Dienstag der dts Nachrichtenagentur.
Sitz von BSI und BMI (Archiv), via dts Nachrichtenagentur
Das BSI geht demnach davon aus, dass sich KI-Systeme „stetig oder auch disruptiv“ weiterentwickeln werden. Mit dem Fortschreiten der Technologie werde es zunehmend schwerer, menschliche Akteure im Internet von KI-Bots zu unterscheiden, so der Sprecher. Daneben könnten KI-Agenten künftig von Kriminellen für Cyber-Angriffe instrumentalisiert werden, warnt die Behörde.
In Bezug auf den neuen Dienst OpenClaw, der in Fachkreisen seit wenigen Wochen für zunehmendes Aufsehen sorgt, empfiehlt das BSI derzeit nur eine Benutzung durch „IT-Profis“, die mit der Konfiguration und Absicherung von Servern vertraut seien. „Es empfiehlt sich, den Dienst auf einem eigenen System oder in einer Sandbox zu betreiben.“
Besonders kritisch sieht das BSI dabei auch den offenen Austausch der sogenannten „Skills“, über die die Interaktion der KI mit der Umgebung erfolgt und die unter anderem über Austausch-Portale geteilt werden. „Dabei wurden offenkundig vermehrt Skills identifiziert, die mit Schadsoftware kompromittiert waren“, so das BSI.
OpenClaw, auch unter den Namen ClawdBot und MoltBot bekannt, ist ein Open-Source-Framework für einen persönlichen KI-Assistenten. Der Bot kann von Nutzern beispielsweise über einen Messenger wie WhatsApp oder Telegram oder andere Kanäle bedient werden. Damit der Dienst funktioniert, muss ein Sprachmodell bereitgestellt und eingebunden werden, das entweder lokal oder in der Cloud läuft. Eine fehlerhafte Konfiguration könne schnell zu einer Übernahme des Servers durch Unbefugte führen, heißt es vom BSI.
