Insights

An diesem Halloween haben Unternehmen reichlich Grund, sich zu fürchten und genauer hinzuschauen, wie sie künstliche Intelligenz einsetzen. Die Technologie bietet zwar echte Vorteile, eröffnet Kriminellen aber auch neue Möglichkeiten, Menschen zu täuschen, und birgt Sicherheitsrisiken, wenn sie ohne angemessene Kontrollen eingeführt wird.

Ein KI-Agent, der Ihren Posteingang auswerten, Kundendaten aktualisieren oder Code ausführen kann, benötigt mehr als nur eine gut formulierte Anleitung. Es müssen klare Grenzen festgelegt werden, worauf er zugreifen, was er ändern und welche Informationen er weitergeben darf.

Jedes Jahr im Oktober begehen Organisationen und Einzelpersonen weltweit den „Cybersecurity Awareness Month“ – eine Gelegenheit, die Cyberabwehr zu stärken und sicherere Alltagsgewohnheiten zu entwickeln.

Früher basierte die Cybersicherheit auf einem klar definierten Perimeter. Unternehmen schützten ihre Büros, Netzwerke und Rechenzentren, indem sie kontrollierten, was hinein- oder hinausgelangen durfte. Dieses Modell hat sich durch Cloud-Computing, Remote-Arbeit, SaaS-Anwendungen, mobile Geräte, den Zugriff durch Dritte und künstliche Intelligenz grundlegend gewandelt.

Für Unternehmen, die eine KI-Strategie für den Unternehmensbereich entwickeln, ist es entscheidend, über die Benutzeroberfläche hinauszublicken. Führungskräfte müssen den Unterschied zwischen einem KI-Modell, der es umgebenden Anwendung und den Agenten verstehen, die in der Lage sind, in dessen Namen Maßnahmen zu ergreifen.

Künstliche Intelligenz hat die Geschwindigkeit, das Ausmaß und die Komplexität von Cyberrisiken verändert. Angreifer können KI nutzen, um die Erkundung zu automatisieren, Schwachstellen aufzudecken, überzeugende Social-Engineering-Kampagnen zu entwickeln und Teile des Angriffsprozesses zu beschleunigen. Gleichzeitig setzen Unternehmen generative und agentenbasierte KI-Systeme ein, die Zugriff auf sensible Daten, Geschäftsanwendungen und kritische Arbeitsabläufe haben.

KI verändert die Art und Weise, wie Cyberangriffe durchgeführt werden. Sie kann die Erkundungsphase beschleunigen, Angreifern bei der Analyse potenzieller Schwachstellen helfen, Phishing-Kampagnen optimieren, überzeugende synthetische Identitäten erstellen und riesige Informationsmengen deutlich schneller verarbeiten, als es ein menschlicher Angreifer allein könnte. Doch es gibt einen wichtigen Punkt, der in all den Diskussionen über KI-gestützte Cyberbedrohungen leicht untergehen könnte.

Der Anfang dieses Monats veröffentlichte Aktionsplan der Europäischen Kommission zu Cybersicherheit und künstlicher Intelligenz legt dar, wie die EU auf die mit KI verbundenen Bedrohungen und Chancen reagieren will.

Zum ersten Mal seit 19 Jahren hat die Ausnutzung von Sicherheitslücken gestohlene Zugangsdaten als häufigsten Einstiegsvektor für Sicherheitsvorfälle abgelöst. KI ist einer der Gründe dafür.

Künstliche Intelligenz hat sich in den letzten zwei Jahren zum bestimmenden Technologiethema entwickelt. Sie dominiert Diskussionen in den Vorstandsetagen, Investorenpräsentationen, die Botschaften der Anbieter, Produkteinführungen und Konferenzprogramme. Jeder Branche wird versprochen, dass KI die Art und Weise verändern wird, wie sie arbeitet, im Wettbewerb steht und Risiken bewältigt.Cybersicherheit bildet da keine Ausnahme.

Die Ankunft von Mythos AI hat in der gesamten Cybersicherheitsbranche eine intensive Debatte ausgelöst. Von Sicherheitsforschern bis hin zu den Mainstream-Medien schwankt die Diskussion zwischen Faszination, Angst und Gleichgültigkeit, wobei einige sagen, dass wir alle einen solchen Hype schon einmal erlebt haben.

Unternehmen aller Branchen und Sektoren stürzen sich auf die Einführung von KI-Agenten. Man sagt ihnen, dass sie schneller arbeiten, automatisieren und Kosten senken können. Die Anbieter propagieren die Idee intelligenter digitaler Mitarbeiter, die Entscheidungen treffen und Aufgaben in kürzester Zeit und mit nur wenigen menschlichen Eingriffen erledigen können.