Für Unternehmen, die eine KI-Strategie für den Unternehmensbereich entwickeln, ist es entscheidend, über die Benutzeroberfläche hinauszublicken. Führungskräfte müssen den Unterschied zwischen einem KI-Modell, der es umgebenden Anwendung und den Agenten verstehen, die in der Lage sind, in dessen Namen Maßnahmen zu ergreifen.
Unternehmens-KI ist der Einsatz künstlicher Intelligenz innerhalb eines Unternehmens, um die Entscheidungsfindung zu verbessern, Prozesse zu automatisieren, Mitarbeiter zu unterstützen, Kunden zu bedienen oder neue Produkte und Dienstleistungen zu entwickeln.
Dazu können bekannte Anwendungen wie generative KI-Assistenten und Copiloten am Arbeitsplatz gehören, aber auch komplexere Systeme, die in interne Daten, Anwendungen und Geschäftsabläufe integriert sind. Zunehmend umfasst dies auch KI-Agenten, die mehrstufige Aufgaben mit nur begrenztem menschlichem Eingriff erledigen können.
Die Technologie mag leistungsstark sein, doch eine erfolgreiche Einführung hängt von mehr ab als nur der Auswahl einer beliebten KI-Plattform. Unternehmen müssen die verwendeten Daten, das Modell, das die Intelligenz bereitstellt, die Anwendung, die die Interaktion steuert, die Systeme, mit denen sie verbunden ist, sowie die Sicherheitskontrollen, die regeln, was sie tun darf, berücksichtigen.
Künstliche Intelligenz, maschinelles Lernen und neuronale Netze gibt es bereits seit Jahrzehnten.
Frühere Architekturen neuronaler Netze konnten zwar Muster erkennen, hatten jedoch oft Schwierigkeiten, lange Informationssequenzen effizient zu verarbeiten. Transformers führten einen Mechanismus ein, der als „Self-Attention“ bekannt ist und es einem Modell ermöglicht, bei der Generierung einer Ausgabe die Relevanz verschiedener Elemente innerhalb einer Eingabe zu bewerten.
Dadurch wurde es möglich, Modelle anhand extrem großer Datensätze effizienter zu trainieren. Außerdem konnten Modelle so mehr Kontext berücksichtigen, komplexe Zusammenhänge erkennen und in einem Bereich gelernte Muster auf Aufgaben in einem anderen Bereich anwenden.
Die Transformer-Architektur bildete die Grundlage für große Sprachmodelle (LLMs) und die generativen KI-Anwendungen, die mittlerweile in vielen Unternehmen zum Einsatz kommen. Das Ergebnis ist ein Übergang von relativ eng gefassten KI-Systemen zu Plattformen, die in der Lage sind, Inhalte zu generieren, Informationen zu analysieren, bei Entscheidungen zu helfen und immer komplexere Arbeitsabläufe zu unterstützen.
KI-Modelle verstehen Wörter, Bilder oder Töne nicht so, wie Menschen dies tun. Sie verarbeiten numerische Darstellungen von Informationen.
Der in ein LLM eingegebene Text wird in Einheiten, sogenannte Tokens, unterteilt. Diese Tokens werden in numerische Darstellungen umgewandelt, die es dem Modell ermöglichen, Muster und Beziehungen zwischen ihnen zu erkennen. Während des Trainings werden Tokens, die regelmäßig in ähnlichen Kontexten auftreten, in einem mehrdimensionalen mathematischen Raum miteinander verknüpft.
Beispielsweise werden die Wörter „Katze“ und „Hund“ wahrscheinlich enger miteinander verknüpft als „Katze“ und „Auto“. Obwohl „Katze“ und „Auto“ in schriftlicher Form ähnlich aussehen, werden Katzen und Hunde häufiger in vergleichbaren Kontexten thematisiert, in denen es um Tiere, Haustiere, Fütterung und Verhalten geht.
Multimodale KI wendet ähnliche Prinzipien auf andere Informationsformen an, darunter Bilder, Audio und Video. Visuelle Merkmale, Töne und Sprache lassen sich in kompatible numerische Darstellungen abbilden, sodass ein Modell ein Foto einer Katze mit dem geschriebenen Wort „Katze“ in Verbindung bringen kann.
Dadurch können KI-Anwendungen Bilder beschreiben, Sprache interpretieren und Fragen zu Videos beantworten. Das Modell erkennt und reproduziert jedoch nach wie vor lediglich Muster. Es erlebt oder versteht die Welt nicht so, wie es ein Mensch tut.
Das KI-Modell ist die zugrunde liegende Engine, die Eingaben empfängt und eine Ausgabe generiert. Die KI-Anwendung stellt die Schnittstelle bereit, speichert relevante Informationen, verwaltet den Zugriff, verbindet das Modell mit anderen Systemen und legt fest, wie dessen Ausgabe präsentiert oder genutzt wird.
Eine einfache Analogie ist, sich das Modell als das Gehirn und die Anwendung als den Körper vorzustellen. Das Modell stellt die zugrunde liegende Fähigkeit bereit, während die Anwendung es ermöglicht, dass diese Fähigkeit mit Nutzern, Informationen und digitalen Systemen interagiert.
Produkte wie ChatGPT, Microsoft Copilot, Claude und Gemini sind vollständige Anwendungen. Jede davon kombiniert ein oder mehrere KI-Modelle mit einer Benutzeroberfläche, Datenspeicherung, Zugriffskontrollen, Sicherheitsrichtlinien, Integrationen und zusätzlichen Softwarekomponenten.
Dasselbe zugrunde liegende Modell kann in vielen verschiedenen Anwendungen zum Einsatz kommen, darunter:
Das Verständnis dieser Unterscheidung hilft Unternehmen dabei, bessere strategische und sicherheitsrelevante Entscheidungen zu treffen. Die Bereitstellung eines KI-Chatbots ist nicht dasselbe wie die sichere Integration eines KI-Modells in interne Systeme. Jeder Anwendungsfall bringt unterschiedliche Anforderungen in Bezug auf Identität, Datenschutz, Zugriff, Überwachung und Governance mit sich.
Wenn ein Mitarbeiter eine KI-Anwendung nutzt, ist das Modell nur ein Teil des gesamten Technologie-Stacks. Die Anwendung kann Nutzerinformationen erfassen, Unterhaltungen speichern, Verbindungen zu Datenbanken herstellen, externe APIs aufrufen und auf Geschäftssysteme zugreifen.
Das bedeutet, dass die Sicherheit eines KI-Dienstes im Unternehmen von weit mehr abhängt als nur vom Modell selbst. Unternehmen müssen verstehen:
Eine KI-Anwendung bleibt eine Anwendung. Sie verfügt über Infrastruktur, Schnittstellen, Datenspeicher, Abhängigkeiten und Zugriffsberechtigungen, die Angreifer möglicherweise auszunutzen versuchen. Bestehende Grundsätze der Anwendungssicherheit, Cloud-Sicherheit, Identitätssicherheit und des Datenschutzes bleiben unverzichtbar.
KI bringt neue Angriffspfade und operative Risiken mit sich, macht jedoch etablierte Sicherheitskontrollen nicht überflüssig.
Jedes Modell hat eine Begrenzung hinsichtlich der Informationsmenge, die es gleichzeitig verarbeiten kann. Dies wird als Kontextfenster bezeichnet. Sowohl die dem Modell bereitgestellten Informationen als auch die von ihm generierte Antwort beanspruchen einen Teil dieser Kapazität.
Wenn ein Gespräch länger wird, muss eine Anwendung möglicherweise frühere Informationen entfernen, komprimieren oder zusammenfassen. Dies erklärt, warum KI-Assistenten manchmal Anweisungen zu vergessen scheinen oder zuvor bereitgestellten Details widersprechen.
Die Beschränkungen des Kontextfensters haben wichtige Konsequenzen für KI in Unternehmen. Wenn kritische Anweisungen, Sicherheitsanforderungen oder Geschäftsregeln aus dem Kontext entfernt werden, können sich die Qualität und Sicherheit der Ergebnisse verschlechtern. Unternehmen sollten nicht davon ausgehen, dass ein KI-System jede Anweisung während eines komplexen oder langwierigen Prozesses zuverlässig beibehält.
KI liefert die besten Ergebnisse, wenn sie auf ein klar definiertes Problem angewendet und mit relevantem, zuverlässigem Kontext versorgt wird.
Frühe Demonstrationen von KI-Codierungstools lieferten bereits mit relativ kurzen Anweisungen beeindruckende Ergebnisse. Dies führte zu weit verbreiteten Prognosen, dass KI Softwareentwickler rasch ersetzen würde. Als Unternehmen jedoch komplexere Projekte in Angriff nahmen, wurden die Einschränkungen deutlicher.
Von KI generierter Code kann Schwachstellen enthalten, auf nicht vorhandene Softwarekomponenten verweisen, Zugangsdaten offenlegen oder Logikfehler einbringen, die hinter einer technisch überzeugenden Syntax verborgen sind. Ein Agent kann zudem Teile einer Anwendung ändern, zu deren Änderung er keine Anweisung erhalten hat, oder eine fehlgeschlagene Sicherheitsprüfung entfernen, anstatt das zugrunde liegende Problem zu beheben.
Ähnliche Risiken treten auch in anderen Bereichen auf. KI-generierte Berichte können plausible, aber ungenaue Aussagen enthalten, während generierte Bilder physikalische Unstimmigkeiten aufweisen können, die für einen sachkundigen Prüfer offensichtlich sind.
Diese Ergebnisse werden von mehreren Faktoren beeinflusst, darunter:
Je wichtiger die Aufgabe, desto größer ist der Bedarf an zuverlässigen Daten, klar definierten Grenzen und einer fundierten menschlichen Aufsicht.
Ein KI-Agent ist ein Softwaresystem, das ein KI-Modell nutzt, um ein Ziel zu verfolgen, Entscheidungen zu treffen und Aktionen über vernetzte Tools oder Systeme hinweg auszuführen.
Ein herkömmlicher Chatbot reagiert in erster Linie auf eine Eingabe. Ein KI-Agent ist möglicherweise in der Lage, eine Anfrage zu interpretieren, einen Plan zu erstellen, Informationen abzurufen, APIs aufzurufen, Datensätze zu aktualisieren, mit anderen Systemen zu kommunizieren und zu bewerten, ob die Aufgabe abgeschlossen wurde.
Dadurch können Agenten die Automatisierung von Geschäftsprozessen grundlegend verändern. Dies macht sie zudem wesentlich leistungsfähiger – und potenziell gefährlicher – als einen eigenständigen generativen KI-Assistenten.
Das mit einem KI-Agenten verbundene Risiko hängt stark davon ab, auf welche Daten er zugreifen kann und wozu er berechtigt ist. Ein Agent, der mit öffentlichen Informationen verbunden ist, birgt ein anderes Risiko als einer, der auf Kundendatensätze zugreifen, Cloud-Konfigurationen ändern, Zahlungen genehmigen oder Software bereitstellen kann.
Generative KI und KI-Agenten können Unternehmen dabei helfen, komplexe Prozesse zu automatisieren, die Produktivität zu steigern und neue Dienste zu entwickeln. Um diese Vorteile zu erzielen, ist jedoch ein realistisches Verständnis dafür erforderlich, wie die Technologie funktioniert und wo ihre Grenzen liegen.
Das Modell, die Anwendung, die Daten, die Infrastruktur und die verbundenen Systeme müssen als eine einheitliche Umgebung bewertet werden. Sicherheitsteams benötigen Einblick darin, wie Informationen durch diese Umgebung fließen, welche Identitäten darauf zugreifen können und welche Aktionen ein KI-System ausführen darf.
Integrity360 unterstützt Unternehmen dabei, die Cybersicherheitsrisiken im Zusammenhang mit der KI-Einführung zu bewerten und zu verwalten. Durch die Bündelung von Fachwissen in den Bereichen Cyberrisiken und -sicherung, Identitätssicherheit, Cloud- und Anwendungssicherheit, Datenschutz, Penetrationstests, Incident Response und Managed Security helfen wir Unternehmen dabei, KI innerhalb eines kontrollierten und widerstandsfähigen Sicherheitsrahmens einzuführen.
Ganz gleich, ob ein Unternehmen einen KI-Anwendungsfall evaluiert, Assistenzsysteme am Arbeitsplatz einsetzt oder autonome Agenten an kritische Systeme anbindet – Sicherheit muss von Beginn an in den Prozess integriert werden.
Planen Sie die Einführung von KI in Ihrem Unternehmen? Sprechen Sie mit Integrity360 über die Bewertung Ihrer KI-Sicherheitsbereitschaft, den Schutz sensibler Daten und den Aufbau der erforderlichen Kontrollmechanismen für eine sichere und verantwortungsvolle Einführung.
Was versteht man unter KI-Sicherheit im Unternehmen?
KI-Sicherheit in Unternehmen bezeichnet den Schutz der Modelle, Anwendungen, Daten, Identitäten, Infrastruktur und Integrationen, die bei der Nutzung künstlicher Intelligenz in einem Unternehmen eine Rolle spielen. Sie kombiniert bewährte Cybersicherheitskontrollen mit Maßnahmen, die speziell auf KI-spezifische Bedrohungen und operative Risiken zugeschnitten sind.
Was ist der Unterschied zwischen einem KI-Modell und einer KI-Anwendung?
Ein KI-Modell verarbeitet Eingaben und generiert Ausgaben. Eine KI-Anwendung stellt die Benutzeroberfläche bereit, speichert Kontextinformationen, verwaltet Benutzer und verbindet das Modell mit Daten, Tools und Geschäftssystemen.
Sind große Sprachmodelle intelligent?
Große Sprachmodelle können komplexe Antworten generieren, indem sie Muster erkennen und geeignete Abfolgen von Tokens vorhersagen. Sie verfügen weder über menschliches Bewusstsein noch über Verständnis oder Urteilsvermögen, und ihre Ergebnisse können ungenau sein.
Was ist ein KI-Agent?
Ein KI-Agent ist ein Softwaresystem, das ein KI-Modell nutzt, um Aufgaben über vernetzte Tools oder Anwendungen hinweg zu planen und auszuführen. Im Gegensatz zu einem herkömmlichen Chatbot kann er befugt sein, Informationen abzurufen, Systeme zu aktualisieren oder Aktionen zu initiieren.
Was sind die größten KI-Sicherheitsrisiken?
Zu den größten Risiken zählen der Verlust sensibler Daten, übermäßige Berechtigungen für Agenten, Prompt-Injection, unsichere APIs, anfälliger KI-generierter Code, schwache Identitätskontrollen, Kompromittierung durch Dritte sowie unzureichende Überwachung oder menschliche Kontrolle.
Wie können Unternehmen KI sicher einsetzen?
Unternehmen sollten mit definierten Anwendungsfällen beginnen, Governance-Regeln festlegen, Daten klassifizieren und schützen, das Prinzip der geringsten Berechtigungen durchsetzen, Integrationen absichern, KI-Aktivitäten überwachen und bei Maßnahmen mit erheblichen Auswirkungen weiterhin eine menschliche Genehmigung einholen.