Schatten-KI ist auf dem Vormarsch und bereitet Unternehmen Probleme.
Eine aktuelle Studie des MIT ergab, dass über 90 % der Mitarbeiter persönliche Daten nutzen KI-Tools und nur 40 % der Organisationen verwalten die offizielle Nutzung.
Darüber hinaus ergab der aktuelle Bericht von IBM, dass 97 % der Unternehmen Cybersicherheitsvorfälle im Zusammenhang mit KI erlebten, die meisten jedoch immer noch über keine Governance verfügen.
Leitender Direktor für Sicherheitsforschung und Wettbewerbsintelligenz bei Exabeam.
Es ist ein großes Tauziehen ausgebrochen Cybersicherheit Landschaften: Sollten Unternehmen den Einsatz von Schatten-KI einschränken und möglicherweise die damit verbundene Kreativität und Möglichkeiten unterdrücken, oder sollten sie ihr freien Lauf lassen und das damit verbundene Risiko der Ausbeutung auf sich nehmen?
Könnte es einen Mittelweg geben, der ein Gleichgewicht zwischen Innovation, Sichtbarkeit, Compliance und Durchsetzung anstrebt?
Schatten-KI: Was ist das und was ist das Problem?
Ein großes Problem ist die Unsicherheit, die mit der Schatten-KI insgesamt einhergeht. Es gibt keine allgemeingültige Definition für „Schatten-KI“, sie tritt jedoch häufig auf, wenn Ressourcen verwendet werden, die dem Unternehmen nicht bewusst sind, um Geschäftsfunktionen auszuführen.
Ein Grund dafür, dass es so schwierig ist, Schatten-KI einzuschränken, liegt darin, dass sie sich nicht nur branchenübergreifend, sondern auch im Alltag einfach implementieren lässt.
Menschen werden immer den einfachsten Weg finden, eine Aufgabe zu erledigen. Wenn es eine Möglichkeit gibt, wie sie Technologie einsetzen können, um ihre Arbeit effizienter zu erledigen, werden sie dies tun, auch wenn sie von ihrer Organisation nicht genehmigt wird.
Das Problem besteht darin, dass die kreative Natur der KI ihre Kontrolle erschwert. Zwischen dem Einzelnen und der Aufforderung gibt es viele Grauzonen, in denen Risiken entstehen können.
Organisationen haben keine Möglichkeit herauszufinden, ob es ein Geheimnis gibt Information Sie können nicht bestätigen, dass die von der KI generierten Informationen korrekt oder sogar echt sind.
Die Gefahren einer überstürzten Adoption
Die Fähigkeit, neue und aufregende Technologien einzuführen, wird immer vor der Fähigkeit stehen, sie zu verstehen und zu kontrollieren, und KI zeigt dies in einem beispiellosen Ausmaß.
Das exponentielle Wachstum und die Verbreitung von KI in der modernen Cyberlandschaft haben dazu geführt, dass der Einzelne zu jedem Zeitpunkt in der Geschichte die größte Kontrolle über seinen eigenen kreativen Ausdruck hatte, und damit geht eine unbestreitbare Chance einher.
Auf der anderen Seite haben Unternehmen jedoch KI implementiert und übernommen, ohne sie wirklich zu verstehen. Infolgedessen ist das Potenzial für organisatorische Verstöße sprunghaft angestiegen und der damit verbundene Arbeits- und Analyseaufwand ist gestiegen Sicherheit Die Maßnahmen, die die Teams ergreifen müssen, um diese Verstöße einzudämmen, sind so überwältigend geworden, dass die Reaktion auf Gefahren nicht mehr mit der Geschwindigkeit des KI-Wachstums Schritt halten kann.
Wir müssen darauf achten, wie wir das Risiko Dritter sowie Entschädigungen und Verträge verwalten. Der Grund dafür ist, dass der KI-Agent häufig zwar im Besitz einer Organisation ist, dieser jedoch mithilfe der Software eines anderen Unternehmens entwickelt wurde.
Es stellt sich die Frage, wie viel Organisationen bereit sind zu helfen, wenn ein Problem auftritt, basierend auf dem Anteil am Agenten oder Potenzial ausfallen sie hätten es getan.
KI-Agenten: Der Schlüssel zur Erschließung kreativer Freiheit
Darüber hinaus benötigen wir eine Möglichkeit, die Aktionen von KI-Agenten besser sichtbar zu machen. In der Vergangenheit wurde dies durch Maßnahmen wie Netzwerkprotokolle, Endpunktprotokolle usw. erreicht Verhinderung von Datenverlust Strategien. Wir müssen die Ein- und Ausgänge des Systems verstehen, welche Identitäten beteiligt waren und wie der Kontext der Situation war, als Probleme auftraten.
Auf der Reaktionsseite müssen wir feststellen, wie wir schnell erkennen können, ob ein Problem vorliegt. Allerdings müssen die Reaktionsmaßnahmen aktualisiert werden, um die Probleme zu bewältigen, die moderne KI-Agenten mit sich bringen. Es sollte eine KI-Regierungsgruppe eingerichtet werden, die dafür verantwortlich ist, dass KI-Agenten ihre programmierten Aufgaben erfüllen, ohne Risiken zu schaffen.
Dies würde es Einzelpersonen ermöglichen, die kreative Freiheit und den Komfort der KI zu nutzen, während gleichzeitig Unternehmen vor dem Risiko von Angriffen geschützt werden und Sicherheitsteams sich auf die Agenten verlassen können, die ihre Aufgaben erledigen, ohne sie ständig beaufsichtigen zu müssen. Vertrauenswürdige, verstärkte KI-Agenten sorgen für ein effizienteres Sicherheitsverteidigungssystem.
Es muss eine zusätzliche Reaktionsmaßnahme geben, bei der wir KI-Agenten umschulen, deaktivieren oder ein Umlernen erzwingen, was heute nicht existiert. Es sollte einen Ansprechpartner innerhalb des SOC geben, der sofort reagieren kann, und es wird Geschäftsinhaber geben, die für den Aufbau dieser Struktur verantwortlich sind. Im Moment befinden wir uns für diesen Prozess auf CMMI-Stufe eins, vielleicht sogar auf Null.
Insider-Bedrohungsanalysten werden stark von diesen Anpassungen abhängig sein. Wenn wir eine Struktur aufbauen und einen Prozess für den Umgang mit der durch Schatten-KI verursachten Informationsflut entwickeln können, sind Insider-Bedrohungsanalysten besser in der Lage, Bedrohungen zu bewältigen, bevor sie für Unternehmen verheerende Folgen haben.
Die einzige Möglichkeit, ein angemessenes Maß an Risikominderung zu erreichen, ist eine klare und leicht durchsetzbare KI-Nutzungsrichtlinie mit bekannten und geprüften Tools sowie ein Prozess zum Überprüfen, Testen und Implementieren neuer KI-Agenten oder -Tools mit technischen und Sicherheitsüberprüfungen. Es ist wichtig, dass dieser Prozess einfach und transparent gestaltet wird. Andernfalls werden die Mitarbeiter immer nach Möglichkeiten suchen, dies zu umgehen.
Der weitere Weg zur KI-Nutzung erfordert Verständnis. Organisationen können nicht kontrollieren, was sie nicht verstehen, und zu viele haben der schnellen Bereitstellung Vorrang vor Transparenz und Governance gegeben. Wenn es uns gelingt, ein Gleichgewicht zwischen Innovation und Sicherheit zu finden, können Unternehmen ihre Sicherheit vor Bedrohungen von außen maximieren und gleichzeitig ihren Mitarbeitern die Freiheit geben, Innovationen voranzutreiben und die Welt zu verändern.
Wir listen die beste Antivirensoftware auf: Expertenbewertungen, Tests und Rankings.
