Generative künstliche Intelligenz verändert die Cybersicherheit und hilft sowohl Angreifern als auch Verteidigern. Cyberkriminelle nutzen KI, um ausgeklügelte und neuartige Angriffe in großem Maßstab zu starten. Und Verteidiger verwenden dieselbe Technologie, um kritische Infrastrukturen, Regierungsorganisationen und Unternehmensnetzwerke zu schützen, sagte Christopher Ahlberg, CEO der Threat-Intelligence-Plattform Recorded Future.
Generative KI hat Angreifern dabei geholfen, innovativ zu sein und neue Angriffsstrategien zu entwickeln, sodass sie der Cybersicherheitsabwehr immer einen Schritt voraus sind. KI hilft Cyberkriminellen, Angriffe zu automatisieren, Angriffsflächen zu scannen und Inhalte zu generieren, die in verschiedenen geografischen Regionen und demografischen Merkmalen Anklang finden, sodass sie ein breiteres Spektrum potenzieller Opfer in verschiedenen Ländern angreifen können. Cyberkriminelle haben die Technologie übernommen, um überzeugende Phishing-E-Mails zu erstellen. KI-generierter Text hilft Angreifern, hochgradig personalisierte E-Mails und Textnachrichten zu erstellen, um Ziele mit größerer Wahrscheinlichkeit zu täuschen.
„Ich denke, man muss nicht sehr kreativ denken, um zu erkennen, dass das tatsächlich helfen kann [cybercriminals] Autoren sein, was ein Problem ist”, sagte Ahlberg.
Auch: KI könnte 25 % aller Jobs automatisieren. Hier sind diejenigen, die am meisten (und am wenigsten) gefährdet sind
Verteidiger nutzen KI, um Angriffe abzuwehren. Unternehmen nutzen die Technologie, um Lecks zu verhindern und Netzwerkschwachstellen proaktiv zu finden. Es automatisiert auch dynamisch Aufgaben wie das Einrichten von Warnungen für bestimmte Schlüsselwörter und das Erkennen vertraulicher Informationen online. Bedrohungsjäger verwenden KI, um ungewöhnliche Muster zu identifizieren und große Datenmengen zusammenzufassen, indem sie die Punkte über mehrere Informationsquellen und verborgene Muster hinweg verbinden.
Die Arbeit erfordert immer noch menschliche Experten, aber Ahlberg sagt, dass die generative KI-Technologie, die wir in Projekten wie ChatGPT sehen, helfen kann.
„Wir wollen den Analysezyklus beschleunigen [to] Helfen Sie uns, in Gedankengeschwindigkeit zu analysieren”, sagte er. „Das ist eine sehr schwierige Sache, und ich denke, wir sehen hier einen Durchbruch, was ziemlich aufregend ist.”
Ahlberg ging auch auf die potenziellen Bedrohungen durch hochintelligente Maschinen ein. Da die Welt zunehmend digital und vernetzt wird, könnte die Fähigkeit, die Realität zu verbiegen und Wahrnehmungen zu formen, von böswilligen Akteuren ausgenutzt werden. Diese Bedrohungen sind nicht auf Nationalstaaten beschränkt, was die Landschaft noch komplexer und asymmetrischer macht.
Auch: ChatGPT ist eher eine „fremde Intelligenz“ als ein menschliches Gehirn, sagt der Futurist
KI hat das Potenzial, zum Schutz vor diesen neuen Bedrohungen beizutragen, birgt jedoch auch ihre eigenen Risiken. Beispielsweise könnten Maschinen mit hohen Verarbeitungskapazitäten Systeme schneller und effektiver hacken als Menschen. Um diesen Bedrohungen entgegenzuwirken, müssen wir sicherstellen, dass KI defensiv und mit einem klaren Verständnis dafür, wer die Kontrolle hat, eingesetzt wird.
Da KI immer stärker in die Gesellschaft integriert wird, ist es für Gesetzgeber, Richter und andere Entscheidungsträger wichtig, die Technologie und ihre Auswirkungen zu verstehen. Der Aufbau starker Allianzen zwischen technischen Experten und politischen Entscheidungsträgern wird entscheidend sein, um die Zukunft der KI bei der Bedrohungssuche und darüber hinaus zu steuern.
Die Möglichkeiten, Herausforderungen und ethischen Überlegungen von KI in der Cybersicherheit sind komplex und entwickeln sich weiter. Die Sicherstellung unvoreingenommener KI-Modelle und die Aufrechterhaltung der menschlichen Beteiligung an der Entscheidungsfindung wird dazu beitragen, ethische Herausforderungen zu bewältigen. Wachsamkeit, Zusammenarbeit und ein klares Verständnis der Technologie werden entscheidend sein, um den potenziellen langfristigen Bedrohungen durch hochintelligente Maschinen zu begegnen.
Auch: So funktioniert ChatGPT
Ahlberg äußerte auch Bedenken über China, Russland und Wirtschaftsgegner, die autonome Maschinen einsetzen. Diese Länder werden die KI-Entwicklung wahrscheinlich nicht verlangsamen oder ethische Überlegungen teilen. Während die Möglichkeit, bei solchen Maschinen „den Stecker zu ziehen“, eine intelligente Absicherung ist, schlägt er vor, dass die Integration der Technologie in die Gesellschaft und die globale Wirtschaft es wahrscheinlich schwierig machen wird, sie zu lösen. Ahlberg betont die Notwendigkeit, Produkte und Maschinen so zu gestalten, dass klar ist, wer sie steuert.
„Die große Sache, die das Internet bei all dem bewirkt hat, ist, dass das Internet gewissermaßen zu dem Ort wurde, an dem alle Informationen der Welt migriert wurden“, sagte Ahlberg. “Diese großen Sprachmodelle vollbringen ziemlich magische Dinge … um diesen Denkzyklus zu beschleunigen.”
Er fügte hinzu: „In den nächsten 25 Jahren wird die Welt zu einem Spiegelbild des Internets.“
source – www.zdnet.com
