Künstliche Intelligenz versus künstliche Hacker

Rik Ferguson
Inside-it.ch im Gespräch mit Rik Ferguson, Leiter des Security-Research-Teams bei Trend Micro.
 
Rik Ferguson sieht eigentlich aus wie ein Mitglied einer Rockband, ist aber der Leiter des Security-Research-Teams bei Trend Micro. Während Musik tatsächlich sein Hobby ist, ist Security sein Beruf und gleichzeitig, wie man im Gespräch mit ihm merkt, auch seine Leidenschaft.
 
An der hochkarätig besetzten Security-Konferenz Cloudsec in London fesselten Ferguson und sein Kollege Robert McArdle das Publikum mit Thesen zu zukünftigen Cyberbedrohungen. Inside-it.ch hatte zudem Gelegenheit zu einem persönlichen Gespräch mit Ferguson.
 
Künstliche Intelligenz, so Ferguson, wird eine grosse Rolle in der Security-Landschaft spielen. Und zwar sowohl in den Händen der Verteidiger als auch der Angreifer.
 
KI-Hacker
Eine der grössten Bedrohungen, die er auf die Sicherheit von Unternehmen zukommen sieht, ist, dass Hacker KI für ihre Zwecke einspannen. Die Künstliche Intelligenz wird sozusagen zum Künstlichen Hacker. KIs, so Ferguson, können beispielsweise dazu trainiert werden, Sicherheitslücken in Software und Netzwerken zu finden. Dies würden sie nicht nur sehr viel schneller tun, als Menschen. Da KIs anders denken als Menschen, könnten sie auch Schwachstellen finden, auf die Menschen gar nie gekommen wären.
 
KIs könnten zudem auch die Angriffe selbst führen. "Die Angriffe werden dann in Hochgeschwindigkeit (machine speed) erfolgen. Die KI kann ihre Taktik in Hochgeschwindigkeit ändern. Der Schadcode wird sich sozusagen darüber 'bewusst' sein, in welchem Kontext er läuft. Dadurch wird er in Echtzeit darauf reagieren können, wo er sich gerade befindet und welche Sicherheitsmassnahmen er antrifft."
 
Deepfakes als Erpressungsmittel
Eine weitere von Ferguson erwähnte neue KI-gestützte Angriffsmethode ist "Deepfake Ransomware". Eigentlich handelt es sich dabei allerdings nicht um Ransomware, sondern um klassische Erpressung, für die das erpresserische Material mit modernster Technologie hergestellt wird.
 
Deepfakes sind mit Hilfe von Künstlicher Intelligenz hergestellte gefälschte Bilder, Videos oder Audioaufnahmen. Es wird beispielsweise immer einfacher, eine Stimme nachzuahmen oder Gesichter einer Person auf andere Körper zu pflanzen. So kann kompromittierendes Material hergestellt werden, dass für eine Erpressung oder natürlich auch direkte Sabotage einer Person verwendet werden kann.
 
Ferguson sieht vor allem zwei Personengruppe gefährdet: Politiker und Teenager. Letztere würden heute eine riesige Bedeutung darauf setzen, wie andere sie sehen. Und sie hätten die Gewohnheit, sehr viele Bilder von sich im Internet zu publizieren. Dies mache es für Angreifer leichter, Deepfakes zu produzieren.
 
Für Politiker bestehe die grosse Gefahr darin, dass heutzutage so viele Leute einfach alles glauben, was sie im Internet sehen, ohne Fakten abzuchecken. Für betroffene Politiker könne der Schaden deshalb sehr schnell sehr gross werden. Und es würde ihnen nicht mehr viel nützen, wenn einige Zeit später nachgewiesen würde, dass es sich um einen Fake handelte.
 
Deepfakes können aber nicht nur für Erpressungen verwendet werden. Erst kürzlich habe man bereits von einem Fall erfahren, bei dem ein Audio-Deepfake für einen Betrug verwendet wurde. Der Angreifer rief jemanden in einer Firma an, behauptete, er sei der CEO und veranlasste einen Transfer von 234'000 Euro.
 
KI kann auch helfen
Allerdings ist Künstliche Intelligenz wie erwähnt nicht nur eine Waffe für Angreifer, sondern auch für Verteidiger. Manche Hersteller von Security-Software, darunter auch Trend Micro, verwenden schon seit einigen Jahren Machine Learning für ihre Produkte, beispielsweise bei der Spam-Erkennung.
 
Ein aktuell sehr wichtiges Anwendungsgebiet sieht Ferguson in der Filterung der Unmengen von Security-Alerts, die in jeder IT-Security-Zentrale täglich eintreffen. Zuletzt müssten immer noch Menschen Entscheidungen treffen. Aber KI können die Alerts durchgehen, kategorisieren und so vorfiltern, und aus zehntausenden von Alerts einige hundert machen, um die sich noch Menschen kümmern müssen. "Lasst die KIs die Knochenarbeit machen!", so das Fazit von Ferguson. (Hans Jörg Maron)
 
(Interessenbindung: Der Flug und der Aufenthalt des Reporters in London wurden von Trend Micro bezahlt.)