KI und IT-Sicherheit: Wir laufen in ein größeres Problem.

KI ist inzwischen recht gut darin, vorgegebene Ziele in der Softwareentwicklung zu erreichen. Features werden schneller umgesetzt, Ergebnisse sind sofort sichtbar.

Das Problem:
KI ist nicht wirklich gut in Security und Wartungsfähigkeit. Sie kann zwar unterstützen, sieht und bedenkt jedoch nicht alle Aspekte.

Der Code tut, was er soll, aber im Hintergrund schlummern Lücken. Unsichere Abhängigkeiten, fehlende Härtung, technische Schulden. Dinge, die man nicht direkt sieht, die aber später richtig teuer werden.

Gleichzeitig verändert sich die Angriffsseite massiv:
Angreifer nutzen KI gezielt, um nach Zero-Day-Lücken zu suchen.
Sean Heelan hat da vor kurzem was spannendes getestet. Sein Fazit: Finden und konkrete Ausnutzen von Sicherheitslücken mit Exploits wird mit KI komplett industrialisiert.
Die KI muss in dem Fall keinen sauberen, wartbaren oder sicheren Code bauen. Das Ziel ist klar: "Finde eine Lücke im Produkt." Und genau darauf kann sich die KI kompromisslos fokussieren.

Jetzt kommt eine zusätzliche organisatorische Schieflage dazu:
CEOs sehen, dass mit KI "sofort Ergebnisse" möglich sind. Das Verständnis dafür, warum Dinge plötzlich wieder länger dauern sollen, wird weiter sinken.
Security hingegen braucht Nacharbeit, Reviews, Tests und Härtung und damit Zeit. Zeit, die auf Management-Ebene immer schwerer zu erklären ist.

Damit landet das Problem beim CTO:
Noch mehr Erklärungsarbeit, warum funktionierender Code nicht automatisch sicherer Code ist.
Warum "es läuft doch" kein Sicherheitsnachweis ist.
Und warum Geschwindigkeit ohne Security kein Fortschritt, sondern ein Risiko ist.

Und wie immer gilt:
Security hat ohnehin ein schlechtes Standing. Sie kostet Geld, bringt kein Feature und wird außerhalb der IT kaum verstanden.

Fazit:
Wenn wir KI in der Entwicklung einsetzen, ohne Security strukturell mitzudenken und zu priorisieren, laufen wir sehenden Auges in ein deutlich größeres Problem hinein.

KI beschleunigt alles, auch unsere Fehler.

Wie seht ihr das?