KI-generierter Code birgt Sicherheitsrisiken für Entwickler und Projekte
Miroslav Hofmann
KI-generierter Code birgt Sicherheitsrisiken für Entwickler und Projekte
Große Sprachmodelle werden in der Softwareentwicklung zunehmend eingesetzt, doch ihr Einsatz birgt Risiken. Solche KI-Tools können mitunter falsche Code-Pakete erzeugen und so Sicherheitslücken schaffen. Entwickler stehen nun vor neuen Herausforderungen, um die Sicherheit ihrer Projekte zu gewährleisten.
Forschende haben herausgefunden, dass selbst fortschrittliche Modelle wie ChatGPT in mehr als 5 % der Fälle fehlerhafte Pakete generieren. Diese Ungenauigkeiten, auch als „Halluzinationen“ bekannt, können gefälschten oder schädlichen Code in Paketverwalter wie npm, PyPI oder CRAN einschleusen. Falsche Pakete dienen oft als Einfallstor für Schadsoftware.
Um diese Risiken einzudämmen, schlagen Expertinnen und Experten Sicherheitsmaßnahmen vor – darunter strengere Code-Prüfungen und bessere Schulungen für Entwickler. Die Verantwortung, Sicherheitsverletzungen zu verhindern, liegt jedoch bei den Programmierern, nicht bei den KI-Systemen.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Entwickler müssen sowohl ihren eigenen Code als auch die von ihnen genutzten Bibliotheken sorgfältig prüfen. Mittlerweile gibt es Sicherheitsstrategien, um die Risiken durch KI-generierte Fehler zu verringern. Im Mittelpunkt steht weiterhin die Wahrung der Code-Integrität in einer sich wandelnden technologischen Landschaft.
