Cyberagentur Halle startet Forschungsprojekt zur Sicherheit von künstlicher Intelligenz (KI)
24. April 2023 | Bildung und Wissenschaft | Keine Kommentare
Die Cyberagentur in Halle (Bild ausgedacht vom KI-Programm DALL E 2)
Die Cyberagentur hat eine Ausschreibung für ein Forschungsprojekt namens „Robustes und Sicheres Maschinelles Lernen“ veröffentlicht. Das Projekt soll fünf Jahre laufen und verschiedene Ansätze zur Steigerung der Verlässlichkeit und Manipulationssicherheit von KI-Systemen erforschen.
Maschinelles Lernen ist ein wichtiges Analysewerkzeug für immer größere und komplexere Datenmodelle geworden. Es gibt jedoch noch viele Probleme, insbesondere in Bezug auf die Sicherheit und Robustheit von KI-Systemen. Diese sind zum Beispiel anfällig für unerwartete Eingaben und Manipulationen. Das Forschungsprojekt soll helfen, neue Ansätze zur Steigerung der Sicherheit und Robustheit von KI-Systemen in verschiedenen Domänen zu entwickeln.
Die Cyberagentur hat fünf Forschungsschwerpunkte festgelegt, darunter Datenabsicherung, Modellverifikation, Systemeinbettung, Hybridmodelle und Ende-zu-Ende-Verifikation. In den fünf Jahren Projektlaufzeit soll sowohl Grundlagenforschung als auch die Entwicklung von Prototypen stattfinden.
Die Sicherheit und Robustheit von KI-Systemen ist besonders wichtig im Kontext der inneren und äußeren Sicherheit sowie bei kritischen Infrastrukturen. Die Forschung soll dazu beitragen, die wissenschaftlichen Grundlagen für maximale Cybersicherheit von KI-Systemen zu schaffen und auszubauen.
