Beschreibung: Beim Neural Hacking versucht ein Angreifer, ein neuronales Netzwerk anzugreifen. Ein derartiger Angriff kann bspw. bei einem Klassifikator zu falschen Ergebnissen der Klassifikation mit sehr hoher Wahrscheinlichkeit führen. Bei dieser Art von Angriffen werden Muster mit geringer Amplitude dem eigentlichen Bild überlagert, sodass ein menschlicher Betrachter keinen oder nur einen sehr geringen Unterschied bemerken würde. Dieser Forschungsbereich im maschinellen Lernen ist bis heute wenig erforscht und gewinnt zunehmend an Bedeutung. Beispielsweise nimmt ein autonomes Fahrzeug u.a. mittels neuronalen Netzwerken seine Umgebung wahr und ist daher prinzipiell anfällig für derartige Angriffe.

Diese Arbeit beschäftigt sich mit derartigen Angriffen auf neuronale Netzwerke und speziell mit Methoden, um sie abzuwehren. Dazu sollen Generative Adversarial Networks (GANs) eingesetzt werden. Ein Generative Adversarial Network stellt ein Framework zweier konkurrierender Modelle dar. Der Generator erzeugt dabei Bilder und der Diskriminator unterscheidet zwischen realen und erzeugten Bildern. Durch eine geschickte Rückführung der Ausgaben des Diskriminators auf die Gewichte des Generators können sehr hochwertige Bilder generiert werden.

Mit GANs können zum einen Störungen erzeugt werden, um neuronale Netzwerke in die Irre zu leiten. Ein Training mit derartigen Bildern ist der einfachste Ansatz zur Erhöhung der Robustheit. Zum anderen lassen sich Eingangsbilder vorverarbeiten, um mögliche vorhandene Störungen zu entfernen. Durch diesen Ansatz muss der Klassifikator nicht modifiziert werden. Das Ziel der Arbeit ist die Implementierung und Evaluation eines derartigen GANs.

Voraussetzungen: Mustererkennung, Kenntnisse in Python (und TensorFlow)