Beschreibung: Beim Neural Hacking versucht ein Angreifer, ein neuronales Netzwerk anzugreifen. Ein derartiger Angriff kann bspw. bei einem Klassifikator zu falschen Ergebnissen der Klassifikation mit sehr hoher Wahrscheinlichkeit führen. Bei dieser Art von Angriffen werden Muster mit geringer Amplitude dem eigentlichen Bild überlagert, sodass ein menschlicher Betrachter keinen oder nur einen sehr geringen Unterschied bemerken würde. Dieser Forschungsbereich im maschinellen Lernen ist bis heute wenig erforscht und gewinnt zunehmend an Bedeutung. Beispielsweise nimmt ein autonomes Fahrzeug u.a. mittels neuronalen Netzwerken seine Umgebung wahr und ist daher prinzipiell anfällig für derartige Angriffe.

Diese Arbeit beschäftigt sich mit derartigen Angriffen auf neuronale Netzwerke und speziell mit Methoden, um sie abzuwehren. Dazu sollen Generative Adversarial Networks (GANs) eingesetzt werden. Ein Generative Adversarial Network stellt ein Framework zweier konkurrierender Modelle dar. Der Generator erzeugt dabei Bilder und der Diskriminator unterscheidet zwischen realen und erzeugten Bildern. Durch eine geschickte Rückführung der Ausgaben des Diskriminators auf die Gewichte des Generators können sehr hochwertige Bilder generiert werden.

Mit GANs können zum einen Störungen erzeugt werden, um neuronale Netzwerke in die Irre zu leiten. Ein Training mit derartigen Bildern ist der einfachste Ansatz zur Erhöhung der Robustheit. Zum anderen lassen sich Eingangsbilder vorverarbeiten, um mögliche vorhandene Störungen zu entfernen. Durch diesen Ansatz muss der Klassifikator nicht modifiziert werden. Das Ziel der Arbeit ist die Implementierung und Evaluation eines derartigen GANs.

Voraussetzungen: Mustererkennung, Kenntnisse in Python (und TensorFlow)

Beschreibung: Generative Adversarial Networks (GANs) sind neuronale Netzwerke, die im Stande sind, Bilder zu generieren. Es handelt sich dabei um ein duales Modell aus einem Generator und einem Diskriminator. Die Aufgabe des Diskriminators ist es, die Ausgaben des Generators zu bewerten. Mit diesem Feedback ist der Generator in der Lage, die erzeugten Bilder im Laufe des Trainings immer weiter zu verbessern. Diese grundlegende Technik hat in den letzten Jahren einen großen Durchbruch im Machine Learning errungen.

In dieser Arbeit soll ein grundlegendes Framework für ein GAN in Tensorflow aufgebaut werden. Es soll möglichst überschaubar, modular und erweiterbar gestaltet werden, sodass spätere, spezifischere Anwendungen dieses Projekt als Grundlage verwenden können. Daher sollen für das Laden der Daten, die Gestaltung der neuronalen Netzwerke und die Anzeige und Auswertung der Ergebnisse universelle Konzepte implementiert werden.

Ein weiterer Anwendungsfall des Frameworks soll es sein, mit wenig Aufwand neue Topologien oder Funktionen testen zu können. Die nachzubildenden Datenverteilungen werden dabei möglichst einfach gehalten, sodass sie für theoretische Untersuchungen geeignet sind. Bei synthetischen Datenverteilungen mit wenigen Dimensionen spricht man beispielsweise auch von Toy Examples.
Der Vergleich verschiedener existierender Varianten von GANs kann als Evaluation des Frameworks dienen.

Voraussetzungen: Mustererkennung, Kenntnisse in Python (und TensorFlow)