Das Team der Network Security Lab der University of Washington hat eine vermeintliche Schwäche von Deep-Neural-Networks entdeckt (https://arxiv.org/pdf/1703.06857v1.pdf). DNN scheinen Probleme damit zu haben negative Bilder zu identifizieren.

Wenn das Netzwerk darauf trainiert wurde, die drei in weiß zu erkennen, lernte es nicht auch eine schwarze drei zu erkennen. Die Forscher sehen hier eine Schwäche in der Fähigkeit der DNN zu generalisieren. Eine einfache Lösung für dieses Problem wäre es, die negativ Beispiele für das Training automatisiert zu erstellen.

Außerdem stellt sich die Frage, in wie weit eine Generalisierung des Netzwerkes überhaupt gewünscht ist. Bei farbigen Bildern sollte das Netzwerk die Farbinformation nicht ignorieren. Das Netzwerk sollte eine allgemeine Betrachtung z.B. der Farbe Rot erlernen, aber trotzdem in der Lage sein Rot und Grün zu unterscheiden. Hier zeigt sich wie wichtig die sorgfältige Auswahl des Trainingssetz und der Lernfunktion sind um das Netz korrekt auf die eigenen Bedürfnisse zu trainieren.