In Bearbeitung

Bitte warten ...

Einstellungen

Einstellungen

Gehe zu Anmeldung

1. WO2020192849 - AUTOMATISCHE ERKENNUNG UND KLASSIFIZIERUNG VON ADVERSARIAL ATTACKS

Veröffentlichungsnummer WO/2020/192849
Veröffentlichungsdatum 01.10.2020
Internationales Aktenzeichen PCT/DE2020/200018
Internationales Anmeldedatum 17.03.2020
IPC
G06K 9/00 2006.01
GPhysik
06Datenverarbeitung; Rechnen oder Zählen
KErkennen von Daten; Darstellen von Daten; Aufzeichnungsträger; Handhabung von Aufzeichnungsträgern
9Verfahren oder Anordnungen zum Lesen oder Erkennen gedruckter oder geschriebener Zeichen oder zum Erkennen von Mustern, z.B. Fingerabdrücken
G06K 9/46 2006.01
GPhysik
06Datenverarbeitung; Rechnen oder Zählen
KErkennen von Daten; Darstellen von Daten; Aufzeichnungsträger; Handhabung von Aufzeichnungsträgern
9Verfahren oder Anordnungen zum Lesen oder Erkennen gedruckter oder geschriebener Zeichen oder zum Erkennen von Mustern, z.B. Fingerabdrücken
36Aufbereitung der Bildsignale, d.h. Verarbeiten der Bildinformation ohne Entscheidung der Bildidentität
46Ermitteln von Formelementen oder Eigenschaften des Bildes
G06K 9/62 2006.01
GPhysik
06Datenverarbeitung; Rechnen oder Zählen
KErkennen von Daten; Darstellen von Daten; Aufzeichnungsträger; Handhabung von Aufzeichnungsträgern
9Verfahren oder Anordnungen zum Lesen oder Erkennen gedruckter oder geschriebener Zeichen oder zum Erkennen von Mustern, z.B. Fingerabdrücken
62Verfahren und Anordnungen für das Erkennen mit elektronischen Mitteln
G06N 3/04 2006.01
GPhysik
06Datenverarbeitung; Rechnen oder Zählen
NRechnersysteme, basierend auf spezifischen Rechenmodellen
3Rechnersysteme, die auf biologischen Modellen basieren
02unter Verwendung neuronaler Netzwerkmodelle
04Architektur, z.B. Verbindungstopologie
CPC
G06K 9/00791
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
KRECOGNITION OF DATA; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
9Methods or arrangements for reading or recognising printed or written characters or for recognising patterns, e.g. fingerprints
00624Recognising scenes, i.e. recognition of a whole field of perception; recognising scene-specific objects
00791Recognising scenes perceived from the perspective of a land vehicle, e.g. recognising lanes, obstacles or traffic signs on road scenes
G06K 9/4628
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
KRECOGNITION OF DATA; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
9Methods or arrangements for reading or recognising printed or written characters or for recognising patterns, e.g. fingerprints
36Image preprocessing, i.e. processing the image information without deciding about the identity of the image
46Extraction of features or characteristics of the image
4604Detecting partial patterns, e.g. edges or contours, or configurations, e.g. loops, corners, strokes, intersections
4609by matching or filtering
4619Biologically-inspired filters, e.g. receptive fields
4623with interaction between the responses of different filters
4628Integrating the filters into a hierarchical structure
G06K 9/6271
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
KRECOGNITION OF DATA; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
9Methods or arrangements for reading or recognising printed or written characters or for recognising patterns, e.g. fingerprints
62Methods or arrangements for recognition using electronic means
6267Classification techniques
6268relating to the classification paradigm, e.g. parametric or non-parametric approaches
627based on distances between the pattern to be recognised and training or reference patterns
6271based on distances to prototypes
G06N 3/0454
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
04Architectures, e.g. interconnection topology
0454using a combination of multiple neural nets
G06N 3/08
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
08Learning methods
Anmelder
  • CONTI TEMIC MICROELECTRONIC GMBH [DE]/[DE]
Erfinder
  • PIEGERT, Eric - c/o Conti Temic microelectronic GmbH
  • KARG, Michelle - c/o Conti Temic microelectronic GmbH
  • SCHARFENBERGER, Christian - c/o Conti Temic microelectronic GmbH
Prioritätsdaten
10 2019 204 318.628.03.2019DE
Veröffentlichungssprache Deutsch (DE)
Anmeldesprache Deutsch (DE)
Designierte Staaten
Titel
(DE) AUTOMATISCHE ERKENNUNG UND KLASSIFIZIERUNG VON ADVERSARIAL ATTACKS
(EN) AUTOMATIC IDENTIFICATION AND CLASSIFICATION OF ADVERSARIAL ATTACKS
(FR) DÉTECTION ET CLASSIFICATION AUTOMATIQUES DES D’ATTAQUES ADVERSERSES
Zusammenfassung
(DE)
Die Erfindung betrifft ein Verfahren und ein System zur Erkennung von Adversarial Attacks auf ein automatisiertes Detektionssystem, insbesondere ein bildbasiertes Detektionssystem, wie z.B. ein Objektdetektionssystem eines intelligenten Kamerassensors (1; 2; 3) für assistiertes oder automatisiertes Fahren. Das Verfahren umfasst die Schritte: a) Bereitstellen eines Referenz-Bild-/Video-/Audiosignals, z.B. eines Originalbildes, und eines potentiell manipulierten Bild-/Video-/Audiosignals (S12). b) Berechnung eines Satzes an n Metriken (S14), die auf unterschiedliche Weise Unterschiede zwischen dem Referenzsignal und dem potentiell manipulierten Signal quantifizieren, wobei n eine natürliche Zahl größer Eins ist. c) Aufbau eines n-dimensionalen Merkmalsraums basierend auf den berechneten Metriken (S16). d) Klassifikation der Art der Adversarial Attack anhand der berechneten Metriken im n-dimensionalen Merkmalsraum (S18). e) Ausgabe der Klasse der Adversarial Attack (S20). Die Klassifikation der Adversarial Attack ermöglicht die Einleitung einer spezifischen Gegenmaßnahme (S30) gegen eine als kritisch (E1) erkannte Klasse von Adversarial Attacks.
(EN)
The invention relates to a method and a system for identifying adversarial attacks on an automated detection system, in particular an image-based detection system, such as an object detection system, for example an object detection system of an intelligent camera sensor (1; 2; 3) for assisted or automated driving. The method comprises the steps: a) providing a reference/image/video audio signal, for example an original image, and a potentially manipulated image/video/audio signal (S12); b) calculating a set of n metrics (S14), which quantify differences between the reference signal and the potentially manipulated signal in different ways, with n being a natural number greater than one; c) creating an n-dimensional feature space on the basis of the calculated metrics (S16); d) classifying the type of adversarial attack on the basis of the calculated metrics in the n-dimensional feature space (S18); e) outputting the class of the adversarial attach (S20). The classification of the adversarial attack makes it possible to introduce a specific counter-measure (S30) against a a class of adversarial attacks identified as critical (E1).
(FR)
L’invention concerne un procédé et un système de détection d’attaques adverses sur un système de détection automatisé, en particulier un système de détection basé sur des images, comme par exemple un système de détection d’objet d’un capteur de caméra intelligent (1 ; 2 ; 3) pour conduite assistée ou automatisée. Le procédé comprend les étapes suivantes : a) fournir un signal d’image/vidéo/audio de référence, par exemple une image originale et un signal d’image/vidéo/audio (S12) potentiellement manipulé, b) calculer un ensemble de n métriques (S14) qui quantifient les différences entre le signal de référence et le signal potentiellement manipulé de différentes manières, n étant un nombre naturel supérieur à un, c) construire un espace de caractéristiques à n dimensions sur la base des métriques calculées (S16), d) classer le type d’attaque adverse sur la base des métriques calculées dans l’espace de caractéristiques à n dimensions (S18), e) délivrer en sortie la classe d’attaque adverse (S20). La classification des attaques adverses permet de lancer une contre-mesure spécifique (S30) contre une classe d’attaques adverses (E1) reconnues comme critiques.
Aktuellste beim Internationalen Büro vorliegende bibliographische Daten