Deep Learning et vision par ordinateur

2

De l’Intelligence Artificielle au DeepLearning

Intelligence Artificielle

Machine Learning

Deep Learning

3

Machine LearningEstimation immobilière

4

Machine LearningEstimation immobilière

Superficie (m²)

Prix (k€)

92 298

123 470

74 253

127 450

105 322

85 266

117 403

55 1980

50

100

150

200

250

300

350

400

450

500

0 20 40 60 80 100 120 140

Base d’apprentissage Modèle de prédiction 5

Machine LearningPhase d’apprentissage

0

50

100

150

200

250

300

350

400

450

500

0 20 40 60 80 100 120 140

y = ax + b

Paramètres

6

Machine LearningPhase d’apprentissage

0

50

100

150

200

250

300

350

400

450

500

0 20 40 60 80 100 120 140

7

Superficie (m²)

Prix (k€)

92 298

123 470

74 253

127 450

105 322

85 266

117 403

55 198

Machine LearningPhase de prédiction

Modèle Y

X8

ax + b

Machine LearningUn problème plus complexe

Souris ?Clavier ?Ecran ?Imprimante ?…

9

𝜎

𝑖=0

𝑛

𝑊𝑖𝑋𝑖 + 𝑏

Machine LearningNeurones artificiels

𝑋0

𝑋1

𝑋2

𝑋3

Y

𝑖=0

𝑛

𝑊𝑖𝑋𝑖 + 𝑏

b

𝑊0

𝑊1

𝑊2

𝑊3

𝜎 𝑥 = ቊ0 𝑠𝑖 𝑥 < 𝑠𝑒𝑢𝑖𝑙

1 𝑠𝑖𝑛𝑜𝑛

𝜎 𝑥 =1

1 + 𝑒−𝑥

10

Machine LearningRéseaux de neurones

16 poids

5 biais

21 paramètres

𝑋0

𝑋1

𝑋2

11

Machine LearningRéseaux de neurones

640

960

614 400 entrées≈2,5M paramètres

12

Machine LearningReconnaissance d’images

Extraction de caractéristiques

SURFSIFTHoG

…

- Expertise métier- Non généralisable 13

Deep LearningRéseaux de neurones profonds

14

Deep LearningExtraction de caractéristiques

Extraction de caractéristiques

15

Deep LearningExtraction de caractéristiques

16

Deep LearningLarge Scale Visual Recognition Challenge

29,6

27,1 26,9 26,2

16,4

University ofAmsterdam

XRCE/INRIA OXFORD_VGG ISI SuperVision

Tau

x er

reu

r to

p-5

ILSVRC – 2012

28,126,3

16,4

11,7

6,73,57

3,08 2,25

2010 2011 2012 2013 2014 2015 2016 2017

Tau

x er

reu

r to

p-5

ILSVRC

17

Humain

Deep LearningApprentissage

Modèle

Grosse base de données d’images étiquetées

Puissants GPUs

PrédictionCoût +

évaluation

Ajustement des paramètres

(rétropropagation)

Nouvelles prédictions

Fixation des paramètres

18

Deep LearningRéseaux de neurones convolutifs

1 1 1 0 0 1 0 1

0 1 1 1 0 0 1 1

0 0 1 1 1 0 0 0

0 0 1 1 0 0 1 0

1 1 0 1 1 1 0 0

1 0 1 0 0 1 1 0

0 1 0 0 0 1 0 1

1 1 1 0 1 0 1 0

1 0 1

0 1 0

1 0 1

1 1 1

0 1 1

0 0 1

4 3 4 2 1 3

2 4 3 3 2 1

2 4 4 3 2 1

4 1 3 3 3 1

1 4 1 3 2 4

5 1 3 1 4 1

0 1 1

1 1 0

0 0 1

4 4 3 2 1 2

3 4 3 2 3 2

1 4 5 3 0 1

4 3 2 3 4 2

2 2 3 3 2 3

3 2 1 1 4 2

Noyaux Cartes de caractéristiques

𝑖=0

𝑛

𝑊𝑖𝑋𝑖 + 𝑏𝜎

𝑖=0

𝑛

𝑊𝑖𝑋𝑖 + 𝑏

19

Deep LearningExemples de tâches

• Classification

• Détection d’objets / de visages

• Segmentation sémantique

• Segmentation d’instance

• Coloration d’images

• Transfert de style

• Génération de légende

Colorful Image Colorization, ECCV 2016 A Learned Representation for Artistic Style,

CoRR 2016

Show and Tell: A Neural Image Caption Generator, CVPR 2015 20

SSD: Single Shot MultiBox Detector, ECCV 2016

ICNet for Real-Time Semantic Segmentation on High-Resolution

Images, CoRR 2017

Mask R-CNN, ICCV 2017

Deep LearningDomaines d’application

• Robotique

• Sécurité/surveillance

• Contrôle qualité

• Diagnostic santé

• Réalité augmentée

21

Real-Time Crowd Violence Recognition and Detection in Surveillance Videos

Manufacturing Quality Control Using Deep Learning & Computer Vision

GPU-Powered Deep Learning Being Used to Speed Colon Cancer Diagnosis

MERCI DE VOTRE ATTENTION

Des questions ?

Sébastien PELURSON

Sylvain BERTHELOT

Bibliographie

• Cours

• Deep Learning Specialization – Andrew NG

• Neural Network for Machine Learning – Geoffrey Hinton

• Livres

• Artificial Intelligence: A Modern Approach – Stuart Russel & Peter Novig

• Deep Learning – Ian Goodfellow, Yoshua Bengio, Aaron Courvile

• Autres

• L’apprentissage profond : une révolution en intelligence artificielle – Yann LeCun(Leçon inaugurale au Collège de France)

23