C’est une règle naturelle : plus un système est complexe, plus la probabilité pour qu’il dérape augmente. Ainsi, si la vieille cafetière italienne de votre grand mère prépare toujours de délicieux expresso, la mega-cafetière connectée sur internet, offerte à Noël, est déjà à la poubelle.
Seulement que se passe-t-il quand le dérèglement d’une machine complexe la transforme en danger public voire même en tueur en série ? A l’ère de l’IOT (l’internet des objets) où tout est connecté, de votre smartphone à votre pacemaker en passant par votre maison, votre voiture et votre robot aspirateur, la question est primordiale. Plus grave encore, l’engouement mondial pour les systèmes à base d’intelligence artificielle crée des systèmes de plus en plus complexes et autonomes, des systèmes de plus en plus immergés dans notre quotidien, de moins en moins contrôlables.
...
