« Les machines intelligentes du futur auront des sentiments, des plaisirs, des peurs, et des valeurs morales. Ces valeurs seront une combinaison de comportements, d’instinct et de pulsions programmés avec des comportements appris.

Dans quelques décennies, quand nous pourrons peut-être penser à concevoir des machines réellement intelligentes, nous devrons répondre à la question de ­comment aligner les valeurs des machines avec les valeurs morales humaines.

Mais c’est un futur lointain où l’on pourra donner de l’autonomie aux machines. D’ici là, les machines seront certes intelligentes, mais pas autonomes. Elles ne seront pas à même de définir leurs propres buts et motivations. L’ordinateur de votre voiture s’en tiendra à conduire votre voiture en toute sécurité. L’IA sera un amplificateur de notre intelligence, et non un substitut pour celle-ci.

Malgré les déclarations de certaines personnalités, le scénario à la Terminator est immensément improbable. […] Le progrès de l’IA sera progressif et ouvert. »

« Les enjeux de la recherche en intelligence artificielle », Interstices, 2016

 

Vous avez aimé ? Partagez-le !