Geoffrey Hinton, un informaticien britannique qui a passé sa vie à travailler sur les réseaux neuronaux artificiels, ce qui lui vaut d'être reconnu comme l'un des pères de l'intelligence artificielle (IA), a affirmé que cette technologie pourrait anéantir l'humanité.
Comme l'explique un article paru sur le site Cinemascomics, il est intéressant de connaître l'opinion de Geoffrey Hinton sur la possibilité pour l'IA de s'attaquer à l'homme, compte tenu notamment de son expérience dans ce domaine.
Dans une récente interview accordée à CBS, il a expliqué : « Jusqu'à récemment, je pensais qu'il faudrait 20 à 50 ans avant que nous ayons une IA polyvalente. Aujourd'hui, je pense qu'il faudra 20 ans ou moins« .
« Il se peut qu'un jour prochain, les ordinateurs soient capables non seulement de diagnostiquer leurs propres problèmes, mais aussi d'y remédier par eux-mêmes. C'est un problème, n'est-ce pas ? Nous devons réfléchir sérieusement à la manière de contrôler cela. »
À la question de savoir si l'intelligence artificielle pourrait anéantir l'humanité, Geoffrey Hinton a répondu avec prudence : « Ce n'est pas inconcevable, c'est tout ce que je dirai. Je pense qu'il est tout à fait raisonnable que les gens se préoccupent de ces questions maintenant, même si cela ne se produira pas dans l'année ou les deux années à venir. Les gens devraient réfléchir à ces questions« .
Trois façons dont l'IA pourrait anéantir l'humanité
Le rapport ajoute trois façons dont l'IA pourrait anéantir l'humanité :
- Amélioration incontrôlée : Le fait qu'un système d'IA puisse s'améliorer de manière incontrôlée conduirait à une situation connue sous le nom d'explosion de l'intelligence. Si un système d'IA devenait beaucoup plus intelligent que ses créateurs, il pourrait constituer une menace pour l'existence humaine.
- Armes autonomes : des armes autonomes alimentées par l'IA pourraient être développées, capables de prendre des décisions sans supervision humaine.
- Cyber-attaques : l'IA pourrait également être utilisée par des acteurs malveillants pour mener des cyber-attaques sur des infrastructures critiques, telles que les réseaux électriques, les systèmes de transport et les réseaux financiers.
Regardez l'intégralité de l'interview de Geoffrey Hinton sur CBS Mornings ci-dessous.
