REGARDER: Geoffrey Hinton, le « parrain » de l’IA, parle à la BBC des dangers de l’IA alors qu’il quitte Google
Un homme largement considéré comme le père de l’intelligence artificielle (IA) a quitté son emploi, avertissant des dangers posés par les développements dans le domaine.
Jeffrey Hinton, 75 ans, a annoncé sa démission de Google dans une déclaration au New York Times, affirmant qu’il regrettait désormais son travail.
Il a déclaré à la BBC que certains des risques des chatbots IA sont « très effrayants ».
« En ce moment, ils ne sont pas plus intelligents que nous, pour autant que je sache. Mais je pense qu’ils pourraient le devenir bientôt. »
Les recherches pionnières du Dr Hinton sur l’apprentissage en profondeur et les réseaux de neurones ont ouvert la voie aux systèmes d’IA actuels comme ChatGPT.
Mais le psychologue cognitif et informaticien anglo-canadien a déclaré à la BBC que les chatbots pourraient bientôt dépasser les informations détenues par le cerveau humain.
« Ce que nous voyons maintenant, c’est que des choses comme GPT-4 éclipsent le niveau de bon sens d’une personne et cela le cache pendant longtemps. En termes de raisonnement, ce n’est pas si bon, mais c’est déjà le cas. Un raisonnement simple.
« Et étant donné le rythme des progrès, nous nous attendons à ce que les choses s’améliorent très rapidement. Nous devrions donc nous en préoccuper. »
Dans l’article du New York Times, le Dr Hinton a fait référence à de « mauvais acteurs » essayant d’utiliser l’IA pour de « mauvaises actions ».
Interrogé par la BBC pour élaborer, il a répondu: « C’est une sorte de pire scénario, une sorte de scénario cauchemardesque.
« Par exemple, vous pouvez imaginer des mauvais acteurs [Russian President Vladimir] Poutine a décidé de donner aux robots la possibilité de créer leurs propres sous-cibles. »
Cela peut éventuellement créer « des sous-objectifs comme » je veux avoir plus de pouvoir « », a averti le scientifique.
Il a ajouté : « Je suis arrivé à la conclusion que l’intelligence que nous développons est très différente de l’intelligence que nous avons.
« Nous sommes des systèmes biologiques et ce sont des systèmes numériques. Et la grande différence, c’est qu’avec les systèmes numériques, il y a plusieurs copies du même poids, du même modèle du monde.
« Et toutes ces répliques peuvent apprendre individuellement, mais partagent leurs connaissances instantanément. C’est donc comme si vous aviez 10 000 personnes, et chaque fois que l’on apprend quelque chose, tout le monde le sait automatiquement. Et ces chatbots peuvent en apprendre plus que n’importe qui. »
Le Dr Hinton a également déclaré qu’il y avait d’autres raisons de quitter son emploi.
« Un, j’ai 75 ans. Il est donc temps de prendre ma retraite. Et l’autre, c’est que je veux dire du bien de Google. Et si je ne travaillais pas chez Google, ils seraient plus crédibles. »
Il ne voulait pas critiquer Google et a insisté sur le fait que le géant de la technologie avait agi « de manière très responsable ».
Voir : Qu’est-ce que l’Intelligence Artificielle ?
