L’IA risque de réduire à néant l’humanité, alertent des experts

La lutte contre les risques liés à l’IA devrait être «une priorité mondiale au même titre que d’autres risques à l’échelle de la société, tels que les pandémies et les guerres nucléaires», ont écrit les signataires d’une déclaration en ligne sur le site Internet du Center for AI Safety, une organisation à but non lucratif basée aux États-Unis. Celle-ci avertissait mardi des menaces d’«extinction» pour l’humanité posées par l’essor de l’intelligence artificielle (IA).

Geoffrey Hinton, considéré comme l’un des pères fondateurs de l’intelligence artificielle (IA) et également signataire de la tribune, avait déjà mis en garde contre ses dangers en quittant, début mai, son poste au sein du géant Google. Les avancées dans le secteur de l’IA induisent «de profonds risques pour la société et l’humanité», avait-il estimé dans le «New York Times». En mars, le milliardaire Elon Musk – un des fondateurs d’OpenAI dont il a ensuite quitté le conseil d’administration – et des centaines d’experts mondiaux avaient réclamé une pause de six mois dans la recherche sur les IA puissantes, en évoquant «des risques majeurs pour l’humanité».

Le déploiement à toute vitesse d’une intelligence artificielle de plus en plus «générale», dotée de capacités cognitives humaines et donc susceptible de bouleverser de nombreux métiers, a été symbolisé par le lancement en mars par OpenAI de GPT-4, une nouvelle version plus puissante de ChatGPT, ouvert au grand public, fin 2022.

L’Américain Sam Altman multiplie régulièrement les mises en garde, craignant que l’IA ne «cause de graves dommages au monde», en manipulant des élections ou en chamboulant le marché du travail. La semaine dernière à Paris, il a discuté avec le président Emmanuel Macron, de la manière de trouver «le juste équilibre entre protection et impact positif» de cette technologie.