À la fin de l’année 2023, la presse new-yorkaise a découvert au détour d’une conférence de presse comme une autre qu’Eric Adams, le maire démocrate de la ville élu l’année précédente, s’adressait à ses concitoyens dans des messages téléphoniques ciblés. Et ce depuis des mois. Des messages prononcés en espagnol, en yiddish, en mandarin, en cantonais et même en créole haïtien. Dans la foulée, certains habitants ayant reçu ce genre de messages annonçant des concerts ou des opportunités d’emploi ont interpellé le maire dans la rue… en mandarin ou en espagnol. Le problème, c’est qu’Eric Adams ne parle aucune de ces langues. Pas même un peu. S’il s’est adressé à ses concitoyens dans leur langue, c’est grâce au clonage de sa voix par intelligence artificielle (IA), qui permet ensuite de la faire s’exprimer dans le langage de son choix. C’est un nouveau champ créatif dans la musique et ça peut être pertinent dans le monde politique, mais à aucun moment les équipes d’Eric Adams n’ont signalé qu’il s’agissait d’une voix générée par IA, ce qui a vite été considéré comme « profondément contraire à l’éthique » par le Surveillance Technology Oversight Project (Stop), une ONG basée à New York qui combat l’utilisation de la technologie à des fins de surveillance et de manipulation.
Le problème ici, ce n’est pas l’utilisation de l’IA générative pour mieux s’adresser aux habitants