Le triste état de la recherche est un signe inquiétant pour l’ère de l’IA

Récemment, un samedi soir, un responsable technique qui s'ennuyait a décidé de jouer avec une application d'intelligence artificielle dont il avait entendu parler. Le dirigeant, que nous appellerons Matthew, a commencé la façon dont la plupart des gens recherchent des choses sur Internet : il a ouvert son ordinateur portable et a tapé le nom de la société d'IA, Midjourney, dans Google. Il a cliqué sur le premier résultat et, en quelques clics supplémentaires, il a téléchargé et installé l'application.

Ou plutôt, c'est ce qu'il pensait avoir fait : ce sur quoi il avait cliqué était une publicité que Google avait involontairement vendue à un escroc déguisé en Midjourney. Matthew, qui a demandé l'anonymat parce qu'il craignait que quiconque accède à son ordinateur puisse encore avoir ses données personnelles, avait installé par inadvertance un « infostealer », un type de malware qui parcourt l'ordinateur d'une victime à la recherche de noms d'utilisateur et de mots de passe, puis les transmet aux pirates. Celui-ci, connu sous le nom d’Aurora, avait accédé à son portefeuille cryptographique, à ses comptes de réseaux sociaux et qui sait quoi d’autre. Les pirates ont transféré le contenu du portefeuille Coinbase de Matthew (des centaines de milliers de dollars en crypto) vers une banque qui n'était pas la sienne. "C'est toute votre vie", dit Matthew. "Tu te sens tellement nue, effrayée et vulnérable."

Matthew se reproche de ne pas avoir été plus prudent, mais il reproche également à Google d'avoir permis à une arnaque évidente d'atteindre le haut de sa page de résultats. L'échec a été amplifié par des choix de conception qui créent le sentiment que les liens des résultats de recherche Google sont parfaitement objectifs et dignes de confiance, tout en rendant difficile de savoir lesquels sont là parce que quelqu'un a payé pour les y mettre. (Google qualifie les annonces de « sponsorisées », mais il est facile de rater l'étiquette.)

L'expérience de Matthew soulève des questions de longue date sur les coûts de la domination de l'entreprise sur le marché des recherches et son apparente incapacité à freiner les escroqueries. Et cela suggère que Google pourrait avoir plus de mal que prévu à empêcher les escroqueries et la désinformation de son moteur de recherche de chatbot expérimental (et parfois contesté sur le plan factuel). Sur Google Bard, comme on l'appelle, il sera probablement encore plus difficile de déterminer la provenance des informations fournies par l'entreprise.

Fin juillet, l'annonce sur laquelle Matthew avait cliqué avait disparu, mais de faux sites Web Midjourney apparaissaient toujours en haut des résultats de recherche de Google. "Le fait que cela apparaît encore dans les résultats est inadmissible", dit-il. "Je leur ai fait confiance, mais c'était une fausse confiance." Les fausses listes Midjourney ont disparu de Google peu de temps après une requête de Bloomberg Businessweek. Google a refusé de commenter les fausses listes, mais affirme qu'il utilise une combinaison d'examinateurs humains et de logiciels pour supprimer ce contenu, ce qu'il interdit. Il note également qu'il a supprimé 5,2 milliards de publicités l'année dernière pour violation des politiques de l'entreprise. "Bien que de mauvais acteurs tentent de contourner nos protections, les systèmes de Google sont très efficaces pour faire apparaître des informations de haute qualité et lutter contre le spam et les comportements malveillants", déclare Ned Adriance, porte-parole de l'entreprise.

Il n'aurait pas fallu un système anti-arnaque sophistiqué pour comprendre que la publicité que Google a montrée à Matthew était malveillante. La liste pointait vers un site Web censé être celui de Midjourney, mais elle remplaçait la lettre « o » dans le nom de l'entreprise par un zéro, une tactique d'arnaque bien connue. Il y avait des fils de discussion sur Reddit avertissant les utilisateurs de cette chose exacte avant que Matthew ne clique, et le sénateur démocrate du Connecticut, Richard Blumenthal, dans une lettre de 2022, a accusé Google d'avoir « systématiquement échoué à lutter contre les escroqueries dangereuses, l'usurpation d'identité et la cybercriminalité ». De plus, Midjourney n'a même pas d'application téléchargeable ; vous y accédez via l'application de chat Discord.

Des exemples similaires sont apparus périodiquement tout au long de l'histoire de Google. Fin juillet, par exemple, Shmuli Evers, un concepteur numérique, a découvert que des escrocs avaient réussi à tromper Google en lui faisant donner de faux numéros de téléphone à Delta Air Lines Inc. et à d'autres grands transporteurs afin de vendre de faux billets. Google a corrigé l'erreur après qu'Evers ait tweeté à ce sujet, mais les critiques affirment que la société est au courant depuis longtemps d'escroqueries similaires liées aux numéros de téléphone. "Ces détournements ont eu lieu chaque année au cours des 15 dernières années", explique Mike Blumenthal, co-fondateur de Near Media, qui conseille les entreprises en matière de marketing numérique et de recherche. "Google rejette depuis longtemps les coûts de ces escroqueries sur la société."