Google a l’air stupide en ce moment. Et les aperçus de l’IA sont à blâmer.
Les aperçus de l’IA de Google ont donné des réponses incorrectes, trompeuses et même dangereuses.
Le fait que Google inclut une clause de non-responsabilité au bas de chaque réponse (« L’IA générative est expérimentale ») ne devrait pas être une excuse.
Ce qui se passe. Les réponses générées par l’IA de Google ont gagné beaucoup de points négatifs couverture médiatique grand public car les gens ont partagé de nombreux exemples d’échecs d’AI Overview sur les réseaux sociaux.
Il suffit de regarder toute la couverture :
Quelques exemples d’aperçus de l’IA de Google :
Google a décrit les bienfaits pour la santé de courir avec des ciseaux : Google a décrit les bienfaits pour la santé de prendre un bain avec un grille-pain : Google a déclaré qu’un chien a joué dans la LNH : Google a suggéré d’utiliser de la colle non toxique pour donner plus de collant à la sauce à pizza. (Ce conseil remonte apparemment à un commentaire de Reddit vieux de 11 ans.) Google a déclaré que nous avions un président musulman – Barack Obama (qui n’est pas musulman) : Google a dit que vous devriez manger au moins un petit caillou par jour (ce les conseils remontent à The Onion, qui publie des articles satiriques) :
Google a l’air stupide. Mon article, 7 documents de classement de recherche Google incontournables dans les pièces à conviction de procès antitrust, comprenait une diapositive qui semble la plus appropriée en ce moment après toute la couverture des aperçus de l’IA de Google au cours des deux derniers jours :
Ce que dit Google. Interrogé par Business Insider À propos de ces terribles réponses de l’IA, un porte-parole de Google a déclaré que les exemples sont « des requêtes extrêmement rares et ne sont pas représentatives des expériences de la plupart des gens », ajoutant que « la grande majorité des aperçus de l’IA fournissent des informations de haute qualité ».
“Nous avons effectué des tests approfondis avant de lancer cette nouvelle expérience et utiliserons ces exemples isolés pour continuer à affiner nos systèmes dans leur ensemble”, a ajouté le porte-parole.
C’est absolument vrai. Les réseaux sociaux ne sont pas une représentation entièrement fidèle de la réalité. Cependant, ces réponses ne sont pas bonnes et Google est propriétaire du produit qui les produit.
De plus, utiliser l’excuse qu’il s’agit de requêtes « rares » est étrange, étant donné qu’il y a à peine trois jours, lors de Google Marketing Live, on nous a rappelé que 15 % des requêtes sont nouvelles. Il y a beaucoup de recherches rares sur Google, sans blague. Mais cela n’est pas une excuse pour des réponses ridicules, dangereuses ou inexactes.
Google blâme la requête plutôt que de simplement dire « ces réponses sont mauvaises et nous travaillerons pour nous améliorer ». Est-ce si difficile à faire ?
Mais cela semble être désormais le modèle de Google. Ils nous disent de rejeter les preuves que nous pouvons tous voir de nos yeux. C’est orwellien.
Pourquoi nous nous en soucions. Les aperçus et la recherche de Google AI présentent des problèmes fondamentaux graves. La confiance dans la recherche Google s’érode, même si Alphabet gagne des milliards de dollars chaque trimestre. À mesure que cette confiance s’érode, les gens peuvent commencer à chercher ailleurs, ce qui se répercutera lentement et nuira aux performances des annonceurs et réduira encore davantage le trafic organique vers les sites Web.
L’histoire se répète. Cela peut ressembler à nouveau à du déjà-vu pour ceux d’entre nous qui se souviennent des nombreux problèmes de Google avec les extraits de code. Si vous avez besoin d’un rappel ou si vous n’étiez pas là en 2017, je vous suggère fortement de lire le problème « One True Answer » de Google – lorsque les extraits présentés tournent mal.
Assez bien. Si vous souhaitez suivre les pires aperçus de l’IA de Google et les résultats de recherche sur X, vous souhaiterez peut-être suivre Assez bon ou #googenough. AJ Kohn dit il n’est pas derrière le compte, mais sait qui l’est. Mais le nom a probablement été inspiré par l’excellent article de Kohn, C’est assez bon !
Je vais laver les pierres que je viens de manger avec de l’urine – merci #googenough
– Barry Schwartz (@rustybrick) 24 mai 2024
