Maintenant, l'IA veut empoisonner les gens, donc c'est amusant

Comme si le cauchemar qu'est la non-fiction écrite par l'IA n'était pas déjà assez grave, nous avons maintenant atteint un point où il est passé de frustrant (des tomes néo-païens écrits par l'IA et remplis de désinformations agressives sur les mythes et l'histoire) à potentiellement mortel, avec des guides produits par l’IA sur la recherche de plantes et de champignons sauvages. Ouais, ce n'est vraiment pas quelque chose que vous voulez l'équivalent d'un générateur de mots aléatoires. Sauf si vous voulez que les gens meurent.

Les écrivains, en particulier les petits journaux et les écrivains indépendants travaillant dans des domaines de niche, tentent depuis un certain temps déjà de résoudre le problème des livres générés par l’IA. Non seulement ils noient les véritables auteurs humains à cause du volume et de l’effet que cela a sur l’algorithme, mais aussi parce que les informations qu’ils contiennent proviennent essentiellement de sources participatives, puis encore plus brouillées dans le processus de « création » de quelque chose de « nouveau ». Le marché est inondé de tonnes de désinformation qui rendent plausibles les pires et les moins bien documentés du passé. C'est déjà assez grave quand il s'agit de sujets comme la religion et l'histoire - nous avons tous vu où mène la désinformation sur ces sujets - mais avec quelque chose comme la recherche de nourriture, où l'identification correcte d'une plante est une question de vie ou de mort, c'est soudainement un problème beaucoup plus aigu. problème.

Lorsqu’il s’agit d’identifier des livres comme générés par l’IA, il peut être difficile d’en être absolument certain. Il est toujours possible que vous tombiez sur un auteur sans aucune présence sur Internet, ni même sur les réseaux sociaux. Celui qui se trouve être à la fois un écrivain prolifique et terrible, dont le travail est à peu près aussi précis qu'un étudiant défoncé espérant s'en sortir simplement en se présentant et en remettant quelque chose. Dont les livres ont un tas de critiques cinq étoiles étrangement positives. qui ne correspondent pas tout à fait au contenu réel du livre, et puis une poignée de notes d'une ou deux étoiles écrites par de vraies personnes voulant savoir ce que c'est que ça ? Possible, mais extrêmement improbable.

Pourtant, il est difficile de prouver une réponse négative, surtout si l'on prend en compte l'utilisation de noms de plume ou le fait que des livres sur l'IA sont désormais publiés, sans consentement, avec les noms et identités de véritables auteurs. La situation est en désordre, et tout ce que nous avons, ce sont les meilleures suppositions, mais certaines de ces suppositions sont assez accablantes lorsque l’on rassemble toutes les preuves.

Ce sont les membres des communautés de recherche de nourriture en ligne sur Facebook, Reddit et d’autres plateformes de médias sociaux qui ont tiré la sonnette d’alarme à propos de ces guides presque certainement générés par l’IA, mais certainement terribles, pour trouver et transformer des aliments sauvages.

Les livres en question ont commencé à apparaître sur Amazon vers 2022, tous avec des titres et des couvertures très similaires, chacun promettant d'être une variante de la « bible » ultime de la recherche alimentaire ou le seul guide sur les aliments sauvages dont vous auriez jamais besoin. Malgré ces affirmations grandioses, les informations contenues dans les livres sont au mieux inadéquates, au pire étranges ou trompeuses.

L'un de ces livres comprend des entrées sur le brocoli, les choux de Bruxelles, les oranges et les citrons, toutes des plantes domestiquées que vous ne pouvez « récolter » qu'en attaquant le jardin de quelqu'un d'autre, et certainement pas quelque chose que vous trouverez à l'état sauvage. Les images, essentielles à tout guide sur les plantes sauvages comestibles, sont soit manquantes, en noir et blanc, soit manquant de suffisamment de détails pour être utiles, et les critiques sont partagées entre les critiques cinq étoiles dénuées de sens et les critiques très critiques. deux étoiles demande à savoir pourquoi le contenu du livre ne correspond pas aux affirmations de la couverture.

Le plus accablant est le fait que les auteurs présumés de ces livres ne semblent avoir aucune présence en ligne, même une recherche inversée des photographies de leurs auteurs n'a rien révélé, ce qui suggère que ces « photographies » sont probablement également générées par l'IA.

Pour un cueilleur expérimenté, des livres comme celui-ci sont faciles à rejeter, mais bien sûr, ce n’est pas non plus le public cible. Des livres comme celui-ci sont destinés aux débutants, et le problème est que vous ne savez pas ce que vous ne savez pas. Bien que certains soient manifestement inutiles que d'autres (le livre de brocolis à faire soi-même et celui avec une liste de recettes mais aucune instruction réelle sur la façon de les faire venir à l'esprit), d'autres seront plus difficiles à repérer pour les gens simplement. au début, et c'est là que les choses deviennent vraiment dangereuses.