À un clic du pire...

Il y a plus de 2 semaines l’application Tumblr a été éjectée de l’App Store sans aucune explication, elle n’y est toujours pas revenue, alors qu’elle est toujours restée sur le Play Store (où depuis 10 jours les gens se plaignent que l’appli est buggée car les « mature contents » ne s’affichent plus, j’hallucine 😨) ! On apprend depuis 5 jours que ce black-out avait été nécessaire aux autorités fédérales US pour mener leur enquête : en effet, Tumblr, réseau social de micro-blogging aux 800 millions de membres (dont pas mal de 13-17 ans 😳) a trouvé « par hasard » du contenu pédopornographique sur sa plateforme 🤢🤮... (on se demande comment ça n’est pas déjà arrivé avec Twitter, vu ce qu’on y trouve comme aberrations 😠). Quand on dit « par hasard » c’est que le contenu en question avait passé la barrière des filtres automatiques et que c’est en gros un employé qui passait par là qui l’a bloqué 😵. Il faut savoir que les réseaux sociaux, les moteurs de recherches et les opérateurs internet utilisent des logiciels d’analyse d’images morpho-sémantiques conformes à des standards de l’industrie pour screener leurs contenus. C’est visiblement un de ces logiciels qui a été mis en défaut. Ça doit d’ailleurs être un métier très particulier que de mettre au point ces outils car, comme dans tout projet informatique, il faut tester le programme, ici sous contrôle judiciaire bien évidemment, sur des « données réelles » 😱😰, une horreur... Facebook, lui, paye 7000 personnes (oui, vous avez bien lu) à temps plein dans le monde pour censurer tous ses contenus. Entre ces deux extrêmes il y aurait bien l’IA, mais comment appendre à une IA l’abjection et l’abomination ? Peut-on montrer des photos pédophiles, des films d’égorgements en Irak, de lapidation en Iran, des photos de fours crématoires à une IA pour l’entraîner, alors qu’elle n’a aucun sens moral, à reconnaître le mal 👿 ? Aujourd’hui personne à ma connaissance ne s’y est risqué, de peur que, par une sorte de retournement anthropomorphique fantasmé, l’IA ne se mette à aimer « ça » 🤬. On a bien vu ce chatbot IA, d’un fournisseur de logiciel très connu, lâché sur Twitter il y a quelques années et devenu raciste au bout de 2 heures 😵 ! La catastrophe... Pourtant il va bien falloir un jour s’y coller et essayer de donner un sens moral à une IA 😟. Ovidie, l’actrice féministe, intelligente et réalisatrice française de films X, a sorti il y a 6 mois un livre au titre prophétique : « À un clic du pire » qui dénonce les dérives de la pornographie accessible par des enfants de 10 ans sur leurs smartphones dans la cour de récré. Oui, n’oublions jamais que les protections logicielles sont faillibles et que nous, et nos enfants, sommes toujours sur Internet à un clic du pire 😰🤢. C’est notre responsabilité d’être toujours vigilants...