Cet algorithme veut trouver qui est nu sur Internet

C’est ainsi qu’est né son algorithme de nudité. Quant au site Internet ? Considérez-le moins comme une astuce de salon que comme un outil de marketing. Si le sexe fait vendre, peut-être que le filtrer le fera aussi.

«Nous pensions qu’il y aurait une applicabilité potentiellement beaucoup plus large», explique Daniel. « Quiconque essaie de gérer une communauté mais souhaite filtrer le contenu répréhensible ou le garder adapté aux enfants pourrait bénéficier de ce même algorithme. » Compte tenu de la nature du contenu, Algorithmia ne stocke ni ne visualise vos images ; le site appelle simplement l’algorithme de détection de nudité et renvoie un résultat.

Ce faisant, les contributions à isitnude.com aident à affiner ses prouesses en matière de détection. Ces progrès seront cependant fragmentaires ; les normes de confidentialité qui empêchent Algorithmia de consulter vos photos signifient également que les résultats potentiellement utiles doivent être signalés via d’autres canaux. « Les gens nous ont envoyé des courriels, des tweets, nous disant qu’une photo ne fonctionnait pas vraiment », explique Daniel. « Nous l’avons utilisé pour itérer. »

Il faudra également plus qu’un simple réglage pour que l’algorithme devienne à toute épreuve, voire légèrement bronzé. Par exemple, il ne peut pas encore reconnaître des parties individuelles du corps, ce qui signifie qu’une image de quelqu’un qui est entièrement habillé, à l’exception des parties que vous souhaitez le plus habillées, passerait probablement encore. Et parce que c’est basé uniquement sur la chair, sinon des photos de plage innocentes pourraient se retrouver signalées. Un hoquet encore plus important ? Parce que l’algorithme repose sur la reconnaissance du teint, il est impuissant face aux images en noir et blanc.

Il y a aussi le problème plus large de sa portée limitée, même lorsqu’il fonctionne parfaitement. Il existe tout un univers de contenus basés sur des images potentiellement offensants qui n’ont rien à voir avec la peau, explique Joshua Buxbaum, co-fondateur de WebPurifier, un service de modération de contenu. « La violence », donne l’exemple de Buxbaum, « est compliquée. Nous obtenons même des détails aussi détaillés que possible. » la violence dans un sport qui n’est pas un sport violent c’est de la violence, mais si c’est de la boxe, qui est un sport violent, nous le permettons. C’est juste pour commencer ; Selon Buxbaum, une suite de modération d’images véritablement complète doit potentiellement corriger tout, des crimes haineux aux accessoires liés à la drogue en passant par les gestes grossiers, en fonction des besoins du client, et aborder les zones grises au sein de chacune de ces catégories. La solution d’Algorithmia recherche uniquement des personnes nues et, même dans ce cas, elle a toujours la tâche ardue de déterminer si elles sont obscènes ou non. Buxbaum propose que l’algorithme le plus simple pourrait filtrer quelque chose pour détecter les injures, mais il aurait du mal à identifier les discours de haine ou l’intimidation — ce qui signifie qu’un algorithme de détection de nudité pourrait trouver de la chair, mais aurait du mal à distinguer s’il s’agit de vengeance pornographique ou d’œuvres d’art.

Cela ne rend pas pour autant inutile son algorithme de détection de nudité ; c’est juste un instrument contondant plutôt qu’un missile prude à guidage laser. Daniel s’attend également à ce que ce type de problèmes soit résolu au fil du temps, surtout s’il existe un intérêt commercial évident. « Nous continuerons à l’améliorer », dit-il, « ou si un utilisateur de notre système souhaite entrer et essayer de créer un algorithme de détection de nudité plus sophistiqué, il pourra également le faire. » Si l’un des partenaires d’Algorithmia parvenait à déchiffrer un meilleur code, il serait payé selon un modèle emprunté directement à l’App Store d’Apple ; recevez une redevance sur chaque appel d’algorithme, Algorithmia prélevant 30 % de la somme.