Récemment, Youth Laboratories, startup russe dirigée par un entrepreneur de 28 ans, Alexey Shevtsov, a lancé Beauty.AI, premier concours de beauté arbitré par intelligence artificielle : idée particulièrement originale qui n’a abouti qu’à déclencher contre elle la vindicte des twittos et autres socionautes pour… racisme ! Et pour cause : aucune de ses gagnantes n’avait la peau foncée !
Youth Laboratories souhaitait utiliser le buzz créé par ce concours pour faire connaître son application mobile destinée à contrôler – grâce à l’AI – la progression de ses rides et surtout, l’efficacité de ses traitements pour ralentir le vieillissement de la peau : effet inverse garanti, la startup s’est immédiatement vue accusée de manipulation des codes pour favoriser les candidates de race blanche !
Accusations graves et dont les fondements apparaissent compliqués à vérifier, nul n’ayant accès aux multiples algorithmes mis en œuvre – mais peu importe ! Deux ou trois conclusions peuvent cependant aisément s’en tirer, sans nécessairement chercher à taxer les dirigeants de Youth Laboratories de racisme.
La 1ère, que l’AI ne constitue pas encore une discipline parfaitement maîtrisée : on rappellera que déjà que Tay, l’intelligence artificielle à qui Microsoft avait offert un compte sur Twitter, était déjà subitement devenue violemment raciste, clamant « Hitler was right, I hate the Jews » – pour expliquer ce dérapage, quelques twittos l’avait doucement attirée sur un terrain glissant…
La 2nde, que l’AI n’est que le résultat d’une programmation humaine – du moins, aujourd’hui encore ; demain, ce seront des AI qui créeront de nouvelles AI.
Il est clair que les programmateurs à la base de Beauty.AI avaient des penchants plus marqués pour les miss blanches que pour les autres. Ce qui n’est pas sans rappeler ceux de Northpointe, qui mirent au point un logiciel devant aider la justice américaine de plusieurs Etats à décider de l’éventuelle remise en liberté de prévenus : avec eux, mieux valait ne pas être de couleur !
La dernière, que tout miser sur la seule intelligence artificielle pour prendre des décisions stratégiques, présente de graves risques. Quand des humains discutent entre eux, chaque argument peut à tout instant être remis en cause ; quand un manager utilise un outil très sophistiqué basé sur une AI – et qui bien souvent aura nécessité un investissement conséquent –, il aura trop souvent tendance à adopter la très confortable attitude qui consiste à s’abriter derrière l’aspect « scientifique » du processus… sans même se rappeler que son outil contient également toute la subjectivité de ceux qui l’ont créé.
