Return to site

J'ai travaillé pour des menteurs

Quand l'IA Washing est réelle.

J'ai travaillé pour des menteurs.

Propos recueillis auprès d'un étudiant souhaitant rester anonyme.

"L’été dernier j’ai travaillé dans une start-up. Ce n’était pas la première fois que je travaillais pour ce type d’entreprise que j’affectionne habituellement pour sa capacité à être agile et innovante. Mais cette année, je me suis rendu compte que je travaillais pour une start-up qui vendait du rêve mais mentait sur sa technologie. Concrètement je travaillais pour une entreprise qui vendait du vent. Je travaillais pour une start-up qui disait proposer une intelligence artificielle, là où c’était de l’IA Washing.

L’IA washing (article de numérama) est une nouvelle tendance non-éthique développée par plusieurs start-up afin de se rendre plus grosse que le bœuf. Le principe de ce que l’on appelle communément l’IA washing est le suivant : « Vendre sa solution comme étant basée sur une Intelligence Artificielle, pour se donner une plus-value et expertise technologique alors que ce n’est pas le cas ». L’IA est devenu un buzz word en 2017. Ne serait-ce qu’à en juger la guerre idéologique que mène Elon Musk d’un côté et Mark Zuckerberg de l’autre.

Différents magazines et journaux ont mis récemment en avant le savoir-faire technologique de la France dans l’intelligence artificielle. Or l’IA washing amène à une reconsidération de ces entreprises se targant d’en utiliser une.

L’intelligence artificielle doit être aujourd’hui considérée comme une solution qui apprend d’elle-même (par des algorithmes de Machine Learning) l’amenant à dépasser les obstacles en essayant différentes solutions apprises par le passé, l’amenant à être autonome. Certaines entreprises font parfois un excès en appelant leur solution comme une Intelligence Artificielle quand ce n’est qu’un logiciel rempli d’automations. Mais ils vendent au moins une réelle solution automatisée.

J’ai eu l’occasion de travailler pour une start-up (que je vais laisser anonyme) proposant une solution basée sur de l’intelligence artificielle. Pour débuter, lors de mon entretien d’embauche, l’un des cofondateurs ne cessait de me parler de la solution qu’ils avaient développée, qu’un partenaire important du monde l’IT était impressionné, car ils auraient réussi à créer une IA que leur équipe (très grande) de développeurs n’ont réussi. Le tout était agrémenté de vidéo montrant la solution fonctionnant. Gagnant de plusieurs prix pour start-up, cela m’avait conforté dans le fait que cette start-up pouvait être une vraie licorne, avec une technologie jamais vue, apportant une véritable plus-value dans la connaissance client. Au départ centré sur un unique secteur, la jeune start-up démarché des acteurs de d’autres secteurs comme le textile de Luxe, ou les compagnies aériennes. Bref, au niveau Marketing, c’était le feu, ça promettait

Néanmoins, il m’a fallu trois jours pour me rendre compte que l’entreprise ne vendait pas la technologie qu’elle proposait, mais assurait tout de même le service vendu. « Notre technologie c’est du Bullshit. Ça c’est pour envoyer des paillettes dans les yeux de nos futurs clients. Tu leur parles de nouvelles technologies et de progrès, ils se sentent à la pointe. Alors qu’en vérité, on n’a pas d’IA, mais on sous-traite le travail de l’IA à l’étranger. L’idéal serait de développer l’IA qu’on promet, mais on a tellement de demandes aujourd’hui qu’il vaut mieux améliorer la plateforme sur laquelle les agents de notre sous-traitant travaillent pour leur faire gagner en productivité. »

Start-up oblige, j’étais bien entendu dans un open-space à côté des développeurs (stagiaires également). Lors des pauses cafés, ils ont pu me confier que c’était dommage de leur vendre à eux une possibilité de coder une IA en R ou Python alors qu’il ne faisait que modifier et améliorer une plateforme pour les sous-traitant. « On se sent un peu escroqué, mais bon on apprend quand même ».

Le côté « Bullshit » a atteint son paroxysme lorsque l’un des co-fondateurs m’a expliqué que c’était ça l’entrepreneuriat : vendre une solution que l’on n’a pas encore, pour avoir des sous et la développer ensuite ». Ce type de raisonnement m’a permis de faire de la vérification de data base. Imaginez un fichier Excel avec plus de 300 entrées, des noms, des prénoms, des adresses emails, des liens vers leurs profils des réseaux sociaux, leurs points d’intérêts etc… Il fallait vérifier chaque point que le sous-traitant avait repéré. « Il faut le faire pour ce soir ! Demain on rencontre le prospect, si on veut qu’il devienne client, il faut le scotcher à son fauteuil ! Vérifiez ! » Et pour que le lendemain, nous entendions : « On l’a BAI-SÉ ! Il va payer, il a adoré ! ».

Deux faits m’ont agacé peu avant la fin de mon expérience chez eux.

Premièrement : leur but est de vendre la start-up à plusieurs millions d’euros. Le problème étant qu’à cause du sous-traitant, leurs bénéfices sont encore "peanuts" et les salariés de l’entreprise ne peuvent pas être payés autre chose que par le RSA. Cela expliquait aussi pourquoi nous étions autant de stagiaires (10 au plus pour 4 salariés).

Deuxièmement : je n’ai signé aucune clause de confidentialité. Je pourrais nommer directement l’entreprise concernée et ces partenaires pour les aligner sur les réseaux sociaux. Je préfère tout simplement prévenir : vérifiez la solution que l’on vous vend.

Les Intelligences artificielles sont promises à continuer à s’épandre dès aujourd’hui, et malheureusement et par conséquence l’IA washing aussi. Il faudrait réfléchir : et si un organisme pouvait certifier l’existence d’une IA au sein de la solution ? Aujourd’hui les start-up jouant avec la data, peuvent être certifiée comme aux normes françaises ou européennes quant aux respects de leur utilisation. A quand une « norme IA » pour palier à ce comportement déviant ?"

All Posts
×

Almost done…

We just sent you an email. Please click the link in the email to confirm your subscription!

OKSubscriptions powered by Strikingly