C’est le 3 décembre 2018 qu’Helya Mohammadian, la fondatrice de Slick Chicks, une entreprise qui crée des sous-vêtements adaptés vendus par des sociétés comme Nordstrom et Zappos, a remarqué un problème pour la première fois. Les liens vers son site web postés sur Facebook et Instagram ont envoyé les utilisateurs vers une page d’erreur et cette déclaration : « Le lien que vous avez essayé de visiter va à l’encontre des normes de la communauté Facebook », une pratique connue sous le nom de « shadow banning ».

Se battre ou abandoner

Les images sur le site présentaient des ambassadeurs de la marque et des clients modelant le produit, mais pas de manière provocante. Pourtant, l’algorithme semble avoir pris par défaut l’hypothèse qu’il s’agissait d’un contenu pour adultes.

Mme Mohammadian a commencé à faire appel de la décision par l’intermédiaire du service d’assistance à la clientèle, en envoyant environ un courriel par jour pendant trois semaines. « Nous en avons probablement envoyé une trentaine », a-t-elle déclaré. Finalement, à la mi-décembre, elle en a eu assez et a lancé une pétition sur change.org intitulée « Make Social Media More Inclusive ». Elle a rapidement reçu environ 800 signatures et les interdictions ont été levées.

Cela pourrait être une coïncidence, Facebook n’a jamais explicitement reconnu la pétition. Mais ses produits n’ont été à nouveau signalés qu’en mars 2020, lorsqu’une photo d’une femme en fauteuil roulant montrant le fonctionnement d’un soutien-gorge a été rejetée pour violation de la politique de « contenu adulte ».

Le jugement automatisé de Facebook pointé du doigt

Care + Wear, une société d’adaptation fondée en 2014 qui crée des vêtements de santé  a passé des années à être frustrée par la nature irrationnelle du processus de jugement automatisé. Une taille de chemise était rejetée par Facebook alors que la même chemise d’une autre taille était acceptée dans le flux de sa boutique. Enfin, en mars de l’année dernière, la société a eu recours à une agence d’achat de médias extérieure, en partie parce qu’elle pouvait en fait obtenir une personne de Facebook au téléphone. « Mais si vous êtes une petite entreprise et que vous ne pouvez pas vous le permettre, c’est impossible », a déclaré Jim Lahren, le directeur du marketing.

Abilitee Adaptive, qui a été fondée en 2015 et qui, jusqu’à la fin de l’année dernière, fabriquait des ceintures de pompe à insuline dans des couleurs vives et attrayantes, a commencé à faire de la publicité pour ses produits sur Facebook au début de 2020 ; environ la moitié de ceux qu’elle a présentés ont été rejetés. L’entreprise a essayé de modifier le langage utilisé dans les publicités – elle a soumis cinq fois certains produits, avec un libellé différent – mais certains ont été approuvés et d’autres non.

« La réponse a été très vague, ce qui a été frustrant », a déclaré Marta Elena Cortez-Neavel, l’une des fondatrices d’Abilitee. Finalement, la société a cessé d’essayer de faire de la publicité sur Facebook et Instagram.