Anuncis de Twitter suspesos per les principals marques a causa de l’explotació infantil

Almenys 30 anunciants principals han deixat de fer publicitat a Twitter després que es va revelar que els seus anuncis es mostraven al costat de tuits que sol·licitaven contingut il·legal d’abús infantil.

Per exemple, es va mostrar un tuit promocionat per un hospital infantil de ritu escocès de Texas juntament amb tuits tòxics relacionats amb l’abús sexual infantil.

Els anunciants es revolten contra Twitter

va informar Reuters que almenys 30 grans marques han aturat els seus comptes quan es va revelar que els seus tuits promocionats es mostraven al costat de tuits tòxics.

Un portaveu de Twitter va dir que la investigació i les conclusions de l’empresa de seguretat cibernètica (que va estudiar tuits i comptes durant els primers vint dies de setembre de 2022) no eren representatives dels esforços de Twitter per combatre les activitats il·lícites.

Però l’article de Reuters citava diversos anunciants de grans marques als quals se’ls va notificar que els seus anuncis apareixien al costat dels tuits tòxics.

Reuters va citar un executiu de Cole Haan:

“”Estem horroritzats”, va dir a Reuters David Maddocks, president de la marca de Cole Haan, després d’haver estat notificat que els anuncis de la companyia apareixien al costat d’aquests tuits.
“Twitter ho arreglarà o ho solucionarem per qualsevol mitjà que puguem, que inclou no comprar anuncis de Twitter”.

Incapacitat de Twitter per detectar amb precisió el contingut tòxic

Els antecedents del problema de contingut tòxic de Twitter van sortir per primera vegada a la llum en un article publicat per The Verge.

L’article relata un projecte de Twitter per crear una plataforma similar a OnlyFans on els usuaris poden pagar per compartir contingut sexualment explícit.

Abans de llançar el nou servei, Twitter va encarregar a un grup d’empleats que provessin si Twitter podia tenir èxit en eliminar contingut nociu perquè la plataforma no es convertís en l’intercanvi de contingut il·legal.

Aquest grup d’empleats es deia Equip Roig.

El projecte de Twitter es va aturar quan l’equip vermell va determinar que Twitter era incapaç de detectar contingut abusiu i tòxic.

Segons L’article de Verge:

“El que va descobrir l’equip vermell va fer descarrilar el projecte: Twitter no podia permetre de manera segura que els creadors adults venguessin subscripcions perquè l’empresa no estava (i encara no ho fa) controlant de manera eficaç el contingut sexual nociu a la plataforma.

“Twitter no pot detectar amb precisió l’explotació sexual infantil i la nuesa no consensuada a escala”, va concloure l’equip vermell l’abril de 2022. L’empresa també no tenia eines per verificar que els creadors i consumidors de contingut per a adults eren majors d’edat, va trobar l’equip.

Així, a la primavera del 2022, Twitter va concloure que estava mal equipat per llançar el servei i es va arxivar.

Tanmateix, segons la firma de ciberseguretat Ghost Data, Twitter continuava tenint dificultats per atrapar usuaris canalla i comptes que compartien contingut il·lícit.

Ghost Data va realitzar una investigació el setembre de 2022 per descobrir com d’estès està el problema de l’explotació infantil a Twitter.

Començant amb un grup de comptes d’explotació infantil coneguts, van traçar comptes tòxics a través de les connexions socials de seguidors enllaçats entre els comptes, i finalment van identificar més de 500 comptes responsables de prop de 5.000 tuits relacionats amb activitats il·lícites d’abús infantil.

Els investigadors van assenyalar que aquests comptes estaven tots en anglès i que no havien investigat les xarxes de Twitter d’abús infantil en altres idiomes.

Van concloure que una investigació addicional sobre els comptes en comptes que no són en anglès pot revelar encara més usuaris que comparteixen contingut d’abús infantil.

Els investigadors afirmen que Twitter és ineficaç

Una descoberta sorprenent de l’informe és que Twitter només va prendre mesures contra una mica més del 25% dels comptes que van identificar que compartien contingut explícit d’abús infantil, durant el període d’investigació que cobreix els primers vint dies de setembre de 2022.

Els investigadors van escriure (PDF):

“Vam observar que Twiter (sic) va suspendre menys del 30% (27,5%) dels usuaris que compartien públicament enllaços, material i referències de pornografia infantil durant els primers 20 dies de setembre.
Fins ara, encara, més de 400 usuaris estan actius després de «la purga».
Molts d’aquests usuaris han estat actius durant mesos”.

Els investigadors van concloure que, tot i que van identificar moltes activitats i comptes il·lícits a Twitter, estimen que això és només una fracció de l’abast real del problema.

Van observar que Twitter podria fer un millor treball per aturar les activitats tòxiques:

“Aquests resultats validen el problema alarmant ja descobert pels empleats interns i exposat pels mitjans en línia: Twiter (sic) no pot detectar amb precisió l’explotació sexual infantil i els seus executius no estan fent gairebé res per abordar aquest desastre.
També vam descobrir proves que aquestes polítiques permissives sobre contingut pornogràfic també estan induint els usuaris a publicar vídeos de violació i sense consentiment, per no parlar de menors que intenten vendre la seva pròpia nuesa o contingut sexual.
… Probablement una inversió modesta i un equip dedicat, fins i tot aplicant les nostres pròpies tècniques bàsiques, seria suficient (sic) per localitzar fàcilment i reduir dràsticament les activitats il·lícites…”

Aquesta conclusió a la qual va arribar la firma de ciberseguretat Ghost Data sembla contradir un comunicat emès per Twitter i informat per Reuters que Twitter té “tolerància zero” per a aquest tipus d’activitats perquè fa mesos que l’equip vermell de Twitter va identificar problemes en la detecció de contingut tòxic.

Reuters també va informar que Twitter va declarar que està contractant més empleats per “implementar solucions”.