LinkedIn ha desenvolupat un nou detector d’imatges d’IA que es diu que és capaç de captar el 99,6% de les imatges de perfil falses, amb una taxa de falsos positius de l’1%. Segons evidències anecdòtiques, el seu nou detector funciona realment.
Perfils falsos de LinkedIn
Hi ha moltes raons per les quals la gent crea perfils falsos de LinkedIn.
Per a alguns membres de la comunitat de màrqueting de cerca d’afiliats, un dels motius dels perfils falsos és la percepció que Google confiarà en un lloc si els autors de l’article tenen enllaços a un perfil de LinkedIn a la seva biografia d’autor.
Aquesta idea sorgeix de l’impuls de Google que el contingut hauria de tenir el que es coneix com a EEAT, Experience, Expertise, Authoritativeness and Trustworthiness.
Per a altres, la motivació és crear un lloc web d’aspecte més fiable per als visitants dels seus llocs web.
Això no pretén aprovar aquestes pràctiques, les descoratjo.
Això només és per explicar que la pràctica està passant i per què passa.
L’arribada de la capacitat de crear imatges de perfil amb IA ha facilitat la creació de perfils falsos, cosa que va agreujar de manera exponencial un problema ja enorme.
Informes sobre perfils falsos de LinkedIn publicat el 2022 va assenyalar que LinkedIn va detectar i eliminar 21 milions de comptes falsos durant el primer semestre del 2022.
L’evidència anecdòtica compartida per un venedor afiliat que va desplegar perfils falsos de LinkedIn confirmen que el detector d’imatges d’IA de LinkedIn ha millorat molt la seva capacitat per capturar comptes falsos.
Segons LinkedIn:
“Estem treballant constantment per millorar i augmentar l’eficàcia de les nostres defenses anti-abús per protegir les experiències dels nostres membres i clients. I com a part del nostre treball en curs, ens hem associat amb el món acadèmic per mantenir-nos un pas per davant dels nous tipus d’abús vinculats a comptes falsos que aprofiten tecnologies en ràpida evolució com la intel·ligència artificial generativa”.
Comptes falsos difícils de detectar
LinkedIn actualitza constantment els seus sistemes per detectar diversos tipus d’activitat no desitjada, com ara perfils falsos, adquisicions de comptes i infraccions de les polítiques de contingut.
La introducció d’imatges generades amb IA ha fet gairebé impossible detectar imatges falses si no sabeu què buscar.
LinkedIn identifica “artefactes” que són el segell distintiu de les imatges de perfil d’IA falses.
La majoria de la gent no sap com detectar imatges d’IA, de manera que és fàcil que la gent confongui un compte fals amb un de real.
LinkedIn ha compartit:
“Amb l’augment dels mitjans sintètics generats per IA i dels mitjans generats de text a imatge, els perfils falsos s’han tornat més sofisticats.
I hem descobert que la majoria dels membres generalment són incapaços de distingir visualment les cares reals de les generades sintèticament…
Com LinkedIn captura el contingut generat amb IA
Una característica de les imatges creades artificialment és que totes comparteixen patrons similars, el que LinkedIn anomena diferències estructurals.
Les imatges reals no comparteixen components estructurals.
LinkedIn va compartir un exemple d’un compost de 400 imatges artificials i 400 imatges reals.
La composició de les imatges falses mostra que les zones al voltant dels ulls i el nas solen ser molt similars.
El compost de les imatges reals no comparteix res en comú amb cap de les altres imatges, de manera que el compost és borrós.
Captura de pantalla de la imatge de LinkedIn
Els resultats de la seva investigació són impressionants.
Comparteix LinkedIn:
“La taxa de positiu veritable (TPR) és el percentatge de fotos sintètiques que es classifiquen correctament com a sintètiques.
La taxa de falsos positius (FPR) és el percentatge de fotos reals que es classifiquen incorrectament com a sintètiques.
El nostre enfocament és capaç de detectar el 99,6% (TPR) de les cares sintètiques StyleGAN, StyleGAN2 i StyleGAN3, mentre que només classifica incorrectament l’1% (FPR) de les fotos reals de perfil de LinkedIn com a sintètiques.
Per als resultats de referència del nostre document de recerca, vam triar un objectiu de FPR de l’1%, perquè, per a aplicacions del món real en una gran xarxa professional, és important que els models de detecció d’imatges generats per IA captin la majoria de les imatges sintètiques, tot i que rarament. classificant una imatge real com a sintètica”.
Què tan efectiu és el detector d’IA de LinkedIn al món real?
El venedor afiliat amb els perfils falsos de LinkedIn va compartir que LinkedIn va poder captar el 100% dels seus perfils falsos de LinkedIn.
Van compartir la seva experiència amb mi:
“Com a comercialitzador afiliat, tenir perfils de LinkedIn per a la meva persona falsa va ser una bona manera d’aconseguir credibilitat per als meus autors.
Va ser especialment útil per a la creació d’enllaços HARO, ja que els periodistes tendeixen a enllaçar més sovint a llocs amb persones amb un perfil de LinkedIn.
Durant els últims mesos, el 90% dels meus perfils han estat suspesos per LinkedIn.
Malauradament, ara he de trobar un altre mètode per afegir credibilitat als meus autors i fer-los semblar legítims”.
LinkedIn continua millorant la seva capacitat per captar perfils falsos. La possibilitat de crear un perfil fals es va fer encara més difícil.
Llegeix l’anunci original:
Nous enfocaments per detectar fotos de perfil generades per IA
Imatge destacada de Shutterstock/Meilun
