El president dels Estats Units, Joe Biden, ha signat una fita ordre executiva establir nous estàndards al voltant del desenvolupament i l’ús de la intel·ligència artificial (IA).
Tot i que té com a objectiu gestionar els riscos entre sectors, l’ordre podria afectar l’ús de les eines d’IA per part dels venedors digitals.
L’ordre imposa amplis requisits de proves de seguretat i informes per als sistemes d’IA.
Amb els consumidors desconfiats dels riscos de privadesa de les dades, l’enfocament de la privadesa de la comanda podria afectar les eines d’IA que depenen de les dades personals. És possible que vegin pressió per millorar la transparència.
Les eines de màrqueting que aprofiten la intel·ligència artificial per a funcions com l’orientació d’anuncis, la generació de contingut i l’anàlisi de consumidors poden ser sotmeses a un escrutini més rigorós.
“Molts d’aquests [sections] simplement rasqueu la superfície, sobretot en àrees com la política de competència”, va comentar el senador Mark Warner sobre l’ordre, donant a entendre que podrien arribar més regulacions d’IA.
Enfocament de protecció de privadesa
L’ordre posa èmfasi en la protecció de la privadesa a mesura que creixen les capacitats d’IA. És possible que les empreses que depenen de les dades dels consumidors per formar sistemes d’IA poden haver de reavaluar les pràctiques a la llum de normes de privadesa més estrictes.
Tot i donar suport a la innovació en IA, Biden va deixar clar que no es toleraran els usos poc ètics.
Els venedors haurien d’esperar més seguiment de les eines d’IA opaques que podrien permetre la discriminació o l’engany.
Preparació per a auditories i supervisió més estrictes
Per a les empreses i els venedors, aquest nou entorn regulador probablement requerirà centrar les pràctiques d’IA en l’ètica i el benefici del consumidor. També pot ser necessària més transparència i precaució en la recollida de dades.
La Casa Blanca pretén equilibrar el progrés ràpid de la IA amb el desenvolupament responsable. Concretament, l’ordre ordena a la FTC que utilitzi les seves autoritats per promoure la competència justa en el desenvolupament i l’ús de la IA.
Això obre la porta a possibles accions antimonopoli contra les empreses tecnològiques de màrqueting que fan un ús indegut de la seva posició o que adquireixen startups d’IA més petites.
També hi ha un enfocament a mitigar el biaix en els sistemes d’IA, que podria conduir a auditories d’eines de màrqueting per discriminar en àrees com la publicació d’anuncis i els preus dinàmics. L’adopció de tècniques de mitigació de biaix i algorismes d’auditoria augmentarà en importància.
La promoció de mètodes de preservació de la privadesa com l’aprenentatge federat indica que és possible que els venedors hagin de dependre menys d’accedir directament a dades sensibles dels consumidors per formar models d’IA.
La IA ètica com a avantatge competitiu?
L’empenta per l’ètica i la transparència podria oferir als venedors que adopten una IA responsable un avantatge competitiu ja que els consumidors exigeixen un tracte just. No obstant això, la manca de comunicació sobre l’ús de la IA es podria considerar enganyosa.
A mesura que el govern augmenta la contractació de talent d’IA, és probable que la supervisió i l’auditoria del màrqueting impulsat per la intel·ligència artificial siguin més sòlides amb els nous estàndards.
Mirant endavant
Tot i que la Casa Blanca dóna suport a la innovació en IA, l’ordre de Biden indica que els usos opacs, esbiaixats o nocius de la IA s’enfronten a un nou entorn regulador.
A mesura que avancen les capacitats, els venedors haurien d’auditar proactivament els algorismes, minimitzar la recollida de dades dels consumidors i comunicar-se de manera transparent sobre els casos d’ús de la IA per mantenir la confiança.
Tot i que encara queden per veure alguns detalls, aquesta ordre executiva ofereix una finestra clara a les prioritats de l’administració de Biden per al desenvolupament responsable de l’IA.
Imatge destacada: lev radin/Shutterstock
