Ray Kurzweil rebat les trucades per posar en pausa la investigació en IA

Ray Kurzweil, un destacat futurista i director d’enginyeria de Google, va publicar una refutació a la carta demanant una pausa en la investigació d’IA, oferint raons per les quals la proposta no és pràctica i priva els avenços mèdics i les innovacions que beneficien profundament la humanitat.

Carta internacional per aturar el desenvolupament de la IA

Una carta oberta signada per científics i celebritats d’arreu del món (publicat a FutureOfLife.org) va demanar una pausa completa en el desenvolupament d’IA que sigui més potent que GPT-4, l’última versió creada per OpenAI.

A més d’aturar el desenvolupament de la IA, també van demanar el desenvolupament de protocols de seguretat supervisats per experts independents de tercers.

Alguns dels punts que fan els autors de la carta oberta:

• La IA suposa un risc profund
• El desenvolupament de la IA només hauria de procedir un cop s’enumeren i es justifiquen les aplicacions beneficioses de la tecnologia
• La IA només hauria de procedir si “nosaltres” (els milers de signants de la carta) confiem que els riscos d’IA són manejables.
• Els desenvolupadors d’IA estan cridats a treballar conjuntament amb els responsables polítics per desenvolupar sistemes de govern d’IA que consisteixen en organismes reguladors.
• El desenvolupament de tecnologies de marca d’aigua per ajudar a identificar el contingut creat amb IA i per controlar la propagació de la tecnologia.
• Un sistema d’assignació de responsabilitat per danys creats per AI
• Creació d’institucions per fer front a les interrupcions provocades per la tecnologia d’IA

Sembla que la carta prové des del punt de vista que la tecnologia d’IA està centralitzada i pot ser aturada per les poques organitzacions que controlen la tecnologia. Però la IA no està exclusivament en mans de governs, instituts de recerca i corporacions.

La IA és en aquest moment una tecnologia de codi obert i descentralitzada, desenvolupada per milers d’individus a escala global de col·laboració.

Ray Kurzweil: futurista, autor i director d’enginyeria de Google

Ray Kurzweil ha estat dissenyant programari i màquines centrades en la intel·ligència artificial des dels anys 60, ha escrit molts llibres populars sobre el tema i és famós per fer prediccions sobre el futur que solen ser correctes.

De les 147 prediccions que va fer sobre la vida el 2009, només tres prediccions, un total del 2%, estaven equivocades.

Entre les seves prediccions a la dècada de 1990 hi ha que molts mitjans físics, com els llibres, perdran popularitat a mesura que es digitalitzen. En un moment de la dècada de 1990 en què els ordinadors eren grans i voluminosos, va predir que els ordinadors serien prou petits per portar-los el 2009, cosa que va resultar ser cert (Com van les meves prediccions – 2010 PDF).

Les prediccions recents de Ray Kurzweil se centren en tot el bé que aportarà la IA, especialment en els avenços mèdics i científics.

Kurzweil també se centra en l’ètica de la IA.

El 2017 va ser un dels participants (juntament amb el CEO d’OpenAI, Sam Altman) que va elaborar una carta oberta coneguda com a Principis d’IA d’Asilomar que també es van publicar al lloc web Future of Life, directrius per al desenvolupament segur i ètic de tecnologies d’intel·ligència artificial.

Entre els principis que va ajudar a crear:

• “L’objectiu de la investigació en IA hauria de ser crear no intel·ligència no dirigida, sinó intel·ligència beneficiosa.
• Les inversions en IA haurien d’anar acompanyades de finançament per a la investigació per garantir el seu ús beneficiós
• Hi hauria d’haver un intercanvi constructiu i saludable entre els investigadors d’IA i els responsables polítics.
• La IA avançada podria representar un canvi profund en la història de la vida a la Terra i s’hauria de planificar i gestionar amb una cura i recursos proporcionats.
• La superintel·ligència només s’hauria de desenvolupar al servei d’ideals ètics àmpliament compartits i per al benefici de tota la humanitat en lloc d’un estat o organització”.

La resposta de Kurzweil a la carta oberta demanant una pausa en el desenvolupament de la IA va sorgir d’una vida de tecnologia innovadora des del punt de vista de tot el bé beneficiós que pot fer per a la humanitat i el món natural.

La seva resposta es va centrar en tres punts principals:

• La crida a una pausa és massa vaga per ser pràctica
• Totes les nacions han d’estar d’acord amb la pausa o els gols seran derrotats des del principi
• Una pausa en el desenvolupament ignora els beneficis com identificar cures per a malalties.

Massa vague per ser pràctic

El seu primer punt sobre la carta és que és massa vaga perquè està provocant una pausa en la IA que és més potent que GPT-4, que suposa que GPT-4 és l’únic tipus d’IA.

Kurzweil va escriure:

“Sobre la carta oberta per “pausar” la investigació sobre IA “més potent que GPT-4″, aquest criteri és massa vague per ser pràctic”.

Les nacions es desactivaran de la pausa

El seu segon punt és que les demandes descrites a la carta només poden funcionar si tots els investigadors d’arreu del món cooperen voluntàriament.

Qualsevol nació que es nega a signar tindrà l’avantatge, que és probablement el que passaria.

Ell escriu:

“I la proposta s’enfronta a un greu problema de coordinació: els que accepten una pausa poden quedar molt enrere de les corporacions o les nacions que no estiguin d’acord”.

Aquest punt deixa clar que l’objectiu d’una pausa completa no és viable, perquè les nacions no cediran cap avantatge i, a més, la IA està democratitzada i de codi obert, en mans d’individus de tot el món.

La IA aporta beneficis significatius a la IA

Hi ha hagut editorials que descarten que la IA té molt pocs beneficis per a la societat, argumentant que augmentar la productivitat dels treballadors no és suficient per justificar els riscos que temen.

El punt final de Kurzweil és que la carta oberta que busca una pausa en el desenvolupament de la IA ignora completament tot el bé que pot fer la IA.

Ell explica:

“Hi ha enormes beneficis per avançar en IA en camps crítics com la medicina i la salut, l’educació, la recerca de fonts d’energia renovables per substituir els combustibles fòssils i molts altres camps.

… calen més matisos si volem desbloquejar els profunds avantatges de la IA per a la salut i la productivitat, evitant els perills reals”.

Perills, por al desconegut i beneficis per a la humanitat

Kurzweil destaca com la IA pot beneficiar la societat. El seu punt que no hi ha manera de posar en pausa la IA és sòlid.

La seva explicació de la IA posa l’accent en els profunds beneficis per a la humanitat que són inherents a la IA.

Podria ser que la implementació de la IA d’OpenAI com a robot de xat banalitzi la IA i eclipsi el benefici per a la humanitat, alhora que espanta les persones que no entenen com funciona la IA generativa?

Imatge destacada de Shutterstock/Iurii Motov