OpenAI ha anunciat que els seus models ChatGPT i Whisper ja estan disponibles a la seva API, oferint als desenvolupadors accés a un llenguatge basat en IA i capacitats de veu a text.
Mitjançant optimitzacions per a tot el sistema, OpenAI ha aconseguit reduir el cost de ChatGPT en un 90% des de desembre, i ara transmet aquests estalvis als usuaris de l’API.
OpenAI creu que la millor manera d’aprofitar tot el potencial de la IA és permetre que tothom creï amb ella.
Els canvis anunciats avui poden donar lloc a nombroses aplicacions de les quals tothom es pot beneficiar.
Més empreses poden aprofitar el llenguatge i les capacitats de veu a text d’OpenAI per desenvolupar aplicacions de nova generació amb ChatGPT i Whisper.
A més, OpenAI ha tingut en compte els comentaris dels desenvolupadors i ha fet canvis a les seves condicions de servei de l’API per adaptar-se millor a les seves necessitats.
API de ChatGPT
OpenAI llança una nova família de models ChatGPT anomenada gpt-3.5-turbo, amb un preu de 0,002 dòlars per 1k fitxes, la qual cosa la fa deu vegades més barata que els models GPT-3.5 existents.
Aquest model és ideal per a molts casos d’ús que no són de xat i és el mateix al producte ChatGPT.
Mentre que els models GPT consumeixen tradicionalment text no estructurat representat com una seqüència de fitxes, els models ChatGPT consumeixen una seqüència de missatges amb metadades.
Tanmateix, l’entrada es representa al model com una seqüència de fitxes perquè el model consumeixi.
El model gpt-3.5-turbo utilitza un nou format anomenat Chat Markup Language (ChatML).
Actualitzacions de ChatGPT
OpenAI millora contínuament els seus models ChatGPT i pretén oferir aquestes actualitzacions als desenvolupadors.
Els que utilitzin el model gpt-3.5-turbo sempre rebran el model estable recomanat, tot i que podran triar una versió específica.
OpenAI llança una nova versió anomenada gpt-3.5-turbo-0301, que rebrà suport almenys fins a l’1 de juny, i s’espera una nova versió estable a l’abril.
Els desenvolupadors poden trobar actualitzacions a la pàgina de models per canviar a la darrera versió.
Instàncies dedicades
OpenAI ara ofereix instàncies dedicades per als usuaris que volen més control sobre les versions dels seus models i el rendiment del sistema.
De manera predeterminada, les sol·licituds es processen a una infraestructura informàtica compartida i els usuaris paguen per sol·licitud.
Tanmateix, amb instàncies dedicades, els desenvolupadors paguen durant un període de temps per assignar la infraestructura informàtica reservada exclusivament per a les seves sol·licituds.
Els desenvolupadors tenen un control complet sobre la càrrega de la instància, l’opció d’habilitar límits de context més llargs i la capacitat de fixar la instantània del model.
Les instàncies dedicades poden ser rendibles per als desenvolupadors que processen més d’aproximadament 450 milions de fitxes al dia.
API Whisper
OpenAI va presentar Whisper, un model de veu a text, com a API de codi obert el setembre de 2022.
L’API Whisper ha obtingut elogis considerables per part de la comunitat de desenvolupadors. Tanmateix, pot ser difícil d’operar.
OpenAI està posant el model de v2 gran disponible a través de la seva API, proporcionant als desenvolupadors un accés convenient sota demanda, a un preu de 0,006 dòlars per minut.
A més, la pila de servei d’OpenAI garanteix un rendiment més ràpid en comparació amb altres serveis. L’API de Whisper és accessible mitjançant transcripcions o punts finals de traducció, que poden transcriure o traduir l’idioma d’origen a l’anglès.
Enfocament del desenvolupador
OpenAI ha fet canvis específics després de rebre comentaris dels desenvolupadors. Alguns exemples d’aquests canvis inclouen els següents:
- No utilitzar les dades enviades a través de l’API per millorar el servei, inclosa la formació del model, tret que l’organització ho doni el consentiment.
- Establir una política predeterminada de retenció de dades de 30 dies, amb l’opció d’una retenció més estricta en funció de les necessitats de l’usuari.
- Millora de la seva documentació per a desenvolupadors.
- Simplificant les seves condicions de servei i polítiques d’ús.
OpenAI reconeix que és necessari oferir un servei fiable per garantir que la IA beneficiï tothom. Amb aquesta finalitat, OpenAI es compromet a millorar el seu temps de funcionament durant els propers mesos.
Imatge destacada: Shaheerrr/Shutterstock
Font: OpenAI
