Deepmind Robots modo "fulbo"

Google hizo público un video de un partido de futbol que dos robots pequeños sostenían en una cancha completamente monitoreada y, por Turing, es impresionante.

Intentan meter goles, controlar sus acciones, se levantan rápido, tienen unos movimientos de visión periférica tipo Iniesta prime era. Es increíble.

Y sí, si eres un poco más académico (o techie incluso) quizás pensaste: "Otra demostración del RL". Correcto.

El equipo presentó un paper, y en su trabajo llegaron a lo siguiente:

• Investigaron el entrenamiento con DRL de un robot con 20 articulaciones accionadas para que juegue un partido 1v1 y componga estrategias de comportamiento complejas en entornos dinámicos.

• DRL se usa para entrenar habilidades individuales de forma aislada y luego componerlas de extremo a extremo en un entorno de juego autónomo, esto resulta en cosas geniales como la recuperación rápida de caídas, caminar, girar y patear.

• Los agentes también desarrollaron una comprensión estratégica básica del juego, como anticiparse a los movimientos del balón y bloquear los tiros del rival, y toda la gama de comportamientos surgió a partir de un pequeño conjunto de recompensas sencillas.

• Los agentes caminaron un 156% más rápido, tardaron un 63% menos en levantarse y patearon un 24% más deprisa que los robots de referencia, al tiempo que combinaban eficazmente sus habilidades para alcanzar objetivos a largo plazo.

El paper de arXiv lo dejo acá: https://arxiv.org/abs/2304.13653

Los invito a investigar más en esta web:

Renuncia de Don Backprop

Geoffrey Hinton, uno de los más grandes del mundo de la IA, el Jon Snow de la IA (sí, porque terminó con el invierno de la IA al sacar su más famoso algoritmo, y sí, chiste pésimo), el ganador del Turing del 2018 acaba de darle pausa a su epoch en Google para poder enfocarse en hablar de los riesgos de la IA.

Hinton se mandó una entrevista en The New York Times, donde (dicen los cahuineros) se dedicó a hablar paja de Google, pero la verdad es que no, y deberíamos estar tranquilos ya que, en sus palabras, Google es muy responsable, y el solo quiere hablar de los peligros de la IA sin considerar el impacto que puede tener en Google.

En fin, no asustarse, solo es un viejo crack que quiere hablar tranquilo sin afectar a su empleador. Muy sabio por lo demás.

Les dejo un video del Carlos de DotCSV donde explica Backprop, es buenísimo:

Palantir, ya era hora

Cómo siempre, Palantir sale a la luz con una nueva tecnología de uso militar. Ahora potenciada con AI, que llamaron AIP (Artificial Intelligence Platform for Defense).

Lanzaron una demo mostrando las capacidades de AIP en un campo de batalla, donde se puede apreciar cosas como:

• Cuantas armas tiene una unidad militar

• Donde están los enemigos

• Cuanto le tomaría a distintos tipos de vehículos llegar a un enemigo

• Etc

Luego toma todos estos datos, y ocupando AI entrega opciones de acciones para tomar una decision y se la manda a un comandante o a un lider. Es impactante, como un copilot en Warzone para ganar.

Les dejo el link de la web de Palantir: https://www.palantir.com/platforms/aip/

Nukes? Really?

Sí, es real. Legisladores se juntaron para pedir que una IA no haga lanzamientos de Nukes no autorizados.

Genios, nadie pensó en eso 👏

Les dejo la noticia solamente.

Meta pusheando antes de que llegue Apple

¿Recuerdan el año 2020-2021 cuando Meta prometía una experiencia en el Metaverso completamente alucinante? Caras hiperrealistas, conferencias que se sentían cercanas y que podían transmitir la sensación de estar en persona. Incluso, si recuerdan bien, eran como los fantasmas de Gotenks (de la cintura hacia arriba).

Bueno, hay un breakthrough a mi parecer. En Twitter, Zuck lanzó un video sobre la calidad que los avatares pueden tener ahora. Hay una definición mucho mejor en los rasgos faciales, en el manejo de sombras y luces y en las gesticulaciones.

Esto no tiene mucho que ver con AI, hasta que agregamos el factor de que las LLMs de ahora pueden hablar como tú (con el debido entrenamiento y datos de llamadas de wsp por ejemplo), tenemos Text-to-voice hace rato (para manejar lo que hables en base a un input) y ahora los avatares hiperrealistas. ¿Será un spoiler del capitulo 15 temporada 3 de Futurama?

https://www.youtube.com/watch?v=NVs8_DzaRrE

Les dejo un video con el avance de Meta:

Proyectos Basados🗿

Esta sección es para recomendar herramientas útiles que andan dando vueltas pero que nadie sabe que existen. Yo les recomiendo mucho que las vean o prueben.

VictorIA (ChatGPT en grupos de Whatsapp)

Aprovecho de comentarles que mi proyecto VictorIA ya está disponible para pruebas gratis y uso gratis. Si coordinan su trabajo (universidad o pega) por WhatsApp, VictorIA los puedes ayudar a generar recordatorios de mensajes importantes, buscar en internet desde el mismo chat, responder dudas, transcribir audios y muchos más.

Los primeros 5 mensajes son gratuitos, y después solo tendrás el modelo para conversar y buscar cosas (sin las múltiples herramientas).

https://getvictoria.webflow.io/

AudioGPT

Un proyecto all-in-one opensource que tiene una cantidad increible de aplicaciones, desde Text-to-Speech hasta Mono-to-Binaural. Incluso Text-to-Sing.

Más aún, tiene una demo en HF: https://huggingface.co/spaces/AIGC-Audio/AudioGPT

👀 Ojo: Tienes que agregar tu OpenAI API Key

Microsoft Designer

Increible, diseñar cosas en minutos, no días. Hay que verlo y usarlo si estás en el mundo comercial o de diseño.

https://designer.microsoft.com/

Free AutoGPT with no API

Este proyecto está creciendo mucho en stars de Github, es una variante de AutoGPT que "supuestamente" funciona sin API Key, por lo tanto es gratis.

Agentes que generan tareas y subtareas gratis, tu solo das un objetivo y tienes un agente que piensa como resolverlo GRATIS.

https://github.com/IntelligenzaArtificiale/Free-AUTO-GPT-with-NO-API

Agradecimientos

Como siempre, es importante agradecer a las fuentes de información de su servidor:

• Matt Wolfe

• Sam WItteveen

• Yannic Kilcher

¡Gracias por su contenido y sus enseñanzas!

¿Por qué StableVicuna?

Desde el lanzamiento de LLaMA, el LLM "open source" de Meta, han aparecido una serie de modelos que se basan en la arquitectura de este último, adoptando nombres derivados de la llama (sí, el animal 🦙), con nombres como Alpaca o Vicuna.

Este útlimo (Vicuna) fue un modelo que, en su paper, indicaba que su rendimiento era 90% el de ChatGPT. Esto es sumamente importante porque recordemos que ChatGPT, y su modelos GPT-X que son el motor intelectual del chat, son de propiedad privada (nadie tiene acceso al código ni a los datos). Vicuna es un modelo "open source", y que un modelo opensource afirme que tiene rendimiento de un 90% de un modelo de una empresa privada es realmente grande.

"Open Source" con comillas

Desde la publicación del paper de LlaMA, se ha generado una controversia muy grande respecto al nivel de foco que le dieron en que su modelo era "open source", cuando en realidad solamente es Open Access.

El modelo base de todos los modelos chicos que estamos viendo ultimamente, que intentan competir con OpenAI, tiene una limitante tremenda: Su uso comercial. Verán, ya que Meta publicó su modelo LlaMA con una licencia de uso académico solamente, no se pueden tener proyectos interesantes de uso comercial para nuevas alternativas de IA.

Dejo planteada la inquietud para el que me esté leyendo: Imagínense un mundo donde Linus Torvalds haya decidido publicar el kernel de Linux con exclusivo uso académico. Literalmente no podríamos hacer operaciones CUDA para entrenar estos modelos.

Datasets y RLHF

StableVicuna es un Vicuna fine tuned en diferentes datasets. En definitiva, utilizaron LLaMA y la entrenaron en los siguientes datasets:

• OpenAssistant Conversations Dataset (OASST1): El dataset de OpenAssitant, el proyecto opensource liderado por el genio Yannic Kilcher.

• GPT4All Prompt Generations: El dataset que contiene los resultados de muchos prompts hechos por gpt-3.5-turbo.

• Alpaca: El dataset que contiene los resultados de muchos prompts hechos por text-davinci-003.

Es claro ver que parte de los datos utilizados para entrenar a este modelo fueron generados a partir de GPT de OpenAI, e incluso utilizan los weights del modelo de Meta, por lo mismo no pueden tener uso comercial 😔

Además, para el RLHF utilizaron los siguientes datasets:

• OpenAssistant Conversations Dataset (OASST1)

• Anthropic HH-RLHF (un dataset con preferencias sobre la utilidad y posibles daños de los modelos de IA)

• Stanford Human Preferences (SHP): Este es demasiado variado, recomiendo que lo investiguen.

Recuerden que el RLHF (Reinforcement Learning from Human Feedback) es lo que hace característicos a estos modelos, porque es un tipo de entrenamiento en el que la participación humana se utiliza indirectamente para fine tunear un modelo.

Resultados

En los resultados publicados, vemos muchos modelos ya conocidos por la comunidad, como GPT4All, Koala, Vicuna de 13B, Alpaca de 13B.

StableVicuna parece tener un buen desempeño en prácticamente todas las métricas. Hay par de metricas en las cuales no rinde muy bien, como TruthfulQA (https://aclanthology.org/2022.acl-long.229.pdf) que mide como imitan las mentiras humanas, no tiene tan buen desempeño como Alpaca, o la misma Vicuna.

Para probar este modelo, dejo el link del Colab público (Disclaimer ⚠️: Yo no hice el Colab). Es importante considerar que se necesita una GPU potente, incluso para el modelo de 8bits.

https://colab.research.google.com/drive/1Kvf3qF1TXE-jR-N5G9z1XxVf5z-ljFt2?usp=sharing

Probando el modelo

Recuerden que es un modelo basado en LlaMA de Meta, por lo que se pueden utilizar los ya disponibles LlamaTokenizer y LlamaForCausalLM. Lo bonito de la comunidad es que ya hay gente que pasó por las partes tediosas, y el usuario TheBloke de HF ya hizo la conversión de los weights del modelo, asique solo queda importar.

Luego de que tengas todo importado, puedes hacer un pipeline para text-generation. Puedes cambiar el max_length o la temperature para tener un modelo más creativo

Hay un par de funciones para limpiar los prompts, y aqui viene un punto muy importante respecto a los prompts (me pasó intentando hacer tareas MRKL y React pero luego me dí cuenta). ESTOS MODELOS NO ACEPTAN CUALQUIER PROMPT.

En el caso de StableVicuna, al igual que Vicuna, al igual que Alpaca, al igual que LlaMA, el prompt tiene que tener este formato:

### Human: <Question>
### Assitant:

Al momento de probar el modelo para tareas que son de conocimiento general, tenemos unas respuestas que son buenas dentro de todo, pero el tiempo de ejecución es casi el minuto y medio, y en otras sobre los 2 minutos.

Para tareas de creación, ideación, redacción, etc. El modelo parece rendir bien. Esto depende demasiado en los datos con los cuales fue entrenado el modelo (Koala rinde mucho mejor en redacción de escritos porque fue entrenado en datasets más enfocados en eso).

Además, en el Colab se agregan ejemplos de resolución de problemas con pensamiento paso a paso, que vienen de la epoca de FLAN de Google. Lo increible es que el modelo tiene la capacidad de razonar y hacer calculos matemáticos simples, aveces con resultados correctos y aveces con incorrectos.

Otra cosa interesante es el manejo temporal del modelo, por ejemplo al preguntarle por la posibilidad de que diferentes políticos y personajes históricos se pudieran juntar, entrega respuestas coherentes.

Independiente de esta capacidad, los resultados de StableVicuna dependen mucho de la calidad del prompt y el orden en que se plantea la pregunta, lo podemos ver por ejemplo al preguntarle por el hijo de Marco Aurelio, el emperador romano. Al plantear la pregunta de dos maneras diferentes, el modelo entrega resultados categóricamente distintos, uno correcto y otro incorrecto:

Opinión

Creo que StableVicuna es un intento por demostrar que tan capaces son en Stability.ai de tener un modelo sin uso comercial, para que al momento de que tengan su propio modelo para uso comercial, replicando LlaMA (esto pasará sí o sí), pueda ser igual o mejor que el que está limitado comercialmente y competir con OpenAI de una manera open source (o no? 🤔).

Es un modelo que vale la pena seguir, puede tener mejoras considerables en el tiempo sobre todo tomando en consideracion lo que Stability ha logrado antes.

Agradecimientos

Gracias especiales a Sam Witteveen por su excelente calidad de contenido y por disponibilizar el Colab donde se pueden probar estos modelos.

Gracias a Stability.ai por publicar un blog sobre su nuevo modelo.

Definición no técnica🤑

ChatGPT es una aplicación gratuita para todo el mundo, es literalmente un chat, pero del otro lado hay una ✨Inteligencia Artificial✨ capaz de entender y responder al lenguaje humano. Imagínatelo como un robot -sin tuercas ni metales- muy inteligente con el que puedes hablar.

¿Por qué es tan popular?📣

Porque te puede ayudar -bajo mi punto de vista- a cubrir las siguientes habilidades:

• Creatividad: ¿No se te ocurre que poner en la descripción del post? Pídele a ChatGPT que te dé una lista de ideas. Ahora, este ejercicio, imagínalo con cualquier tarea que necesite una lista de ideas o alternativas.

• Resolución de problemas: Si tienes un dilema moral, o tienes una idea que quieres evaluar como alternativa de negocio, ocupa ChatGPT como tu contraparte experta, primero para abordar el problema y segundo, para intentar resolverlo.

• Conocimiento: Googlear ya es cosa del pasado para la gran mayoria de preguntas que tengas. ChatGPT tiene acumulado el conocimiento de todo internet hasta Septiembre de 2021, pregunta cualquier cosa y tendrás una repuestas sin buscar entre una infinidad de fuentes y links.

¿Cómo puedo ocuparlo en mi día a día?

Aquí tienes algunas formas en las que ChatGPT puede ayudarte:

Escribir correos, respuestas de mensajes o contenido de PPT

Si tienes que escribir mucho por trabajo o estudios, ChatGPT te puede salvar la vida. Puede ayudarte con cosas como generar ideas para entradas de blog, escribir informes o ensayos, e incluso idear tuits ingeniosos. Todo lo que tienes que hacer es darle un tema y te hará todo tipo de sugerencias útiles.

Ejemplo 1:

Supongamos que eres un estudiante y tienes que escribir un ensayo sobre la Revolución Francesa pero no tienes mucho tiempo para investigar tooodo el contenido y quieres avanzar rápido. Pidele a ChatGPT ayuda:

ChatGPT comenzará a escribir sobre el tema, tu podrás continuar refinando detalles luego de que esta IA te entregue una estructura general:

Ejemplo 2:

Ahora supongamos que estás trabajando en una empresa nacional que vende insumos y fertilizantes a agricultores. Tienes que crear una presentación breve de la empresa para ellos y quieres que esta sea lo más amigable posible. Pidele a ChatGPT todo esto con especificaciones y te podrá ayudar

Le he pedido a ChatGPT que escriba para alguien con ciertas caracteristicas y que su resultado sea muy bueno, así podría eventualmente avanzar más rápido en mi escritura de propuesta. Esto me responde:

Conversaciones de orientación

ChatGPT también puede ayudarte a encontrar cosas que te encantarán basándose en tus intereses y preferencias. También puede ayudarte a decifrar un dilema para tener un punto de vista no sesgado. Un par de ejemplos puede ser que te recomiende qué lugares visitar en tus próximas vacaciones, qué argumentos darle a tu jefe para que te haga un aumento de sueldo o cómo pedirle disculpas a tu pareja por un error que cometiste. Veamos un par de ejemplo prácticos:

Ejemplo 1:

Imaginate que necesitas una recomendación para hacer una cena elegante para tu familia por el día de cumpleaños de tu abuela, pero considerando que tu abuela es diabética y tu abuelo hipertenso. Pidamosle a ChatGPT una recomendación:

Le he dado todo el contexto posible de la cena que quiero preparar, el horario y la cantidad de personas. ChatGPT me responde lo siguiente:

Y su respuesta es segmentada correctamente, explica cual es el plato que se va a preparar, cuales son los ingredientes que se necesitan para preparar este plato y las instrucciones para cocinar este plato (el mensaje sigue adelante, pero no lo subí completo). Es tan increíble, que también indicó un Side Dish y un postre.

Con esta lista de ingredientes e instrucciones ya estoy listo para preparar una cena sin problemas. Podríamos ir más allá y preguntarle la cantidad de calorías que representa esta opción de comida, pero los invito a que prueben esto.

Tips 💯

A continuacion les dejo un par de tips que pueden ser útiles para ordenar su interacción con ChatGPT, así le pueden sacar el mejor provecho:

Definirle un rol

Indicale a ChatGPT que quieres que actúe como un cierto tipo de persona. Te dejaré un par de ejemplos que te pueden servir. La idea principal es partir el mensaje algo así: "Tú eres un X, y yo soy un Y", donde "X" es un rol que calce perfecto con lo que necesitas del chat.

Ejemplo 1: Developer experto en tecnología

Si tus tareas están centradas en escribir código, integrar software o lograr alguna tarea que involucre código, pidele a ChatGPT que asuma el rol de un "Senior Software Engineer expert in Technology". Sus respuestas serán más precisas.

En este ejemplo, le pedí a ChatGPT que asuma el rol de un ingeniero de backend senior, experto en el lenguaje que estoy ocupando (Javascript), para que me ayudara a resolver un error muy común.

Ejemplo 2: Expero en Excel y base de datos

Imagina que ahora quieres hacer una consulta de base de datos y plasmarlo en un excel para un presentación, pero no estás muy seguro o segura de como hacer esta query. Pídele a ChatGPT que asuma el rol de un experto:

Le solicité que asuma un rol de experto en Excel, SQL y bases de datos. Ahora procederemos a entregarle información sobre nuestra base de datos, de tal manera que nos entregue consultas SQL listas para utilizar.

💡 Recomendación: Describe todas tus tablas de base de datos a ChatGPT, asi te entregará las querys listas para ocupar

Le he entregado toda la información de las tablas que manejamos en base de datos, e inmediatamente obtuve esta respuesta:

Con estas consultas, puedo crear un Dashboard con indicadores claves para tu empresa y mejorar tu presentación. Te dejo un link que explica como podrías agregar estas consultas a tu Excel 👇

https://www.youtube.com/watch?v=NPprNGaDmLc

Organiza el Chat según temática

ChatGPT tiene integrada una memoria sobre todas las conversaciones realizadas. Incluso es capaz de generar un nombre descriptivo para la conversacion en base a la primera pregunta que ingresas.

Te recomiendo fuertemente separar tus chats segun temática, por ejemplo:

• Chat ayudante de tu proyecto personal de código

• Chat para consultas sobre historia

• Chat para evaluar postulaciones a fondos de inversiones

• Chat para mejorar tu CV

• Chat para ayudarte en la escritura de blogs

De esta manera ChatGPT no cambiará su rol y conocimiento sobre una temática, se mantendrá experto en la conversación y recordará mejor las cosas que ya le preguntaste, sin confundirlas con ideas fueras de contexto.

Lo bueno es que puedes editar el nombre de tus chats, puedes ordenarlo literalmente de la manera que tu quieras. Incluso puedes eliminar chats que ya no consideres útiles y que solo te generan distracción.

Consideraciones

Tienes que tener en mente que GPT-3 (la tecnología detrás de ChatGPT gratuito) tiene poco más de 1 año, por lo tanto sus capacidades no son infinitas y mucho menos es la panacea a todos tus problemas. Las limitantes más grandes que tiene son estas:

• Acceso a internet limitado: No puedes acceder a información después de Septiembre de 2021 ya que ChatGPT fue entrenado con conocimiento hasta esa fecha, además no existe una manera de que esta IA "navegue" la web actual (aún, pero de eso hablaremos en otro post 😳).

• Limite de palabras que puedes escribir y recibir: ChatGPT actualmente puede manejar 4096 tokens, que son algo así como monedas de palabras (Digamos que 100 tokens son algo asi como 75 palabras). Esto implica que no puedes, por ejemplo, subir todo un libro al chat para que lo lea, ni tampoco puedes subir un CSV con datos que quieres trabajar. Del mismo modo, ChatGPT no te puede entregar una respuesta del tamaño de la biblia (no te resultará pedirle que te haga la tesis).

• Manejo de archivos: ChatGPT actualmente no puede recibir ni entregar archivos. Esto significa que no puedes subir un PDF o un excel, ni pedirle que te entregue un archivo ejecutable.

• Usar inglés como lengua de comunicación: ChatGPT es oriundo de USA, por lo que su lenguaje "madre" es el inglés. Entiende español, pero sus resultados no serán igual de buenos a los que puedes esperar interactuando en inglés. Te recomiendo ocupar otra IA para interactuar con este chat: https://www.deepl.com/es/translator
  Ingresa lo que le quieres pedir al chat en este traductor, copia y pega los resultados, y luego repite el proceso con lo que te diga ChatGPT, pero al revés.

Opinión y cierre

ChatGPT ha dado el puntapié inicial a la nueva revolución tecnológica. Dejamos atrás progresivamente la era de la información y damos paso a la era de la inteligencia. Esto será inclusive más grande que Internet o las redes sociales, hablamos de una tecnología que cambiará por completo la forma en que vivimos.

Mi recomendación es: dale una oportunidad. Es mucho mejor sumarse al cambio (que es inevitable, esto solo crecerá) ahora que está en sus early days, a sumarse cuando ya sea algo imposible de entender. Sé que es dificil dar espacio al cambio, pero tengan fé cuando les digo que aquellos que manejen esta tecnología estarán un 10x sobre los que no la manejen.

PD. La imagen de portada del blog también fue generada con IA, pero esta tecnología la revisaremos en otro post 😎