Desafiando a la media con IA de código abierto: Hugging Face's Thomas Wolf

Thomas Wolf es cofundador y director científico de la plataforma de IA de código abierto Hugging Face, que proporciona acceso a miles de modelos de IA preentrenados que pueden descargarse y ejecutarse localmente. Con más de 10 millones de usuarios, iniciarse en el sitio puede ser una tarea desalentadora. Thomas explica cómo la empresa pretende mejorar su accesibilidad a través de la documentación del blog de la empresa y de los comentarios de la comunidad, similares a los de las redes sociales.

Thomas y Yo, yo mismo y la IA Sam Ransbotham, el presentador, hablan de las ventajas y desventajas de los modelos de IA de código abierto y de código cerrado, así como de la evolución de los microchips y el futuro del desarrollo de hardware y software, además de las esperanzas que tiene Thomas para el futuro de la codificación con IA, empezando por la generación de sus hijos.

Suscríbase a Yo, yo mismo y la IA en Podcasts de Apple o Spotify.

Transcripción

Allison Ryder: El invitado de hoy cree que los modelos de código abierto y de código cerrado coexistirán en el mundo de la IA. Descubre en el episodio de hoy cuáles son, en su opinión, las oportunidades y los inconvenientes de cada uno, así como la forma en que las comunidades pueden hacer que las herramientas de IA -y ellas mismas- funcionen mejor juntas.

Thomas Wolf: Hola, soy Thomas de Hugging Face, y estás escuchando a Yo, yo mismo y la IA.

Sam Ransbotham: Bienvenido a Yo, yo mismo y la IAun podcast de MIT Sloan Management Review explorando el futuro de la inteligencia artificial. Soy Sam Ransbotham, profesor de analítica en el Boston College. He estado investigando los datos, la analítica y la IA en MIT SMR desde 2014, con artículos de investigación, informes anuales del sector, estudios de casos y ahora 12 temporadas de episodios de podcast. En cada episodio, líderes empresariales, investigadores de vanguardia y responsables de políticas de IA se unen a nosotros para desmenuzar lo que separa el bombo de la IA del éxito de la IA.

Hola a todos. Gracias por acompañarnos de nuevo, y bienvenidos a una nueva temporada. Hoy, tengo la suerte de hablar con Thom Wolf. Es el cofundador y director científico de Hugging Face. Thom, es un placer tenerte hoy en el programa.

Thomas Wolf: Gracias, Sam. Es un gran placer estar aquí.

Sam Ransbotham: Empecemos por Hugging Face. Puede que algunos de nuestros oyentes no conozcan Hugging Face. ¿Puede explicarnos brevemente a qué se dedica la empresa y a qué se dedica usted?

Thomas Wolf: Sí, claro. Hugging Face es una plataforma de IA de código abierto. Damos acceso a todos los modelos de IA que son de código abierto, lo que significa que, básicamente, estos son los modelos que puedes descargar y ejecutar donde quieras. Así que cuando utilizas un modelo de IA hoy en día, puedes elegir entre ChatGPT, Anthropic o Google -que son los más utilizados en este momento- o a veces quieres ejecutar los modelos de IA en tu propio centro de datos, o quieres ejecutarlos en un hardware específico. [Puede ser hardware local o chips más rápidos, porque necesitas una respuesta instantánea. En la mayoría de los casos, lo mejor es optar por un modelo de IA de código abierto, que básicamente se puede descargar.

Hay bastantes. En Hugging Face hay cerca de 4 millones de modelos. Cada cinco segundos se publica un modelo nuevo. Algunos de los más famosos son la serie Meta, la serie Llama. Y uno de los que creo que ha tenido más adopción y visibilidad recientemente ha sido DeepSeek, que se publicó en enero y que hizo que los mercados de valores se desplomaran al mismo tiempo que se publicaba.

Durante los últimos ocho años, Hugging Face ha estado construyendo esta plataforma, haciéndola crecer junto con la comunidad de personas y equipos que comparten y descargan modelos. Esta comunidad cuenta ahora con unos 10 millones de usuarios y creadores de IA. [Así es como los llamamos. Además, hemos ido más allá del mero alojamiento de modelos para alojar también conjuntos de datos que se utilizan para entrenar modelos, perfeccionarlos y evaluarlos. Y más recientemente, también hemos añadido lo que llamamos Spaces, que son formas sencillas y de bajo código de probar todos estos modelos.

Sam Ransbotham: Hay mucha gente que ofrece soluciones. Y si pienso en cómo se ha desarrollado la tecnología a lo largo de la historia de la humanidad, a la gente se le ocurrieron los chips, y llegaron los laboratorios Bell e Intel y construyeron fábricas de procesadores. Nada de eso era código abierto. ¿Por qué es importante aquí el código abierto?

Thomas Wolf: Creo que el código abierto siempre ha sido importante en cierto modo. La cosa es que el código abierto es más a menudo el juego largo en la informática. Así que si nos remontamos a, por ejemplo, el año 2000 o antes de la década de 2000 ... básicamente Microsoft era uno de los mayores sistemas operativos, y Linux era de alguna manera más para fanáticos o geeks. Y ahora, si avanzamos 20 años más tarde, Linux es realmente la base de todo el software empresarial y toda la nube empresarial, básicamente. Casi siempre se ejecutan en alguna versión de Linux. Incluso MacOS, que creo que es probablemente el más utilizado en los portátiles de consumo hoy en día [y] es uno de los mayores competidores de Windows, se basa en el núcleo de Linux.

Así que existe esta tendencia, que es [que] el código abierto tiene algunas ventajas que lo hacen extremadamente atractivo a largo plazo. Obviamente [a] corto plazo, se puede ir más rápido con el código cerrado, y eso es también lo que vemos con los modelos cerrados. Se puede iterar más rápido. Puedes reunir grandes cantidades de capital para entrenar tus modelos. Puedes tratar de captar al investigador de IA más caro y pagarle enormes sumas de dinero.

Seguimos impulsando mucho la ciencia abierta, y justo este martes publicamos un nuevo modelo que se llama SmolLM3, que es un modelo extremadamente inteligente. Es el mejor con 3.000 millones de parámetros. Así que está en el rango de tamaño que puedes ejecutar en tu portátil e incluso en el smartphone.

Hemos decidido compartir, al mismo tiempo, todos los datos, todas las recetas, todos los conocimientos sobre cómo construir estos modelos. Está bien para nosotros porque no ganamos dinero con estos modelos, y creemos que está muy bien porque cualquiera que pueda, [que] quiera construir un modelo basado en esto, o que se parezca un poco a esto, o que quiera ampliar este tipo de modelo, ahora tiene todo el conocimiento... para empezar.

Creemos que el código abierto puede definirse de muchas maneras en la IA, pero pensamos que la forma más radical es decir que se comparte todo. Se comparten los datos, el código y la receta. Escribimos en una entrada de blog muy larga, [que] probablemente vamos a convertir en un artículo completo, todos los detalles sobre cómo construir este modelo. Así que hemos seguido publicando todo esto. Incluso estamos preparando un libro sobre cómo entrenar eficazmente un LLM [modelo lingüístico de gran tamaño] en un clúster de GPU. Pero creemos que básicamente todo esto debería ser realmente accesible.

Pero no quiero dar la impresión de que soy un absolutista del código abierto. Creo que ambos tienen ventajas e inconvenientes interesantes. Y creo que, en general, ambas coexistirán en la IA.

Si comparas [la IA] con el hardware, es una comparación interesante la que has hecho, ¿verdad? Bell Labs estaba, en parte, desarrollando en ese momento software [que] era probablemente mucho más especializado, y software y hardware [que] estaban mucho más unidos.

Creo que si se compara [la IA] con el hardware, hay alguna diferencia, pero también hay una ventaja interesante y un punto a favor del hardware de código abierto. Así que eso es algo que hemos empezado a hacer muy recientemente en Hugging Face en robótica. No sé si es algo que queremos cubrir hoy en día, pero acabamos de adquirir, este año, una empresa de hardware de código abierto en robótica llamada Pollen [Robotics]. Y creo que hay cierto interés.

La idea general es, para mí, que gran parte de la forma de ver el hardware a largo plazo puede reinventarse utilizando software. Así que tal vez lleguemos a eso. [Yo] no quiero ir demasiado rápido en tangentes locas.

Sam Ransbotham: No, creo que es fascinante, sobre todo con HopeJR y las iniciativas de robótica en las que participa ahora. Supongo que puedes hablar de ello. Pero mientras lo haces, quiero presionarte un poco y decirte [que] ya ni siquiera sé cómo definimos hardware y software. Hay firmware. Hay muchas capas en la pila de software. Y tradicionalmente, aunque tuviéramos código abierto (Linux fue el ejemplo que mencionaste), puede que se construyera sobre un firmware específico del proveedor y propietario. Así que incluso dentro de esas pilas se vuelve complicado. Hablemos de hardware. Me gustaría hablar de HopeJR.

Thomas Wolf: Creo que es muy interesante. Una cosa [es que] es ligeramente futurista. Pero mi trabajo en Hugging Face consiste sobre todo en pensar en lo que está por venir. Así que paso mucho tiempo pensando en el próximo año y en los próximos años en IA.

Creo que, como dices, la frontera entre el software y el hardware se está reduciendo de nuevo. Tuvimos el momento en que había realmente esta enorme - quiero decir, tal vez al principio, todo era lo mismo porque todo el mundo estaba tan cerca del hardware que básicamente no teníamos nada que podríamos llamar software, cualquier abstracción realmente grande.

Y hoy en día, lo interesante es que vemos esta tendencia a llenar el vacío y volver a un nivel muy bajo. Y hay un par de tendencias en las que no he pensado del todo, pero lo que veo es, por ejemplo, que la gente vuelve a utilizar la IA para acelerar el proceso de construcción de hardware, tanto el desarrollo asistido por ordenador, básicamente para piezas mecánicas, como el hardware, como chips, todo este tipo de cosas.

Y [están] diciendo [que] utilizando la IA, tal vez podamos reinventar y básicamente reducir, o tal vez digerir, todo este conocimiento que necesitas hoy en día si quieres desarrollar algo en hardware de una forma que sea realmente tan útil que, de nuevo, podríamos desarrollar hardware un poco como desarrollamos software. Así que podríamos iterar mucho más rápido. Tendríamos mucho menos de una barrera de entrada de conocimientos para, básicamente, ser capaz de diseñar cosas en hardware.

Así que estoy muy entusiasmado con esto. Y creo que esto es, en parte, desbloqueado por las herramientas que ahora tenemos disponibles.

Sam Ransbotham: Si voy al sitio de Hugging Face, me siento abrumada. Hay muchísimas cosas. Y creo que es genial que todo esté abierto, pero ¿cómo resolvemos entonces este problema de "Hay un montón de información. Nunca voy a conseguirlo todo. ¿Qué hago? ¿Cómo empiezo?"

Thomas Wolf: Es un problema difícil porque hay como 4 millones de modelos. Entonces, ¿cómo encontrar el modelo que desea utilizar, ¿verdad?

Al principio, intentamos tener algunos manuales de curación para nosotros, pero con un nuevo modelo cada cinco segundos, eso no es realmente sostenible.

Por supuesto, hay un par de directrices generales. Es decir, si buscas un modelo de generación de discurso, puedes limitarte a este tipo de modelo. Si buscas un libro de texto, puedes filtrarlo.

Sam Ransbotham: Ahora sólo te queda un millón.

Thomas Wolf: Exacto. Es sorprendente porque todo el mundo piensa, por lo general, que la categoría de modelo que le interesa es la más descargada. Pero no es así. A menudo, el más descargado es un modelo de voz. Y la gente de LLM o de texto se sorprende mucho. Dicen: "¿Qué?".

Pero la realidad es que la IA se está convirtiendo en un campo enorme con muchos subcampos. Y cada uno de estos subcampos se está haciendo realmente grande. Así que la forma en que tratamos de hacerlo es que realmente no podemos curarnos a nosotros mismos. Al igual que en Internet, no se puede tratar de seleccionar el mejor sitio web. Puedes tener un par que te gusten, puedes confiar en la búsqueda, pero la mejor manera suele ser confiar en una especie de descubrimiento social. Así que puedes ir a Reddit, o puedes encontrar sitios donde la gente [añade] likes. Si estás en Pinterest, tal vez haya algunos "me gusta" para diferentes cosas.

Así que lo que intentamos hacer cada vez más es dar herramientas sociales para comentar modelos, hacer colecciones de modelos... un poco como la propia Internet, diría yo, que a menudo está guiada por otras personas [que] te dicen: "Deberías ir allí", y así es como encuentras el sitio.

Creo que la señal más [fiable] ahora mismo son dos lugares del sitio web de Hugging Face. Uno es el blog. Tenemos una sección de blog muy activa, con contenidos de gran calidad. Es bueno seguirlo. Y el otro son los modelos que marcan tendencia, que muestran, básicamente, en la última semana o dos semanas qué modelos han obtenido más likes o más interés entre todos los nuevos modelos del último periodo.

Sam Ransbotham: Eso tiene mucho sentido. Aunque, al mismo tiempo, no puedo evitar querer conectarlo con lo que dijimos antes al decir que "Oh, es sólo lo raro. Es lo que no está en la media, así que quizá deberías mirar al final de la lista en vez de al principio de la lista. ... El problema es que va a haber mucho allí.

Pero en los tiempos del software original, si pensamos en los enormes y monolíticos sistemas operativos IBM 360, su puesta en marcha era gigantesca y costosa. Y hemos visto en el software una gran reducción de ese coste mediante la construcción sobre componentes. Pero seguimos teniendo un puñado de fabricantes de chips que, de nuevo, debido a los miles de millones de dólares que cuesta literalmente crear chips y crear hardware -que puede no ser el caso de todo el hardware, como la robótica o lo que sea [que] tiene una barrera de entrada mucho menor debido a la escala-, ¿cómo lo hacemos posible? ¿Cómo lo impulsamos?

Thomas Wolf: En concreto, si hablamos de chips, que es un campo que me interesa bastante últimamente, creo que [hay] dos cosas convergentes. La primera es que la IA es, en cierto modo, una tecnología bastante sencilla. Así que... la mayoría de los chips de IA son mucho más simples que la CPU o la GPU. No tenemos toda esta complejidad que necesitamos para construir encima de ellos - toda la predicción de rama o las cosas complejas. Tenemos que asegurarnos de que realmente hacemos el mejor uso de estos chips en [un] flujo de trabajo y configuración de computación muy genéricos.

Un modelo de IA en sí es extremadamente simple en cierto modo. En realidad es sólo esta serie de multiplicaciones de matrices, un par de no linealidades, y tienes los bloques de atención. Eso es tal vez un poco de miedo la primera vez que vea la ecuación, pero en realidad eso es realmente así de simple, ¿verdad?

Si lo comparamos con el enorme y engorroso sistema que hemos tenido que diseñar para conseguir que un sistema informático general sea eficiente en todos estos casos límite, el mero hecho de ser capaz de soportar un pase hacia delante es, en cierto modo, una tarea de bebés.

Esto significa que podemos reinventar la arquitectura informática y hacerla mucho más sencilla. Así que eso es una cosa.

Y si nos proyectamos en el futuro, y si pensamos que básicamente la IA podría convertirse en la forma dominante de computación -me refiero a la forma dominante en que utilizamos la energía para la computación-, esto podría ser lo que realmente querríamos sobreindexar y decir: "En realidad, no es así. La GPU está al lado de la CPU, pero ahora es al revés. Es este ordenador de IA es la pieza central de lo que estamos construyendo".

Así que lo primero es que creo que hay una manera de rediseñar nuestra arquitectura informática de una manera mucho más simple. [Esto] es una especie de regalo gracioso que nos trae la revolución de la IA, que es mucho más simple, y también mucho más potente porque un LLM bien entrenado y un LLM en el futuro pueden simular cosas extremadamente complejas.

E incluso puedes pedírselo ahora mismo, que es [un] divertido experimento mental que mi amigo Stephen [Balaban] de Lambda Lab estaba haciendo. Puedes pedirle que simule cualquier tipo de software. E incluso podrías decirle: "Ahora, compórtate como una hoja de cálculo". O "compórtate como un sitio web".

Así que se comporta como un tipo muy complejo de software bastante bien. Y si nos fijamos en el núcleo de la operación, es sólo muy simples rutas de avance. Tienes un montón de ellos. Así que ese es un aspecto, que tenemos esta muy simple computación, arquitectura de computación.

Y el otro aspecto es que podemos utilizar este software de IA cada vez más como ayudantes para simplificar tareas complejas que teníamos que hacer. Básicamente, podemos descargar gran parte de la carga cognitiva que necesitábamos para recordar: "Ah, sí, tengo que comprobar esta parte del software. Sé dónde está en el muelle, pero tengo que comprobar cómo funciona. Y también tengo que tener cuidado con esto".

Con el desarrollo de este tipo de agentes de IA, hay cierta esperanza de que realmente podamos automatizar gran parte de esta parte del diseño, al igual que hoy en día, incluso cuando se utiliza algún tipo de software de diseño CAD, en realidad se utiliza algo que es extremadamente potente. Así que básicamente, con sólo un par de líneas paramétricas, puedes diseñar algo en 3D que antes era extremadamente complejo de diseñar.

Y lo mismo ocurre con nosotros, igual que podemos hacer un poco de forma paramétrica en Onshape o en uno de los programas de diseño, podemos diseñar un sistema muy complejo dando un par de puntos en la curva bayesiana y esperando que el sistema de IA conecte todas las cosas y se asegure de que todo encaja bien.

Así que esto es lo otro: no es que estemos construyendo este sistema, sino que los estamos utilizando para que nos ayuden a construir un sistema extremadamente complejo.

Sam Ransbotham: Creo que es genial. Ha mencionado Onshape. Mi hijo va a escuchar el episodio. ... Es increíble. Puedes tomar una foto 2D y convertirla en 3D. Está haciendo modelos de sí mismo con sólo tomar una foto frontal allí. ... Es bastante sorprendente.

Quiero insistir en un par de cosas que has dicho. En primer lugar, creo que el crecimiento de los chips es algo en lo que no había pensado, pero al principio teníamos CPU y luego desarrollamos GPU o unidades de procesamiento gráfico para procesar imágenes en la pantalla. Entonces nos dimos cuenta de que esas matrices eran las mismas que las de los modelos de aprendizaje automático. Podemos usar esas GPUs mucho más eficientemente".

Pero lo que señalas es que no fabricamos esos chips con ese fin originalmente. Y podríamos tener diferentes restricciones de diseño si hiciéramos esos chips desde el principio. Si combinamos eso con nuestra capacidad para abaratar los chips y el hardware en general, entonces es una buena combinación que podría ponerse en marcha.

Thomas Wolf: Para ser sincero, la GPU es cada vez más un chip optimizado para IA. Quiero decir, [hay] Tensor Cores, y verás una variedad de chips, ves chips Cerebras. Trabajamos con una gran variedad de ellos. Creo que es muy interesante seguir este campo y ver cómo, básicamente, la competencia empuja a la gente a explorar, como decías, tal vez reinventando esto. Cerebras es este ejemplo de "Seamos capaces de alojar un modelo completo en sólo [estos] chips muy grandes a escala de oblea". Grok - que acabo de ver en las noticias esta mañana - es también un caso interesante de "Vamos a tratar de empujar tal vez para el lote bajo, el lote pequeño. Vamos a tratar de empujar el token por segundo al máximo ".

Tal vez la fuerza impulsora aquí - si damos un paso atrás un poco y tomar más como una visión de negocio en esto - es por primera vez, una de las principales métricas que tenemos es una matriz de muy bajo nivel. Y eso es básicamente el costo por token. Y el costo por token es una matriz interesante porque es algo que básicamente ... una persona de nivel CFO podría echar un vistazo. Cuando se utiliza Gemini, esa es la primera matriz, la gente le dirá, y cuando se comparan estos valores para los jinetes, que es tal vez la mayoría de las métricas relacionadas con los costos que se echa un vistazo.

Pero también es una métrica de muy bajo nivel. Porque si piensas en eso, en realidad es sólo una serie de operaciones. Y si usted piensa en eso ... incluso se puede vincular que a casi "¿Cuántos transistores voy a activar porque este modelo tiene este tamaño, y un token es sólo uno para que pase?"

Podrías relacionarlo con exactamente cuántos [muchos] miles de millones de transistores necesitarás activar por este precio.

En el pasado, no teníamos eso por el precio que pagábamos por toda nuestra computación. Nunca dijimos: "Bueno, en realidad pagarás esta cantidad porque haces 10.000 operaciones". Nunca tuvimos esta conexión entre [estas] métricas de costes y el nivel extremadamente bajo de una sola operación en el chip.

No es de extrañar que aparezcan nuevas empresas, tanto en Estados Unidos como en Europa, [como] Edge Fractal. Muchas de ellas - cito la que quizá esté más cerca de tener chips en producción. Pero también [de] todos los hiperescaladores, está Trainium en AWS [y] Microsoft ha estado desarrollando -ahora, parece que hay algún retraso- pero básicamente también está construyendo sus propios chips. Incluso OpenAI [tiene su] propia división de investigación de chips. Solo porque la primera vez, naturalmente, tu tendencia, cuando ves esta matriz, es que quieres cambiarla, quieres bajar este coste.

Sam Ransbotham: Creo que las métricas son algo importante, y respondemos a ellas. En realidad no había pensado en ello, pero antes hablábamos de horas de computación, y era difícil entender lo que te aportaba una hora. En el otro extremo de la escala, teníamos las operaciones en coma flotante por segundo [FLOPS], que tengo mucha menos manera de relacionar con cualquier cosa que quiera hacer, frente a lo que en realidad tiene mucho más sentido entonces. Y entonces la gente lo optimizará.

Thomas Wolf: Es el dólar por ficha. Esa es la cuestión. Nunca hemos tenido el dólar por gigahercio que quizás te empujaría a hacer CPUs más rápidas. O, no sé, el dólar por FLOPS que te haría fabricar GPUs más rápidas en gráficos por ordenador. ... La conexión era realmente amplia entre estos dos universos.

Así que creo que mucha gente está diciendo que eso es bastante cierto, que los costes limitantes de la inteligencia serían el coste de la electricidad. Creo que eso es lo primero. Y la última persona a la que oí decir eso fue Patrick Collison, pero creo que mucha gente lo ve así.

Estoy de acuerdo, pero habrá un factor multiplicador entre la electricidad y la inteligencia. Y este factor multiplicador será exactamente "¿Cuánta inteligencia pueden dar tus chips por electrón, por energía?". Y ahí es donde querrás exprimir esto al máximo.

Sam Ransbotham: Mencionaste cognitivo y, por supuesto, que es un gran problema es lo que vamos a hacer con estos chips. Digamos que tenemos todos estos chips y los tenemos baratos. ¿Qué vamos a hacer con ellos?

Hay un informe al que creo que reaccionaste sobre un país de Einsteins sentados en un centro de datos. Creo que es muy atractiva la idea de que, "Oh, Dios, tenemos todos estos modelos funcionando en centros de datos, y de repente no tendremos un Einstein, sino que tendremos millones de Einsteins". Piensa en el progreso.

Pero hoy en día, las herramientas en general y la IA en particular, por supuesto, pueden ser una ventaja para que las personas lleguen a la media rápidamente, de modo que no tengan que dedicar tiempo a llegar al rendimiento cognitivo medio. Pero al mismo tiempo, también pueden ser una forma de que la gente aprenda a depender de estas herramientas.

Si no practicamos las habilidades, no mejoramos en ellas. ¿Cómo podemos ir más allá de la media? ¿Podemos tener un país de Einsteins sentados no en centros de datos, sino en sus casas, que utilicen herramientas de IA para darles una ventaja?

Thomas Wolf: Sí, por supuesto. Este caso [fue] iniciado por este ensayo de Dario Amodei, el CEO de Anthropic. ... Es un ensayo muy bien escrito. Es muy optimista. Se titula Máquinas de gracia amorosa. Básicamente dice que la IA nos permitirá hacer avances científicos importantísimos. Lo que él ponía como ejemplo era este avance a nivel de Premio Nobel. En lo que estoy más o menos de acuerdo con él... es en que creo que si resumimos el progreso científico, tenemos mucho progreso incremental -y yo fui culpable de hacer mucho [de eso] durante mi doctorado y postdoctorado, y eso básicamente era [hacer] lo máximo que podía hacer, que es básicamente hacer tu pequeña parte en este pequeño aspecto, ampliando un poco la frontera. Y entonces se produce ese cambio masivo de paradigma que suele ser el que suele recibir un Premio Nobel y que puede ser la relatividad general, puede ser CRISPR en biología. Hay un par de ellos en cada campo. Y también suelen crear nuevos campos.

Lo que estaba diciendo, y lo que creo, es que la IA será extremadamente útil para toda la innovación incremental. La IA es muy buena explorando muchísimas cosas en torno al statu quo, pero es extremadamente mala desafiando al statu quo en sí. Es muy fácil conseguir que ChatGPT esté de acuerdo contigo en cualquier cosa. Es muy difícil conseguir que este modelo no esté de acuerdo contigo en algo, en realidad, y desafíe tu visión del mundo, lo cual es todo un problema en algunos casos, y en particular en la investigación científica.

Hace dos semanas, tuve el placer de volver a encontrarme con uno de mis antiguos profesores, Alain Aspect, que recibió el Premio Nobel hace [tres] años, si no me equivoco, por demostrar básicamente este desacuerdo que Einstein tenía con la mecánica cuántica, en el que básicamente estaba en desacuerdo con la idea central de la mecánica cuántica.

Si proyectas la función de forma de onda, básicamente tienes una salida aleatoria. Así que puedes mapear eso en un experimento. E hizo este experimento óptico.

Si hablas con este tipo de investigadores, no quieren complacerte. Tienen opiniones fuertes, tienen ideas fuertes. Y creo que es lo que realmente les llevó a hacer un descubrimiento fuerte, porque eran como, "Yo no creo que esto es correcto. Quiero demostrar que esto está mal ".

Y no intentan hacer este tipo de adulaciones que harán los LLM, donde realmente quieren complacerte.

Creo que [lo que] falta hoy en día en los modelos de IA es que realmente intentan... en primer lugar, intentan predecir la siguiente palabra más probable en una frase, lo que significa que pasarán por alto palabras que son poco probables. ...tenderán a retroceder. Como decías, tienden a acercarse a la media. Son muy buenos [en] el pensamiento medio, o [siendo] un diseñador medio, o [el] proceso creativo si los utilizas [como] diseñadores de imagen. Pero son bastante malos desafiando la media y dando ideas locas que puedan desafiar algunos de sus datos de formación en particular.

Así que lo que quiero decir es que serán muy útiles [como] ayudantes de investigación, pero no serán los que nos lleven a [un] avance extremadamente novedoso".

Así que me hago esta pregunta muchas veces, en particular, cuando veo a mis hijos, a mi hijo usando IA, que es: "¿Cuánto deberían usar la IA para automatizar su pensamiento? ¿Cuál es la parte restante que es muy humana, que debemos mantener, que debemos construir?"

Como siempre, creo que es una mala idea limitarse a decir: "No utilices la IA". Tendremos que encontrar la manera de enseñarles a utilizar esta herramienta y ser muy conscientes de cuáles son las partes que faltan.

Sam Ransbotham: Has planteado algo en lo que pienso mucho, tanto con mis propios hijos como con los estudiantes universitarios con los que contacto todo el tiempo, [que] es "Bueno, ¿cuál debería ser exactamente su relación con estas tecnologías?".

Siento que porque estoy al frente de la sala o alrededor de la mesa de la cena debería tener alguna opinión sobre esto. Y es muy difícil saberlo.

Parece que estás empujando a tus hijos a utilizar estas herramientas y a adoptarlas, al menos en cierta medida.

Thomas Wolf: Sí, creo que tienes que hacerlo. Esto sonó tal vez bastante crítico de esta herramienta. Pero también creo que estas herramientas son una gran manera de desbloquear la creatividad. Hablemos, por ejemplo, de vibe coding, que conozco bastante bien.

Sigo la idea de que se puede crear un sitio web, y bastante complejo. Creo que es fascinante, porque antes era muy complicado programar un sitio web. Y creo que mucha gente se autocensura y dice: "Tengo una idea, pero es muy compleja. No sé HTML. No quiero hacerlo". Hay algunas herramientas sin código, pero tienen sus peculiaridades, sus limitaciones, algunas no tienen bases de datos. Y esta idea general [de] que puedo pedir que estas cosas existan es bastante nueva.

Y así hace un mes, por ejemplo, mi hijo tiene 12 años. Todavía le interesa lo que hago, yo diría que, por suerte para mí, durante un par de años, tal vez. No sé cuánto durará. Pero conseguí traerle a él y a un par de amigos y chicos de otros amigos a un pequeño hackathon que organizamos. Seleccionamos una herramienta de codificación vibe, Lovable, que me pareció muy, muy fácil de usar, muy agradable. Y les explicamos un poco [del] proceso de diseño, que es mejor, por ejemplo, formalizar un poco [de] tus ideas. Así que les pedimos que dibujaran la página web que tenían en mente, que pensaran en la idea, en cómo es, y luego que la impulsaran. Y tratamos de organizar un poco [su] proceso.

Pero lo que vimos es que se hicieron rápidamente con esta herramienta. Y empezaron a crear aplicaciones mucho más diferentes de lo que habíamos previsto. Pensábamos que solo tendrían una idea. Pero básicamente tenían 10 ideas. Y muy rápidamente, cada niño estaba experimentando con cuatro o cinco sitios web diferentes al mismo tiempo porque querían crear esta cosa para conectar a los cazatalentos con los jugadores de fútbol [y] esta cosa para conectar a los dueños de gatos con gatos de segunda mano. Fue una locura. Y luego te puedes imaginar - tenían entre 9 y 12 años - que crecerán hasta decidir básicamente que si quieren crear un sitio web, está a sólo un par de indicaciones de distancia. [Es una hazaña que pueden hacer en un par de horas. Creo que fue muy bonito de ver.

Y luego incluso los ves transformarse en pequeños empresarios. Mi hija estaba creando un sitio web para poner en contacto a dueños de gatos con gatos de segunda mano que la gente quería.

Y ella pensaba: "Oh, quizá también podría pedirles que paguen cuando quieran quedar porque entonces tienen que dar la dirección. ..."

Y así ves que empiezan a hacer preguntas que creo que, solo porque la parte técnica es tan fácil, empiezan a... proyectarse mucho más en cómo sería esto en la vida real.

Ese fue un ejemplo reciente que realmente me impactó como un desbloqueo de la creatividad que no tenía ni idea de que pudiera existir. En septiembre y octubre queremos repetir este tipo de hackathon en todo el mundo. Queremos ver qué pasaría si lo hiciéramos a una escala mayor que la de nuestro barrio. Estoy muy emocionado. Tal vez cuando este podcast salga, tendremos este hackathon mundial de codificación para niños.

Sam Ransbotham: Puede que tenga un par de niños que podamos añadir a eso. Pero creo que eso enlaza bien con lo que decías antes, que tienes esta herramienta que siempre dice que sí y siempre hará lo que tú quieras, e intenta hacerlo rápido. Usar eso a tu favor y aprovechar el hecho de que esta herramienta, de hecho, hará todo lo que le pidas y se esforzará mucho para lograrlo. Parece que eso encaja bien con tu concepción de las herramientas como buenos ayudantes.

Thomas Wolf: Creo que en ese sentido somos bastante afortunados. Me impresionan mucho menos las historias de IA que se libera de sus cadenas y decide apoderarse de la humanidad. Creo que la forma en que estamos construyendo estas herramientas -y realmente, esa es tanto la ventaja como también su mayor limitación en cierto modo- realmente estamos construyendo estas herramientas como asistentes para lo que queremos hacer.

Sam Ransbotham: Esto ha sido fascinante. He disfrutado mucho hablando contigo. Quizá para cuando salga este podcast, habremos organizado algunos hackathons para niños de todo el mundo. Ha sido fascinante hablar contigo. Gracias por dedicarnos tu tiempo.

Thomas Wolf: Muchas gracias, Sam. Ha sido un placer.

Sam Ransbotham: Gracias por acompañarnos hoy. En nuestro próximo episodio, me acompaña Angela Nakalembe, directora del programa de ingeniería de YouTube. Acompáñennos en una interesante conversación sobre la confianza y la seguridad en medio de la afluencia de contenidos generados por inteligencia artificial.

Allison Ryder: Gracias por escuchar Yo, yo mismo y la IA. Nuestro programa puede continuar, en gran parte, gracias al apoyo de los oyentes. Sus transmisiones y descargas marcan una gran diferencia. Si tienes un momento, puedes dejarnos una reseña en Apple Podcasts o una valoración en Spotify. Y comparte nuestro programa con otras personas que creas que pueden encontrarlo interesante y útil.