Pensamientos de IA
-
Satya Nadella mencionó el paradigma de Jevons. Vale la pena aprenderlo.
-
Yin Wang: No hay “inteligencia” en inteligencia artificial, no hay “neural” en red neuronal, no hay “aprendizaje” en aprendizaje automático, y no hay “profundidad” en aprendizaje profundo. No hay “profundidad” en aprendizaje profundo. Lo que realmente funciona en este campo se llama “cálculo”. Por lo tanto, prefiero llamar a este campo “computación diferenciable” y al proceso de construcción de modelos “programación diferenciable”.
-
Yin Wang: El aprendizaje automático es realmente útil, uno podría decir que es una teoría hermosa, porque es simplemente cálculo después de un cambio de imagen. Es la vieja y gran teoría de Newton, Leibniz, en una forma más sencilla, elegante y poderosa. El aprendizaje automático es básicamente el uso del cálculo para derivar y ajustar algunas funciones, y el aprendizaje profundo es el ajuste de funciones más complejas.
-
Actualmente, los grandes modelos de lenguaje no pueden filtrar por el idioma del archivo como YAML o Python. Sin embargo, una gran parte de la información en el mundo real está organizada de esta manera. Esto significa que podríamos entrenar grandes modelos de lenguaje utilizando archivos.
-
Para entrenar grandes modelos de lenguaje, podríamos desarrollar un sistema que encuentre coincidencias exactas. Quizás podamos combinar el algoritmo de búsqueda KMP (Knuth-Morris-Pratt) con la arquitectura de transformadores para mejorar las capacidades de búsqueda.
-
No hay secretos tecnológicos. El código abierto revelará todos los secretos que están estrechamente guardados.
-
La IA afectará muchas herramientas, incluidas las indirectas. Dicen que no necesitarán Figma para dibujar prototipos, irán directamente al código. Creo que Postman será similar; la gente usará directamente Python u otros scripts para llamar o probar APIs.
-
Una razón por la que no usamos Postman o Figma en la era de la IA es que sus funcionalidades no se pueden generar a través de texto. También les falta un atajo de comando + K para desencadenar el reemplazo de componentes.
-
Las interfaces de usuario se están convirtiendo en una barrera en la era de la IA. ¿Por qué actualizar Postman para que sea impulsado por IA para probar aplicaciones cuando podemos usar directamente la biblioteca de solicitudes de Python u otros lenguajes de programación para probar el código, ya que este último estará impulsado por IA?
-
¿Por qué actualizar Figma para que sea impulsado por IA para la creación de UI cuando la generación de UI basada en código, mejorada por IA, ofrece un enfoque más directo y potencialmente poderoso?
-
Los LLM cambiarán primero las aplicaciones relacionadas con el texto, como Google, motores de búsqueda, editores de texto y herramientas de escritura, Quizlet, Zendesk, DeepL, Medium, WordPress, Trello, Asana, Gmail, GitHub, Goodreads, Duolingo y Feedly.
-
Por el contrario, es poco probable que los LLM revolucionen tecnologías como Git, Linux, ffmpeg, teléfonos móviles, hardware, navegadores, sistemas operativos o llamadas de voz y video. Estas tecnologías son centradas en el código y su código no se genera fácilmente por IA, a diferencia de las herramientas de prueba de API como Postman.
-
Las tecnologías con más código son difíciles de revolucionar por la IA, como OpenOffice, MySQL, Mozilla Firefox, Chromium, VLC Media Player, Qt Framework, LLVM/Clang y GNOME. Si la IA pudiera ayudar a hacer estas tecnologías, no serían reemplazadas. La IA debería ayudar a hacer mejores tecnologías, y para hacerlo, la IA necesitará más potencia de cómputo para generar la misma magnitud de código.
-
Hay dos formas en que los LLM pueden traer cambio: primero, alterando el contenido o los datos dentro de una plataforma o software, como la traducción de contenido en aplicaciones como TikTok; segundo, reemplazando directamente ciertos software o plataformas, como Postman o Google Search, incluyendo Google Translate.
-
Hay dos formas en que las herramientas de audio de IA pueden traer cambio: primero, alterando el contenido o los datos dentro de una plataforma o software, como generar audiolibros para Audible; segundo, reemplazando directamente ciertos software o plataformas, por ejemplo, la aplicación Sing songs, ya que la IA ahora puede realizar las mismas tareas que los humanos, haciendo que sea más fácil para las personas cantar canciones como hobby.
-
Hay varias formas de medir cómo la IA impacta el software o plataformas actuales. Una forma es medir cuántos datos o contenido pueden ser generados o mejorados por la IA, ya sea parcialmente o completamente. Otra forma es medir cuánto código puede ser escrito o mejorado por la IA, ya sea parcialmente o completamente. Esto significa que usamos lo que genera la IA para mejorar las plataformas actuales. Además, la IA puede ayudar a inventar nuevos software y plataformas.
-
Hay tres tipos de productos: productos de IA generativa, los productos que utilizan las APIs de los productos de IA generativa, otros productos.
-
Una idea de producto es usar la IA para acumular información en tiempo real, noticias o actualizaciones de plataformas sociales como Reddit, GitHub Trending, Twitter Trending, Quora Trending y Zhihu Trending. Los usuarios pueden usar indicaciones para personalizar el feed o incluso agregar cuentas sociales específicas.
-
Hay cinco tipos importantes de datos: texto, imagen, audio, video y código.
-
Otros tipos importantes de datos incluyen datos numéricos, geoespaciales, biométricos, de sensores, transaccionales, de metadatos, de series temporales, estructurados, no estructurados, semiestructurados, de salud, ambientales, de registro, de red y de comportamiento.