Pensées de l'IA
-
Satya Nadella a mentionné le paradoxe de Jevons. Il est intéressant de l’apprendre.
-
Yin Wang : Il n’y a pas d’“intelligence” dans l’intelligence artificielle, pas de “neural” dans les réseaux neuronaux, pas d’“apprentissage” dans l’apprentissage automatique, et pas de “profondeur” dans l’apprentissage profond. Il n’y a pas de “profondeur” dans l’apprentissage profond. Ce qui fonctionne vraiment dans ce domaine s’appelle “calcul”. Donc, je préfère appeler ce domaine “calcul différentiable”, et le processus de construction de modèles s’appelle “programmation différentiable”.
-
Yin Wang : L’apprentissage automatique est vraiment utile, on pourrait même dire une belle théorie, car c’est simplement du calcul après une transformation ! C’est la vieille et grande théorie de Newton, Leibniz, sous une forme plus simple, élégante et puissante. L’apprentissage automatique consiste essentiellement à utiliser le calcul pour dériver et ajuster certaines fonctions, et l’apprentissage profond consiste à ajuster des fonctions plus complexes.
-
Actuellement, les grands modèles de langage ne peuvent pas filtrer par langage de fichier comme YAML ou Python. Cependant, une grande partie des informations dans le monde réel est organisée de cette manière. Cela signifie que nous pourrions entraîner de grands modèles de langage à l’aide de fichiers.
-
Pour entraîner de grands modèles de langage, nous pourrions développer un système qui trouve des correspondances exactes. Peut-être pouvons-nous combiner l’algorithme de recherche KMP (Knuth-Morris-Pratt) avec l’architecture des transformateurs pour améliorer les capacités de recherche.
-
Il n’y a pas de secrets technologiques. Le logiciel open source révélera tous les secrets qui sont étroitement gardés.
-
L’IA affectera de nombreux outils, y compris les outils indirects. Les gens disent qu’ils n’auront plus besoin de Figma pour dessiner des prototypes, ils iront directement au code. Je pense que Postman sera similaire ; les gens utiliseront directement Python ou d’autres scripts pour appeler ou tester des API.
-
Une des raisons pour lesquelles nous n’utilisons pas Postman ou Figma à l’ère de l’IA est que leurs fonctionnalités ne peuvent pas être générées par du texte. Ils manquent également d’un raccourci clavier Command + K pour déclencher le remplacement de composants.
-
Les interfaces utilisateur deviennent un obstacle à l’ère de l’IA. Pourquoi mettre à jour Postman pour qu’il soit alimenté par l’IA pour tester des applications lorsque nous pouvons directement utiliser la bibliothèque requests de Python ou d’autres langages de programmation pour tester le code, car ces derniers seront alimentés par l’IA ?
-
Pourquoi mettre à jour Figma pour qu’il soit alimenté par l’IA pour la création d’interface utilisateur lorsque la génération d’interface utilisateur basée sur le code, améliorée par l’IA, offre une approche plus directe et potentiellement plus puissante ?
-
Les LLM changeront d’abord les applications liées au texte, comme Google, les moteurs de recherche, les éditeurs de texte et les outils d’écriture, Quizlet, Zendesk, DeepL, Medium, WordPress, Trello, Asana, Gmail, GitHub, Goodreads, Duolingo et Feedly.
-
En revanche, les LLM sont peu susceptibles de révolutionner des technologies comme Git, Linux, ffmpeg, les téléphones mobiles, le matériel, les navigateurs, les systèmes d’exploitation ou les appels vocaux et vidéo. Ces technologies sont centrées sur le code, et leur code n’est pas facilement généré par l’IA, contrairement aux outils de test d’API comme Postman.
-
Les technologies avec plus de code sont difficiles à révolutionner par l’IA, comme OpenOffice, MySQL, Mozilla Firefox, Chromium, VLC Media Player, Qt Framework, LLVM/Clang et GNOME. Si l’IA pouvait aider à créer ces technologies, elles ne seraient pas remplacées. L’IA devrait aider à créer de meilleures technologies, et pour ce faire, l’IA aura besoin de plus de puissance de calcul pour générer la même quantité de code.
-
Il existe deux façons dont les LLM peuvent apporter des changements : premièrement, en modifiant le contenu ou les données au sein d’une plateforme ou d’un logiciel, comme la traduction de contenu dans des applications comme TikTok ; deuxièmement, en remplaçant directement certains logiciels ou plateformes, comme Postman ou Google Search, y compris Google Translate.
-
Il existe deux façons dont les outils audio IA peuvent apporter des changements : premièrement, en modifiant le contenu ou les données au sein d’une plateforme ou d’un logiciel, comme la génération de livres audio pour Audible ; deuxièmement, en remplaçant directement certains logiciels ou plateformes, par exemple, l’application Sing songs, car l’IA peut maintenant effectuer les mêmes tâches que les humains, rendant plus facile pour les gens de chanter des chansons comme passe-temps.
-
Il existe plusieurs façons de mesurer l’impact de l’IA sur les logiciels ou plateformes actuels. Une façon est de mesurer la quantité de données ou de contenu qui peut être générée ou améliorée par l’IA, partiellement ou complètement. Une autre façon est de mesurer la quantité de code qui peut être écrite ou améliorée par l’IA, partiellement ou complètement. Cela signifie que nous utilisons ce que l’IA génère pour améliorer les plateformes actuelles. De plus, l’IA peut aider à inventer de nouveaux logiciels et plateformes.
-
Il existe trois types de produits : les produits d’IA générative, les produits qui utilisent les API des produits d’IA générative, et les autres produits.
-
Une idée de produit est d’utiliser l’IA pour accumuler des informations en temps réel, des nouvelles ou des mises à jour à partir de plateformes sociales telles que Reddit, GitHub Trending, Twitter Trending, Quora Trending et Zhihu Trending. Les utilisateurs peuvent utiliser des invites pour personnaliser le flux ou même ajouter des comptes sociaux spécifiques.