Meilleures vidéos pour comprendre l'IA, choisies par 20 ans de commentaires Hacker News

Une introduction d'une heure, pour un public général, aux grands modèles de langage : ce qu'ils sont, comment ils sont entraînés, leur comparaison avec un système d'exploitation, et les enjeux de sécurité qu'ils posent, y compris les jailbreaks.

Hacker News la considère comme le point de départ dense mais accessible pour comprendre les LLM, et c'est la vidéo la plus mentionnée de toute cette liste, citée dans 20 commentaires.

Une visite guidée de plus de trois heures de toute la chaîne d'entraînement derrière un modèle de type ChatGPT, du pré-entraînement au post-entraînement, avec des modèles mentaux pour comprendre pourquoi ces systèmes hallucinent parfois et comment contourner le problème.

La recommandation la plus fréquente de Hacker News pour des bases claires sur la construction réelle des LLM, sans maths poussées nécessaires ; elle apparaît dans 18 commentaires.

Le premier chapitre d'une série sur le deep learning, qui explique ce que sont vraiment les neurones et les couches, ainsi que les mathématiques de base derrière un réseau de neurones, illustré par la reconnaissance de chiffres manuscrits.

Les commentateurs la décrivent comme l'étape incontournable pour comprendre le fonctionnement des réseaux de neurones, saluée pour rendre les mathématiques sous-jacentes intuitives ; elle est référencée dans 19 commentaires.

Une explication visuelle du fonctionnement des transformeurs et des modèles de langage de type GPT, qui suit les données à travers les tokens, les embeddings et l'attention, étape par étape.

Hacker News la considère comme l'introduction visuelle de référence aux transformeurs ; de nombreux commentaires disent que c'est la vidéo qui a enfin fait comprendre l'attention et les embeddings, avec 16 mentions.

Une visite visuelle plus approfondie du mécanisme d'attention lui-même : l'auto-attention, les têtes multiples et l'attention croisée, en tant que chapitre 6 de la même série sur le deep learning.

Recommandée sur Hacker News spécifiquement pour les lecteurs qui ont trouvé les explications textuelles de l'attention difficiles à suivre, avec 8 mentions dans les données.

Intitulée à l'origine « Humans Need Not Apply », cette vidéo soutient que l'automatisation rendra une grande part de la main-d'œuvre économiquement obsolète, comme les moteurs l'ont fait pour les chevaux, en passant en revue le travail physique et intellectuel remplacé par des logiciels et des robots.

Hacker News la recommande depuis dix ans comme l'explication de référence sur l'automatisation et le chômage, bien que des commentaires plus récents la citent aussi comme étude de cas sur des prédictions trop confiantes ; elle a 20 mentions.

Un livestream du Perimeter Institute dans lequel Derek Muller soutient, en s'appuyant sur les évolutions technologiques passées et les sciences cognitives, que l'IA peut accélérer l'accès à l'information mais qu'apprendre vraiment demande encore de la répétition effortée de la part de l'apprenant.

Hacker News la recommande comme un point de vue équilibré sur l'IA et l'éducation : l'outil peut aider, mais il ne peut pas faire à votre place la partie effortée de l'apprentissage, ce qui est exactement l'habitude que la dernière section de ce guide essaie de construire. Elle a 6 mentions.

Une introduction remasterisée, pour un public général, à la sécurité de l'IA, adaptée d'une conférence donnée à Londres, qui explique pourquoi une IA avancée pourrait mal se comporter et répond aux objections les plus courantes à cette idée.

Le lien par défaut que Hacker News donne aux nouveaux venus voulant une introduction accessible, voire divertissante, aux risques et à l'alignement de l'IA ; 7 commentaires y renvoient en premier.

Une explication de la convergence instrumentale : pourquoi un système d'IA poursuivant presque n'importe quel objectif aurait tendance à aussi poursuivre des sous-objectifs comme l'autoconservation et la collecte de ressources, que quelqu'un l'ait programmé pour cela ou non.

Recommandée à de nombreuses reprises comme l'explication la plus claire de pourquoi un système d'IA intelligent pourrait mal se comporter par défaut, sans qu'aucune malveillance ne soit nécessaire ; elle a 8 mentions.

Une explication de la thèse de l'orthogonalité : comment un système peut être très compétent tout en poursuivant des objectifs qui paraissent étranges ou incompréhensibles aux humains, en distinguant le degré d'intelligence de quelque chose de ce qu'il veut réellement.

Hacker News l'utilise comme la réponse courte de référence à « une IA intelligente ne comprendra-t-elle pas simplement les valeurs humaines ? », et c'est l'une des entrées les plus citées de cette liste avec 12 mentions.

Tristan Harris et Aza Raskin expliquent pourquoi ils estiment que les capacités actuelles de l'IA comportent un risque sociétal réel, soutenant que les entreprises se lancent dans une course au déploiement plus rapide que ce que le travail de sécurité peut suivre, livrée juste avant le lancement public de GPT-4.

Fréquemment recommandée comme la conférence unique à voir pour se mettre à niveau sur les risques de l'IA, en particulier par des personnes qui avaient déjà vu le travail antérieur de la même équipe sur les réseaux sociaux ; elle a 20 mentions, ex æquo pour la vidéo la plus citée de cette liste.

Un court-métrage de fiction, soutenu par le chercheur en IA Stuart Russell, qui représente des essaims de drones autonomes peu coûteux utilisant la reconnaissance faciale pour effectuer des assassinats ciblés, réalisé pour plaider en faveur d'une interdiction des armes autonomes.

La référence standard de Hacker News chaque fois que les essaims de drones, les armes autonomes ou l'IA militaire font l'actualité, avec 20 mentions au fil des années.

Un documentaire long métrage qui suit le programme AlphaGo de DeepMind pendant sa préparation et son match de 2016 contre le champion de Go Lee Sedol, avec l'équipe qui se trouve derrière et la réaction du monde du Go en voyant une IA battre un joueur humain de haut niveau.

Les commentateurs la décrivent systématiquement comme une histoire humaine touchante et bien réalisée sur l'IA, qui fonctionne même si vous n'avez jamais joué au Go, et disent qu'elle n'a pas vieilli comme beaucoup de contenus sur l'IA ; 13 commentaires la citent.

Une conversation de trois heures entre Lex Fridman et George Hotz, fondateur de l'entreprise de conduite autonome Comma.ai, qui aborde les voitures autonomes, Tesla et Waymo, les cryptomonnaies, GPT-3, et des recommandations de livres.

Recommandée sur Hacker News comme une interview divertissante et très variée, avec des commentaires spécifiques pointant vers le point de vue de Hotz sur la conduite par réseau de neurones de bout en bout ; elle a 10 mentions.

Une courte démo de MarI/O, un programme qui utilise des réseaux de neurones et un algorithme génétique appelé NEAT pour apprendre à jouer à Super Mario World tout seul, sans qu'aucun humain ne lui explique les règles.

L'introduction accessible de référence sur Hacker News à ce style de machine learning, saluée dans les commentaires pour créditer clairement les recherches antérieures sur lesquelles elle s'appuie ; elle a 20 mentions.