Die besten Videos, um KI zu verstehen, ausgewählt aus 20 Jahren Hacker-News-Kommentaren

Eine einstündige, allgemeinverständliche Einführung in große Sprachmodelle (LLMs): was sie sind, wie sie trainiert werden, wie sie sich mit einem Betriebssystem vergleichen lassen, und welche Sicherheitsherausforderungen damit einhergehen, einschließlich Jailbreaks.

Hacker News sieht das als dichten, aber zugänglichen Einstiegspunkt, um LLMs zu verstehen, und es ist das mit Abstand meistgenannte Video der ganzen Liste, verlinkt in 20 Kommentaren.

Ein über dreistündiger Durchgang durch den gesamten Trainingsprozess hinter einem Modell im Stil von ChatGPT, vom Pretraining bis zum Post-Training, plus Denkmodelle dafür, warum diese Systeme manchmal halluzinieren und wie man damit umgeht.

Die häufigste Empfehlung von Hacker News für eine klare Grundlage, wie LLMs tatsächlich aufgebaut sind, ohne dass viel Mathematik nötig ist; es taucht in 18 Kommentaren auf.

Das erste Kapitel einer Deep-Learning-Serie, das erklärt, was Neuronen und Schichten eigentlich sind und welche grundlegende Mathematik einem neuronalen Netz zugrunde liegt, veranschaulicht an der Erkennung handgeschriebener Ziffern.

Kommentatoren bezeichnen es als die klassische erste Station, um überhaupt zu verstehen, wie neuronale Netze funktionieren, gelobt dafür, dass die zugrunde liegende Mathematik intuitiv wirkt; es wird in 19 Kommentaren erwähnt.

Eine visuelle Erklärung, wie Transformer und Sprachmodelle im GPT-Stil funktionieren, bei der Daten Schritt für Schritt durch Tokens, Embeddings und Attention verfolgt werden.

Hacker News sieht darin die erste Anlaufstelle für eine visuelle Einführung in Transformer; viele Kommentare sagen, dass dieses Video Attention und Embeddings endlich verständlich gemacht hat, mit 16 Erwähnungen.

Ein genauerer, visueller Durchgang durch den Attention-Mechanismus selbst: Self-Attention, mehrere Heads und Cross-Attention, als Kapitel 6 derselben Deep-Learning-Serie.

Auf Hacker News speziell für Leser empfohlen, die mit textbasierten Erklärungen zu Attention nicht weit gekommen sind, mit 8 Erwähnungen in den Daten.

Ursprünglich unter dem Titel „Humans Need Not Apply" veröffentlicht, argumentiert dieses Video, dass Automatisierung einen großen Teil der Arbeitskräfte wirtschaftlich überflüssig machen wird, so wie Motoren es für Pferde getan haben, und betrachtet dabei sowohl körperliche als auch geistige Arbeit, die durch Software und Roboter ersetzt wird.

Hacker News empfiehlt es seit einem Jahrzehnt als den klassischen Erklärfilm zu Automatisierung und Arbeitslosigkeit, wobei neuere Kommentare es auch als Beispiel für überzogene Vorhersagen anführen; es hat 20 Erwähnungen.

Ein Livestream des Perimeter Institute, in dem Derek Muller anhand früherer technologischer Umbrüche und der Kognitionswissenschaft argumentiert, dass KI den Zugang zu Informationen beschleunigen kann, echtes Lernen aber weiterhin anstrengende Wiederholung seitens der Lernenden erfordert.

Hacker News empfiehlt es als ausgewogene Sichtweise auf KI und Bildung: Das Werkzeug kann helfen, aber es kann dir den anstrengenden Teil des Lernens nicht abnehmen, genau die Gewohnheit, die der letzte Abschnitt dieses Leitfadens aufbauen will. Es hat 6 Erwähnungen.

Eine überarbeitete, allgemeinverständliche Einführung in KI-Sicherheit, basierend auf einem Vortrag in London, die darlegt, warum fortschrittliche KI schiefgehen könnte, und die häufigsten Einwände gegen diese Idee beantwortet.

Der Standardlink, den Hacker News Neueinsteigern gibt, die einen zugänglichen, sogar unterhaltsamen Einstieg in KI-Risiken und Alignment suchen; 7 Kommentare verweisen zuerst hierauf.

Eine Erklärung der instrumentellen Konvergenz: warum ein KI-System, das fast jedes beliebige Ziel verfolgt, dazu tendiert, auch Unterziele wie Selbsterhaltung und das Sammeln von Ressourcen zu verfolgen, unabhängig davon, ob das jemand so programmiert hat.

Wiederholt empfohlen als die klarste Erklärung dafür, warum sich ein schlaues KI-System standardmäßig schlecht verhalten könnte, ohne dass dafür böse Absicht nötig wäre; es hat 8 Erwähnungen.

Eine Erklärung der Orthogonalitätsthese: wie ein System hochfähig sein kann, während es Ziele verfolgt, die Menschen fremd oder seltsam erscheinen, und trennt dabei, wie intelligent etwas ist, von dem, was es tatsächlich will.

Hacker News nutzt es als klassische kurze Antwort auf „wird eine schlaue KI menschliche Werte nicht einfach verstehen?", und es ist mit 12 Erwähnungen einer der häufiger zitierten Einträge dieser Liste.

Tristan Harris und Aza Raskin legen dar, warum sie glauben, dass die aktuellen Fähigkeiten von KI ein reales gesellschaftliches Risiko darstellen, und argumentieren, dass Unternehmen bei der Veröffentlichung schneller vorgehen, als die Sicherheitsarbeit Schritt halten kann; der Vortrag fand kurz vor dem öffentlichen Start von GPT-4 statt.

Häufig empfohlen als der eine Vortrag, den man sich ansehen sollte, um sich bei KI-Risiken auf den aktuellen Stand zu bringen, besonders von Leuten, die die frühere Arbeit desselben Teams zu sozialen Medien schon gesehen hatten; es hat 20 Erwähnungen und ist damit gleichauf das meistzitierte Video dieser Liste.

Ein fiktiver Kurzfilm, unterstützt vom KI-Forscher Stuart Russell, der Schwärme billiger autonomer Drohnen zeigt, die mithilfe von Gesichtserkennung gezielte Tötungen ausführen, gedreht, um für ein Verbot autonomer Waffen zu argumentieren.

Die Standardreferenz von Hacker News, wann immer Drohnenschwärme, autonome Waffen oder militärische KI in den Nachrichten vorkommen, mit 20 Erwähnungen über die Jahre.

Eine Dokumentation in Spielfilmlänge, die DeepMinds AlphaGo-Programm begleitet, während es sich auf das Match 2016 gegen Go-Champion Lee Sedol vorbereitet und spielt, inklusive des Teams dahinter und der Reaktion der Go-Welt darauf, eine KI gegen einen Top-Spieler gewinnen zu sehen.

Kommentatoren bezeichnen es durchgängig als bewegende, gut gemachte menschliche Geschichte über KI, die auch funktioniert, wenn man noch nie Go gespielt hat, und sagen, dass es nicht so gealtert ist wie viele andere KI-Inhalte; 13 Kommentare verlinken es.

Ein dreistündiges Gespräch zwischen Lex Fridman und George Hotz, Gründer des Self-Driving-Unternehmens Comma.ai, das von selbstfahrenden Autos über Tesla und Waymo, Kryptowährung, GPT-3 bis hin zu Buchempfehlungen reicht.

Auf Hacker News empfohlen als unterhaltsames, breit gefächertes Interview, wobei einzelne Kommentare besonders auf Hotz' Sicht auf End-to-End-Fahren mit neuronalen Netzen verweisen; es hat 10 Erwähnungen.

Eine kurze Demo von MarI/O, einem Programm, das mithilfe neuronaler Netze und eines genetischen Algorithmus namens NEAT lernt, Super Mario World selbstständig zu spielen, ohne dass ihm jemand die Regeln erklärt.

Die naheliegende, zugängliche Einführung von Hacker News in diese Art von Machine Learning, in den Kommentaren gelobt dafür, dass es die frühere Forschung, auf der es aufbaut, klar würdigt; es hat 20 Erwähnungen.