De Beste Video's om AI te Begrijpen, Gekozen door 20 Jaar Hacker News-reacties

Een introductie van een uur voor een algemeen publiek over grote taalmodellen: wat ze zijn, hoe ze worden getraind, hoe ze zich verhouden tot een besturingssysteem, en de beveiligingsuitdagingen die ermee gepaard gaan, inclusief jailbreaks.

Hacker News ziet dit als het dichte maar toegankelijke startpunt om LLM's te begrijpen, en het is de meest genoemde video op deze hele lijst, gelinkt in 20 reacties.

Een doorloop van ruim drie uur van de volledige trainingsstack achter een ChatGPT-achtig model, van pretraining tot post-training, plus denkmodellen voor waarom deze systemen soms hallucineren en hoe je daar mee om kunt gaan.

Hacker News' meest gegeven aanbeveling voor een duidelijke basis in hoe LLM's daadwerkelijk gebouwd zijn, zonder dat er zware wiskunde nodig is; het komt voor in 18 reacties.

Het eerste hoofdstuk van een deep-learningreeks, die uitlegt wat neuronen en lagen eigenlijk zijn en de basiswiskunde onder een neuraal netwerk, geïllustreerd met handgeschreven cijferherkenning.

Reageerders noemen dit het standaard eerste startpunt om te leren hoe neurale netwerken überhaupt werken, geprezen omdat het de onderliggende wiskunde intuïtief laat aanvoelen; het wordt genoemd in 19 reacties.

Een visuele uitleg van hoe transformers en GPT-achtige taalmodellen werken, waarbij data stap voor stap wordt gevolgd door tokens, embeddings en attention.

Hacker News ziet dit als de go-to visuele introductie tot transformers; veel reacties zeggen dat dit de video is die attention en embeddings eindelijk liet landen, met 16 vermeldingen.

Een nadere, visuele doorloop van het attention-mechanisme zelf: self-attention, meerdere heads, en cross-attention, als hoofdstuk 6 van dezelfde deep-learningreeks.

Aangeraden op Hacker News specifiek voor lezers die tekstgebaseerde uitleggen van attention moeilijk te volgen vonden, met 8 vermeldingen in de data.

Oorspronkelijk getiteld 'Humans Need Not Apply', betoogt deze video dat automatisering een groot deel van de beroepsbevolking economisch overbodig zal maken, zoals motoren dat deden voor paarden, en behandelt zowel fysieke als mentale arbeid die wordt vervangen door software en robots.

Hacker News raadt dit al een decennium aan als de standaarduitleg over automatisering en werkloosheid, al noemen recentere reacties het ook als casestudy van overmoedige voorspellingen; het heeft 20 vermeldingen.

Een livestream van het Perimeter Institute waarin Derek Muller, voortbouwend op eerdere technologische verschuivingen en cognitiewetenschap, betoogt dat AI de toegang tot informatie kan versnellen, maar dat echt leren nog steeds inspannende herhaling van de lerende zelf vereist.

Hacker News raadt dit aan als een evenwichtige kijk op AI en onderwijs: het hulpmiddel kan helpen, maar het kan niet het inspannende deel van het leren voor je doen, en dat is precies de gewoonte die het laatste onderdeel van deze gids probeert aan te leren. Het heeft 6 vermeldingen.

Een geremasterde, voor een algemeen publiek bedoelde introductie tot AI-veiligheid, bewerkt van een lezing gegeven in Londen, die uitlegt waarom geavanceerde AI verkeerd zou kunnen gaan en de meest gangbare tegenwerpingen daarop beantwoordt.

De standaardlink die Hacker News nieuwkomers geeft die een toegankelijke, zelfs vermakelijke introductie tot AI-risico en alignment willen; 7 reacties verwijzen hier eerst naar.

Een uitleg van instrumentele convergentie: waarom een AI-systeem dat vrijwel elk doel nastreeft, geneigd zou zijn om ook subdoelen zoals zelfbehoud en het vergaren van middelen te nastreven, ongeacht of iemand het daarvoor geprogrammeerd heeft.

Herhaaldelijk aangeraden als de duidelijkste uitleg van waarom een slim AI-systeem zich standaard slecht zou kunnen gedragen, zonder dat daar boze opzet voor nodig is; het heeft 8 vermeldingen.

Een uitleg van de orthogonaliteitsthese: hoe een systeem zeer capabel kan zijn terwijl het doelen nastreeft die voor mensen vreemd of buitenaards overkomen, waarbij hoe slim iets is wordt losgekoppeld van wat het eigenlijk wil.

Hacker News gebruikt dit als het standaard korte antwoord op 'zal een slimme AI niet gewoon menselijke waarden begrijpen', en het is een van de vaker geciteerde items op deze lijst met 12 vermeldingen.

Tristan Harris en Aza Raskin leggen uit waarom zij geloven dat de huidige AI-capaciteiten echte maatschappelijke risico's met zich meebrengen, en betogen dat bedrijven racen om sneller uit te rollen dan veiligheidswerk kan bijhouden, gegeven net voor de publieke lancering van GPT-4.

Vaak aangeraden als de ene lezing om te bekijken om je bij te praten over AI-risico, vooral door mensen die het eerdere werk van hetzelfde team over social media al hadden gezien; het heeft 20 vermeldingen, waarmee het gelijkgesteld is als de meest geciteerde video op deze lijst.

Een fictieve korte film, gesteund door AI-onderzoeker Stuart Russell, die zwermen goedkope autonome drones afbeeldt die gezichtsherkenning gebruiken om gerichte liquidaties uit te voeren, gemaakt om te pleiten voor een verbod op autonome wapens.

Hacker News' standaardverwijzing wanneer dronezwermen, autonome wapens, of militaire AI in het nieuws komen, met 20 vermeldingen door de jaren heen.

Een speelfilmdocumentaire die het AlphaGo-programma van DeepMind volgt terwijl het zich voorbereidt op, en speelt in, zijn wedstrijd uit 2016 tegen Go-kampioen Lee Sedol, inclusief het team erachter en de reactie van de Go-wereld op het zien van een AI die een topspeler verslaat.

Reageerders noemen het consequent een ontroerend, goed gemaakt menselijk verhaal over AI dat werkt zelfs als je nooit Go hebt gespeeld, en zeggen dat het niet verouderd is zoals veel AI-content dat wel doet; 13 reacties linken erna.

Een gesprek van drie uur tussen Lex Fridman en George Hotz, oprichter van het zelfrijdende bedrijf Comma.ai, dat varieert van zelfrijdende auto's, Tesla en Waymo, tot cryptocurrency, GPT-3, en boekentips.

Aangeraden op Hacker News als een vermakelijk, breed interview, met specifieke reacties die verwijzen naar Hotz's kijk op end-to-end neuraal-net-rijden; het heeft 10 vermeldingen.

Een korte demo van MarI/O, een programma dat neurale netwerken en een genetisch algoritme genaamd NEAT gebruikt om zelf te leren Super Mario World te spelen, zonder dat iemand het de regels vertelt.

Hacker News' go-to toegankelijke introductie tot dit soort machine learning, geprezen in de reacties voor het duidelijk erkennen van het eerdere onderzoek waarop het bouwt; het heeft 20 vermeldingen.