Hacker News反复推荐的AI安全与风险视频，面向非技术读者，分为下面三组：核心安全概念、已经影响到工作和注意力的现实问题，以及少数倡导者直接论证的大规模风险。
阅读完整回答
可以用这个方框下方的15分钟、1小时或周末时长选择器挑一个视频，也可以往下浏览全部11个，每个都附有Hacker News推荐它的理由和确切的提及次数。
发布于
要点总结
- 11个AI安全与风险视频，来自HackerTube的Hacker News导出数据，分为核心安全概念、已经影响工作和注意力的现实问题，以及大规模风险三组。
- 可以按上方的时间预算挑选，也可以往下浏览每一组；每个推荐都标明了Hacker News推荐它的理由和确切的提及次数。
- 其中几个视频是倡导性内容，而不是中立的纪录片：《Slaughterbots》主张禁止自主武器，《The A.I. Dilemma》则认为当前的AI部署已经很危险。这份指南只是说明每个视频在论证什么，不代表Nightschool AI对此的评判。
- 看视频只是第一步。可以用每个视频卡片上的"考考我"按钮，用Anthropic的Claude或OpenAI的ChatGPT来练习。
复制即用今天就能用的提示词
看完之后立刻考考自己
我刚看完一个叫《{video title}》的视频，是{channel}制作的，内容是关于AI安全与风险。不要帮我查任何资料，问我五个问题来检验我是否理解了它的核心论点，一次问一个，等我回答之后再问下一个，如果我答错了就直接指出来，然后再继续。不只是核对事实，还要检验论证本身
在《{video title}》这个视频里，论点大致是：{one sentence on what it argues}。请扮演反对者的角色，给出不同意这个视频观点的人会提出的最有力的反驳，然后让我先尝试回应，再告诉我我的回应还缺了什么。把它和你的实际工作联系起来
我刚看完《{video title}》，这个视频讲的是{one sentence on what the video is about}。我的工作是{your role, e.g. a product manager at a mid-size company}。请具体说说这个视频里的风险或想法，有哪两三种实际的方式可能出现在我的日常工作中，要具体而不要泛泛而谈。完整指南
点按任意部分即可展开。
关于本指南
Hacker News围绕AI风险的争论已经持续了二十年。Andrej Karpathy把这段历史整理成了HackerTube；我们从中挑出了11个值得非技术背景的读者花时间理解AI安全的视频。
从这里开始
核心AI安全理念，简单讲清楚
来自Robert Miles频道的五个短视频，是Hacker News最常推荐的AI安全入门内容：用具体、不堆术语的方式，回答人们真正会问的那些关于高级AI为什么会出问题的问题。
Robert Miles AI Safety
HN给AI风险新手推荐的默认链接。
更多
一个重新制作的AI安全入门视频，改编自一场在伦敦的演讲，讲解了高级AI为什么可能出问题，并回应了对这个观点的常见质疑。
这是Hacker News给想要一个通俗易懂、甚至颇具趣味性的AI风险与对齐入门内容的新人推荐的默认链接；有7条评论首先指向这里。
Robert Miles AI Safety
为什么几乎任何目标都会让AI想要权力和自我保存。
更多
Robert Miles解释了工具性趋同：为什么一个AI系统在追求几乎任何目标时，都会倾向于同时追求像自我保存和获取资源这样的子目标，不管有没有人特意编程让它想要这些东西。
HN的评论者反复把这里当作最清晰的解释：说明一个有能力的AI为什么可能做出糟糕的行为，而完全不需要恶意；它有8次提及。
Robert Miles AI Safety
为什么聪明和认同人类价值观其实是两件不同的事。
更多
对正交性论题的解释：一个系统如何可能在能力上非常强大，却在追求人类看起来陌生甚至怪异的目标，把一个东西有多聪明，和它实际想要什么，两者分开来看。
HN把它当作对"聪明的AI难道不会自然理解人类价值观吗"这个问题的标准简短回答，也是这里被引用较多的条目之一，有12次提及。
Robert Miles AI Safety
检验"AI风险其实就是企业风险换了个名字"这个类比是否站得住。
更多
Robert Miles探讨了企业是否可以被有效地看作已经存在的通用人工超级智能，以及这个类比究竟能撑到什么程度。
HN把它当作一个容易理解的反驳：针对"AI风险没什么新鲜的，因为企业早就这样做了"这种说法；它有8次提及。
Robert Miles AI Safety
回应"AI风险只是在极小概率上下的一个糟糕赌注"这种质疑。
更多
Robert Miles探讨了AI安全的论证是否等同于帕斯卡式打劫：一种仅凭灾难性但极不可能发生的结果来证明合理性的赌注，并论证AI风险实际上并不依赖于极小的概率。
HN把它当作一个有理有据的反驳：针对"AI风险只是帕斯卡赌注换了套新说法"这种说法；它有4次提及。
已经受到影响
为什么这件事不只关乎实验室
三个视频，讲的是AI的影响已经能在哪些地方看到：工作、学习，以及决定你在网上看到什么内容的系统。
一个关于自动化的十年前警示，HN至今仍在争论。
更多
这个视频原本的标题是《Humans Need Not Apply》，论证自动化会让很大一部分劳动力在经济上变得多余，就像发动机当年对马一样，并梳理了软件和机器人正在取代的体力劳动与脑力劳动。
HN十年来一直把它当作讲解自动化与就业的标准内容，不过近期的评论也把它当作"预测过于自信"的一个案例来引用；它有20次提及，与本页被引用最多的视频并列第一。
Perimeter Institute for Theoretical Physics
提醒你：学习中费力的那部分，AI代替不了。
更多
这是Perimeter Institute的一场直播，Derek Muller探讨了AI可能如何改变教学和学习，论证真正的学习仍然需要学习者自己费力地反复练习。
每当AI与教育的炒作话题出现时，HN都会把它当作一个接地气的反面论点来推荐：AI是个有用的工具，但代替不了你做那部分难的事；它有6次提及。
投放广告的机器学习系统，如何同时也决定了你看到什么内容。
更多
技术社会学家Zeynep Tufekci论证，那些为投放广告而建立的机器学习系统，最终也决定了人们能看到哪些政治和社会信息。
每当讨论以提升互动为目标的信息流、精准投放或广告基础设施时，HN的评论者都会引用它，把它当作关于算法放大效应的一个易懂的早期警示；它有9次提及。
重大风险
由倡导者论证的大规模风险
三个旨在说服而不只是告知的视频：一部反对自主武器的短片，一场警示当前AI部署已经很危险的演讲，以及一个论证企业的行为方式已经像人们所害怕的AI的观点。下面每段摘要说明的都是视频在论证什么，不代表Nightschool AI是否同意。
Center for Humane Technology
HN最先推荐的、用来快速了解AI风险的那场演讲。
更多
Tristan Harris和Aza Raskin阐述了他们为什么认为当前的AI能力带来了真实的社会风险，论证各家公司争相部署的速度已经超过了安全工作能跟上的速度。
经常被推荐为了解AI风险要看的唯一一场演讲，尤其是那些已经看过同一团队早先关于社交媒体作品的人；它有20次提及，与本页被引用最多的视频并列第一。这是演讲者在积极论证的一个立场，不是中立的纪录片，所以最好把它当作一种论证来权衡，而不是已经定论的说法。
Stop Autonomous Weapons
一部为了主张禁止自主武器而拍摄的虚构短片。
更多
一部由Stuart Russell支持拍摄的虚构短片，描绘了成群的廉价自主无人机利用人脸识别实施定点刺杀的场景，目的是主张禁止自主武器。
每当新闻里出现无人机蜂群、自主武器或军用AI的话题，这就是HN的标准参考，多年来累计有20次提及。它是刻意具有说服力的内容，由一个想要禁止自主武器的倡导团体制作，不是对可能发生的事的中立预测。
media.ccc.de
一位科幻作家提出的观点：企业才是真正的AI风险。
更多
Charles Stross在34C3上的演讲，讲科幻小说是如何把未来想错的，并论证企业其实是运行缓慢、靠人力驱动、以利润为优化目标的AI。
每当AI风险讨论中出现企业与"回形针最大化者"式AI的类比，HN都会再提到它；它有7次提及。
这份清单的来源来源与署名
上面每一个视频、频道名称、摘要和提及次数，都来自HackerTube（hackertube.org）发布的公开导出数据。Andrej Karpathy基于open-index/hacker-news数据集（huggingface.co/datasets/open-index/hacker-news）构建了HackerTube，他自己是这样描述这个项目的："我对YouTube的推荐感到不满，所以让Claude把20年间HN上的4300万条评论筛选成了6454个反复被推荐的视频。"我们使用的这份导出数据总共包含6454个视频和39834次Hacker News提及，采用ODC-By 1.0许可；我们从中为这个页面挑选了11个视频，专门面向想要了解AI安全与风险的非技术读者。
Hacker News的数据由Y Combinator提供。上面的视频标题和频道名称都归各自的创作者所有，不属于Nightschool AI或HackerTube，而且这个页面只是链接到YouTube上的每个视频，并不托管或嵌入任何视频，所以你会在创作者自己的频道上观看每一个视频。
这份指南是从一个更大的数据集中精选出来的一个子集，不是对全部6454个视频的排名，上面的提及次数说明的是每个视频在Hacker News评论中被链接的次数，不是它的观看次数或任何其他YouTube指标。上面提到的几个推荐内容属于倡导性质，而不是中立报道；指出这一点是准确描述来源的一部分，不是对论点本身的评判。Karpathy的HackerTube是一个借助Claude完成的个人项目，它并不对Nightschool AI做出任何声明，这个页面上的任何内容都不应被解读为Karpathy、Hacker News或Y Combinator对Nightschool AI课程的认可。
常见问题
这份AI安全与风险视频清单是从哪里来的？
来自HackerTube发布的一份公开导出数据，这是Andrej Karpathy的一个项目，他让Claude把20年间4300万条Hacker News评论整理成了人们反复互相推荐的视频。这份导出数据包含6454个视频和39834次Hacker News提及；我们从中挑出了11个适合想要了解AI安全与风险的非技术读者的视频。
为什么用Hacker News的评论，而不是AI安全视频的一般排名？
因为这是一种不同的信号。一般排名追求的是广泛的吸引力；而一次Hacker News提及意味着某个具体的人，在一次关于AI风险的具体讨论中，认为这个视频值得链接出来佐证自己的观点。Andrej Karpathy构建HackerTube，正是为了把这种模式从20年的评论中提炼出来。
理解这些视频需要AI方面的技术背景吗？
不需要。这里的每个推荐都是面向大众读者的：短篇讲解视频、一场直播演讲、一部短片，还有一场会议演讲。没有一个要求你自己知道怎么训练模型；如果你想了解这部分内容，关于理解ChatGPT式AI的配套指南单独讲了这些。
应该按什么顺序看这些视频？
先按列出的顺序看Robert Miles的视频；每一个都是在前一个的基础上展开的。之后，"已经受到影响"和"重大风险"这两组之间互不依赖，可以根据你更想了解工作与注意力问题，还是大规模灾难性风险，来挑选。
这些视频都是中立的吗？Nightschool AI在AI安全的争论中站队了吗？
这里有几个推荐是倡导性内容，而不是中立报道：《Slaughterbots》主张禁止自主武器，《The A.I. Dilemma》论证当前的AI部署已经很危险。这份指南说明的是每个视频在论证什么，以及Hacker News为什么推荐它，不代表Nightschool AI对这场争论本身的评判。
《Slaughterbots》是一部关于无人机的虚构影片，为什么会出现在一份AI安全指南里？
因为它讲的是一个虚构的场景，但对应的是一类真实的AI风险，即自主武器，而且这部影片专门是为了主张某种政策应对而拍摄的。每当这个话题出现，Hacker News都把它当作标准参考，在原始导出数据中有20次提及，所以它理应出现在一份记录HN眼中AI安全讨论的指南里。
可以用AI助手帮我真正从这些视频里学到东西，而不只是看看吗？
可以，这正是这份指南"如何配合AI助手使用这些视频"这一部分提示词的用意，也是每个视频卡片上"考考我"按钮的用意。看完一个视频之后，在进入下一个之前，把复制的提示词粘贴到Anthropic的Claude或OpenAI的ChatGPT这样的助手里。
Nightschool AI与Hacker News、HackerTube、YouTube、Y Combinator、Andrej Karpathy、Anthropic或OpenAI有关联吗？
没有。Nightschool AI是独立运营的，与Y Combinator、Hacker News、YouTube、Google、Anthropic、OpenAI或Andrej Karpathy都没有关联，也未获得它们任何一方的认可。这个页面上的视频数据，是依据HackerTube导出数据所采用的ODC-By 1.0许可使用的，每个视频标题和频道名称都归各自的创作者所有；这里提到Claude、ChatGPT、Hacker News和YouTube，只是为了说明它们是什么，并准确标注来源。
内容精选自HackerTube（hackertube.org），数据来源于Hacker News评论，采用ODC-By 1.0许可。与Y Combinator、Hacker News、YouTube及各位创作者均无关联。