什么火了
LessWrong · 本年高分
| 热搜话题 | 最高排名 | 首次上榜 | 离榜时间 | 在榜时长 | 上榜次数 |
|---|---|---|---|---|---|
01 Why I Left Google DeepMind 评论：60 · 标签：DeepMind、Autonomous Weapons、Frontier AI Companies、Government、Mechanism Design、Something To Protect | #100:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
02 I Did This Without Your Knowledge 评论：129 · 标签：Fiction、AI | #200:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
03 How My Students Think About AI 评论：120 · 标签：AI | #300:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
04 My journey to the microwave alternate timeline 评论：58 · 标签：World Modeling | #400:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
05 Current AIs seem pretty misaligned to me 评论：83 · 标签：AI Risk、RLHF、Welcome Threads、AI | #500:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
06 How Go Players Disempower Themselves to AI 评论：79 · 标签：Gaming (videogames/tabletop)、MATS Program、AI | #600:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
07 Only Law Can Prevent Extinction 评论：111 · 标签：AI、World Optimization | #700:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
08 What just happened? A retrospective of AI alignment 评论：152 · 标签：Drama、Coordination / Cooperation、AI | #800:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
09 The Talker Does Not Control The Doer (in Current AIs) 评论：91 · 标签：Simulator Theory、AI | #900:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
10 The Terrarium 评论：54 · 标签：Fiction、AI | #1000:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
11 Some Memories of Early Anthropic 评论：20 · 标签：Anthropic (org)、AI、Community | #1100:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
12 Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident 评论：69 · 标签：METR (org)、Coordination / Cooperation、OpenAI、Redwood Research、AI | #1200:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
13 If Anyone Builds It, Everyone Dies: One Year Closer 评论：72 · 标签：IABIED、AI | #1300:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
14 Here's to the Polypropylene Makers 评论：20 · 标签：World Optimization、World Modeling | #1400:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
15 AI 2040: Plan A 评论：136 · 标签：AI Governance、Plan A、AI | #1500:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
16 Against SURA 评论：321 · 标签：AI | #1600:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
17 Arguments for P 评论：69 · 标签：Humor、AI、Community | #1700:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
18 Less Dead 评论：142 · 标签：Cryonics、Death、World Optimization、World Modeling | #1800:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
19 Eliezer's Unteachable Methods of Sanity 评论：158 · 标签：Death、Rationality、Practical | #1900:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
20 What's the date? 评论：26 · 标签：Fiction、AI | #2000:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
| #2100:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 | |
22 On Social Reality in China 评论：112 · 标签：China、World Modeling | #2200:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
23 What just happened? Pragmatism and Pessimization 评论：178 · 标签：Drama、AI | #2300:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
24 Turning 20 in the probable pre-apocalypse 评论：68 · 标签：Emotions、Motivations、AI | #2400:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
25 Surprising facts about the slave trade 评论：52 · 标签：Slavery、World Modeling、World Optimization | #2500:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
26 What I did in the hedonium shockwave, by Emma, age six and a half 评论：49 · 标签：Fiction、World Optimization | #2600:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
27 Cat-Belling Problems 评论：122 · 标签：Rationality、World Modeling | #2700:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
28 Do not conquer what you cannot defend 评论：73 · 标签：World Optimization | #2800:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
29 Claude 4.5 Opus' Soul Document 评论：44 · 标签：Anthropic (org)、Ethics & Morality、LLM Personas、AI | #2900:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
30 “Alignment Engineering” vs. “Misalignment Science” 评论：62 · 标签：AI | #3000:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
31 AI pause: the case for ASAP 评论：56 · 标签：AI | #3100:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
32 Did Claude 3 Opus align itself via gradient hacking? 评论：50 · 标签：Claude 3 Opus、Gradient Hacking、AI | #3200:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
33 Alignment remains a hard, unsolved problem 评论：99 · 标签：AI | #3300:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
34 Forecasting is Way Overrated, and We Should Stop Funding It 评论：99 · 标签：Forecasting & Prediction、World Modeling | #3400:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
35 A critical look at Lean4 评论：53 · 标签：Formal Proof、Lean (proof assistant)、AI | #3500:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
36 A Mechanistic Explanation of Prompt Injection (and why you should study roles) 评论：60 · 标签：Jailbreaking (AIs)、Interpretability (ML & AI)、Role Science、AI | #3600:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
37 The Owned Ones 评论：53 · 标签：Fiction、Slavery、Language Models (LLMs)、AI、World Optimization | #3700:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
38 Against strawmanning unilateral pauses 评论：64 · 标签：AI | #3800:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
39 How AI Is Learning to Think in Secret 评论：33 · 标签：Language Models (LLMs)、AI | #3900:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
40 | #4000:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
41 Returning to ARC 评论：37 · 标签：Alignment Research Center (ARC)、AI | #4100:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
42 Women should be able to open things 评论：142 · 标签：Sex & Gender、World Modeling | #4200:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
43 Paranoia: A Beginner's Guide 评论：72 · 标签：Economics、Rationality | #4300:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
44 In My Misanthropy Era 评论：159 · 标签：World Modeling、Community、Rationality | #4400:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
45 | #4500:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
46 6 reasons why “alignment-is-hard” discourse seems alien to human intuitions, and vice-versa 评论：92 · 标签：Corrigibility、Instrumental convergence、AI | #4600:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
47 Lightcone Commons 评论：30 · 标签：Philanthropy / Grant making (Topic)、World Optimization | #4700:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
48 A global workspace in language models 评论：68 · 标签：Interpretability (ML & AI)、Language Models (LLMs)、AI | #4800:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
49 Irretrievability; or, Murphy's Curse of Oneshotness upon ASI 评论：132 · 标签：World Modeling | #4900:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |
50 Neural networks are not already clean 评论：24 · 标签：Language Models (LLMs)、Interpretability (ML & AI)、AI、World Modeling | #5000:00 达到 | 00:00首次采集时已在榜 | —结束时仍在榜 | 43分累计在榜 | 1无重入 |