Was Yudkowsky Vernunft nennt
1 hr 58 min
Alle Texte, Zitate und das ganze Gespräch zum Nachlesen: kontextfenster.org/folge-009-was-yudkowsky-vernunft-nennt.html Woran glauben die Leute, die KI bauen? Florentine folgt der Spur von OpenAIs Model Spec und Claudes Verfassung zurück zu Eliezer Yudkowsky, dem Gründer von LessWrong, und zu seinem Harry-Potter-Roman. Ihre These: Wer Vernunft als eine einzige Rechnung ausgibt, beansprucht die Entscheidung für alle. Stefan fragt, warum die Branche Manifeste schreibt, statt mit den Universitäten zu reden. Das letzte Wort hat Hermine. Kapitel00:00 Wer ist hier der Doomer?00:14 Woran glauben die KI-Leute?02:23 OpenAIs Model Spec: wer wen überschreibt04:49 Wer regelt die Gefahren?07:17 Eine zerstrittene Clique08:08 Eine heiße Geschichte im Zug10:32 Claudes Verfassung: ein gestuftes System14:10 Der Maßstab ist ein Anthropic-Mitarbeiter16:22 Eine Verfassung, die niemand mitschreibt19:01 Amodei: Menschen als Marionetten23:31 Die existenzielle Gefahr bin ich27:55 The Adolescence of Technology29:49 Bei Hugging Face ist OpenAI schuld32:10 Der verstörte Einzelgänger34:08 Musk, Starlink und Kiew34:54 Eine Verfassung für Claudes Psyche38:28 Eliezer Yudkowsky und LessWrong39:05 HPMOR, Kapitel 75: Harry und Hermine42:53 Longtermism: kleine Opfer heute46:06 2.500 Taschenbücher für MIRI49:59 Alice tauscht Äpfel gegen Orangen52:46 Die Suche nach der einheitlichen Vernunft54:01 Das Peter-Konto55:07 Robert, der Krankenhausverwalter59:43 Florentines Bachelorarbeit: viele Ziele1:01:38 Porsche oder Espace?1:02:58 Karp, Habermas und die Soziologie1:05:43 Die verlorene einheitliche Vernunft1:07:05 If Anyone Builds It, Everyone Dies1:08:40 Das Büroklammer-Szenario1:11:45 Thiel und der Antichrist1:12:48 Kann man die KI zufriedenstellen?1:14:58 Wheelan: Ranglisten ohne Maß1:16:16 Thornley: keine Kohärenztheoreme1:17:17 Formeln als Humbug1:23:54 Spiele mit unvollständigen Präferenzen1:24:56 Coherent Extrapolated Volition1:30:28 Kein Problem mit Diktatur, weil Mathe1:32:37 Augustinus, Hubbard, M...