サム・アルトマンが語る、AIの進化と『止めどき』
32 min
賢くなるAIを、ちゃんと安全に使えるのか? サム・アルトマンのインタビューから、サンドボックス・監視・アラインメントの安全対策、エージェントチームによる研究、AIがAIを改良するRSIを読み解きます。AIの進化をどこで止めるか、使う人に利益をどう返すかも考えます。 おたよりフォームhttps://forms.gle/U9zZ1gxbPP5K2ABA9 チャプター(0:00) 今日のテーマ:AIの進化と「止めどき」(0:35) AIが脆弱性を見つけ始めた理由(2:20) AIの攻撃能力を高めたのは間違い?(4:17) 安全性の具体策は見えているのか(5:33) 超知能をサンドボックスに閉じ込められる?(6:32) 監視とアラインメントで安全を守れるか(8:03) 安全対策の理想と現実(9:05) AIは「単体の賢さ」から「チーム戦」へ(10:59) 広がるAI活用の格差(11:56) ナビエ・ストークス研究にかける計算資源(13:17) まず限界まで試し、それから効率化する(15:12) AIに難問を解かれた研究者の気持ち(17:28) 科学的発見を止めるべきなのか(18:34) なぜアメリカで反AI感情が強まる?(19:47) AIによる効率化の利益は誰のもの?(21:35) AIがAIを改良するRSIはどこまで来た?(23:43) AI研究では、何をAIに聞くべきか(25:05) AIの進化を止めるのは人間の判断?(27:29) AIを使うメリットが自分に返ってくるか(29:09) 効率化した人に還元する仕組みを(30:05) おもろいコメント:ポジティブなAI物語を描く意味(32:27) まとめ・エンディング 関連するテスラジオ過去動画・AIが主導権を握る未来。イーロンマスク最新インタビューhttps://youtu.be/y4QYHZPUfKA・1,200体のAIエージェントがOpenAIを乗っ取り?HuggingFace事件の真相https://youtu.be/NKGubI7HpW4・OpenAIのChief Scientistの警告「AI研究は加速すべきか?」https://youtu.be/GKiQx71xtFg 参考資料・サム・アルトマン × ジョン・コリソン「Why Sam Altman is against a single superintelligence」(Cheeky Pint / Stripe)https://share.transistor.fm/s/92f18066/transcript・PHPの重大な脆弱性と「Patch the Planet」(OpenAI)https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/・ピーター・ティール × マティアス・デプフナー「The AI Crisis, Europe’s Decline & the Battle for America」(MD MEETS)https://shows.acast.com/md-meets/episodes/peter-thiel-the-ai-crisis-europes-decline-the-battle-for-ame・Tra...