Andrea Miotti on a Narrow Path to Safe, Transformative AI

Future of Life Institute Podcast

Treść dostarczona przez Gus Docker and Future of Life Institute. Cała zawartość podcastów, w tym odcinki, grafika i opisy podcastów, jest przesyłana i udostępniana bezpośrednio przez Gus Docker and Future of Life Institute lub jego partnera na platformie podcastów. Jeśli uważasz, że ktoś wykorzystuje Twoje dzieło chronione prawem autorskim bez Twojej zgody, możesz postępować zgodnie z procedurą opisaną tutaj https://pl.player.fm/legal.

4M ago 1:28:09

MP4•Źródło odcinka

Andrea Miotti joins the podcast to discuss "A Narrow Path" — a roadmap to safe, transformative AI. We talk about our current inability to precisely predict future AI capabilities, the dangers of self-improving and unbounded AI systems, how humanity might coordinate globally to ensure safe AI development, and what a mature science of intelligence would look like.

Here's the document we discuss in the episode:

https://www.narrowpath.co

Timestamps:

00:00 A Narrow Path

06:10 Can we predict future AI capabilities?

11:10 Risks from current AI development

17:56 The benefits of narrow AI

22:30 Against self-improving AI

28:00 Cybersecurity at AI companies

33:55 Unbounded AI

39:31 Global coordination on AI safety

49:43 Monitoring training runs

01:00:20 Benefits of cooperation

01:04:58 A science of intelligence

01:25:36 How you can help

224 odcinków

#Future Trends #Future Of Life Institute #Tech #Climate Change