Sinopse: Este livro do renomado pesquisador Stuart Russell oferece uma análise profunda sobre o passado, presente e futuro da Inteligência Artificial (IA). A obra argumenta que o sucesso na criação de uma IA superinteligente seria o maior evento da história humana, mas também poderia ser o último, se não for controlada adequadamente.

Russell critica o “modelo-padrão” da IA, onde as máquinas são programadas para otimizar objetivos fixos dados por humanos, e alerta para o “Problema do Rei Midas”: a dificuldade de especificar objetivos humanos de forma completa e correta, o que poderia levar a consequências catastróficas.

Para resolver esse dilema, o autor propõe uma nova abordagem: criar máquinas “comprovadamente benéficas”, que sejam intrinsecamente incertas sobre quais são as preferências humanas e as aprendam observando nosso comportamento. Essa incerteza fundamental garantiria que as máquinas se submetessem aos humanos, aceitassem correções e permanecessem sob nosso controle, pavimentando o caminho para um futuro onde a IA seja uma aliada e não uma ameaça à civilização.