Stuart Russell e Peter Norvig | Inteligência Artificial

Capítulo 1 • Introdução 5 no mundo real, essa abordagem torna-se inviável. Consequências negativas surgirão de um sistema implantado com um objetivo incorreto. Além disso, quanto mais inteligente for o sis- tema, mais negativas serão as consequências. Voltando ao exemplo aparentemente não problemático do xadrez, considere o que acontece se a máquina for inteligente o bastante para raciocinar e agir além dos limites do tabuleiro de xadrez. Nesse caso, ela pode tentar aumentar suas chances de vitória por meio de artimanhas como hipnotizar ou chantagear seu oponente, ou subornar o público para fazer barulho durante o período em que seu oponente está raciocinando. 3 Ela também poderia tentar adquirir mais poder de computação para si mesma. Esses comportamentos não são “não inteligentes” ou “in- sanos” ; são uma consequência lógica de definir a vitória como o único objetivo da máquina . É impossível antecipar todas as maneiras pelas quais uma máquina que busca um objetivo fixo pode se comportar mal. Logo, há uma boa razão para pensar que o modelo padrão é ina- dequado. Não queremos máquinas que sejam inteligentes no sentido de perseguir seus ob­ jetivos; queremos que elas busquem os nossos objetivos. Se não pudermos transferir esses obje- tivos perfeitamente para a máquina, então precisamos de uma nova formulação – uma em que a máquina esteja perseguindo nossos objetivos, mas necessariamente não tenha certeza de quais são eles. Quando uma máquina sabe que não conhece o objetivo completo, ela tem um incentivo para agir com cautela, pedir permissão, aprender mais sobre nossas preferências por meio da observação e submeter-se ao controle humano. Em última análise, queremos agentes comprovadamente benéficos para os humanos. Voltaremos a esse assunto na seção 1.5. 1.2 Fundamentos da inteligência artificial Nesta seção, apresentaremos um breve histórico das disciplinas que contribuíram com ideias, pontos de vista e técnicas para a IA. Como qualquer histórico, este se concentra em um pe- queno número de pessoas, eventos e ideias, ignorando outros que também seriam importantes. Organizamos o histórico em torno de uma série de perguntas. Certamente, não desejaríamos dar a impressão de que essas questões são as únicas de que as disciplinas tratam ou de que todas as disciplinas estejam se encaminhando para a IA como sua realização final. 1.2.1 Filosofia • Regras formais podem ser usadas para obter conclusões válidas? • Como a mente (o intelecto) se desenvolve a partir de um cérebro físico? • De onde vem o conhecimento? • Como o conhecimento conduz à ação? Aristóteles (384-322 a.C.) foi o primeiro a formular um conjunto preciso de leis que gover- nam a parte racional da mente. Ele desenvolveu um sistema informal de silogismos para raciocínio apropriado que, em princípio, permitiam gerar conclusões mecanicamente, dadas as premissas iniciais. Ramon Llull (1232-1315) apresentou a ideia de um sistema de raciocínio publicado como Ars Magna , ou A Grande Arte (1305). Llull tentou implementar seu sistema utili- zando um artefato mecânico real: um conjunto de rodas de papel que poderiam ser giradas de diferentes formas. Por volta de 1500, Leonardo da Vinci (1452-1519) projetou, mas não construiu, uma calculadora mecânica; reconstruções recentes mostraram que o projeto era funcional. A pri- meira máquina de calcular conhecida foi construída em torno de 1623 pelo cientista alemão Wilhelm Schickard (1592-1635). Blaise Pascal (1623-1662) construiu a pascaline em 1642 e escreveu que ela “produz efeitos que parecem mais próximos ao pensamento que todas as ações dos animais”. Gottfried Wilhelm Leibniz (1646-1716) construiu um dispositivo me- cânico destinado a efetuar operações sobre conceitos, e não sobre números, mas seu escopo era bastante limitado. Em seu livro de 1651, Leviatã , Thomas Hobbes (1588-1679) sugeriu a ideia de uma máquina pensante, um “animal artificial” em suas palavras, argumentando: 3 Em um dos primeiros livros sobre o xadrez, Ruy Lopez (1561) escreveu: “Sempre coloque o tabuleiro de modo que o sol esteja contra os olhos do seu oponente.” Comprovadamente benéfico