José Maria Pimentel
Bem-vindos ao 45°. Neste episódio estou à conversa com Arlindo Oliveira, Presidente do Instituto Superior Técnico e autor do livro The Digital Mind, lançado este ano e cuja edição em português, com o título Mentes Digitais, foi lançada na semana passada. Foi uma conversa cheia, em que falámos de vários temas ligados ao futuro da inteligência artificial, ou, nas palavras do convidado, o surgimento das chamadas mentes digitais. Ao usar esta palavra, mente, Arlino Oliveira transporta deliberadamente a discussão da inteligência artificial atual, independentemente dos seus avanços inegáveis, para um futuro mais ou menos longínquo em que poderemos ter inteligência artificial equivalente, e portanto superior, à humana. Algumas das questões de que falámos podem parecer mais técnicas, mas outras, em maior número do que poderia parecer à partida, são essencialmente filosóficas, levando-nos a questionar o que é ser humano e como pode vir a ser o convívio com estas mentes digitais. Sem mais demoras, vamos então mergulhar no mundo da inteligência artificial à boleia de Erlindo Oliveira. Muito

Arlindo Oliveira
obrigado por ter aceito o convite para vir ao podcast. Eu tenho uma certa quase vergonha dos temas anteriores deste podcast que quase parecem prosaicos comparados com o tema de hoje, que é um tema importante. Há quem diga, aliás, que é o tema mais importante que a humanidade enfrenta hoje em dia, embora provavelmente não haja tanta essa noção na atualidade noticiosa, mas há muito quem diga isso e é um tema, sobretudo, que tem uma série de aspectos que é interessante falar. Eu destacava alguns, desde logo a evolução recente da inteligência artificial, nos últimos anos, e parte dela ainda não é totalmente conhecida do grande público, como por exemplo o chamado machine learning, a capacidade dos algoritmos de aprender ou a capacidade dos programas de aprender. Depois a magna questão do se o chamado human level AI, a inteligência artificial ao nível comparável com o ser humano, se é possível, e os vários caminhos para conseguir, que são abordados no seu livro. E essa questão dos vários caminhos é interessante porque não é... Noutros fóruns eu tenho visto, curiosamente, que é menos discutida, portanto, é interessante nós falarmos sobre isso. Depois, a segunda perna dessa magna questão, que é a questão da consciência, ou seja, que é uma questão mais filosófica dessas todas, que é o se existe ou não consciência. E o seu livro tem claramente uma chamada a esta questão, porque ele chama-se The Digital Mind e não se chama The Digital Intelligence ou alguma coisa assim do género, ou seja, a palavra mente está lá e remete para esta questão que depois é abordada no livro. Para além disso, os perigos da inteligência artificial, que são vários, desde o perigo tipicamente cinematográfico de tomar em conta do mundo, até perigos mais realistas, porém mais realistas e sobretudo mais que terão que ser dublados mais brevemente. E finalmente, como vai ser o futuro assumindo a inteligência artificial, que é outra questão que é abordada no seu livro. Começando por esta primeira, da evolução recente e do machine learning, é um fenómeno ultra interessante porque isto no fundo passa-nos de uma realidade em que tínhamos sobretudo o chamado narrow AI, não é? Portanto, eu não sei como é que se traduz em português, inteligência artificial específica, vamos supor, e começamos a dar passos no sentido de ter uma inteligência artificial genérica. Ou seja, passamos de ter programas que eram definidos para fazer determinada tarefa, que é o programa que venceu o Caspar Óvno a jogar xadrez, por exemplo, e passamos a ter programas que têm a promessa de poder fazer mais do que uma tarefa e no limite fazê-las quase todas. E este é um tema muito interessante. Aliás, houve um livro do Pedro Domingos, que faz o prefácio do seu livro, que se chama The Master Algorithm, e o ponto dele é exatamente é o algoritmo mestre, tal como a chave mestre abre todas as portas, o algoritmo mestre é aquele que poderá metaforicamente abrir as portas todas. E o que é interessante disto, sobretudo para quem está fora, é que o que parece, e corrija-me se eu estiver a explicar isto de uma maneira demasiado simplista, é que o que até aqui nós tínhamos era um algoritmo que tinha que ser exaustivamente definido, e sem erros, ainda por cima, ou seja, não tinha que ser definido, tudo tinha que lá estar e sem qualquer tipo de erro, e o paradigma para que nós estamos a passar. É um paradigma em que o algoritmo não está totalmente definido e depois é o próprio algoritmo que, com base nos dados, no chamado Big Data, que é o que, entretanto, possibilita isto, que são usados como inputs, consegue aprender por ele próprio, daí o learning. É mais ou menos isto? Sim, em primeiro lugar, muito obrigado pelo convite para estar aqui no podcast, é sempre um prazer

José Maria Pimentel
falar destas questões e espero que assim também chegue a pessoas que de outra maneira não chegaria. Pois, a pergunta que eu coloco é interessante, a questão da aprendizagem. Os nomes são sempre difíceis de traduzir, em inglês é machine learning, ou seja, aprendizagem por máquinas. Em português geralmente é traduzido por aprendizagem automática, mas enfim, o que interessa é que é uma técnica onde de facto os computadores aprendem a desempenhar determinada tarefa. Esta é uma questão que já me fascina há muitos anos, aliás eu há 30 anos, quando fui fazer a tese de doutoramento, há 30 e tal, já achava que era uma questão fundamental, mas na altura ninguém ligava muito, quer dizer, ninguém ligava não é verdade, havia pessoas na comunidade de ciência artificial que ligavam, mas em geral ninguém ligava muito a isso.

Arlindo Oliveira
Era menos execuível provavelmente na altura.

José Maria Pimentel
Não, as tecnologias já existiam, não eram assim tão diferentes desde agora, eu já explico um bocadinho o que é que variou porque é interessante. De qualquer maneira é como disse, enquanto que na maior parte dos programas de computador, que estamos habituados, alguém programou em detalhe como é que eles funcionam, cada janela, cada botão, cada comportamento, cada frase que diz, etc. Quando um programa usa a aprendizagem, é um bocadinho diferente, tanto o programa aprende, tem lá um algoritmo, esse algoritmo foi codificado por alguém, mas esse algoritmo o que faz é aprender com a experiência, por exemplo, pode aprender a reconhecer gatos em fotografias, ou pode aprender português, a reconhecer português falado a partir de texto em português, ou

Arlindo Oliveira
pode... Deteta padrões, no fundo, não é?

José Maria Pimentel
Deteta padrões, é basicamente o teste são de padrões e a generalização é para ir de padrões. O que aliás pensámos é um bocadinho o que o cérebro humano

Arlindo Oliveira
faz. Exatamente. Só que

José Maria Pimentel
pior. Só que? Só

Arlindo Oliveira
que pior. Pior ou prótipo? Não, até é melhor, é mais versátil. Hoje em dia ainda é melhor. É mais versátil. Mas aquilo que os algoritmos conseguem fazer, fazem no melhor

José Maria Pimentel
do que nós. Exatamente, quando se especializam numa dada área, os algoritmos às vezes conseguem ser melhor que nós. Mesmo com a classificação de imagens e coisas deste tipo, reconhecimento de caracteres manuscritos, que é uma questão difícil, eles já fazem melhor do que os humanos. E portanto, de facto é Como diz, aliás, a ciência artificial começou um bocado para as pessoas tentarem especificar como é que se fazem coisas, como por exemplo planear, ir do sítio A para o sítio B, ou demonstrar um tireo matemático, ou jogar xadrez, são tudo exemplos de coisas que se tentaram pôr os sistemas a fazer, jogar as damas, etc. E só mais tarde é que apareceu esta ideia da aprendizagem. Embora, curiosamente, o Alan Turing tenha dito logo desde o princípio que fazer um programa deve ser muito difícil, é melhor fazer uma coisa para o computador aprender por si. O

Arlindo Oliveira
Alan Turing, já agora só para dar aqui algum contexto, pioneiro da inteligência artificial e conhecido pelo filme Imitation

José Maria Pimentel
Game. Muito conhecido pelo filme, que ele trabalhou no ataque às cifras alemães em Bletchley Park, mas de facto foi o fundador da computação, tal como a gente a conhece, foi talvez o mais importante, mas também tem um artigo muito influente de 1950, onde ele fala justamente da inteligência artificial. E fala do teste de Turing e como é que se pode distinguir. Mas se learns, não é? Exatamente. É o mesmo artigo onde ele explica como é que se pode usar um teste para distinguir quando é que um computador se tornasse inteligente. E é nesse mesmo artigo que ele diz, mas a maneira mais fácil de tornar um computador inteligente deve ser fazer com que ele aprenda. É começar com um cérebro simples e depois fazer com um computador e depois fazer com que ele aprenda. Mas enfim, isso depois durante muitas décadas não se desenvolveu muito e só recentemente, enfim, as técnicas de aprendizagem já existem há uns 30 anos, 35 mesmo, Mas só recentemente é que temos dados suficientes e só recentemente é que temos computadores suficientemente poderosos para elas poderem funcionar nos problemas realmente difíceis. Porque em problemas mais fáceis elas já funcionavam. Por exemplo, analisar se uma pessoa deve, se uma transação de um cartão de crédito deve ou não ser interceptada por ser falsa, já é feita há muitos anos, como método de aprendizagem automatico. Só que agora, além disso, conseguimos atacar problemas mais difíceis. Podemos colocar um carro a conduzir sozinho, ou a jogar um jogo do Go, que é um jogo

José Maria Pimentel
complexíssimo,

José Maria Pimentel
ou a traduzir de uma língua para outra, ou a perceber uma língua falada, são essas coisas que agora se conseguem fazer porque há mais dados, mais capacidade computacional e algoritmos

Arlindo Oliveira
um bocadinho melhores. Eles não são muito melhores, são só um bocadinho melhores, mas é o suficiente para fazer a diferença. Claro, mas a chave aí está no poder computacional e nos dados. São estas três coisas. Algoritmos um bocadinho melhores, portanto, eles melhoraram os algoritmos, é um facto, mas não são radicalmente melhores, é ali um pequeno ajuste. E para trabalhar

José Maria Pimentel
com isso

Arlindo Oliveira
tudo, muito mais capacidade de computação. O exemplo que deu do go, ou do go, nunca soube exatamente como é que se diz, em inglês dizem go, mas acho que é porque é parecido com o verbo. Eu lembro perfeitamente de ter uma conversa com um amigo há uns anos sobre isso. E

José Maria Pimentel
ao dizer que aquilo não se ia resolver. Não,

Arlindo Oliveira
eu confesso que não me lembro o que é que ele dizia, mas lembro de ele-me estar a explicar na altura, nós estávamos muito tempo a falar sobre isso, da diferença face aos xadrezes. Ou seja, o xadrez tinha sido controlado, embora o Kasparov não tenha aceito a derrota, mas para todos os efeitos foi, e havia o desafio do gol, que era um jogo muito mais complexo, porque no fundo tem muito mais possibilidades. E o que é interessante aí, e isso vinha no seu livro, sabe o que é que o AlphaGo, portanto o programa que fez isso, aprendeu em certo sentido, aprendeu a detectar padrões e não foi sequer, não jogou apenas com os dados que tinha, até porque os dados que tinha não eram suficientes para dominar o jogo completamente, porque o jogo tem tantas

José Maria Pimentel
possibilidades. Mas sabe que há um desenvolvimento muito interessante do Go, e que acabou de sair, aliás tenho ali o artigo, depois mostro-lhe no fim, que é, portanto, o AlphaGo, como foi apresentado há dois anos, não é? Aconteceu há dois anos, em 2015. O AlphaGo aprendeu a partir de partidas que existem em base de dados jogadas por humanos. Portanto, ele aprendeu

Arlindo Oliveira
o que estava nas partidas, depois melhorou aquilo. É como o ser humano a assistir a uma série de jogos desenrolados na sua frente.

José Maria Pimentel
Aprendeu e depois acabou por bater o campeão do mundo. Mas num artigo que foi publicado este mês, em setembro, na Nature, eles treinaram um outro sistema que aprendeu sem usar nenhum conhecimento humano, só a jogar contra si mesmo. Jogou 50 milhões de jogos contra si mesmo. Sim. E este sistema que não usou nenhum conhecimento humano bateu o sistema anterior por 100 a 0.

Arlindo Oliveira
É o DQN ou é outro? É o? O DQN que é o Deep Q Network, que é outro... Não, não, é o AlphaGo. Ah, ok, certo. É uma variante.

José Maria Pimentel
Mas o que é interessante é que enquanto o anterior basicamente aprendeu a partir do conhecimento que a raça humana, porque aqueles jogos são campeões, não é? Aprendeu a partir do conhecimento que a raça humana tinha guardado, não é? E estava embaixo de dados, ele aprendeu e aprendeu muito bem e passou a ser o campeão do mundo. Mas este aqui, basicamente conseguiu reproduzir dentro do computador todo o processo de aprendizagem do Go desde que ele começou a ser jogado há centenas, milhares de anos, não sei. Portanto, e estes milhões de jogos que ele jogou, sem usar nenhum conhecimento gerado por humanos, transformou-o não só num melhor jogador do que, bom, que os melhores humanos, que o outro programa. E o que é mais curioso é que descobriu jogadas e formas de jogar que eram desconhecidas

Arlindo Oliveira
na humanidade. Os campeões olham para

José Maria Pimentel
lá e dizem, mas isto não é normal, isto ninguém joga assim. E ele de facto descobriu, e é muito interessante. O Go, o último desenvolvimento, eu dou-lhe uma cópia. Ok. Do artigo, é muito interessante. Obrigado.

Arlindo Oliveira
Mas isso é interessante até a outro nível. Porque o que o programa fez, na prática, se tivesse sido um ser humano a fazê-lo, chamava-se criatividade. Exatamente. Não é? O que é incrível em certo

José Maria Pimentel
sentido, porque não era de todo aquilo que acontecia até aqui. Exatamente, mas prende-se também como outra questão, que é aquela ideia, que eu também te escrevi um bocadinho no livro e que há outros livros sobre isto, que é Paz nas Tantas, onde o sistema pode se tornar tão inteligente que cria mesmo a próxima versão do

Arlindo Oliveira
sistema. Sim, a singularidade. É claro que aqui foi num domínio muito restrito, não é? Claro, claro. Não

José Maria Pimentel
é muito em certo e certo geral, só é bons gaga ou não faz mais nada. Mas neste domínio muito restrito, houve ali uma espécie de explosão de inteligência, ou seja, o sistema apreendeu contra si mesmo e bateu, basicamente, toda a humanidade, toda a história da humanidade.

Arlindo Oliveira
Mas o domínio é restrito, mas programas deste género têm sido usados... As técnicas são relativamente gerais. Aplicados a vários... Este exemplo do DQN, que é o exemplo que eu estou a dar, decorre, não é? Porque eu tenho visto provavelmente o programa e nem nada que se pareça. Mas é um exemplo de um caso que também aprendeu sozinho a jogar jogos relativamente simples, e vários jogos diferentes. Ainda estamos no terreno dos

José Maria Pimentel
jogos. Está a falar do Deep QA, que é o da IBM, ligado ao Watson.

Arlindo Oliveira
Eu tinha a ideia até que tinha sido comprado pela Google. Posso estar enganado, mas para o caso também é. Deep QA é o nome que os

José Maria Pimentel
gajos da Watson, da IBM, deram ao sistema que fez o sucessor

Arlindo Oliveira
do Watson, ganhou aquele job. Ganhou o Casparov, sim. Isso é interessante porque mostra que, no fundo, juntando a aprendizagem, ao facto dessa aprendizagem dar para usar para várias categorias, mostra que há aqui um caminho no sentido da inteligência artificial genérica, que é uma distinção. Mas ainda temos uma limitação, que é os sistemas como existem agora

José Maria Pimentel
podem melhorar, mas otimizam uma dada função de custo, uma dada objetivo. O objetivo, nas minhas casas, é jogar bingo. Exatamente. Ganhar jogos de go. Nós ainda não temos. Um ser humano quando se desenvolve, um cérebro humano quando se desenvolve, não está a otimizar nenhum objetivo. Quer dizer, no longo prazo está a otimizar a possibilidade de reprodução, mas isso é uma coisa muito evolutiva, não é? Claro. Portanto, nós ainda não temos nenhum algoritmo que permita otimizar esse tipo de competência geral que um ser humano tem. E aí é que eu acho que ainda há a diferença. Mas tem razão, de facto, as técnicas são muito gerais.

José Maria Pimentel
Mas a chave estará onde? Ou seja, qual é o objectivo, Qual é o

Arlindo Oliveira
obstáculo que é preciso ultrapassar para isso? O que é que teria que ser diferente, por outras palavras? Tem a ver com o algoritmo? Se eu soubesse, estava a escrever os

José Maria Pimentel
artigos e ficava famoso de um dia para o outro. Eu acho que o problema é que nós, neste momento, todos os métodos de aprendizagem continuam a focar-se na ideia de otimizar um certo objectivo. E, portanto, o objectivo pode ser reconhecer bem, ou guiar bem carros, ou jogar bem go, ou traduzir bem de uma língua para outra, mas é um objectivo concreto. Nós não conseguimos dizer que uma criança, quando está a crescer, está a otimizar um objectivo concreto, não é? Nós não sabemos, não há nenhum objectivo concreto. Sim, é difuso. Portanto, eu acho que a criança tem interesse em muitas questões e aprende muitas coisas, etc. E eu acho que é isso que ainda nos falta. É uma métrica que consiga guiar os algoritmos para obter esse tipo de inteligência artificial geral. E devo dizer que, ao contrário do que eventualmente se possa às vezes perceber das notícias nos jornais, que eu saiba que não há nenhuma proposta concreta para fazer isso. Todas as pessoas estão a trabalhar

Arlindo Oliveira
num problema específico.

José Maria Pimentel
Não há ninguém, eu também não acompanho toda a literatura, mas nunca vi ninguém... Tenho aqui um algoritmo que pode ser o embrião de desenvolver uma inteligência artificial genérica. Que eu saiba isso não existe, nunca foi publicado. Mas acho que um

Arlindo Oliveira
dia pode existir. Claro, mas eu próprio fiquei com essa impressão, porque embora esse tema da inteligência artificial genérica seja muito discutido, seja academicamente, seja até muito filosoficamente, na prática os esforços que costumam ser feitos, e percebes porque esses esforços têm interesses comerciais, são muito mais da inteligência artificial restrita, ou seja, lá está aplicado a um determinado fim, do que propriamente da geral, que continua, no fundo, é aquilo que se acredita que se progredirá para ali, mas porventura o benefício estaria tão dilatado no tempo que não justifica o investimento

José Maria Pimentel
inicial ali. Mas é... E depois também é tal coisa como diz, portanto, as motivações, estas são económicas. Neste momento não há ainda um grande benefício económico em desenvolver uma inteligência artificial de geral. A gente não precisa de uma pessoa num computador, o que a gente precisa é de um computador de automóvel, ou de uma pessoa para atender chamadas num call center, ou de um tradutor, isso dá jeito. Mas desde que ele traduz, a gente não precisa que ele seja inteligente noutros aspectos. Eu acho que tem um bocadinho a ver com isso, mas para dizer a verdade, nós também ainda não temos a tecnologia para desenvolver um inteligente artificial. Começamos a ter a tecnologia para desenvolver sistemas muito avançados em

Arlindo Oliveira
aplicações específicas. Exato. E provavelmente, pensando rapidamente sobre o assunto, olhando para a frente até me pareceria mais lógico que se chegasse à inteligência oficial geral pelas noção das várias específicas.

José Maria Pimentel
Pois, há uma possibilidade. Mas está a ver que a vantagem económica não é óbvia, não é? Porque é quase sem dúvida que queria juntar um computador que jogue bem Go com um computador que traduza bem e um que guia bem automóveis. É um taxista que sabe discutir, quer dizer, não há assim uma vantagem económica muito óbvia.

Arlindo Oliveira
Pois, depende. Se entrar no domínio social, eu vejo grandes vantagens. Antes de entrar

José Maria Pimentel
aí... Pois, talvez. E um condutor automático de carros que consiga discutir as notícias do dia, se calhar já é mais interessante.

Arlindo Oliveira
Se há coisa que a história da tecnologia ensina, As tecnologias com maior sucesso são aquelas que aumentam a sociabilidade das pessoas. E muitas vezes até havia tecnologias promissoras por não conseguirem fazer isso e não tiveram mercado. Aliás, até havia aquele... Não sei exatamente o que eu fazia o comentário, nem sei se se sabe, mas havia um comentário engraçado quando se inventou o telefone que alguém perguntava-se para que é que isto serve, não é? Se eu quiser falar com o meu vizinho, vou ter com ele. É verdade,

José Maria Pimentel
é. Eu por acaso não lembro onde é que eu vi, mas há essas

Arlindo Oliveira
coisas. Eu também não, mas tem piada, porque lá está em mais de um daqueles... Ninguém percebeu qual era a utilidade do telefone. Exatamente. Quando na prática, ao contrário, o sucesso do telefone vem justamente de aumentar ligar e meter a ligar o celular exatamente, a possibilidade da pessoa estar sempre ligada mas esta questão, voltando a esta questão, ou por outra, dando um passo à frente a questão, deixando de olhar para os desafios do presente e no fundo olhando para aquilo que pode vir a acontecer Partindo deste pressuposto de que as limitações que existem são limitações de grau de desenvolvimento e não limitações físicas, dir-se-ia que o human level AI que eu falava no início, a inteligência artificial ao nível cognitivo do ser humano, e provavelmente uma vez chegando lá é muito melhor do que o ser humano, porque toda a inteligência específica artificial foi desenvolvida e é melhor do que o ser humano aquilo que faz. Esse objetivo, no mínimo décadas de distância, mas ainda assim é um objectivo que na sua opinião, à partida, é atingível?

José Maria Pimentel
É, não me parece uma coisa impossível. É preciso dizer que nós percebemos relativamente mal a inteligência humana.

Arlindo Oliveira
Pois, esse é o grande desafio. E percebemos relativamente

José Maria Pimentel
mal o funcionamento do cérebro humano. Nós percebemos alguns princípios, mas não os temos. Eu partilho muito uma opinião, que aliás, de vários filhosos, mas do Daniel Dennett em particular, que é o cérebro humano é um conjunto de agentes mais ou menos autónomos entre si. Um trata da comida e outro trata de coisas amorosas, outro gosta de pensar. São agentes mais ou menos autónomos que depois funcionam como uma espécie de uma sociedade, aliás há um livro, Society of Mind, do Minsky, acho que é o nome, que fala nisso e depois, e nós, a inteligência humana, é o resultado destes agentes todos que interagem uns com os outros e depois no fim dão uma atuação consciente e um pensamento consciente. Se de facto a mente humana for isto e eu partilho desta opinião, então eu acho que a maneira de chegar à mente digital artificial é exatamente essa. Nós percebemos um agente que trata de uma certa motivação, outra gente, põe-se isto todos juntos e depois no fim daquilo sai dali qualquer coisa, aqui em última nada nós vamos associar um comportamento parecido com o humano. Quer dizer, também Há muitos humanos que só têm duas ou três motivações e também não são particularmente interessantes, outros que são muito diferentes. E portanto, eu acho que vem um bocadinho daí. Ou seja, o que eu quero dizer com isto é eu acho que não há nada particularmente mágico na mente humana. A mente humana é só um conjunto de agentes. Muitos deles foram desenvolvidos pela evolução ao longo de milhões de anos. Depois há aqui toda uma coerência que é um bocadinho imposta artificialmente, aliás, a parte sobre a consciência, percebes que a consciência é uma coisa muito obscura, que de alguma maneira existe para dar coerência a tudo isto, a estas diversas motivações que cada pessoa tem, etc. E não me parece impossível que à medida que fomos dominando cada vez melhor a capacidade de fazer a gente criar agentes específicos, se juntarmos vários deles, começam a aparecer coisas por exemplo, podemos ter uma assistente em casa que trata das compras e da agenda e das viagens há páginas tantas, podemos, olha, então aprende qualquer coisa sobre música para eu poder discutir música. E começa a criar-se ali um embrião de uma mente relativamente rica. Embora não seja mais do que a junção

Arlindo Oliveira
de mentes específicas. Mas isso é nessa lógica incremental, ou seja, ir adicionando características... É, é uma lógica incremental, mas se eu tiver um sistema sucessivamente poderoso. Imagina que eu tenho... Não é

José Maria Pimentel
assim difícil, eu tenho... Eu tenho lá em casa a Alexa, não é? E as meninas falam muito com a Alexa. A Alexa ainda é um bocadinho simplista, mas já dá para conversar com ela. A gente pode dizer o que aconteceu hoje na Cataluña, a Madixto, não sei quando já foi presa, etc. Às vezes não percebo, mas geralmente percebo. Mas se em cima daquilo eu vou ter sistemas mais sofisticados e tiver a cabeça, olha agora vai, aprende sobre o Mozart, depois fala sobre, percebe, começamos a ter ali uma coisa com a gente que é relativamente interessante, não é só uma coisa cega, não é só como o motor de busca da Google, a gente quer expor, é uma coisa que tem um estado, que tem um estado e depois à noite dizem, olha tive a aprender sobre o Mozart, quero ouvir a Incline Art Music, ah nunca ouvi, ponha lá e tal. Está a ver? Não é assim tão difícil imaginar que seja possível construir, até incrementalmente, uma mente cada vez mais rica em que cada uma das componentes é uma coisa relativamente específica e dirigida, não precisa de ser um Einstein. Claro, mas isso é admitindo que o processo é feito, no fundo, a continuar aquilo que temos. Sim. E isso, e essa é uma questão interessante, a obtenção desse estado é independente, a

Arlindo Oliveira
compreensão absoluta do cérebro humano. Eu acho que sim.

José Maria Pimentel
Eu acho que a gente nunca vai compreender o cérebro humano. A gente nem sequer consegue compreender um computador. Não há ninguém que consiga compreender como é que esse computador funciona, está a ver? No transistor, não sei quantos, quanto é que está lá dentro, ninguém sabe isso. Tanta gente, quando muito, não sabe os princípios gerais do funcionamento do cérebro humano e isso acho que é o melhor que conseguimos fazer. Compreender em detalhe, eu acho que nunca ninguém vai perceber. Pelo menos não uma pessoa, tem de ser um milhão de pessoas para perceber um cérebro, mas isso também não tem grande interesse. Imagina que há um milhão de pessoas que se dicam a estudar o seu cérebro e sabem tudo sobre cada neurônio, mas isso também não serve de nada. Se estiver mapeado pode servir, não é? Não, porque aquilo é muito complicado, está a ver? E varia de pessoa para pessoa. E varia de

José Maria Pimentel
pessoa para pessoa, portanto, não há ninguém, Não há

José Maria Pimentel
ninguém que consiga ter na cabeça o que é que está na gate de cada transistor num computador deste, que é uma coisa mais simples que o cérebro humano. Nunca ninguém vai conseguir ter na cabeça como é que funciona. Agora dizem, ah não, mas aqui é uma coisa simples, tem dois ou três módulos, mas o cérebro não é assim, aquilo é uma jaringonça, o cérebro é uma jaringonça que foi criada pela evolução, portanto não há ali um módulo que faz a fala e um módulo que faz a visão e depois manda um estimulado.

Arlindo Oliveira
Há tudo interligado. A questão, falando superficialmente, porque não sou neurologista, mas esse é um dos pédulos, em certo sentido, da ciência, é o quão pouco ainda se sabe o cérebro humano. E mesmo compreendendo, não é líquido, quão bem é preciso compreender os princípios gerais ou, com fundo, é preciso ir nessa generalidade para perceber o suficiente para conseguir reproduzir numa...

José Maria Pimentel
Mas o que eu quero dizer com isso? A gente está a perceber os princípios gerais. Ainda não percebemos. Podemos vir a perceber os princípios gerais. Podemos saber que os neurônios prolongam, que os axónios se desenvolvem de uma certa maneira, de acordo com os

José Maria Pimentel
certos

José Maria Pimentel
indícios químicos, biológicos, etc. Agora, quando isto tudo está junto e temos ali bilhões de sinapses a disparar e tal, perceber onde é que está representada a imagem da sua avó, que está lá alguns. Isso é uma coisa, pá, deve estar lá um milhão de neurônios que quando se espalham de uma certa maneira representam a avó, mas e se se espalhar de uma maneira um bocadinho diferente é o avô, está a representar... Eu acho que essa compreensão nunca vai acontecer.

Arlindo Oliveira
É, É preciso perceber como funciona, não necessariamente onde é que se está a cada... Exatamente, a gente pode

José Maria Pimentel
perceber os princípios gerais, até pode perceber os princípios gerais de maneira a conseguir reproduzi-los. Sim. Mas isso é uma coisa, mas depois disso, agora por exemplo, o detalhe fino, eu acho que isso é muito difícil.

Arlindo Oliveira
Mas para fazer o... O seu livro refere várias hipóteses de lá chegar, uma delas é uma hipótese mais sintética, digamos assim, que era no fundo... Sim,

José Maria Pimentel
era um bocadinho aquilo que eu estava a referir. Exatamente. Tem uma gente que é para isso, outra para aquilo, depois vai

Arlindo Oliveira
juntando aquilo, etc. Exatamente. E há outra que é mais natural, acho que é ali até o adjetivo que é usado, que é no... Que é tentar... Que é mesmo pegando no cérebro humano e no fundo transportá-lo.

José Maria Pimentel
Pois há duas maneiras, eu proponho três maneiras. Uma são via sintética, pega no Google, vai melhorando o Google, vai falando com o Google ou com a Alexa ou alguma coisa dessas e aquilo vai se tornando mais justificado, mas não há nada que tenha ali a ver com o cérebro. Exatamente. Os algoritmos do Google são poderosíssimos, mas não há praticamente nada ou mesmo nada lá que tenha a ver com a maneira como funciona o cérebro. A segunda maneira é pensarmos, a gente vai perceber suficientemente dos princípios que organiza um cérebro para conseguir simulá-los e reproduzi-los num computador. Então a gente cria num computador e faz o desenvolvimento de um cérebro no computador. Ou dos princípios que cria um cérebro. E se isso funcionar, é difícil, mas se isso funcionar, no fim, podemos ter ali uma simulação de um cérebro que funciona como um cérebro real e que fala e que sente. Claro. Isto é complicado, temos de lhe dar estímulos, não é?

Arlindo Oliveira
Pois, esse é o grande desafio. Quando cria

José Maria Pimentel
tem de ter visão, tem de ter som, tem de ter tato, tem de ter tudo isso. Porque nenhum cérebro se desenvolve naturalmente se não tiver

Arlindo Oliveira
estímulos visuais. Tem de ter todos os inputs que o cérebro está construído para receber.

José Maria Pimentel
Essa é a segunda maneira. Eu acho que essa é viável, não sei, a dezenas, uma centena de anos, em breve eu acho que essa é uma possibilidade, podemos vir a perceber suficientemente dos mecanismos de alimento do cérebro para fazer isto. Depois a terceira, que a meu ver é que levanta mais questões filosóficas, embora estas já levantem bastantes, que é copiar mesmo um cérebro. Exato. Pega um cérebro de uma pessoa, ou com técnicas de imagem, ou mais provavelmente cortando as fatias, percebe-se exatamente como é que está ligado, copia-se aquilo para um computador e simula-se o computador.

Arlindo Oliveira
Como cortando as fatias, merece aqui a nota, implica que a pessoa está morta. Que a pessoa

José Maria Pimentel
está morta,

Arlindo Oliveira
Ou morre no processo.

José Maria Pimentel
É claro que o de cortar as fatias só tem interesse se a pessoa tiver com uma doença terminal, mas com uma doença terminal, como sabe, há muitas pessoas que já congelaram o cérebro ou o corpo inteiro dependendo dela. E que têm a esperança de um dia vir a ser ressuscitadas por esta via ou por uma via parecida? Eu acho que essa é de facto uma tecnologia muito difícil, mas levanta de facto aquela questão um bocadinho interessante da imortalidade, que é, a pessoa pode morrer aqui mas depois apareceria novamente num mundo virtual simulado num computador e a imortalidade... E possivelmente até... Pode parecer uma ideia meio maluca, mas a ideia de imortalidade, porque vamos para o céu também, é realmente maluca, não é? Portanto,

Arlindo Oliveira
nenhuma delas é particularmente... Sim, claro.

José Maria Pimentel
Dá particulares garantias, não é?

Arlindo Oliveira
Não era terreno virgem. Nós já falámos da questão dos limites ao estudo do cérebro humano e eu acenteço a sua resposta porque no fundo implica que não é necessário nós compreendermos completamente o cérebro humano para ser possível ter inteligência artificial no nível do ser humano. Existe outro limite possível, que me parece ser muito pouco... Haver poucos defensores na comunidade, seja académica, seja profissional dele, que têm que ver com a lei de Moore, tem que ver com a questão do crescimento exponencial da capacidade de computação. Essa, aliás, é uma das questões que o seu livro explica, que é pouco intuitiva para quem está fora desta área, porque o ser humano está habituado a que as coisas progredam numa lógica não exponencial. E a lógica exponencial, aliás, se quiser explicar rapidamente isto, eu acho que seria interessante o ouvir, porque vai explicar de certeza melhor do que eu. Porque ela é particularmente contra a intuitiva, nós não estamos habituados a que isso

José Maria Pimentel
aconteça. Pois, quer dizer, portanto as evoluções financiais são aquelas funções que em cada instante de tempo, digamos, multiplicam por um fator constante, uma coisa que duplica. Eu dou lá o exemplo muito conhecido dos grãos de arroz no tabulete de xadrez, que

Arlindo Oliveira
é um exemplo muito conhecido.

José Maria Pimentel
Exato. Que quando se fizemos um grão na primeira casa de um tabuleiro de xadrez, dois grãos na segunda, quatro grãos na terceira, etc., até a 64 casa, o número total de grãos de arroz que é preciso para fazer isto é a produção da terra durante 500 anos, que é altamente contra-intuitiva e tem a ver com estas questões da evolução exponencial. E a evolução da tecnologia também é exponencial. Portanto, a lei de Moore é a mais conhecida, que diz basicamente que o número de transistores que é possível pôr no circuito, duplica a cada dois anos. E isto não parece muito num ano, duplicou, depois em dois anos duplicou, em quatro anos desquadruplicou, já é pior. Mas à medida que vamos andando, isto criou, desde umas coisinhas de 1, 5, 2, 3 transistores até os computadores agora que têm milhares de milhões de transistores e um potencial que era completamente insuspeitado quando esta evolução continuou. E de uma maneira ou de outra, há várias tecnologias que tendem a ter esta evolução exponencial e nós temos de facto, e eu às vezes faço umas apresentações sobre isto e começo justamente com estas extrapolações, E nós somos muito maus a prever evoluções exponenciais, porque tendemos sempre a subestimar a evolução a longo prazo, e às vezes até a sobreestimar a evolução a curto prazo. Aliás, esta lei, não é minha, lamentavelmente, tem um nome, que é a Lei da Mara, que em termos tecnológicos nós tendemos a sobreestimar em relação ao curto prazo e a subestimar no longo prazo. Sim,

Arlindo Oliveira
e é engraçado porque isso é observável culturalmente. Mas em relação à questão do exponencial, há um ingrediente fundamental para explicar esta questão que é, ele cresce exponencialmente porque cada fase de crescimento acontece sobre as fases anteriores. Exatamente. É como

José Maria Pimentel
uma célula que se duplica. O Darwin dá-o este exemplo nos elefantes, que é um exemplo interessante. Mas passando numa célula...

Arlindo Oliveira
Não, mas podes falar do exemplo dos elefantes, que eu acho um exemplo como tapiada. Os

José Maria Pimentel
elefantes, portanto, o exemplo dos elefantes... Mas pronto, a cela divide-se em duas, depois as duas, cada uma divide-se em quatro, depois cada uma das quatro está oito, e portanto temos a mesma coisa do jogo de xadrez. O Darwin dá o exemplo dos elefantes, que é um exemplo interessantíssimo, posso contar uma coisa aqui que não está no livro. O Darwin fez a conta, a cada 30 anos, um par de elefantes tem um par de crias. E faz isto três vezes. Tem aos 30, aos 60 e aos 90. Que é uma coisa lenta, este negócio não vai a lado nenhum. E agora, ele disse que ao fim de 500 anos havia, se eu auverro, 8 milhões de elefantes, não me lembro bem do número. E

Arlindo Oliveira
enganou-se no ver. Mas enganou-se, enganou-se em

José Maria Pimentel
fazer as contas. De facto, ao fim dos 500 anos só há, acho que são 500 e tal de elefantes, umas centenas de elefantes. Mas mesmo assim ele tinha razão, porque ao fim de 10 mil anos já há um número de elefantes que não caberia no sistema solar inteiro. E ao fim, os números são muito interessantes, estão aliás numa posse do meu blog, porque de facto mesmo uma evolução exponencial assim relativamente lenta, quando passa após milhares de anos a coisa explode de uma maneira brutal. E eu acho que isso é de facto muito contra-intuitivo e muito interessante.

Arlindo Oliveira
Eu lembro quando era miúdo havia um desses enigmas, não era bem uma espécie de mistura, era bem uma andota porque não era uma graça, mas perguntava-se a alguém se era possível dobrar... Dobrar o papel. Exatamente, para chegar ao lugar. Se pode dobrar 30 vezes ou 40, já me lembro a quantas vezes... Já não sei quantas era, mas é engraçado porque abstraindo-nos agora àquilo dos limites de dobragem de papel, de sobrepapel numa esfera de cartón... Não, mas é fácil.

José Maria Pimentel
Se você dobrar 10 vezes, fica com 1.000 folhas de papel. Se dobrar 20 vezes, fica com um milhão de folhas de papel. Um milhão de folhas de papel, mesmo que aquilo seja muito fininho, já dá vários quilómetros. Exatamente. Portanto, se dobrar 30 vezes, dá mil milhões de folhas de papel. Se a gente pensar, é fazer as contas, mas aquilo tem que chegar à luta. É claro que não se consegue dobrar o papel 30 vezes, mas é exatamente isso.

Arlindo Oliveira
E nas últimas operações está-se a dobrar já sobre um número tão grande que cada passo vai aumentando. Mas isto para dizer, esta é a base, no fundo, do progresso tecnológico nos últimos anos.

José Maria Pimentel
É, e o livro está um bocadinho construído sobre essa questão. Exatamente.

Arlindo Oliveira
E é muito, de grande parte, o argumentário em relação ao futuro da inteligência artificial, tem que ver com isso. Depois há o outro lado que é todos os crescimentos ponenciais têm limites. No caso dos elefantes havia um limite evidente que era que eles iam morrer. E no caso do ser humano acontece a mesma coisa, embora o mundo esteja sobrepopulado, não deixa de ter limites a esse crescimento. Neste caso, há quem diga que até que já atingiu esse limite. Sim, há quem diga, e aliás o Pedro Domingos, aliás no seu livro até defende isso,

José Maria Pimentel
que nós assistimos a uma altura de rápido crescimento e vamos assistir a uma altura de rápido crescimento. E eu não tenho a resposta definitiva sobre isso e até aceito que é uma boa possibilidade. Mas eu acho que nós temos aqui de escolher uma de duas. Que eu acho que são, das duas, uma. Ou a evolução vai continuando a acelerar. Uma coisa que é mais ou menos exponencial por causa dessa ideia, que constrói sobre as suas próprias avanças, constrói as novas avanças. Ou então não, ou então houve uma evolução muito rápida, desde que começou a evolução industrial. Até agora temos aqui 200 ou 250 anos de evolução muito rápida, mas agora vai faltar ao ser humano criatividade, vai faltar a capacidade de execução. E, apais, nestapoca a gente pensa, isto agora vai desacelerar, portanto, daqui a 100 anos a malta ainda vai andar com o iPhone 20, não é? Sim. E daqui a mil anos a malta vai andar com o iPhone 30, mas é muito parecido, os milhões andam nos autocarros com os iPhones e a coisa muda. Esta é a alternativa também, porque há duas alternativas, a gente acredita que isto vai mudar muito e vai mudar cada vez mais rapidamente e daqui a mil anos a gente não reconhece a sociedade, ou então é outra oposta, que isto vai ficar tudo muito aborrecido porque as coisas não mudam quase nada. Eu acredito na primeira, Acredito que as coisas vão continuar a mudar muito rapidamente. E acredito que nós, neste momento, não temos as ferramentas mentais para imaginar o que é que será a civilização daqui a mil anos. Mas aceito que a outra hipótese também é possível, que a gente viveu aqui uma idade doura do desenvolvimento tecnológico. Ah, mas agora a gente já não vai conseguir, a lei de Mouro vai cair, já não vamos conseguir pôr mais transistores no chip, a malta já não consegue lembrar-se de mais nada para pôr num telemóvel, além do que está lá, etc, etc. E, portanto, a civilização daqui a mil anos vai ser muito parecida com a que temos agora. Os telemóveis um bocadinho mais rápidos, mais pequenos ou maiores, não sei, etc. Eu não acredito muito nesta segunda hipótese, acredito mais na primeira. Mas sou a primeira a dizer, é possível, é possível, pode acontecer. A gente vive agora uma idade bestial e agora os próximos 800 anos, há mil anos, vão ser uma estucha.

Arlindo Oliveira
Sim, é como sua resposta no início, se a pessoa soubesse... Exatamente. Se a pessoa soubesse, gostaria acho que haveria sobre o assunto. Eu acho difícil, apesar de tudo, imaginar uma estagnação, embora... A Idade Média, por exemplo, não foi tão parada em termos tecnológicos como se pensa. Mas ainda assim, comparativamente com o pós-revolução industrial, era bastante

José Maria Pimentel
parado. Os caras não tinham transistores, não tinham telemóveis, não tinham eletricidade, não tinham transportes, não tinham máquina a vapor. Portanto, agora temos muita coisa acima disto, não é? E temos muita malta a pensar no que é que se pode fazer com isto.

Arlindo Oliveira
Pois, sobretudo isso, exatamente. E embora nos falte, que é uma questão interessante, nós temos muito pensamento direcionado, como nunca tivemos, temos muito pouco... Não sei se esse modelo era possível de subsistir, mas temos pouco daquele pensamento dilatante como existia... O Darwin era um exemplo disso, não é? Sim, é verdade. Que é muito interessante pensar nisso. Mas

José Maria Pimentel
tínhamos muita gente, sabe? Mas nós temos de dar. Ainda havia uns milhares de pessoas que eram cientistas, que aliás eram geralmente as pessoas que tinham dinheiro.

Arlindo Oliveira
Exatamente, aquilo era um hobby para eles.

José Maria Pimentel
Era um hobby. Mas agora nós temos milhões de cientistas e centenas de milhões de engenheiros e de coisa de trabalhar nestas coisas. Portanto, é verdade que cada um deles se calhar tem menos liberdade.

Arlindo Oliveira
E liga-se com aquela questão inicial, não é? Eles estão a investigar aquilo porque são pagos para investigar.

José Maria Pimentel
Mas são muitos. Não, evidente, claro. E basta um deles ter uma ideia brilhante.

Arlindo Oliveira
Claro, claro. Essa é que é a questão. Eu trouxe esta questão porque já pensei sobre isso, acho interessante, no fundo, nós tendemos sempre a achar que a sociedade vai progredindo, e esse é um campo em que reerdiu, em certo sentido, porque havia ali um conjunto de pessoas que tinham liberdade, por razões perversas, porque de entrada não tinha outro a trabalhar para eles, em condições normalmente não-excecionais. Mas isso prende-nos com uma questão interessante, e que é, eu vi um artigo, tinha a

José Maria Pimentel
ver com a singularidade, depois de escalar, talvez para essa zona, mas que é, Nós não sabemos como é que a Ciência Social vai evoluir, mas como essa pessoa argumentava nesse artigo, esse autor é assim. Até pode ser que a comunidade toda esteja um bocadinho às escuras e que está a trabalhar nos algoritmos mais ou menos coisas, mas basta uma pessoa fazer um breakthrough. Por exemplo, agora foram os tipos da DeepMind que fizeram aquilo com o Google, que ninguém pensava

Arlindo Oliveira
que iria fazer.

José Maria Pimentel
Portanto, basta uma pessoa fazer, porque com as comunicações que temos, a sociedade que temos, tudo isto, o Breakthrough pode aparecer de qualquer lado. E neste momento eu tenho milhões de pessoas a trabalhar em ciências artificiales e em Machine Learning. Portanto, basta um deles ter uma ideia brilhante, está a ver? E isso basicamente leva toda a comunidade para esse novo local. Portanto, realmente, uma inteligência artificial genérica pode aparecer muito mais cedo e mais indesperadamente do que se está à espera. Porque basta haver uma pessoa que tem uma ideia brilhante. Se der, o céu funciona assim. Vou experimentar. E

Arlindo Oliveira
de repente, claro, essa é a grande dificuldade na área da ciência da pessoa para ver. Aliás, eu vi um exemplo muito engraçado, agora não me ocorre o nome da pessoa em causa, mas na véspera ter havido sucesso na exploração da energia nuclear...

José Maria Pimentel
Sim, sim, essa é muito conhecida,

Arlindo Oliveira
o Enrico Fermi. Exatamente, exatamente.

José Maria Pimentel
O Enrico Fermi, em 1939, portanto a primeira bomba notou em 1945, mas a tecnologia era conhecida. Exatamente. O Enrico Fermi, em 1939, perguntaram-lhe o que é que ele achava que era possível? Criar fissão nuclear controlada, um

Arlindo Oliveira
mecanismo que era

José Maria Pimentel
mais potável. E eu, em 1939, disse eu tenho 90% de certeza que isso não é possível. Depois, em 1942, um ano antes de eles terem conseguido por alguma coisa trabalhar, perguntaram-lhe o quanto é que ele achava que aquilo ia demorar a conseguir, ele disse, ah, isto vai demorar muitas dezenas de anos. Nesta altura já acreditava que era possível. Sim. Mas isto vai demorar muitas dezenas de anos. E um ano depois os gajos tiveram a primeira reação em cadeia no reator, que foi feito num corte-secoche lá nos Estados Unidos. E portanto, as pessoas, muitas vezes, as próprias pessoas, estão entre as coisas, subestimam o que é. E houve uma conversa interessante, aqui há um ano atrás, houve uma conferência sobre a consciência artificial, sobre a especulação do futuro e tentaram ver. Mas digam lá coisas de certeza que vocês acham que em 10 anos nós não conseguimos fazer consciência artificial. Eu vou agressistar aqui, vou tomar nota. E ninguém conseguiu atravessar isso a dizer uma coisa. Porque o que ele disse era, se as pessoas fizeram uma coisa muito... Porque é assim, se fizer uma coisa muito difícil, também não é de espantar que seja em 10 anos. Se for uma coisa muito fácil, a probabilidade de estarem errados é muito grande. Portanto, ninguém se conseguiu atravessar assim com nenhuma

Arlindo Oliveira
coisa. Ok, esse exemplo é interessante. Depois alguém diz, temos um robô que arruma a cozinha, depois um gajo que cozinha, isso em 10 anos não vamos ter. Talvez não.

José Maria Pimentel
Mas é interessante, portanto, temos de ir para coisas que são... Se tiver um robô que arruma a cozinha depois de um gajo cozinhar, isso em 10 anos não vamos ter. Talvez não. Mas é interessante, portanto, temos de ir para coisas que são... Se tiver um robô que arruma a cozinha, aquilo é

Arlindo Oliveira
muito complicado, porque aquilo é um ambiente muito pouco estruturado. Claro, claro. E varia imenso. E há outra questão ainda engraçada, antes de avançarmos para a consciência do que eu falei à pouco. Há outra questão ainda que é... Ou, por outro, há outra forma como isto se pode desenrolar, que é dos progressos ao nível da biologia, no fundo, convergirem com os progressos ao nível da inteligência artificial e se quase deixar de ser necessário a inteligência artificial chegar lá sozinha, porque a pessoa consegue prolongar a vida humana indefinidamente e no fundo criar uma espécie de quase um cyborg, não é? Quando a junção entre uma coisa e outra. O meu livro não é tanto sobre esse assunto. Eu sei que não, aliás, o livro até refere que...

José Maria Pimentel
Isso é uma questão muito interessante, mas não é para este vídeo, porque essas mentes não seriam digitais. Nós, de facto, Eu acho perfeitamente possível que através da engenharia genética, do nosso conhecimento cada vez melhor, dos mecanismos biológicos, seja possível controlar a gene... Ou seja, é relativamente fácil identificar componentes no genoma que estão relacionadas com a inteligência. Isto é uma análise que é possível fazer e provavelmente nem são as mais complicadas porque isto é uma coisa, como deve calcular,

Arlindo Oliveira
muito sensível. Claro, exato.

José Maria Pimentel
Mas quer dizer, se eu disser que há componentes no genoma que estão relacionadas com a altura das pessoas, já ninguém se chateia, não é? Toda a gente acredita. Há coisas que estão correccionadas, e com outras, e com o peso da pessoa, e com a cor dos olhos, etc. Quando falo na inteligência, me fico a cada vez sendo um bocadinho nervosa, porque é uma chatice.

Arlindo Oliveira
Claro, porque é um tema delicado.

José Maria Pimentel
É um tema delicado. Mas parece-me perfeitamente razoável que a engenharia biológica venha a sugerir a possibilidade de tecnicamente existir essa possibilidade, de eu fazer uma mutação nas células originárias que tenha tendência, que no resto seja inofensiva, e que tenha tendência a aumentar a inteligência média da pessoa. Isto aqui, como deve calcular, é um tema que só por si também dava um podcast. Mas quem diz isso diz outras coisas. Controlar doenças, a pessoa ser menos sensível a doenças neurodegenerativas, prolongar a vida, há uma série de mecanismos e, honestamente, A engenharia genética está... Existem outras vias que não têm nada a ver, ou se for muito indiretamente, é que têm a ver com computadores, que também permitiriam alterar profundamente a maneira como vivemos isto. Mas de facto não é sobre isso que fala no livro, portanto esse é um outro assunto. Eu também trabalho em bioinformática e na análise, na correlação entre as características do genoma e as características dos organismos, do feno-tipo, há muito trabalho aí que pode ser feito. E há muito dele que também tem consequências éticas extremamente difíceis, nomeadamente tudo o que seja introduzir alterações genéticas na linha somática, na linha que depois conduz a todas as alterações.

Arlindo Oliveira
Toda a investigação nessa área é altamente polémica. A questão da consciência, de que eu falava há pouco, é a questão mais filosófica de todas, aliás, até...

José Maria Pimentel
A consciência é um barbicágio.

Arlindo Oliveira
É um grande barbicágio e, em certo sentido, também é a mais interessante. Há aqui dois polos opostos, há quem diga que é aqui que está a essência da questão e há quem diga que isto basicamente não tem relevância nenhuma porque é evidente que...

José Maria Pimentel
E há quem diga que é uma ilusão, basicamente.

Arlindo Oliveira
É esta a segunda tese, no fundo a consciência não é nada. Aliás, essa é uma das perguntas, que é a consciência... Há quem tenha essa visão de que a consciência não é mais do que uma ilusão e que tudo aquilo que não é o raciocínio consciente, tudo o que tem a ver, por exemplo, com emoções, resulta simplesmente dos mesmos circuitos ocorrerem no cérebro, nós é que temos uma percepção deles diferente. Pois, o livro,

José Maria Pimentel
numa parte pequena e portanto não pude aprofundar, emborda um bocadinho a questão da consciência, que a mim sempre fascinou, porque nós todos sabemos o que é a consciência, sabemos que somos conscientes, temos a nossa linha de consciência, etc. Depois quando tentamos espremer aquilo, aquilo fica um bocadinho mais complicado. E até para uma pessoa que trabalha em computação fica ainda mais complicado. Eu sou nesse aspecto muito influenciado por alguns pensadores, nomeadamente o Daniel Dennett, mas apresenta alguns argumentos no livro. E prendes com aquela história de... Ele também tem um nome para aquilo de Multiple Draft Model daquilo de interação com o português, mas basicamente é esta ideia de que a nossa mente é um conjunto de agentes mais ou menos inteligentes e eles fazem mais ou menos o que lhes apetece, mas nós só fazemos uma coisa, somos uma pessoa só e depois no fim criamos uma consciência que é a

Arlindo Oliveira
maneira de escrever o nosso percurso através da vida. É o repórter, não é? É o repórter, é uma espécie do repórter. Exatamente, é aquela metáfora do repórter. O

José Maria Pimentel
repórter não é grande coisa como para dizer que a consciência é uma coisa bestial, não é? O repórter é uma espécie de... Está ali e vai vendo o que acontece e depois... Mas há uma série de evidências experimental para a história do repórter. Alguma delas está no livro. Nomeadamente aquelas experiências... Primeiras experiências com split-brain patients, pacientes que têm as duas metades do cérebro separadas e tanto têm dois agentes completamente autóctones do mesmo cérebro e depois um deles justifica as ações do outro, a palavra não está nem influenciado. E aquelas experiências dos timings do Liebert... A

Arlindo Oliveira
questão mecânica, não é? A questão mecânica, a pessoa

José Maria Pimentel
diz Quando é que tomou a decisão? E a pessoa obviamente já tomou a decisão antes de perceber que tomou a decisão, que é uma coisa muito estranha. Mas todas essas apontam um bocadinho o mesmo sentido, que de facto a consciência é mais um repórter, que de alguma maneira conta uma história coerente de todas as coisas que a gente fez, do que alguém que está antes e que toma as decisões por nós. O que é uma coisa muito perturbante, pelo menos para mim.

Arlindo Oliveira
Sim, é desconcertante, não é?

José Maria Pimentel
É muito desconcertante. Agora, obviamente eu no livro não tenho tempo para abordar isso em profundidade, e há um bocadinho lá, mas está lá justamente para argumentar que talvez a consciência não seja uma coisa tão mágica como isso tudo. E talvez um sistema, por exemplo, como aquele que eu à pequena sugeri, de um sistema que vai tendo várias agentes e vai comportando-se, se calhar a páginas tantas nós seremos capazes de dar, de perceber consciência naquilo, talvez. Se eu perguntar à Alex, Alex, mas porquê é que agora pôs essa música a tocar? Ah, porque ontem você me pediu para eu investigar sobre o Mozart. Se ela conseguir fazer isso, não é muito difícil pensar que um sistema possa fazer isto. Páginas tantas, a gente começa ali a pensar se não há ali alguma coisa a mais além de uma resposta puramente mecânica.

Arlindo Oliveira
Exatamente, sim. A partir do momento em que traça o padrão...

José Maria Pimentel
Exatamente, traça um padrão, tenta um padrão, tem uma história para contar, não é? Até porque eu lhe pedi sobre o Mozart, ah, porque você estava farto de ouvir os Pink Floyd. Está a ver? Ah, eu consigo programar um sistema que faz mais ou menos isto. Só que, para as gerentes, você começa a colocar consciência livre, arbítrio. Está a ver? Isto é figurativo.

Arlindo Oliveira
A questão da consciência é que é uma... Lá está. Era aquilo que o Aline falava há pouco. É uma destas coisas. Se a pessoa perguntar na rua... Se a pessoa perguntar a uma pessoa na rua, sabes o que é consciência? Toda a gente dirá que sim. E no entanto é uma coisa que nem filosoficamente, quanto mais cientificamente, há um conceito em relação a ela. Cientificamente é impossível, não há nenhum teste para a consciência. E a palavra é polissémica, ela própria. Por exemplo, A consciência tem a ver com a noção de existir, no fundo, em certo sentido. Tem a ver com a intencionalidade. Aliás, o John Searle, que é quem, no fundo, julgo que foi o primeiro, ou pelo menos o primeiro a corporizar esse argumento de uma forma... John Searle é muito defensor de

José Maria Pimentel
uma mágica qualquer nos céus. Exato. Ele cria coisas assim. Eu não concordo muito com ele. Sim, mas é uma pessoa que pensou muito profundamente sobre isso. É verdade, a consciência tem um certo componente e tal. Manoel também está a relacionar com a questão do livre arbítrio. Exatamente.

Arlindo Oliveira
Mas não é a mesma coisa. Não, não, mas são coisas diferentes. Ele fala da intencionalidade, no fundo o que ele... Depois

José Maria Pimentel
ainda há uma outra coisa, que eu acho que não tem quase nada a ver com isto, que é a consciência moral. Aliás, os

Arlindo Oliveira
ingleses têm duas palavras, que é consciência

José Maria Pimentel
senestra e consciência moral. Portanto, eu acho que são duas coisas um bocadinho diferentes.

Arlindo Oliveira
É a questão dos princípios éticos. Dos princípios éticos. Porque eu acho que essa está mesmo ao lado. Essa é outra e também é outra questão interessante. Já lá vamos, porque também se tem falado muito sobre isso, mas eu concordo que é diferente, não é? Aqui o que estamos a falar é a questão de... De consciência, autoconsciência. Autoconsciência, o John... John... John Searle. John Searle, o argumento dele, Salvo Irrela é o autor daquele Chinese Room Experiment, e no fundo o que ele diz é que determinado programa pode até fazer determinada coisa... Mesma coisa, mas não é. Mas não tem consciência. Pode fazer exatamente a mesma coisa, mas não tem consciência. Exatamente, não tem intencionalidade em fazer. Isto é petafísico, não é? É, mas é o argumento dele, por isso é que eu não

José Maria Pimentel
concordo com o argumento dele. Que aliás é exatamente o oposto do argumento do Turing. Tanto o teste do Turing foi fácil. Se o sistema A faz exatamente o mesmo que o sistema B, se o sistema A for inteligente, o sistema B também é. Ele não disse, mas eu acrescento, se o sistema A faz a mesma coisa que o sistema B, e a gente não consegue distinguir, se o sistema A é consciente ou o sistema B também é consciente. Exato. O cérebro não reconhece isto. O cérebro diz, não, não, não, isso só manipular símbolos não conta. Tem de ser mesmo um cérebro humano só e é que dá. E o cérebro não está sozinho nisto, a outras coisas.

Arlindo Oliveira
Claro, E há quem diga, por exemplo, e essa é a questão interessante, porque a maneira de pensar que eu estava a expor inicialmente, voltando àquela questão do machine learning, por exemplo, é que, no fundo, se nós assumimos que há aqui uma progressão incremental ou exponencial, essa progressão levar-nos à partida nada impede, tirando aqueles argumentos de que falámos antes, mas admitindo que não existe esse tipo de limitações, nada impede a chegar à inteligência artificial a nível humano. Mas há quem diga, por exemplo, que a consciência não é algorítmica. Pois, mas é o mesmo argumento, é o argumento do Soros, o argumento do Penrose,

José Maria Pimentel
que a consciência não é algorítmica. Mas como ninguém sabe o que é consciência, isso é mais uma questão de fé, não é? Sim, sim. Porque...

Arlindo Oliveira
Não, na verdade é muito parecido, eu digo isto como alguém que aprecia este argumento da consciência, mas eu reconheço que o argumentário é muito parecido com o argumentário relacionado com a religião, é muito parecido. É exatamente igual. É a questão de não se conseguir provar o contrário. Exatamente,

José Maria Pimentel
não se conseguir provar o contrário. Mas eu volto a dizer, eu acho que isso é exatamente o oposto do que o Turing propôs. Se a gente não consegue distinguir na interface, é porque tem de ser a mesma coisa. E as pessoas estão ao contrário, que aliás, como muito bem disse, é um bocadinho a mesma questão que a religião. Se eu fizer aqui uma cópia átomo por átomo de si, se cá não tem alma, você tem, mas esta cópia não tem. Mas isso é uma questão filosófica, é uma questão religiosa, é uma questão de convicção, porque nenhuma experiência física poderá distinguir um sistema que tem alma de um sistema que não tem alma, tal como não pode distinguir um sistema que tem consciência de um sistema que não tem

Arlindo Oliveira
consciência. Mas apesar de tudo, eu aí diria que é um bocadinho diferente, porque se reproduzissem átomo por átomo, seria alguém igual a mim. O que acontece na inteligência artificial é que não houve até agora nenhum live, ou pelo menos reconhecido enquanto tal, de consciência e de intencionalidade

José Maria Pimentel
da parte... Mas a questão filosófica tem um bocadinho a ver com isso.

Arlindo Oliveira
Não, tem um bocadinho a ver, não é? Exatamente. Mas é...

José Maria Pimentel
Aliás, eu dou o exemplo também de um dos críticos disto, que é o homem do Pântano, onde ele dá exatamente este argumento. Se eu produzir ate

Arlindo Oliveira
um trabalho de uma pessoa, o Són Pemeno não tem alma. Ele falava de consciência. É aquele que são dos dualistas, não é? É, que são dos dualistas. Mas eu acho... Isto para dizer que eu, por exemplo, pessoalmente não me vejo como um dualista e no entanto... Mas há um bocadinho de dualismo. Eu não a chamaria, se calhar estou a ser... Estou a tentar

José Maria Pimentel
preservar... Mas é isso que eu tento descascar um bocadinho no livro, porque a maior parte das pessoas diz que não é dualista. Mas depois quando a gente pergunta ali um bocadinho

Arlindo Oliveira
mais a fundo... Claro, sim, há uma moral no fundo que está relacionada

José Maria Pimentel
com isso. É, exatamente, há umas coisas um bocadinho mais a fundo.

Arlindo Oliveira
Porque a questão... Por exemplo, outra questão que isto me suscitou logo é a questão do inconsciente, por exemplo. O cérebro humano, e isso tem que ver com o lado mais, não só neurológico, mas também psicológico. E, no fundo, o cérebro humano funciona de uma forma que não é análoga à maneira como o algoritmo está construído para funcionar. Mas isso pode não ser uma característica, pode ser uma limitação do cérebro humano. Agora, isso está presente em muitos, está presente nas nossas emoções, as emoções têm muito que ver com o inconsciente, embora não sejam a mesma coisa. Mas são todos neurônios a disparar

José Maria Pimentel
E os neurônios podem ser simulados no computador. Mas

Arlindo Oliveira
o processo é dif... Ou seja, se as nossas emoções... No fundo, eu faria a pergunta assim, esta distinção consciente-inconsciente torna-se irrelevante no algoritmo? Porque não faria sentido ter um computador construído para ter consciente-inconsciente. É quase uma contradição em termos, não é?

José Maria Pimentel
Pois, mas eu acho que essas coisas são... Pois, estamos a entrar numa zona completa,

Arlindo Oliveira
mas eu acho que é tudo...

José Maria Pimentel
São tudo ilusões. O consciente e inconsciente são tudo neurônios.

Arlindo Oliveira
Eu digo, o que eu quero dizer é, eles podem ser ilusões, mas estão muito presentes na maneira de atuar do cérebro humano. O inconsciente dita muitas das nossas ações. Aliás, essa questão da... O exemplo que falava há pouco da mecânica... O inconsciente

José Maria Pimentel
dita quase todas as nossas ações.

Arlindo Oliveira
Pois, quase todas, exatamente. E no fundo, sem perceber exatamente o que aquilo é, é muito difícil perceber se... Pois, é. Não é? Como... Mas pode isto...

José Maria Pimentel
Mas voltamos àquele modelo do cérebro, como é o multiple draft do Dennett, ou o modelo das... Nós temos aqui muitos agentes, não é? Há uns que estão preocupados com a sobrevivência, outros com coisas... E depois, o nosso comportamento como ser humano resulta desta interação. E de alguns filtros que outros agentes põem em cima destes, quer dizer, se eu matar alguém, em princípio, aparece outra gente e diz que isso não é boa ideia,

Arlindo Oliveira
etc. Há aqui uma questão muito interessante, independentemente destas limitações da consciência, admitindo a progressão da inteligência artificial, há aqui vários perigos, digamos assim, com várias ordens de grandeza e também com várias ordens temporais, uns mais próximos e outros mais longínquos. Para seguir uma lógica contra-intuitiva começando pelos mais longínquos, há a questão que já falámos há pouco superficialmente, da singularidade, que no fundo, que é ela própria também em certo sentido contraintuitiva, que é a partir do momento em que o primeiro algoritmo é criado, o primeiro algoritmo genérico e com capacidade equivalente à humana é criado, como esse algoritmo não tem as restrições biológicas que o ser humano tem, ele pode criar o algoritmo seguinte e por aí em diante num curtíssimo espaço de tempo, e muitos dos alertas para os perigos da inteligência artificial têm em conta isso, que é nós podemos...

José Maria Pimentel
Pode ser tarde para agir. Essas duas questões estão relacionadas e podemos tratar das duas ao mesmo tempo, embora eles sejam um bocadinho diferentes. Uma é a questão da singularidade tecnológica e outra é a questão das superinteligências ou vias pela visão da inteligência. Portanto, o Irving John Good, que foi um cientista que trabalhou com o Alan Turing, foi o primeiro a dizer que se a gente, alguma vez, inventar, se o homem, alguma vez, inventar uma máquina tão inteligente como ele, já não precisa inventar mais nada. Ele chama-lhe a última invenção da humanidade, porque depois a máquina faz o resto. Como trabalha mais depressa, pode ser reproduzida, os problemas podem ser copiados muitas vezes, a partir daí não precisa fazer mais nada, fica ao lado e espera que a máquina faça a próxima versão e essa faça a próxima versão, etc. Que é aquela ideia da explosão da inteligência. Nós não estamos muito longe disto, por exemplo. Eu consigo até tomar um ver a isto, embora, como eu disse, o jogo do Go tem ali em domínios específicos é interessante ver isto a acontecer. Muito específicos. Portanto, essas duas questões de facto estão relacionadas. Eu não tenho uma resposta para isso. Há pessoas que se preocupam com isso. É curioso que há grandes investigadores, pessoas dos nomes mais importantes da área de ciência artificial, nomeadamente o Stuart Russell, que é talvez a pessoa mais conhecida da área

Arlindo Oliveira
de ciência artificial, é um

José Maria Pimentel
professor em Berkeley, e que ultimamente tem-se dedicado muito a esta questão. Ele fez parte daquela carta

Arlindo Oliveira
aberta que tinha vários nomes, tinha o Stephen Hawking

José Maria Pimentel
também. Sim, exatamente. Mas o Stephen Hawking não é um físico. O Stuart Russell não. O Stuart Russell escreveu o livro de inteligência artificial que todas as universidades usam, incluindo a nossa. No Stuart Russell não se pode dizer que é uma pessoa que não percebe bem das tecnologias artificial, porque ele, só alguém percebe a ele. Portanto, não deixa de ser interessante que ele e outros, de facto, consideram que essa questão é suficientemente relevante para ser digna de análise. Porque eu podia dizer, não, a gente tem a desenvolver inteligência deixando só dessas coisas, como aliás muita gente diz, deixando só dessas coisas, estamos tão longe disso que isso é um problema que não existe. Mas algumas pessoas não acham isso. Portanto, eu acho que pelo menos dedicar algum tempo a pensar nessa questão acho que vale a pena. Não é que eu acho que vai haver um Terminator ou uma coisa qualquer parecida, acho que esse modelo não. Mas pode haver coisas diferentes, pode haver sistemas que tomam conta dos computadores para tentar atingir um objectivo qualquer que a gente vos disse para atingir, sei lá, para evitar a pirataria informática e coisas assim, portanto pode haver outras questões. Portanto, eu acho que essa questão é filosoficamente interessante e acho que é, pelo menos, justamente interessante para a gente dedicar um bocadinho do esforço de investigação a pensar nessas questões.

Arlindo Oliveira
Não, a questão que ele levanta, o Stuart Russell, eu ouvi uma entrevista com ele, com o Sam Harris, não sei se... Sim, eu vi essa entrevista dele. Exatamente, que era muito interessante e ele falava, exatamente, e ele falava exatamente daquilo que falámos há pouco, que é a questão da função objetivo, não é?

José Maria Pimentel
Exatamente, exatamente. E tem que ter cuidado com o que é que pede

Arlindo Oliveira
a pessoa. Exatamente, e se a pessoa pede para fazer A, ele para fazer A pode não ter o discernimento, pode não ter lá está, se quisermos chamar-lhe a consciência, ou pelo menos a...

José Maria Pimentel
A inteligência.

Arlindo Oliveira
Exatamente, e a inteligência no sentido da... Do bom senso. Do bom senso, exatamente, aquilo que nós chamamos de bom senso para perceber o que está em jogo. E portanto, no fundo, o trabalho que ele está a tentar fazer de alerta parece-me que é alertar quem programa para... É, eles

José Maria Pimentel
chamam-lhe o alinhamento.

Arlindo Oliveira
Exatamente, Value Alignment Program.

José Maria Pimentel
É a questão de garantir que os sistemas que a gente está a ver vão ter os valores alinhados com as necessidades da raça humana. Eu costumo dar o exemplo, costuma ser claramente perceptível, se lembro que eu tenho aí um sistema, finalmente, muito inteligente. Daqui a 10 anos tenho um sistema super inteligente, consegue resolver qualquer problema importante para a humanidade. E eu digo, então olha, faz o que for preciso para parar o Aquecimento Global. Há uma solução muito fácil para o Aquecimento Global, é exterminar a humanidade. Se exterminar a humanidade, o Aquecimento Global

Arlindo Oliveira
está resolvido. É mais fácil, em certo sentido. Está resolvido,

José Maria Pimentel
não é? Portanto, agora não convém ser essa a solução. Depois já é tarde. Não, não era bem isso que eu queria dizer. Parar o Aquecimento global sem matar ninguém.

Arlindo Oliveira
Há aquela parábola do Jrnio e da Lâmpada, não é? Uma série de anedotas que são assim. Exatamente, exatamente. O tipo pede o primeiro desejo, o segundo e no fim acaba... E o terceiro é dizer... É voltar atrás, neste caso, porventura não dava para voltar

José Maria Pimentel
atrás. Exatamente. É preciso ter cuidado, mas o que o Sistema de Outros o dia de hoje, as pessoas dizem, e eu acho que eles têm razão, o que é que o sistema que a gente peça aos sistemas para fazer, temos de ter a certeza que estamos a especificar bem a questão.

Arlindo Oliveira
E o argumento dele, ou por outra, ele sustenta a preocupação no facto de muitos algoritmos recentes, e julgo que ele está a falar especialmente destes relacionados com o machine learning, serem black box e serem caixas negras. Exato, o jeito não sabe o que é que está a ver.

José Maria Pimentel
Isso foi uma coisa que eu não referi à opinião da questão da aprendizagem, que é, ao contrário de um programa que é especificado detalhe por detalhe, linha por linha, num destes sistemas que aprende, nós nunca, está muito descomplexo, Nós nunca sabemos bem o que é que ele aprendeu. Por exemplo, um carro que a gente treine para andar e a conduzir, e este é um dos argumentos principais contra os carros autónomos, que ele tem tempo das redundâncias, porque a gente nunca tem a certeza que um carro um dia não acelera porque uma pessoa vai estes iras de vermelho com faixas azuis, que é uma coisa que ele nunca viu na vida, por exemplo qualquer obstruz. Isto em princípio não acontece, a probabilidade é muito baixa. Mas nós nunca sabemos exatamente o que é que foi aprendido com um sistema destes. É como o cérebro, nós também

Arlindo Oliveira
nunca sabemos exatamente.

José Maria Pimentel
No cérebro também nunca. Sabe-se a pessoa, não sai daqui e vai matar outra ali na rua. O caso é o mesmo. E essa é uma questão importante, que é o que diz o Stuart Russell. São caixas pretas. Nós treinamos um sistema destes, ele funciona bem, funcionou bem em todas as experiências que a gente fez. Nunca acelerou para matar nenhum peão, mas a gente não aumentou todos os peões possíveis à frente. Exatamente.

Arlindo Oliveira
E O Pedro Domingos, em relação a isso, ouviu uma entrevista dele em que ele dizia que nem todos são caixas negras. Há alguns que são, outros que não. Não, não, é verdade. Mas os

José Maria Pimentel
mais complexos e mais poderosos são caixas negras.

Arlindo Oliveira
Pois, e tenderá a evoluir para aí. Quase todos os que estamos a usar agora são caixas

José Maria Pimentel
negras. A outra questão... Há alguns que podes perceber o que é que ele aprendeu, mas são em domínios muito restritos e não atacam geralmente estes problemas genéricos que estamos a falar.

Arlindo Oliveira
Outro perigo da inteligência artificial relacionado com este, no fundo é outra visão de um futuro possível. Este aqui é que há um desalinhamento da função objetivo, uma pessoa dá um objectivo, engana-se quase em certo sentido, ou o algoritmo não prevê isso e acontece uma calamidade. Outro argumento interessante, ou outra possibilidade interessante é a questão do argumento do formigueiro, que está normalmente formulado assim, que não é lá está aquela perspetiva do Terminator de querer eliminar a humanidade, que é obviamente um bocadinho cinematográfica, mas é questão da humanidade deixar de ser importante. Sim, sim, claro, claro. Como são as formigas para nós, não é? Se calhar pisei várias formigas a caminho daqui e não...

José Maria Pimentel
Ah, é para dizer a verdade, quer dizer, nós como a raça mais espécie, mais inteligente da Terra, somos culpados disso, nós não nos preocupamos muito com o bom estar das galinhas, nem sequer dos outros animais, e mesmo dos chimpanzés é isso, a gente deixa-os lá viver em umas reservas, mas não damos exatamente umas condições de vida por aí, além desse risco. Esse risco é um bocadinho diferente apesar de tudo, porque aí já estamos a imaginar um sistema que tem, eu diria que tem de ter uma consciência, tem de ter uma consciência de tal forma avançada que, às vezes, a espécie humana foi,

Arlindo Oliveira
são os mesmos antepassados. Claro, exatamente,

José Maria Pimentel
surge mais à frente, não é? Eu acho que isso é, conceptualmente, é uma questão interessante. Estamos a falar, realmente, de enormes desenvolvimentos, com este momento... Eu acho que isso já está para lá da singularidade. Quer dizer, se chegássemos a esse sítio, é como se tivéssemos um sistema de tal maneira complexo e sofisticado, que mudaria profundamente a sociedade.

Arlindo Oliveira
Sim, é completamente futurista. É

José Maria Pimentel
completamente futurista. Eu acho que isso está para o lado da singularidade. E mesmo eu não tentei a projecto para o lado da singularidade, como percebeu. Já está ali umas especulações.

Arlindo Oliveira
Não, eu acho que se torna um bocado irresistível a certa altura discutir não é? Porque quanto mais longe se está, mais incerto é e, portanto, mais é possível conjeturar sobre uma coisa e outra. O tema da inteligência artificial e em relação ao tema do alinhamento, à questão do alinhamento dos objectivos, o que isto faz que é interessante e, no fundo, explica porque é que há muito... Tem havido muita atenção da parte do filósofo em relação a este tema, é que isto traz para cima da mesa considerações morais que muitas vezes não são implícitos. A questão dos carros, eu lembro de ter feito aquele, O teste que depois, uns tempos depois, começou a ocorrer muito por aí, da pessoa decidir quem é que mataria, quem é que

José Maria Pimentel
não mataria. Mesmo aqui tem um sítio que é o Moral Machine, para a gente decidir quem é que mata e quem é

Arlindo Oliveira
que não mata. Exatamente. Eu apanhei isso a primeira vez num curso aberto de árvore sobre justiça do Michael Sandel, que tem muita piada, e ele falava nesse teste, que é um teste que nos obriga a fazer escolhas mas nós não fazemos no dia a dia, temos-las implícitas em certo sentido. Exatamente. E é preciso colocar na máquina entre uma pessoa de idade e uma criança o que é que a máquina vai fazer e ela tem que ter isso ou não tendo, qual é a alternativa? A alternativa é não fazer nada ou a alternativa é...

José Maria Pimentel
O que acontece é que nós, quer dizer, nós geralmente nos exames de condição não perguntam se a gente mata a veia do lado esquerdo ou mata o jovem

Arlindo Oliveira
lá à direita a atravessar no sinal vermelho,

José Maria Pimentel
não é? Porque nós também geralmente não temos tempo para isso, não é? Os poucos casos em que lamentavelmente existem acidentes absolutamente não tem tempo para racionalizar, mas os computadores têm, não é? Porque são muito mais rápidos. Claro, exato. Portanto, um computador que decida matar a velhinha que está do lado esquerdo, em vez da criança, tomou deliberadamente essa decisão. E essa decisão temos de garantir que é o mais aceitável possível. Isto parece com aquela questão do trolley problem, que eu por acaso não falo no livro, mas tem muito a ver com estas coisas. Com o elétrico.

Arlindo Oliveira
Não sei qual é.

José Maria Pimentel
Sabe, é muito conhecido que houver um elétrico, eu posso desviar o elétrico e botar

Arlindo Oliveira
a minha pessoa. Ah, já sei. O Michael Sandler falava disso, mas era com o comboio. É, é o

José Maria Pimentel
troll. Chama-se troll e é o problema. Há um livro. Há vários. Há muitos artigos.

Arlindo Oliveira
Isso é interessante. Eu vou terminar a conversa fazendo-lhe uma pergunta relacionada com aquele papel com aquele teste que estava a falar há pouco. Portanto, suspeito que possam não querer responder, mas se tivesse que atravessar genericamente com uma timeline, com uma ordem de progressão para aquilo de que falávamos, o que é que diria? Relativamente... Relativamente, por exemplo, a abstrair-nos aqui da questão da consciência em relação a termos de inteligência artificial genérica, que engloba várias tarefas.

José Maria Pimentel
Eu estou convencido que através de sistemas de inteligência sintética, desenhados a partir de técnicas que não têm nada a ver com o cérebro humano, tais como os que estão por trás da Siri, da Alexa, da Google, etc. Acho que esses sistemas vão se tornar cada vez mais sofisticados e nós vamos passar a depender muito mais deles. E que a pressão natural será para que eles desenvolvam uma personalidade suficientemente própria e suficientemente sofisticada para, às páginas tantas, nós, pelo menos implicitamente, concedermos algum tipo de reconhecimento pela personalidade. Não diria consciência, não diria personalidade jurídica, mas reconhecemos personalidade, ou seja, um assistente que está connosco muitas horas do dia, que trata dos nossos assuntos, etc., que manda flores à mulher no dia do aniversário, etc. Será demasiado parecido com o humano, para nós não lhe reconhecermos, há algum tipo de... E portanto esse será provavelmente o primeiro passo. As outras vias, via simulação dos mecanismos do cérebro ou mesmo via o mind uploading, via cópia integral do cérebro e simulação, eu acho que são tecnologias que estão mais distantes, embora, como já várias pessoas observaram, elas já existem agora, é só uma questão de escala, ou seja, nós conseguimos fazer isto para sistemas muito pequeninos como a induzir neurónios. Não conseguimos fazer para um cérebro humano que tem mil milhões, 100 mil milhões. Mas as tecnologias existem, portanto é só questão de as desenvolver e aperfeiçoar. Não é preciso nada que não exista agora. Pois

Arlindo Oliveira
lá está, é continuar a subir os degraus. Aparentemente. Há

José Maria Pimentel
coisas que é preciso, por exemplo, para a segunda via, que é desenvolver um cérebro humano, nós neste momento não sabemos. Há tecnologias que não

Arlindo Oliveira
existem, pode ser que venhamos até hoje, mas não existem. Sim, não se está sequer a investigar.

José Maria Pimentel
Está a investigar, mas aqui é muito difícil.

Arlindo Oliveira
Não existem, é preciso um breakthrough.

José Maria Pimentel
As outras não é realmente preciso um breakthrough. Nas duas vias, quer das agências sintéticas, quer na cópia integral, não é realmente preciso nada que a gente não conheça agora, é só preciso desenvolver muito, certo? Técnicas que já existem agora. Portanto, eu acho que essas, provavelmente, agências sintéticas vão estar aí mais cedo do que a gente está à espera. Provavelmente ainda vou ver algumas dessas relativamente genéricas, o suficiente para a gente poder conversar com elas naturalmente. E as outras depois, onde vir mais tarde. Muito Obrigado por ter vindo ao podcast. Muito obrigado a ele, foi muito interessante a conversa. Espero que os ouvintes também. De

Arlindo Oliveira
certeza, porque este tema é daqueles temas que toda a gente está interessado. Muito obrigado por ter vindo e, como dizia a arma, Maria Papoela, um brinde ao Sr. Prior Técnico. Ah, o Instituto é nesta igreja? O

José Maria Pimentel
que é que a menina quer?

Arlindo Oliveira
O senhor fazerá assim em favor do mocense, é aqui que precisa de uma criada de servir, é aqui, o senhor?

José Maria Pimentel
Não, menina. Aqui é o Instituto Superior Técnico.

Arlindo Oliveira
Ah, sim senhor. Mas é também aqui que fica a Comissão Lisbonense, não é aqui, o senhor? A Comissão

José Maria Pimentel
Lisbonense fica ali de pronto, ali para aquele

Arlindo Oliveira
lado. Ah, muito agradecida, sim. Olha e recado ao Sr. Priore. A quem? Ao Sr. Prioténico, olha, o trabalhado que

José Maria Pimentel
o ano... Outra vez, outra vez.

José Maria Pimentel
Têm gostado dos últimos episódios? Se ainda não o fizeram, subscreva o 45° na vossa aplicação de eleição, no vosso smartphone, tablet, etc. Se gostarem mesmo do podcast, convido-vos também a partilhá-lo com amigos e a avaliá-lo no iTunes. É também importante para mim saber o que vai na cabeça de quem ouve o podcast desse lado. Por isso são muito bem-vindos, feedback, críticas e sobretudo sugestões de temas e convidados futuros. Obrigado e até ao próximo episódio.