#5 Arlindo Oliveira - "Haverá alguma vez Mentes Digitais com inteligência superior à humana?"?

Data: Tue, 28 Nov 2017 · Duração: 01:02:46

Clica em qualquer parte da transcrição para saltar para esse momento no vídeo.

José Maria Pimentel 00:00:00.00Bem-vindos ao 45 Grau. 00:00:06.58Neste episódio estou à conversa com Arlindo Oliveira, Presidente do Instituto Superior Técnico e autor do livro The Digital Mind, lançado este ano e cuja edição em português, com o título Mentes Digitais, foi lançada na semana passada. 00:00:18.60Foi uma conversa cheia em que falámos de vários temas ligados ao futuro da inteligência artificial, ou nas palavras do convidado, o surgimento das chamadas mentes digitais. 00:00:26.80Ao usar esta palavra, mente, Arlindo Oliveira transporta deliberadamente a discussão da inteligência artificial atual, independentemente dos seus avanços inegáveis, para um futuro mais ou menos longínquo em que poderemos ter a inteligência artificial equivalente, e portanto superior, à humana. 00:00:41.10Algumas das questões de que falámos podem parecer mais técnicas, mas outras, em maior número do que poderia parecer à partida, são essencialmente filosóficas, levando-nos a questionar o que é ser humano e como pode vir a ser o convívio com estas mentes digitais. 00:00:53.00Sem mais demoras, vamos então mergulhar no mundo da inteligência artificial à boleia de Arlindo Oliveira. 00:01:01.44Muito obrigado por ter aceito o convite para vir ao podcast. 00:01:04.38Eu tenho uma certa, quase, vergonha dos temas anteriores deste podcast, que quase parecem prosaicos comparados com o tema de hoje, que é um tema importante, há quem diga, aliás, que é o tema mais importante que a humanidade enfrenta hoje em dia, embora provavelmente não haja tanta essa noção na atualidade noticiosa, mas há muito quem diga isso, e é um tema, sobretudo, que tem uma série de aspectos que é interessante falar. 00:01:25.24Eu destacava alguns, desde logo, a evolução recente da inteligência artificial nos últimos anos, e parte dela ainda não é totalmente conhecida do grande público, como, por exemplo, o chamado machine learning, portanto, a capacidade dos algoritmos de aprender, ou a capacidade dos programas de aprender. 00:01:40.58Depois, a magna questão do, se o chamado human level AI, portanto, inteligência artificial ao nível comparável com o ser humano, se é possível, e os vários caminhos para conseguir que são abordados no seu livro, e essa questão dos vários caminhos é interessante porque não é, noutros fóruns eu tenho visto curiosamente até menos discutida, portanto, é interessante nós falarmos sobre isso. 00:01:59.36Depois, a segunda perna desta magna questão, que é a questão da consciência, ou seja, que é uma questão mais filosófica dessas todas, que é o se existe ou não consciência, e o seu livro tem claramente uma chamada a esta questão, porque ele chama-se de digital mind, e não se chama de digital intelligence, ou alguma coisa assim do género, ou seja, a palavra mente está lá e, portanto, remete para esta questão, que depois é abordada no livro. 00:02:20.92Para além disso, os perigos da inteligência artificial, que são vários, desde o perigo tipicamente cinematográfico de tomar em conta do mundo, até perigos mais realistas, por exemplo, mais realistas, e sobretudo mais, que terão que ser debulados mais brevemente. 00:02:35.28E, finalmente, como vai ser o futuro assumindo a inteligência artificial, que é outra questão que é abordada no seu livro. 00:02:42.38Começando por esta primeira, da evolução recente e do machine learning, isto é um fenómeno ultra interessante, porque isto, no fundo, passa-nos de uma realidade em que tínhamos, sobretudo, o chamado narrow AI, portanto, eu não sei como é que se traduz em português, a inteligência artificial específica, vamos supor, e começamos a dar passos no sentido de ter uma inteligência artificial genérica. 00:03:01.72Ou seja, passamos a ter programas que eram definidos para fazer determinada tarefa, que é programas como o programa que venceu o Kasparovno a jogar xadrez, por exemplo, e passamos a ter programas que têm a promessa de poder fazer mais do que uma tarefa e, no limite, fazê-las quase todas. 00:03:17.90E este é um tema muito interessante, aliás, houve um livro do Pedro Domingos, que faz o prefácio do seu livro, que se chama The Master Algorithm, e o ponto dele é exatamente, é o algoritmo mestre, tal como a chave mestra abre todas as portas, o algoritmo mestre é aquele que poderá, metaforicamente, abrir as portas todas. 00:03:36.06E o que é interessante disto, sobretudo para quem está fora, é que o que parece, e corrijam-me se eu estiver a explicar isto de uma maneira demasiado simplista, é que o que até aqui nós tínhamos era um algoritmo que tinha que ser exaustivamente definido e sem erros, ainda por cima, ou seja, não tinha que ser definido, tudo tinha que lá estar e sem qualquer tipo de erro, e o paradigma para que nós estamos a passar é um paradigma em que o algoritmo não está totalmente definido e depois é o próprio algoritmo que, com base nos dados, no chamado Big Data, que é o que, entretanto, possibilita isto, que são usados como inputs, consegue aprender por ele próprio, não é? 00:04:06.38Da e-learning. 00:04:06.38É mais ou menos isto?

Arlindo Oliveira 00:04:08.42Sim. 00:04:08.42Em primeiro lugar, muito obrigado pelo convite para estar aqui no podcast, é sempre um prazer falar destas questões e espero que assim também chegue a pessoas que, de outra maneira, não chegaria. 00:04:17.42Pois, a pergunta que eu coloco é interessante, a questão da aprendizagem, os nomes são sempre difíceis de traduzir, em inglês é machine learning, ou seja, aprendizagem por máquinas. 00:04:25.58Em português, geralmente, é usado por aprendizagem automática, mas, enfim, o que interessa é que é uma técnica onde, de facto, os computadores aprendem a desempenhar determinada tarefa. 00:04:37.16Esta é uma questão que já me fascina há muitos anos, aliás, eu há 30 anos, quando fui fazer a tese de doutoramento, há 30 e tal, já achava que era uma questão fundamental, mas na altura ninguém ligava muito. 00:04:45.68Quer dizer, ninguém ligava, não é verdade. 00:04:47.02Havia pessoas na comunidade de inteligência artificial que ligavam, mas, em geral, ninguém ligava muito a isso.

José Maria Pimentel 00:04:51.30Era menos executível, provavelmente, na altura.

Arlindo Oliveira 00:04:53.40Não, as tecnologias já existiam, não eram assim tão diferentes desde agora. 00:04:56.30Eu já explico um bocadinho o que é que variou, porque é interessante. 00:04:58.46De qualquer maneira, é como disse. 00:05:00.56Enquanto que, na maior parte dos programas de computador, que estamos habituados, alguém programou em detalhe como é que eles funcionam, cada janela, cada botão, cada comportamento, cada frase que diz, etc. 00:05:11.50Quando um programa usa a aprendizagem, é um bocadinho diferente. 00:05:15.48Portanto, o programa aprende, tem lá um algoritmo, esse algoritmo foi codificado por alguém, mas esse algoritmo o que faz é aprender com a experiência. 00:05:22.56Por exemplo, pode aprender a reconhecer gatos em fotografias, ou pode aprender português, a reconhecer português falado a partir de texto em português. 00:05:30.26Deteta padrões, no fundo. 00:05:31.40Deteta padrões. 00:05:32.00Exatamente, o teste são de padrões e a generalização a partir de padrões.

José Maria Pimentel 00:05:34.80O que, aliás, pensámos, é um bocadinho o que o cérebro humano faz. 00:05:37.02Exatamente. 00:05:37.56O cérebro humano também.

Arlindo Oliveira 00:05:38.24Só que pior o cérebro. 00:05:40.70Pior ou por outro? 00:05:41.52Não, até é melhor, é mais versátil. 00:05:44.06Hoje em dia ainda é melhor. 00:05:44.88É mais versátil, exatamente. 00:05:45.92Mas aquilo que os algoritmos conseguem fazer, fazem-no melhor do que nós. 00:05:48.88Exatamente. 00:05:49.36Se especializam numa dada área, os algoritmos, às vezes, conseguem ser melhor do que nós. 00:05:52.82Mesmo classificação de imagens e coisas desse tipo, reconhecimento de caracteres manuscritos, que é uma questão difícil, eles já fazem-me melhor do que os humanos. 00:05:59.06E, portanto, de facto, é como diz, aliás, a inteligência artificial começou um pecado para as pessoas tentarem explicar como é que se fazem coisas, como, por exemplo, planear ir do sítio A para o sítio B, ou demonstrar um treinamento matemático, ou jogar xadrez, são tudo exemplos de coisas que se tentaram pôr os sistemas a fazer, jogar as damas, etc. 00:06:17.68E só mais tarde é que apareceu esta ideia da aprendizagem. 00:06:21.24Embora, curiosamente, o Alan Turing tem dito logo desde o princípio que, pá, isto fazer um programa deve ser muito difícil, é melhor fazer uma coisa para o computador aprender por si.

José Maria Pimentel 00:06:27.50O Alan Turing, já agora, só para dar aqui algum contexto, pioneiro da inteligência artificial e conhecido pelo filme Invitation Game.

Arlindo Oliveira 00:06:33.60Muito conhecido pelo filme, que ele trabalhou no ataque às cifras alemães, em Bletchley Park, mas, de facto, foi o fundador da computação, tal como a gente a conhece, foi talvez o mais importante, mas também tem um artigo muito influente de 1950, onde ele fala justamente da inteligência artificial. 00:06:48.12E fala do teste Turing e como é que se pode distinguir... 00:06:50.50Machine Learns, não é? 00:06:51.78Exatamente. 00:06:52.20É o mesmo artigo onde ele explica como é que se pode usar um teste para distinguir quando é que um computador tornasse inteligente. 00:06:57.46E é nesse mesmo artigo que ele diz, mas a maneira mais fácil de tornar um computador inteligente deve ser fazer com que ele aprenda. 00:07:02.68É começar com um cérebro simples e depois fazer com o computador e depois fazer com que ele aprenda. 00:07:06.86Mas, enfim, mas isso depois, durante muitas décadas, não se desenvolveu muito. 00:07:09.78E só recentemente, enfim, as técnicas de aprendizagem já existem há uns 30 anos, mas, 35 mesmo, mas só recentemente é que temos dados suficientes e só recentemente é que temos computadores suficientemente poderosos para elas poderem funcionar nos problemas realmente difíceis. 00:07:24.84Porque em problemas mais fáceis elas já funcionavam. 00:07:26.82Por exemplo, analisar se uma pessoa deve, se uma transação de um cartão de crédito deve ou não ser interceptada por ser falsa já é feita há muitos anos, como método de aprendizagem autêntica. 00:07:36.02Só que agora, além disso, conseguimos atacar problemas mais difíceis. 00:07:38.74Podemos colocar um carro a conduzir sozinho ou a jogar um jogo do Go, que é um jogo complexíssimo, ou a traduzir de uma língua para a outra, ou a perceber uma língua falada. 00:07:48.64São essas coisas que agora se conseguem fazer, porque há mais dados, mais capacidade computacional e algoritmos um bocadinho melhores. 00:07:54.26Eles não são muito melhores, são só um bocadinho melhores, mas é o suficiente para fazer a diferença.

José Maria Pimentel 00:07:57.46Claro, mas a chave aí está no poder computacional e nos dados. 00:08:01.08São estas três coisas.

Arlindo Oliveira 00:08:02.90Algoritmos um bocadinho melhores, portanto, eles melhoraram os algoritmos, é um facto. 00:08:05.64Mas não são radicalmente melhores, é um pequeno ajuste. 00:08:09.16Mais dados, muito mais dados. 00:08:11.26E para trabalhar com isto tudo, muito mais capacidade de computação.

José Maria Pimentel 00:08:15.34O exemplo que deu do Go, ou do Go, nunca soube exatamente como é que se diz, em inglês dizem Go, mas acho que é porque é parecido com o verbo. 00:08:24.20Eu lembro perfeitamente da área de ter uma conversa com um amigo há uns anos sobre isso. 00:08:27.52E ao dizer que aquilo não se ia resolver. 00:08:28.92Confesso que não me lembro o que é que ele dizia, mas lembro-me de ele me estar a explicar na altura, nós estávamos há muito tempo a falar sobre isso, da diferença face aos xadrez. 00:08:35.88Ou seja, os xadrez tinham sido controlados, embora o Kasparov não tenha aceito a derrota, mas para todos os efeitos foi. 00:08:43.72E havia o desafio do Go, que era um jogo muito mais complexo, porque no fundo tem muito mais possibilidades. 00:08:48.46E o que é interessante aí, e isto vinha no seu livro, sabe o ver, é que o AlphaGo, portanto, o programa que fez isso, aprendeu, em certo sentido, aprendeu a detectar padrões, e não foi sequer, não jogou apenas com os dados que tinha, até porque os dados que tinha não eram suficientes

Arlindo Oliveira 00:09:03.56para dominar o jogo completamente, porque o jogo tem tantas possibilidades. 00:09:05.56Mas sabe que há um movimento muito interessante do Go, e que acabou de sair, aliás tenho ali o artigo, depois mostro-lhe no fim, que é, portanto, o AlphaGo, como foi apresentado há dois anos, quando saiu há dois anos, em 2015, o AlphaGo aprendeu a partir de partidas que existem em base de dados jogadas por humanos. 00:09:22.70Portanto, ele aprendeu, estava nas partidas,

José Maria Pimentel 00:09:24.90depois melhorou aquilo, não é? 00:09:26.56Como um ser humano a assistir a uma série de jogos

Arlindo Oliveira 00:09:28.76a desenrolar na sua frente. 00:09:29.88Exatamente, aprendeu, e depois acabou por bater o campeão do mundo. 00:09:32.18Mas no artigo que foi publicado este mês, em setembro, na Nature, eles treinaram um outro sistema que aprendeu sem usar nenhum conhecimento humano, só ao jogar contra si mesmo. 00:09:42.54jogou 50 milhões de jogos contra si mesmo. 00:09:44.92Sim. 00:09:45.82E este sistema que não usou nenhum conhecimento humano, bateu o sistema anterior por 100 a zero. 00:09:52.04Completamente.

José Maria Pimentel 00:09:52.78É o DQN? 00:09:54.14Ou é o outro? 00:09:55.02É o? 00:09:55.64O DQN, que é o DeepQ Network,

Arlindo Oliveira 00:09:57.68que é o outro... 00:09:58.30Não, não, é o AlphaGo. 00:10:00.24É o AlphaGo. 00:10:00.78É o AlphaGo. 00:10:01.30Ah, é o quê? 00:10:01.84É o AlphaGo, só agora chamamos AlphaGo, não sei quanto. 00:10:03.88Uma variante. 00:10:04.74E então, mas o que é interessante, é que enquanto o anterior basicamente aprendeu a partir do conhecimento que a raça humana... 00:10:11.02Porque aqueles jogos são campeões, não é? 00:10:13.38Aprendeu a partir do conhecimento que a raça humana tinha guardado, não é? 00:10:16.46Estava em base de dados, aprendeu e aprendeu muito bem, e passou a ser o campeão do mundo. 00:10:20.46Mas este aqui, basicamente conseguiu reproduzir dentro do computador todo o processo de aprendizagem do Go desde que ele começou a ser jogado há centenas, milhares de anos, não sei. 00:10:30.44Portanto, e estes milhões de jogos que ele jogou, sem usar nenhum conhecimento gerado por humanos, transformou-o não só num melhor jogador do que os melhores humanos, que o outro programa. 00:10:40.36E o que é mais curioso é que descobriu jogadas e formas de jogar que eram desconhecidas da humanidade. 00:10:44.86Os campeões olham para lá e dizem mas isto não é normal, isto ninguém joga assim. 00:10:48.52E ele de facto descobriu-lhe. 00:10:49.68É muito interessante. 00:10:50.44O último desenvolvimento, eu dou-lhe uma cópia do artigo e é muito interessante. 00:10:55.16Obrigado.

José Maria Pimentel 00:10:56.02Mas isso é interessante até a outro nível. 00:10:59.10Porque o que o programa fez, na prática, se tivesse sido um ser humano a fazê-lo, chamava-se criatividade. 00:11:04.58Exatamente. 00:11:05.00Não é? 00:11:05.52O que é incrível, em certo sentido,

Arlindo Oliveira 00:11:08.46porque não era de todo aquilo que acontecia até aqui. 00:11:10.82É, mas, exatamente. 00:11:11.68Mas prende-se também com uma outra questão, que é aquela ideia, que eu também disse que é um bocadinho no livro e que há outros livros sobre isto, que é, páginas tantas, um sistema pode-se tornar tão inteligente que cria mesmo a próxima versão do sistema. 00:11:24.36Sim. 00:11:24.96É claro que aqui foi num domínio muito restrito, não é? 00:11:28.52Não é muito sem ser oficial geral. 00:11:31.22Só é bom as gagão, não faz-me nada. 00:11:33.48Mas neste domínio muito restrito, houve ali uma espécie de explosão de inteligência. 00:11:37.60Ou seja, o sistema aprendeu contra si mesmo e bateu realmente toda a humanidade, toda a história da humanidade.

José Maria Pimentel 00:11:42.52Mas o domínio é restrito, mas programas deste género têm sido usados... 00:11:46.68As técnicas são relativamente gerais. 00:11:48.46Aplicados a vários... 00:11:49.62Este exemplo do DQA, que é o exemplo que eu estou a dar, de cor, não é? 00:11:53.14Que eu tenha visto provavelmente o programa, nem nada que se pareça. 00:11:55.48Mas é um exemplo de um caso que também aprendeu sozinho a jogar jogos relativamente simples e vários jogos diferentes.

Arlindo Oliveira 00:12:02.24Ainda estamos no terreno dos jogos. 00:12:03.86Está a falar do DQA. 00:12:04.98Exatamente. 00:12:05.86Sim, o da IBM. 00:12:07.12Exatamente. 00:12:07.34O IBM ligado ao Watson, não é?

José Maria Pimentel 00:12:08.88E eu tinha ideia até que era de... 00:12:10.30Tinha sido comprado pela Google.

Arlindo Oliveira 00:12:11.82Posso estar enganado, mas para o caso também... 00:12:13.48Eu acho que o DQA é o nome que os gajos da Watson, da IBM, deram ao sistema que foi sucessor do Watson,

José Maria Pimentel 00:12:17.36que ganhou aquele jogo. 00:12:18.28Ganhou o Casparovic, sim. 00:12:20.28E isso é interessante porque mostra que, no fundo, juntando a aprendizagem ao facto dessa aprendizagem dar para usar para várias categorias, mostra que há aqui um caminho no sentido da inteligência artificial genérica, que é uma distinção... 00:12:36.26Mas ainda temos uma limitação que é

Arlindo Oliveira 00:12:38.24os sistemas como existem agora podem melhorar, mas otimizam uma dada função de custo, uma dada objetivo, não é? 00:12:45.60O objetivo, neste caso, é jogar bem de gol. 00:12:46.92Exatamente. 00:12:47.14Ganhar jogos de gol. 00:12:48.34Nós ainda não temos... 00:12:50.12Nós, um ser humano, quando se desenvolve, um ser humano que se desenvolve, não está a otimizar nenhum objetivo. 00:12:54.60Quer dizer, no longo prazo está a otimizar a possibilidade de reprodução, mas isto é uma coisa muito evolutiva, não é? 00:12:59.90Claro. 00:13:00.16E portanto, nós ainda não temos nenhum algoritmo que permita otimizar este tipo de competência geral que o ser humano tem. 00:13:07.28É aí que eu acho que ainda há a diferença. 00:13:10.16Mas tem razão, de facto, as técnicas são muito gerais.

José Maria Pimentel 00:13:12.60Mas a chave estará onde? 00:13:13.68Ou seja, qual é o objetivo, qual é o obstáculo que é preciso ultrapassar para isso? 00:13:19.50O que é que teria que ser diferente, por outras palavras? 00:13:21.42Tem que ver com o algoritmo?

Arlindo Oliveira 00:13:22.74Se eu soubesse, estava a escolher os artigos e ficava famoso de um dia para o outro. 00:13:25.96Eu acho que o problema é que nós, neste momento, todos os métodos de aprendizagem continuam a focar-se na ideia de otimizar um certo objetivo. 00:13:33.92E portanto, o objetivo pode ser reconhecer bem, ou guiar bem carros, ou jogar bem go, ou traduzir bem de uma língua para a outra. 00:13:41.66Mas é um objetivo concreto. 00:13:43.06E nós não conseguimos dizer que uma criança, quando está a crescer, está a otimizar um objetivo concreto. 00:13:47.84Nós não sabemos, não é nenhum objetivo. 00:13:49.44Sim, é difuso. 00:13:50.24Portanto, eu acho que aí, a criança tem interesse em muitas questões e aprende muitas coisas, etc. 00:13:56.46E eu acho que é isso que ainda nos falta. 00:13:59.22É uma métrica que consiga guiar os algoritmos para obter esse tipo de inteligência artificial geral. 00:14:05.54E devo dizer que, ao contrário do que, eventualmente, se possa às vezes perceber das notícias nos jornais, que ele saiba, não há nenhuma proposta concreta para fazer isso. 00:14:15.26Todas as pessoas estão a trabalhar num problema específico. 00:14:18.20Não há ninguém, eu também não acompanho toda a literatura, mas que eu nunca vi ninguém. 00:14:22.26Tenho aqui um algoritmo que pode ser o embrião de desenvolver uma inteligência artificial genérica. 00:14:26.44Que ele saiba, isso não existe.

José Maria Pimentel 00:14:27.58Nunca foi publicado. 00:14:28.08Exatamente. 00:14:28.62Mas acho que um dia pode existir. 00:14:30.22Claro, mas eu próprio fiquei com essa impressão porque, embora esse tema da inteligência artificial genérica seja muito discutido, seja academicamente, seja até muito filosoficamente, na prática, os esforços que estão a ser feitos e percebe-se, porque esses esforços têm interesses comerciais, são muito mais da inteligência artificial restrita, ou seja, lá está aplicada a um determinado fim do que propriamente da geral, que continua, no fundo, é aquilo que se acredita que se progredirá para ali, mas, porventura, o benefício estaria tão dilatado no tempo que não justifica o investimento inicial ali. 00:15:02.02Mas é...

Arlindo Oliveira 00:15:03.56Depois também é tal coisa como disse, as motivações existem são económicas. 00:15:07.16Neste momento não há ainda um grande benefício económico em desenvolver uma inteligência artificial de geral. 00:15:14.50A gente não precisa de uma pessoa num computador, porque a gente precisa de um computador de automóvel ou de uma pessoa para estender chamadas num call center ou de um tradutor. 00:15:21.94Isso dá jeito. 00:15:23.14Mas, desde que ele traduza, a gente não precisa que ele seja inteligente noutros aspectos. 00:15:27.40Eu acho que tem um bocadinho a ver com isso. 00:15:29.02Mas, para dizer a verdade, nós também ainda não temos a tecnologia para haver uma inteligência artificial geral. 00:15:32.92Começamos a ter tecnologia, pois é a ver sistemas muito avançados em aplicações específicas. 00:15:37.26Exato.

José Maria Pimentel 00:15:37.84E, provavelmente, pensando rapidamente sobre o assunto, olhando para a frente, até me pareceria mais lógico que se chegasse à inteligência artificial geral pela exmoção das várias específicas. 00:15:48.90Pois, há uma possibilidade. 00:15:49.74Mas está a ver

Arlindo Oliveira 00:15:50.12que a vantagem económica não é óbvia, não é? 00:15:51.86Porque é que você quer juntar um computador que jogue bem Go com o computador que traduza bem e um que guie bem automóveis. 00:15:57.46É um taxista que sabe discutir Go. 00:15:58.88Quer dizer, não há-se uma vantagem económica muito óbvia.

José Maria Pimentel 00:16:02.44Pois, depende. 00:16:02.92Se entrar no domínio social, eu vejo grandes vantagens. 00:16:06.08Antes de entrar aí... 00:16:06.58Pois, talvez.

Arlindo Oliveira 00:16:07.34E um condutor automático de carros que consiga discutir as notícias do... 00:16:10.52Pois. 00:16:10.80Se calhar já é mais interessante.

José Maria Pimentel 00:16:12.02Se há coisa que a história da tecnologia ensina, as tecnologias com maior sucesso são aquelas que aumentam a sociabilidade das pessoas. 00:16:20.08Sim, claro. 00:16:20.56E muitas vezes até havia tecnologias promissoras que por não conseguirem fazer isso não tiveram mercado. 00:16:26.30Aliás, até havia aquele... 00:16:28.18Não sei exatamente o que eu fazia o comentário e nem sei se sabe, mas havia um comentário engraçado quando se inventou o telefone que alguém perguntava-se para que é que isto serve, não é? 00:16:35.06Se eu quiser falar com o meu vizinho vou ter com ele. 00:16:37.10É verdade. 00:16:37.72Há esse mesmo. 00:16:38.18Por causa não lembro naquilo, mas há essas... 00:16:39.68Eu também não, mas tem piada porque lá está mais... 00:16:42.72Ninguém viu qual era a utilidade do telefone. 00:16:44.08Exatamente. 00:16:45.04Na prática, ao contrário, o sucesso do telefone veio justamente de aumentar... 00:16:48.68Ligar e interagir aos seus amigos. 00:16:49.66Exatamente, a possibilidade da pessoa estar sempre ligada. 00:16:52.26Mas esta questão, voltando a esta questão... 00:16:54.02Ou por outra, dando um passo à frente a questão à... 00:16:56.58Deixando de olhar para os desafios do presente e no fundo olhando para aquilo que pode vir a acontecer. 00:17:00.76Partindo deste pressuposto de que as limitações que existem são limitações de grau de desenvolvimento e não limitações físicas, direcia que o human level AI que eu falava no início, a inteligência artificial ao nível cognitivo do ser humano e provavelmente uma vez chegando lá é muito melhor do que o ser humano porque toda a inteligência específica artificial que foi desenvolvida é melhor no ser humano do que o ser humano naquilo que faz. 00:17:25.44Esse objetivo há, no mínimo, décadas de distância, mas ainda assim é um objetivo que, na sua opinião, a partir da época é atingível.

Arlindo Oliveira 00:17:32.76É, não me parece uma coisa impossível. 00:17:35.62É preciso dizer que nós percebemos relativamente mal a inteligência humana. 00:17:39.14Pois, esse é o grande desafio. 00:17:40.36E percebemos relativamente mal o funcionamento do cérebro humano. 00:17:43.24Nós tivemos alguns princípios, mas não percebemos. 00:17:46.10Eu partilho muito uma opinião que, aliás, de vários filósofos, mas do Daniel Dennett em particular, que é o cérebro humano é um conjunto de agentes mais ou menos autónomos entre si, não é? 00:17:57.64Um que trata da comida e outro que trata de coisas amorosas e outro gosta de pensar e outro gosta... 00:18:03.40São agentes mais ou menos autónomos que depois funcionam como uma espécie de uma sociedade. 00:18:08.84Aliás, há um livro Society of Minds do Minsky, acho que, que fala nisso. 00:18:12.42E nós, a inteligência humana, é o resultado destes agentes todos que interagem uns com os outros e depois, no fim, dão uma atuação consciente e um pensamento consciente. 00:18:22.54Se, de facto, a mente humana for isto, e eu partilho desta opinião, então eu acho que a maneira de chegar à mente digital artificial é exatamente essa. 00:18:32.92É nós percebemos um agente que trata de uma certa motivação, outra agente que conhece isto todos juntos e depois, no fim daquilo, sai dali qualquer coisa a que, em última análise, nós vamos associar um comportamento parecido com o humano. 00:18:44.66Quer dizer, também há muitos humanos que só têm duas ou três motivações e também não são particularmente interessantes, outros que são muito diferentes e, portanto, eu acho que vem um bocadinho daí. 00:18:52.38Ou seja, o que eu quero dizer com isto é, eu acho que não há nada particularmente mágico na mente humana. 00:18:56.90A mente humana são um conjunto de agentes, muitos deles foram desenvolvidos pela evolução ao longo de milhões de anos. 00:19:01.28Depois, há aqui toda uma coerência que é um bocadinho imposta artificialmente, aliás, que deu a parte sobre a consciência, percebe? 00:19:06.64Porque a consciência é uma coisa muito obscura. 00:19:08.38que, de alguma maneira, existe para dar coerência a tudo isto, a estas diversas motivações que cada pessoa tem, etc. 00:19:16.26E não me parece impossível que, à medida que formos dominando, cada vez melhor a capacidade de fazer a gente, de criar agentes específicos, se juntarmos vários deles, começam a aparecer coisas. 00:19:26.50Por exemplo, podemos ter uma assistente em casa que trata das compras e da agenda e das viagens, não é? 00:19:32.20Há páginas tantas que podemos, olha, então aprende qualquer coisa sobre música para eu poder discutir música e começa a criar-se ali um embrião de uma mente relativamente rica, embora não seja mais do que a junção de mente específica. 00:19:46.40Mas isso é nessa lógica incremental,

José Maria Pimentel 00:19:47.78ou seja, ir adicionando características...

Arlindo Oliveira 00:19:49.90É, é uma lógica incremental, mas se eu tiver um sistema sucessivamente poderoso, imagino que eu tenho, não é assim muito difícil, eu tenho lá em casa a Alexa, não é? 00:19:56.10E as miúdas falam muito com a Alexa e a Alexa ainda é um bocadinho simplista, mas já dá para conversar com ela, a gente pode ver o que aconteceu hoje na Cataluña, ela diz, não sei quando já foi presa, etc, às vezes, às vezes não percebo, mas geralmente percebo. 00:20:07.98Mas se em cima daquilo eu vou ter esses temas mais sofisticados e tiver a cabeça, olha, agora vai aprende sobre Mozart, depois fala sobre, percebe, começamos a ter ali uma coisa com a gente que é relativamente interessante, não é só uma coisa cega, não é só como o motor de busca da Google, a gente vai expor, é uma coisa que tem um Estado, não é? 00:20:25.92Cria um Estado a aprender sobre o Mozart, quer ouvir a Ein Kleinacht Musik, ah, nunca ouvi, ponha lá e tal. 00:20:33.60Está a ver? 00:20:34.12Não é assim tão difícil imaginar que seja possível construir, até incrementalmente, uma mente cada vez mais rica em que cada uma das componentes é uma coisa relativamente específica e dirigida, não precisa de ser um Einstein. 00:20:46.26Claro,

José Maria Pimentel 00:20:46.70mas isso é admitindo que o processo é feito, no fundo, a continuar aquilo que temos. 00:20:51.52Sim. 00:20:52.90e isso, e essa é uma questão interessante, a obtenção desse Estado é independente, pode ser independente da compreensão absoluta do cérebro humano. 00:21:00.94Pode, eu acho que sim. 00:21:02.22Eu acho que a gente

Arlindo Oliveira 00:21:02.60nunca vai compreender o cérebro humano. 00:21:03.88A gente nem sequer consegue compreender um computador, não há ninguém que consiga compreender como é que esse computador funciona, está a ver? 00:21:08.64No transistor, não sei quantos, quanto é que está lá dentro, ninguém sabe isso. 00:21:12.32Tanta gente, quando muito, vai perceber os princípios gerais de funcionamento do cérebro humano, e isso acho que é o melhor que conseguimos fazer. 00:21:17.40Compreender em detalhe, eu acho que nunca ninguém vai perceber. 00:21:19.84Pelo menos não uma pessoa, tem de ser um milhão de pessoas para perceber um cérebro, mas isso também não tem grande interesse. 00:21:23.18Imagino que há um milhão de pessoas que se digam a estudar o seu cérebro e sabem tudo sobre cada neurônio, mas isso também não serve de nada. 00:21:29.00Se estiver mapeado, pode servir, não é? 00:21:31.04Não, porque aquilo é muito complicado, está a ver? 00:21:33.48E varia de pessoa para pessoa. 00:21:34.60E varia de pessoa para pessoa, portanto, não há ninguém, não há ninguém que consiga ter na cabeça o que é que está na gate de cada transistor num computador deles, que é uma coisa mais simples que um cérebro humano. 00:21:43.56Nunca ninguém vai conseguir ter na cabeça, Ah, não, mas aqui é uma coisa simples, tem dois ou três módulos, mas o cérebro não é assim, aquilo é uma geringonça, o cérebro é uma geringonça que foi criada pela evolução, portanto, não há ali um módulo que faz a fala e um módulo que faz a visão e depois manda uns... 00:21:59.04Está tudo interligado. 00:21:59.90Aquilo está... 00:22:00.54Aquilo é uma coisa... 00:22:00.92Não,

José Maria Pimentel 00:22:01.06a questão, falando superficialmente, porque não sou neurologista, mas... 00:22:06.78Mas esse é um dos puzzles em certo sentido da ciência é o quão pouco ainda se sabe do cérebro humano. 00:22:11.74Exatamente. 00:22:12.50E mesmo compreendendo não é líquido, quão bem é preciso compreender os princípios gerais ou quão fundo é preciso ir nessa generalidade para perceber o suficiente

Arlindo Oliveira 00:22:22.98para conseguir reproduzir numa... 00:22:24.40O que eu quero dizer com a gente? 00:22:25.42A gente lá percebeu os princípios gerais. 00:22:26.64Ainda não percebemos. 00:22:27.40Podemos vir a perceber os princípios gerais. 00:22:28.96Podemos saber que os neurónios prolongam, que os axónios se desenvolvem de uma certa maneira de acordo com os certos... 00:22:35.78indícios químicos, biológicos, etc. 00:22:39.26Agora, quando isto tudo está junto e temos ali bilhões de sinapses a disparar e tal, perceber onde é que está representada a imagem da sua avó, que está lá alguns... 00:22:49.50Isso é uma coisa... 00:22:50.18Deve estar lá um milhão de neurónios que quando disparam de uma certa maneira representam a avó, mas... 00:22:55.60E se disparar de uma maneira um bocadinho diferente é o avô, está a ver. 00:22:57.70Eu acho que essa compreensão nunca vai acontecer. 00:23:01.96Nunca vai acontecer.

José Maria Pimentel 00:23:02.42É preciso perceber como funciona, não necessariamente onde é que está a cada...

Arlindo Oliveira 00:23:05.10Exatamente. 00:23:05.10A gente pode perceber os princípios gerais, até pode perceber os princípios gerais de maneira a conseguir reproduzi-lo. 00:23:10.98Mas isso é uma coisa. 00:23:12.12Mas depois disso, agora por ser o detalhe fino, eu acho que isso é muito difícil.

José Maria Pimentel 00:23:15.28Mas para fazer o... 00:23:17.12O seu livro refere várias hipóteses de lá chegar. 00:23:19.36Uma delas é uma hipótese mais sintética, digamos assim, que era no fundo... 00:23:22.20Sim, era um bocadinho

Arlindo Oliveira 00:23:22.64a que eu estava a referir. 00:23:23.60Exatamente. 00:23:23.80Tem uma gente aqui para isto, outro para aquilo, depois vai juntando aquilo. 00:23:26.26Exatamente.

José Maria Pimentel 00:23:26.70E há outra que é mais natural, acho que é até o adjetivo que é usado, que é mesmo pegando no cérebro humano

Arlindo Oliveira 00:23:33.34e no fundo transportado. 00:23:34.14Pois há duas maneiras. 00:23:35.18Eu proponho três maneiras. 00:23:36.14Uma são via sintética. 00:23:37.60A gente pega no Google, vai melhorando o Google, vai falando com o Google ou com o Alex ou alguma coisa dessas e aquilo vai se tornando mais justificado. 00:23:43.60Mas não há nada que tenha ali a ver com o cérebro. 00:23:45.50Exatamente. 00:23:45.92O Google, os algoritmos do Google são poderosíssimos, mas não há praticamente nada, ou mesmo nada lá que tenha a ver com a maneira como funciona o cérebro. 00:23:52.78A segunda maneira é pensar, bom, a gente vai perceber suficientemente dos princípios que organizam o cérebro para conseguir simulá-los e reproduzi-los no computador. 00:24:01.74Então a gente cria num computador e faz-se o desenvolvimento de um cérebro no computador ou dos princípios que cria um cérebro. 00:24:07.66E se isso funcionar, é difícil, mas se isso funcionar, no fim, podemos ter ali uma simulação de um cérebro que funciona como um cérebro real e que fala e que sente. 00:24:16.38É claro que isto é complicado. 00:24:17.66Temos de lhe dar estímulos, não é?

José Maria Pimentel 00:24:19.20Pois, esse é o grande desafio.

Arlindo Oliveira 00:24:20.56Quando cria, tem de ter visão e tem de ter som e tem de ter tato, tem de ter tudo isso. 00:24:25.12Porque nenhum cérebro se desenvolve naturalmente se não tiver estímulos visuais. 00:24:28.12Tem de ter todos os inputs que o cérebro está construído para receber. 00:24:30.16Essa é a segunda maneira. 00:24:31.06Eu acho que essa é viável dentro, não sei, dezenas, uma centena de anos. 00:24:34.54Em breve, eu acho que essa é uma possibilidade. 00:24:36.76Podemos vir a perceber suficientemente dos mecanismos de desenvolvimento do cérebro para fazer isto. 00:24:40.30Depois a terceira, que a meu ver é que levanta mais questões filosóficas, embora estas já levantem bastante, que é copiar mesmo um cérebro. 00:24:47.10Exato. 00:24:47.36Pega o cérebro de uma pessoa ou com técnicas de imagem ou mais provavelmente cortando as fatias percebe-se exatamente como é que está ligado, copia-se aquilo para um computador e simula-se o computador.

José Maria Pimentel 00:24:56.78Como cortando as fatias merece aqui a nota que implica que a pessoa está morta. 00:25:00.50Que a pessoa está morta. 00:25:01.40Ou morre no processo.

Arlindo Oliveira 00:25:03.78É claro que o de cortar as fatias provavelmente só tem interesse se a pessoa tiver com uma doença terminal. 00:25:07.20Mas com uma doença terminal, como sabe, há muitas pessoas que já congelaram o cérebro ou o corpo inteiro pendente. 00:25:12.84Exato. 00:25:13.56E que têm a esperança de um dia vir a ser ressuscitadas por esta via ou por uma via parecida. 00:25:19.42Eu acho que essa é de facto uma tecnologia muito difícil mas levanta de facto aquela questão um bocadinho interessante da imortalidade que é a pessoa pode morrer aqui mas depois apareceria novamente num mundo virtual simulado num computador e a imortalidade pode ser uma ideia meio maluca mas a ideia da imortalidade porque vamos para o céu também é relativamente maluca. 00:25:38.10Sim, claro. 00:25:39.20Uma delas é particularmente dá particulares garantias.

José Maria Pimentel 00:25:42.76Não era terreno virgem. 00:25:44.86Nós já falámos da questão dos limites ao estudo do cérebro humano e é entre... 00:25:49.54Eu aceito a sua resposta porque no fundo implica que não é necessário nós compreendermos completamente o cérebro humano para ser possível ter inteligência artificial a nível do ser humano. 00:25:58.40Existe outro limite possível que me parece ser muito pouco... 00:26:02.68haver poucos defensores na comunidade seja académica seja profissional dele que tem que ver com a lei de muro. 00:26:08.10Portanto, tem que ver com a questão do crescimento exponencial da capacidade de computação. 00:26:12.84Essa aliás é uma das questões que o seu livro explica que é pouco intuitiva para quem está fora desta área porque o ser humano está habituado a que as coisas progredam numa lógica não exponencial. 00:26:23.66E a lógica exponencial... 00:26:24.94Aliás, se quiser explicar rapidamente isto eu acho que seria interessante o ouvir porque vai explicar a certeza melhor do que eu porque ela é particularmente contraintuitiva.

Arlindo Oliveira 00:26:32.10Nós não estamos habituados a que isso aconteça. 00:26:34.34Pois, quer dizer... 00:26:35.08Portanto, as evoluções exponenciais são aquelas funções que em cada instante de tempo digamos multiplicam por um fator constante. 00:26:41.78É uma coisa que duplica. 00:26:43.14Eu dou lá o exemplo muito conhecido dos grãos de arroz no tabuete de xadrez que é um exemplo muito conhecido que quando se fizermos um grão na primeira casa de um tabuete de xadrez dois grãos na segunda quatro grãos na terceira etc. 00:26:54.96Até a 64ª casa o número total de grãos de arroz que é preciso para fazer isto é a produção da terra durante 500 anos que é altamente contraintuitivo e tem a ver com estas questões da evolução exponencial. 00:27:06.50E a evolução da tecnologia também é exponencial. 00:27:08.80Portanto, a lei de Mura é a mais conhecida que diz basicamente que o número de transistores que é possível pôr no circuito duplica a cada dois anos. 00:27:18.22E isto não parece muito num ano duplicou depois em dois anos duplicou em quatro anos quadruplicou já é pior mas à medida que vamos andando isto criou desde umas coisinhas de uma meia-dugia de transistores até os computadores agora que têm milhares de milhares de transistores e um potencial que era completamente insuspeitado quando esta evolução continuou. 00:27:38.20E de uma maneira ou de outra há várias tecnologias que tendem a ter esta evolução exponencial e nós temos de facto e eu às vezes faço umas abstenções sobre isto e começo justamente com estas extrapolações e nós somos muito maus a prever evoluções exponenciais porque tendemos sempre a subestimar a evolução a longo prazo e às vezes até a subestimar a evolução a longo prazo aliás esta lei não é minha lamentavelmente tem um nome que é a lei da Mara que em termos tecnológicos nós tendemos a subestimar a evolução no curto prazo e a subestimar no longo prazo

José Maria Pimentel 00:28:05.94e é engraçado porque isso é observável culturalmente eu acho que isso é observável mas em relação à questão do exponencial há um ingrediente fundamental para explicar esta questão que é ele cresce exponencialmente porque cada fase de crescimento

Arlindo Oliveira 00:28:18.70acontece sobre as fases anteriormente é como uma cela é como uma cela que se duplica as células o Darwin dá este exemplo nos elefantes que é um exemplo interessante mas passando numa cela uma cela divide sem duas o exemplo dos elefantes que eu acho um exemplo com muita piada o exemplo dos elefantes a cela divide sem duas depois as duas cada uma divide se está a quatro depois cada uma das quatro está a oito e portanto temos a mesma coisa do jogo de xadrez o Darwin dá o exemplo dos elefantes que é um exemplo interessantíssimo posso contar uma coisa aqui que não está no livro o Darwin fez a conta a cada 30 anos um par de elefantes e faz isto três vezes tem uns 30 aos 60 e aos 90 que é uma coisa lenta este parece não vai lá de nenhum e agora ele disse que ao fim de 500 anos havia salverro 8 milhões de elefantes não lembro bem do número e ele enganou-se não foi? 00:29:03.12mas enganou-se enganou-se a fazer as contas de facto ao fim dos 500 anos só há acho que são 500 e tal elefantes umas centenas de elefantes mas mesmo assim ele tinha razão porque ao fim de 10 mil anos já há um número de elefantes que nunca abria no sistema solar inteiro e ao fim os números são muito interessantes estão aliás num post do meu blog porque de facto mesmo uma evolução exponencial assim relativamente lenta quando passa após milhares de anos a coisa explode de uma maneira brutal e eu acho que isso é de facto muito contra intuitivo e muito interessante

José Maria Pimentel 00:29:34.24eu lembro quando era miúdo havia um desses enigmas não era bem uma espécie de mistura era bem uma anedota porque não era uma graça mas perguntava-se a alguém se era possível dobrar o papel exatamente para chegar à luz pode dobrar 30 vezes

Arlindo Oliveira 00:29:47.36ou 40 já não sei quantas eram

José Maria Pimentel 00:29:49.42mas é engraçado porque abstraímos agora aquilo que limita a dobragem de papel sobre papel não mas é fácil se você dobrar 10 vezes

Arlindo Oliveira 00:29:58.06fica com mil folhas de papel se dobrar 20 vezes fica com um milhão de folhas de papel com um milhão de folhas de papel mesmo que aquilo seja muito fininho já dá vários quilômetros exatamente portanto se dobrar 30 vezes dá mil milhões de folhas de papel se a gente pensar é fazer as contas mas aquilo provavelmente chega à luta é claro que não se consegue dobrar o papel 30 vezes mas é exatamente e nas últimas operações

José Maria Pimentel 00:30:18.78está-se a dobrar já sobre um número tão grande exatamente que cada passo vai aumentando mas isto para dizer esta é a base no fundo do progresso tecnológico e o livro está um pouquinho construído sobre essa questão exatamente e é muito do grande parte do argumentário em relação ao futuro da inteligência artificial tem que ver com isso depois há o outro lado que é todos os crescimentos exponenciais têm limites no caso dos elefantes havia um limite evidente que eles iam morrer e no caso do ser humano acontece a mesma coisa embora o mundo esteja sobrepopulado não deixa de ter limites a esse crescimento neste caso há quem diga há quem diga até que se já atingiu esse limite sim, sim

Arlindo Oliveira 00:30:54.98há quem diga e aliás o Pedro Domingos aliás no seu livro até defendisse que nós assistimos a uma altura de rápido crescimento e agora nós assistimos a uma altura de rápido crescimento e eu não tenho a resposta definitiva sobre isso e até aceito que é uma boa possibilidade mas eu acho que nós temos aqui de escolher uma de duas que eu acho das duas uma ou a evolução vai continuando a acelerar uma coisa que é mais ou menos exponencial por causa dessa ideia que constrói sobre as suas próprias avanças constrói sobre novos avanços ou então não ou então houve uma evolução muito rápida desde que começou a evolução industrial até agora temos aqui 200 ou 250 anos de evolução muito rápida mas agora vai faltar ao ser humano criatividade vai faltar a capacidade de execução e a páginas tantas de gente isto agora vai desacelerar portanto daqui a 100 anos a malta ainda vai andar com o iPhone 20 e daqui a 1000 anos a malta vai andar com o iPhone 30 mas é muito parecido os meninos andam nos autocarros com os iPhones esta é a alternativa porque há duas alternativas a gente quer dizer que isto vai mudar muito e vai mudar cada vez mais rapidamente e daqui a 1000 anos a gente não reconhece a sociedade ou então é outra oposta que isto vai ficar tudo muito aborrecido porque as coisas não mudam quase nada eu acredito que são eu acredito na primeira eu acredito que as coisas vão continuar a mudar muito rapidamente e acredito que nós neste momento não temos as ferramentas mentais para imaginar o que é que será a civilização da Camila mas aceito que a outra hipótese também é possível que a gente viveu aqui uma idade de ouro desenvolvimento tecnológico ah mas agora a gente já não vai conseguir a lei do ouro vai cair já não vamos conseguir pôr mais transistores no chip a malta já não consegue lembrar-se de mais nada para pôr num telemóvel além do que está lá etc etc e portanto a civilização daqui a 1000 anos vai ser muito parecida com a que temos agora os telemóveis um bocadinho mais rápidos mais pequenos ou maiores não sei etc eu não acredito muito nesta segunda hipótese acredito mais na primeira não sou a primeira a dizer é possível é possível pode acontecer a gente viveu agora uma idade bestial e agora os próximos 800 anos para 1000 anos vão ser uma estruxa pode ser

José Maria Pimentel 00:32:44.78é como se a sua resposta no início se a pessoa soubesse exatamente se a pessoa soubesse estarias a ver sobre o assunto eu acho difícil apesar de tudo imaginar uma estagnação embora a idade média por exemplo não foi tão parada em termos tecnológicos como se pensa mas ainda assim comparativamente com o pós-revolução industrial era bastante parada

Arlindo Oliveira 00:33:03.90os gás não tinham transistos não tinham telemóveis não tinham eletricidade não tinham transportes não tinham máquina de vapor portanto agora temos muita coisa em cima disto e temos muita malta a pensar no que é que se pode fazer com isso

José Maria Pimentel 00:33:13.40pois sobretudo isso exatamente embora nos falte que é uma questão interessante nós temos temos muito pensamento direcionado como nunca tivemos temos muito pouco não sei se esse modelo era possível de subsistir mas temos pouco daquele pensamento diletante como existia o Darwin era um exemplo disso sim é verdade que é interessante pensar nisso

Arlindo Oliveira 00:33:33.30mas tínhamos muita gente sabe mas nós temos do Darwin havia uns milhares de pessoas que eram cientistas aliás eram geralmente as pessoas que tinham dinheiro exatamente aquilo era um hobby era um hobby mas agora nós agora temos milhões de cientistas e centenas de milhões de engenheiros e de coisa de trabalhar nestas coisas portanto é verdade cada um deles se calhar tem menos liberdade

José Maria Pimentel 00:33:51.80e liga com aquela questão inicial eles estão a investigar

Arlindo Oliveira 00:33:55.66aquilo porque são pagos para investigar mas são muitos não é evidente e basta um deles ter uma ideia brilhante claro eu trouxe esta questão

José Maria Pimentel 00:34:04.16porque já pensei sobre isso acho interessante no fundo nós tendemos sempre a achar que a sociedade vai progredindo e esse é um campo em que regrediu em certo sentido porque havia ali um conjunto de pessoas que tinham liberdade por razões perversas porque de verdade nenhum outro trabalhava para eles em condições normalmente não não não não se assinasse

Arlindo Oliveira 00:34:22.22mas isso prende-se com uma questão interessante e que é eu vi um artigo tinha a ver com a singularidade porque se cala temos essa zona mas que é nós não sabemos como é que a essencial social vai evoluir mas como essa pessoa argumentava nesse artigo esse autor é assim até pode ser que a comunidade toda esteja um bocadinho às escuras e que está a trabalhar nos algoritmos mais ou menos coisas mas basta uma pessoa fazer um breakthrough por exemplo agora foram os tipos da deep mind que fizeram aquilo com o Google que ninguém pensava

José Maria Pimentel 00:34:47.56que eles iam fazer portanto basta uma pessoa fazer porque com as comunicações que temos a sociedade que temos tudo isto o breakthrough pode aparecer de qualquer lado neste momento eu tenho milhões de pessoas

Arlindo Oliveira 00:34:56.54a trabalhar em essencial social e em machine learning portanto basta um deles ter uma ideia brilhante e isso basicamente leva toda a comunidade para esse novo local portanto realmente uma essencial social genérica pode aparecer muito mais cedo e mais inesperadamente do que se está espero porque basta haver uma pessoa que tem uma ideia brilhante então se tirar o céu funciona assim vou experimentar

José Maria Pimentel 00:35:18.40e de repente claro essa é a grande dificuldade na área da ciência da pessoa para ver aliás eu vi um exemplo muito engraçado agora não me ocorre o nome da pessoa em causa mas na véspera ter havido sucesso na exploração

Arlindo Oliveira 00:35:32.10da energia nuclear sim sim este é muito conhecido é o Henrique Fermi exatamente Henrique Fermi em 1939 portanto a primeira bomba notou em 1945 mas a tecnologia era conhecida exatamente Henrique Fermi em 1939 perguntaram-lhe o que é que ele achava se era possível criar fissão nuclear controlada portanto o mecanismo que era resultar e ele em 1939 disse eu tenho 90% de certeza que isso não é possível depois em 1942 um ano antes de eles terem conseguido pôr a coisa a trabalhar perguntaram-lhe o que é que ele achava que aquilo ia demorar a conseguir ele disse ah isto vai demorar muitas dezenas de anos nesta altura já criava o que era possível mas isto vai demorar muitas dezenas de anos e um ano depois os gás tiveram a primeira reação em cadeia num reator que foi feito num corte-se-coche lá nos Estados Unidos e portanto as pessoas há muitas vezes os próprios pessoas que estão entre as coisas subestimam e houve uma conversa interessante aqui há um ano atrás houve uma conferência sobre a inscrição artificial ou sobre a especulação do futuro e tentaram ver mas digam lá coisas de certeza vocês acham que em 10 anos nós não conseguimos fazer com a inscrição artificial eu vou registrar aqui vou tomar nota e ninguém conseguiu atravessar isso a dizer uma coisa porque o que ele disse ah se as pessoas fizeram uma coisa muito porque assim se fizeram uma coisa muito difícil não é não é de espantar que seja em 10 anos isso foi uma coisa muito fácil a probabilidade de estarem errados é muito grande portanto ninguém se conseguiu atravessar assim com nenhuma coisa depois alguém diz ah temos um robô que arruma a cozinha depois de um gajo cozinhar isso em 10 anos não vamos ter talvez não mas é interessante portanto temos de ir para coisas que são se tiver um robô que arruma a cozinha aquilo é muito complicado porque aquilo é um ambiente muito pouco estruturado claro e varia imenso

José Maria Pimentel 00:37:11.96e há outra questão ainda engraçada antes de avançarmos para a consciência do que eu falei há pouco há outra questão ainda há outra forma como isto se pode desenrolar que é dos progressos ao nível da biologia no fundo convergirem com os progressos ao nível da inteligência artificial e se quase deixar de ser necessário a inteligência artificial chegar lá sozinha porque a pessoa consegue prolongar a vida humana indefinidamente e no fundo criar uma espécie quase um cyborg

Arlindo Oliveira 00:37:37.14na junção entre uma coisa e outra o meu livro não é tanto sobre esse assunto eu sei que não aliás o livro até refere que isso é uma questão muito interessante mas não é por este livro porque essas mentes não seriam digitais nós de facto eu acho perfeitamente possível que através da engenharia genética do nosso conhecimento cada vez melhor dos mecanismos biológicos seja possível controlar a agenda ou seja é relativamente fácil identificar componentes no genoma que estão relacionados com a inteligência isto é um manual isso que é possível fazer e provavelmente nem são mais publicadas porque isto é uma coisa como deve calcular mas quer dizer se eu disser que há componentes

José Maria Pimentel 00:38:12.90no genoma que estão relacionados com a altura das pessoas já ninguém se chateia

Arlindo Oliveira 00:38:15.32toda a gente acredita há coisas que estão correlacionadas e com outras e com o peso da pessoa e com a cor dos olhos etc quando falo de inteligência fica a gente um bocadinho nervosa porque é uma chatice é um tema delicado é um tema delicado mas parece-me perfeitamente razoável que a engenharia biológica venha a sugerir a possibilidade de tecnicamente existir essa possibilidade de eu fazer uma mutação nas células nas células originárias que tenha tendência que no resto seja inofensiva e que tenha tendência a aumentar a inteligência meia da pessoa isto aqui como deve calcular é um tema só por si também dava um podcast mas quem diz isso diz outras coisas controlar doenças a pessoa ser menos sensível a doenças neurodegenerativas prolongar a vida há uma série de mecanismos e neste momento a engenharia genética está portanto existem outras vias que não têm nada a ver ou muito indiretamente é que tem a ver com computadores que também permitiriam alterar profundamente a maneira como vemos isto mas de facto não é sobre isso eu também trabalho em via informática e na análise na correlação entre as características dos nomes e as características dos organismos do fenotipo há muito trabalho aí que pode ser feito e há muito dele que também tem consequências éticas extremamente difíceis nomeadamente tudo o que seja introduzir alterações genéticas na linha na linha somática na linha que depois conduz a todas as alterações

José Maria Pimentel 00:39:36.94toda a investigação nessa área é altamente polémica a questão da consciência que eu falava há pouco é a questão mais filosófica de todas aliás a consciência é um barbicacho é um grande barbicacho e em certo sentido também é mais interessante há aqui dois polos opostos há quem diga que é aqui que está a essência da questão e há quem diga que isto basicamente não tem relevância nenhuma porque é evidente e há quem diga que é uma ilusão é esta a segunda tese no fundo a consciência não é nada aliás essa é uma das perguntas que é a consciência há quem tenha essa visão de que a consciência não é mais do que uma ilusão e que tudo aquilo que não é que não é o raciocínio consciente tudo que tem a ver como por exemplo com emoções resulta simplesmente dos mesmos circuitos a ocorrerem no cérebro nós é que temos uma percepção

Arlindo Oliveira 00:40:24.12de eles diferentes pois o livro numa parte pequena e portanto não pude aprofundar embora da um bocadinho a questão da consciência que a mim sempre fascinou porque nós todos nós sabemos pelo que é a consciência somos conscientes temos a nossa linha de consciência depois quando tentamos espremer aquilo aquilo fica um bocadinho mais complicado e então para uma pessoa que trabalha em computação fica ainda mais complicado eu sou nesse aspecto muito influenciado por alguns pensadores nomeadamente o Daniel Dennett mas apresento alguns argumentos no livro que base e prende-se com aquela história ele também tem um nome para aquilo de multiple drafts model daquilo de interação para português mas realmente é esta ideia de que a nossa mente é um conjunto de agentes mais ou menos inteligentes e eles fazem mais ou menos o que lhes apetece mas nós só fazemos uma coisa somos uma pessoa só e depois no fim criamos uma consciência que é a maneira de descrever o nosso é o repórter é aquela metáfora do repórter o repórter não é grande coisa como para dizer que a consciência é uma coisa bestial o repórter é uma espécie que está ali e vai vendo o que acontece mas há uma série de evidências experimentais para a história do repórter alguma dela está no livro nomeadamente aquelas experiências primeiras experiências com split brain patients pacientes que têm as duas metades do cérebro separados e portanto têm dois agentes completamente autónomos sempre do mesmo cérebro e depois um deles justifica as ações do outro para não as ter influenciado e aquelas experiências dos timings do Liebert a questão mecânica da pessoa a questão mecânica da pessoa diz quando é que tomou decisão e a pessoa obviamente já tomou decisão antes de perceber que tomou decisão que é uma coisa muito estranha mas todas essas apontam um bocadinho o mesmo sentido que de facto a consciência é mais um repórter que de alguma maneira conta uma história coerente de todas as coisas que a gente fez do que alguém que está antes e que toma as decisões por nós o que é uma coisa muito perturbante pelo menos para mim sim é desconcertante é muito desconcertante agora obviamente eu num livro não tenho tempo para abordar isso em profundidade e há um bocadinho lá mas está lá justamente para argumentar que talvez a consciência não seja uma coisa tão mágica como isso tudo e talvez um sistema por exemplo como aquele que eu há bocadinho sugeri de um sistema que vai tendo vários agentes e vai comportando se calhar a páginas tantas nós seremos capazes de perceber consciência naquilo talvez se eu perguntar Alex mas porquê que agora pôs essa música a tocar ah porque ontem você me pediu para eu investigar sobre o Mozart se ela conseguir fazer isto não é muito difícil pensar que um sistema possa fazer isto páginas tantas a gente começa ali a pensar se não há ali alguma coisa mais além de uma resposta puramente mecânica

José Maria Pimentel 00:42:47.94exatamente sim a partir do momento que traça o padrão

Arlindo Oliveira 00:42:49.96exatamente traça o padrão tenta o padrão contém uma história para contar e porquê que lhe pedi sobre o Mozart ah porque você estava farto de ouvir os Pink Floyd está a ver eu consigo programar o sistema que faz mais ou menos isto só que páginas antes você começa a colocar consciência livre-arbítrio está a ver isto é não

José Maria Pimentel 00:43:09.16a questão da consciência que é uma lá está era aquilo que o Aline falava há pouco é uma destas coisas se a pessoa perguntar na rua se a pessoa perguntar a uma pessoa na rua sabes o que é a consciência toda a gente dirá que sim e no entanto é uma coisa que nem nem filosoficamente

Arlindo Oliveira 00:43:22.88quanto mais cientificamente há um consciência em relação a ela cientificamente é impossível não há nenhum teste para a consciência

José Maria Pimentel 00:43:27.84e a palavra é polissémica ela própria por exemplo a consciência tem a ver com a noção de existir no fundo em certo sentido tem a ver com intencionalidade aliás o John Searle que é quem no fundo julgo que foi o primeiro ou pelo menos o primeiro a corporizar esse argumento de uma forma

Arlindo Oliveira 00:43:46.08o John Searle é muito defensor de uma mágica qualquer nos cérebros que cria eu não concordo muito com ele sim mas é uma pessoa que pensou muito profundamente sobre isso é verdade a consciência tem uma certa componentes e tal o Manet também

José Maria Pimentel 00:43:56.08está a relacionar com a questão do livre-arbítrio exatamente mas não é a mesma coisa não é a mesma coisa ele fala da intencionalidade

Arlindo Oliveira 00:44:02.52no fundo depois ainda há uma outra coisa que acho que essa é que não tem quase nada a ver com isto que é a consciência moral aliás os ingleses têm duas palavras consciência e consciência portanto eu acho que são duas coisas um bocadinho diferentes é a questão dos princípios éticos princípios éticos que eu acho que essa está mesmo ao lado essa é outra

José Maria Pimentel 00:44:17.20e também é outra questão interessante já lá vamos porque também se tem falado muito sobre isso mas eu concordo que é diferente aqui o que estamos a falar é a questão da consciência autoconsciência autoconsciência o John John Searle o argumento dele o autor daquela Chinese Room experiment e no fundo o que ele diz é que determinado programa pode até fazer determinada coisa mesma coisa mas não é exatamente ele não tem intencionalidade em fazê-lo isto é petafísico mas é o argumento dele por isso é que eu não concordo com o argumento dele que aliás é exatamente oposto ao argumento do Turing

Arlindo Oliveira 00:44:51.86o teste do Turing se o sistema A faz exatamente o mesmo que o sistema B se o sistema A for inteligente o sistema B também é ele não disse mas eu acrescento se o sistema A faz exatamente o mesmo que o sistema B e a gente não consegue distinguir se o sistema B é consciente o sistema B também é consciente o CERL não reconhece isto o CERL diz não, não, não e se fosse só manipular símbolos não conta tem de ser mesmo um cérebro humano só aí é que dá e o CERL não está sozinho nisto há outras coisas e há quem diga e há quem diga

José Maria Pimentel 00:45:16.20por exemplo e essa é questão interessante porque a maneira de pensar que eu estava a expor inicialmente no fundo voltando àquela questão do Machine Learning por exemplo é que no fundo se nós assumimos que há aqui uma progressão incremental ou exponencial essa progressão levar-nos-á à partida nada impede tirando aqueles argumentos que nós falámos antes mas admitindo que isso não que não existe esse tipo de limitações nada impede a chegar a inteligência artificial ao nível humano mas há quem diga por exemplo que a consciência não é algorítmica pois

Arlindo Oliveira 00:45:42.96mas é o mesmo argumento é o argumento do Soro o argumento do Penrose que a consciência não é algorítmica mas como ninguém sabe o que é a consciência isso é mais uma questão de fé na verdade é muito parecido

José Maria Pimentel 00:45:53.24eu digo isto como alguém que aprecia este argumento da consciência mas eu reconheço que o argumentário é muito parecido com o argumentário relacionado com a religião é muito parecido

Arlindo Oliveira 00:46:02.46é exatamente igual é a questão do não se conseguir provar o contrário exatamente não se conseguir provar o contrário e já agora mas eu volto a dizer eu acho que isto é exatamente o oposto do que o Turing propôs se a gente não consegue distinguir na interface é porque tem de ser a mesma coisa e as pessoas estão ao contrário que aliás como muito bem disse é um bocadinho mesmo a questão que a religião se eu fizer aqui uma cópia átomo por átomo de si se calhar não tem alma você tem mas esta cópia não tem mas isto é uma questão filosófica é uma questão religiosa é uma questão de convicção porque nenhuma experiência física poderá distinguir um sistema que tem alma de um sistema que não tem alma tal como não pode distinguir um sistema que tem consciência e um sistema que não tem consciência

José Maria Pimentel 00:46:39.84mas apesar de tudo eu aí diria que é um bocadinho diferente porque se reproduzissem átomo por átomo seria alguém igual a mim não, seria alguém igual a mim o que acontece na inteligência artificial é que não houve até agora nenhum live ou pelo menos reconhecido enquanto tal de consciência

Arlindo Oliveira 00:46:52.28e de intencionalidade mas a questão filosófica tem um bocadinho a ver não, tem um bocadinho que ver exatamente mas é aliás, eu dou o exemplo também de um dos críticos disto que é o Homem do Pântano onde ele dá exatamente este argumento se eu reproduzir átomo por átomo de uma pessoa o São Pemeno não tem alma

José Maria Pimentel 00:47:07.64é aquela questão dos dualistas é a questão dos dualistas mas eu acho isto para dizer que eu por exemplo pessoalmente não me vejo como um dualista e no entanto mas há um bocadinho dualista eu não chamaria era do que se calhar estou a ser estou a tentar preservar mas é isso que eu tento

Arlindo Oliveira 00:47:22.48descascar um bocadinho no livro que a maior parte de pessoas diz que não é dualista mas depois quando a gente pergunta ali um bocadinho mais claro, sim há uma moral no fundo que está relacionada é, exatamente há uma coisa mais um bocadinho mais porque a questão

José Maria Pimentel 00:47:32.48por exemplo outra questão que isto me suscitou logo é a questão do inconsciente por exemplo o cérebro humano e isso tem que ver com o lado mais não só neurológico mas também psicológico e no fundo o cérebro humano funciona de uma forma que não é análogo à maneira como está construído para funcionar mas isso pode não ser uma característica pode ser uma limitação do cérebro humano agora isso está presente em muito está presente nas nossas emoções as emoções têm muito que ver com o inconsciente embora não sejam a mesma coisa está muito mas são tudo neurônios

Arlindo Oliveira 00:48:00.74a disparar e os neurônios podem ser estimulados no computador

José Maria Pimentel 00:48:03.40mas o processo é diferente ou seja se as nossas emoções no fundo eu faria a pergunta assim esta distinção consciente e inconsciente torna-se irrelevante num algoritmo porque não faria sentido ter um computador construído para ter consciente e inconsciente é quase uma contrariação em termos

Arlindo Oliveira 00:48:17.56mas eu acho que essas coisas estamos a entrar em uma zona acompanhada mas eu acho que são tudo ilusões consciente e inconsciente são tudo neurônios a disparar

José Maria Pimentel 00:48:27.20o que eu quero dizer é que eles podem ser ilusões mas estão muito presentes na maneira de atuar do cérebro humano o inconsciente dita muitas das nossas ações aliás essa questão o exemplo

Arlindo Oliveira 00:48:36.98que falava há pouco da mecânica o inconsciente dita quase todas as nossas ações pois ou quase todas exatamente e no fundo sem perceber exatamente o que aquilo é é muito difícil perceber se pois é mas voltamos àquele modelo do cérebro como é o multiple draft do DENET ou o modelo quer dizer nós temos aqui muitos agentes há uns estão preocupados com a sobrevivência e outros e depois o nosso comportamento como ser humano resulta desta interação e de alguns filtros que outros agentes põem em cima destes quer dizer se nos aprecer matar alguém em princípio aparece um outro agente e diz isso não é boa ideia

José Maria Pimentel 00:49:08.12há aqui uma questão muito interessante independentemente destas limitações da consciência admitindo a progressão da inteligência artificial aqui há vários perigos digamos assim com várias ordens de grandeza e também com várias ordens temporais uns mais próximos e outros mais longínquos para seguir uma lógica contraintuitiva começando pelos mais longínquos há a questão que já falámos há pouco superficialmente da singularidade que no fundo que é ela própria também em certo sentido contraintuitiva que é a partir do momento em que o primeiro algoritmo é criado o primeiro algoritmo genérico e com capacidade equivalente à humana é criado como esse algoritmo não tem as restrições biológicas que o ser humano tem ele pode criar o algoritmo seguinte e por aí em diante num curtíssimo espaço de tempo e no fundo e muitos dos alertas para os perigos da inteligência artificial têm em conta isso que nós podemos pode ser tarde para agir

Arlindo Oliveira 00:49:59.00essas duas questões estão relacionadas e podemos tratar elas ao mesmo tempo embora elas sejam um bocadinho diferentes uma é a questão da singularidade tecnológica e até a questão das superinteligências ou via explosão da inteligência portanto o Irving John Wood que foi um cientista que trabalhou com o Alan Turing foi o primeiro a dizer que se a gente há uma vez a inventar se o homem há uma vez a inventar uma máquina tão inteligente como ele já não precisa inventar mais nada ele chamou-lhe a última invenção da humanidade depois a máquina faz o resto como trabalha mais depressa pode ser reproduzida os problemas podem ser copiados muitas vezes a partir daí não precisa fazer mais nada portanto fica ao lado e depois espera que a máquina faça a próxima versão e essa faça a próxima versão que é aquela ideia da explosão da inteligência nós ainda estamos muito longe disto felizmente eu considero que não haverá isto embora como eu disse o jogo do Go tem ali um em domínios específicos é interessante ver isto a acontecer muito específicos portanto essas duas questões de facto estão relacionadas eu não tenho uma resposta para isso há pessoas que preocupam com isso é curioso que há grandes investigadores pessoas dos nomes mais importantes da área de assistência artificial nomeadamente o Stuart Russell que é um talvez a pessoa mais conhecida da área de assistência artificial é um professor em Berkeley e que ultimamente tem-se dedicado muito a esta questão

José Maria Pimentel 00:51:02.06ele fez parte daquela carta aberta que tinha vários nomes tinha o Stephen Hawking também sim, exatamente

Arlindo Oliveira 00:51:08.94mas o Stephen Hawking na verdade é um físico o Stuart Russell não o Stuart Russell escreveu o livro de inteligência artificial que todas as universidades usam incluindo a nossa o Stuart Russell não se pode dizer que é uma pessoa que não percebe bem das técnicas artificial porque ele só alguém percebe a ele portanto não deixa de ser interessante que ele e outros de facto consideram que essa questão é suficientemente relevante para ser digna de análise porque eu podia dizer é pá, não a gente tem a desenvolver a inteligência deixar de falar dessas coisas como aliás muita gente diz deixar de falar das coisas estamos tão longe disso que isso é um problema que não existe mas algumas pessoas não acham isso portanto eu acho que pelo menos dedicar algum tempo a pensar nessa questão acho que vale a pena não é que eu acho que vai haver um Terminator ou uma coisa qualquer parecida acho que esse modelo não mas pode haver coisas diferentes pode haver sistemas que tomam conta dos computadores para tentar atingir um objetivo qualquer que a gente nos disse para atingir sei lá para evitar a pirataria informática portanto pode haver outras questões portanto eu acho que essa questão é filosoficamente interessante e acho que é pelo menos filosoficamente interessante para a gente dedicar um bocadinho do esforço de investigação a pensar nessas questões

José Maria Pimentel 00:52:12.08a questão que ele levanta o Stuart Russell ele ouviu uma entrevista com ele com o Sam Harris não sei se eu vi essa entrevista dele que era muito interessante e ele falava exatamente e ele falava exatamente daquilo daquilo que falámos a passar há pouco que é a questão da função objetiva exatamente a gente tem que ter cuidado com o que é que pede Exatamente e se a pessoa pede para fazer a A ele para fazer a A pode não ter o discernimento pode não ter lá está se quisermos chamar-lhe a consciência ou pelo menos a a inteligência exatamente e a inteligência no sentido do bom senso do bom senso exatamente daquilo que nós chamamos bom senso para perceber o que está em jogo e portanto no fundo o trabalho que ele está a tentar fazer de alerta parece-me que é

Arlindo Oliveira 00:52:52.38alertar quem programa para eles chamam-lhe o alinhamento exatamente value alignment é a questão de garantir que os sistemas que eles vão haver vão ter os valores alinhados com as necessidades da raça humana eu costumo dar o exemplo costuma ser claramente perceptível sabemos que eu tenho aí um sistema finalmente muito inteligente daqui a 10 anos tenho um sistema super inteligente consegue resolver qualquer problema importante para a humanidade então olha faz o que for preciso para parar o aquecimento global há uma solução muito fácil para o aquecimento global é exterminar a humanidade exterminar a humanidade o aquecimento global

José Maria Pimentel 00:53:21.04está resolvido está resolvido agora não convém ser essa solução

Arlindo Oliveira 00:53:26.30depois é tarde não era bem isso que eu queria dizer é parar o aquecimento global sem matar ninguém

José Maria Pimentel 00:53:31.76é aquela parábola do género e da lâmpada não é uma série de anedotas que são assim exatamente é o tipo é do primeiro desejo e o segundo e no fim acaba e o terceiro é a dizer é voltar atrás neste caso porventura não dava para voltar atrás é preciso ter cuidado é preciso ter cuidado mas o que os estudantes

Arlindo Oliveira 00:53:45.42eu acho que eles têm razão o que é que o sistema que a gente peça aos sistemas para fazer temos de ter a certeza que estamos a esficar bem a questão

José Maria Pimentel 00:53:53.42e o argumento dele ou por outro ele sustenta a preocupação no facto de muitos algoritmos recentes e o julgo que ele está a falar é exatamente especialmente destes relacionados com o machine learning

Arlindo Oliveira 00:54:03.00serem black boxes serem caixas negras a gente não sabe o que é que está a falar isso é uma coisa que eu não refiava na questão da aprendizagem que é ao contrário de um programa que é especificado detalhe por detalhe linha por linha num destes sistemas que aprende nós nunca sabemos bem o que é que ele aprendeu por exemplo um carro que a gente treina para andar e a conduzir e este é um dos argumentos principais quanto aos carros autónomos que ele tem de ter muitas redundâncias porque a gente nunca tem a certeza que um carro um dia não acelera porque uma pessoa vai estrelada de vermelho com faixas azuis que é uma coisa que ele nunca viu na vida isto em princípio não acontece a probabilidade é muito baixa mas nós nunca sabemos exatamente o que é que foi aprendido por um sistema destes é como o cérebro nós também nunca sabemos exatamente o cérebro também nunca sabe sobre sono não sai daqui e vai matar outra linha o caso é o mesmo e essa é uma questão importante que é o que diz o Stuart Russell são caixas pretas nós treinamos um sistema deste ele funciona bem funcionou bem em todas as experiências que a gente fez nunca acelerou para matar nenhum peão mas a gente não experimentou todos os peões possíveis à frente exatamente

José Maria Pimentel 00:54:59.06e o Pedro Domingos em relação a isso ouvi uma entrevista dele em que ele dizia que nem todos são caixas negras há alguns que são outros que não é verdade mas os mais complexos e mais poderosos e tendrá a evoluir para aí tendrá a evoluir para quase todos

Arlindo Oliveira 00:55:11.50estamos a usar agora são caixas negras há alguns que se pode perceber o que é que ele aprendeu mas são em domínios muito restritos e não atacam geralmente estes problemas genéricos que estamos a falar

José Maria Pimentel 00:55:22.44outro perigo da inteligência artificial relacionado com este é no fundo é outra visão de um futuro possível este aqui é que há um desalinhamento da função objetiva uma pessoa dá um objetivo engana-se quase em certo sentido ou o algoritmo não prevê isso e acontece uma calamidade outro argumento interessante ou outra possibilidade interessante é a questão do argumento do formigueiro normalmente formulado assim que é não é lá está aquela perspectiva do Terminator de querer eliminar a humanidade que é obviamente um bocadinho cinematográfica mas é questão de da humanidade deixar de ser importante como são as formigas para nós se calhar pisei várias formigas a caminho daqui e não

Arlindo Oliveira 00:55:56.92é verdade quer dizer nós como a raça mais inteligente da terra somos culpados disso nós não nos preocupamos muito com o bom estar das galinhas nem sequer dos outros animais e mesmo dos chimpanzés é isso a gente deixa já viver em umas reservas mas não damos exatamente umas condições de vida por aí além esse risco esse risco é um bocadinho diferente apesar de tudo porque aí já estamos a imaginar um sistema que tem diria que tem de ter uma consciência tem de ter uma consciência de tal forma avançada que essa espécie humana são os nossos anos passados

José Maria Pimentel 00:56:27.24Exatamente surge mais à frente não é?

Arlindo Oliveira 00:56:28.84Eu acho que isso é uma conceptualmente é uma questão interessante estamos a falar realmente de enormes desenvolvimentos que neste momento acho que isso já está para o lado da singularidade se chegássemos a esse sítio é porque temos um sistema de tal maneira complexo e sofisticado que mudaria profundamente a sociedade

José Maria Pimentel 00:56:46.48Sim, é completamente futurista

Arlindo Oliveira 00:56:48.26É completamente futurista eu acho que isso está para o lado da singularidade e mesmo eu não tenho que ter por ver para o lado da singularidade como percebeu exceto ali umas especulações Claro

José Maria Pimentel 00:56:55.74Eu acho que eu admito que se torna um bocado irresistível a certa altura discutir porque quanto mais longe se está mais incerto é e portanto mais é possível conjeturar sobre uma coisa e outra o tema da inteligência artificial e em relação ao tema do alinhamento à questão do alinhamento dos objetivos o que isto faz que é interessante e no fundo explica porque é que há muito porque é que há muito tem havido muita atenção da parte dos filósofos em relação a este tema é que isto traz para cima da mesa considerações morais que muitas vezes não são implícitas a questão dos carros eu lembro-me ter feito um teste que depois uns tempos depois começou a correr muito por aí

Arlindo Oliveira 00:57:32.42da pessoa decidir quem é que mataria quem é que não mataria eu apanhei isso a primeira vez

José Maria Pimentel 00:57:41.04num curso aberto de árvore sobre justiça do Michael Sandel que tem muita piada e ele falava nesse teste que é um teste que nos obriga a fazer escolhas nós não fazemos no dia a dia temos-las implícitas em certo sentido e é preciso colocar na máquina entre uma pessoa de idade e uma criança o que é que a máquina vai fazer e ela tem que ter isso ou não tendo qual é a alternativa a alternativa é não fazer nada ou a alternativa é

Arlindo Oliveira 00:58:05.64o que acontece é que nós quer dizer nós geralmente nos exames de condição não perguntam se a gente mata a rainha do lado esquerdo ou mata o jovem do lado direito a atravessar no somal vermelho porque nós também geralmente não temos tempo para isso os poucos casos em que lamentavelmente existem acidentes absolutamente não têm tempo para racionalizar mas os computadores têm porque são muito mais rápidos portanto um computador que decida matar a velhinha que está do lado esquerdo em vez da criança tomou deliberadamente essa decisão e essa decisão temos de garantir que é o mais aceitável possível isso depende-se com aquela questão do trolley problem que eu por acaso não falo no livro mas tem muito a ver com estas coisas o problema do elétrico não sei qual é sabe é muito conhecido que é haver um elétrico eu posso desviar o elétrico e matar o seu sol o Michael Sanders falava disso mas era com um comboio é o trolley chama-se o trolley problem há um livro há vários há muitos artigos

José Maria Pimentel 00:58:53.74isso é interessante eu vou terminar a conversa fazendo-lhe uma pergunta relacionada com aquele papel com aquele teste que me estava a falar há pouco portanto suspeito que possa não querer responder mas se tivesse que atravessar genericamente com uma timeline com uma ordem de progressão para aquilo de que falámos o que é que diria? 00:59:10.28relativamente relativamente por exemplo abstraindo-nos aqui da questão da consciência em relação a termos inteligência artificial genérica que engloba

Arlindo Oliveira 00:59:18.16as várias tarefas não é? 00:59:19.24eu estou convencido que através sistemas de inteligência sintética portanto desenhados a partir de técnicas não tem nada a ver com o cérebro humano tais como os que estão por trás da Siri da Alexa da Google etc acho que esses sistemas vão se tornar cada vez mais sofisticados e nós vamos passar a depender muito mais deles e que a pressão natural será para que eles desenvolvam uma personalidade suficientemente própria e suficientemente sofisticada para páginas tantas nós pelo menos implicitamente concedermos algum tipo de reconhecimento pela personalidade não diria consciência não diria não diria personalidade jurídica mas conhecemos personalidade ou seja um assistente que está connosco muitas horas do dia que trata dos nossos assuntos etc que manda flores à mulher no dia do aniversário etc será demasiado parecido com um ano para nós não lhe reconhecermos algum tipo de e portanto esse será provavelmente o primeiro passo as outras vias via via simulação dos mecanismos do cérebro ou mesmo via o mind uploading via cópia integral do cérebro e simulação eu acho que são tecnologias que estão mais distantes embora como já várias pessoas observaram elas já existem agora é só uma questão de escala ou seja nós conseguimos fazer isto para sistemas muito pequeninos como a maioria de neurônios não conseguimos fazer para um cérebro humano que tem mil milhões a cem mil milhões mas mas as tecnologias existem portanto é só questão de desenvolver e aperfeiçoar não é preciso nada que não exista agora pois lá está é continuar a subir os degraus

José Maria Pimentel 01:00:48.06é continuar a subir os degraus aparentemente há coisas que é preciso por exemplo

Arlindo Oliveira 01:00:50.56para a segunda via que é desenvolver um cérebro humano nós neste momento não sabemos há tecnologias que não existem pode ser que venhamos até hoje mas não existe sim, não se está sequer a investigar não está, está a investigar mas aqui é muito difícil não existe é preciso um breakthrough as outras não é realmente preciso um breakthrough nas outras nas duas vias quer das agências sintéticas quer na cópia integral não é realmente preciso nada que a gente não conheça agora é só preciso desenvolver muito é certo técnicas que já existem agora portanto eu acho que essas provavelmente as agências sintéticas vão estar aí mais cedo do que a gente está à espera provavelmente ainda vou ver algumas dessas relativamente genéricas associando para a gente ter que conversar com elas naturalmente e as outras muito obrigado por ter vindo ao podcast foi muito interessante a conversa espero que os

José Maria Pimentel 01:01:33.42ouvintes também de certeza porque este tema é daqueles temas que toda a gente está interessada muito obrigado por ter vindo e como dizia a Maria Papoila cumprimentos ao senhor prior técnico o instituto é nesta igreja o que é que a menina quer? 01:01:53.72o senhor fazerá assim a favor de me dizer se é aqui que precisa de uma criada de servir é aqui assim não? 01:01:57.40não bonita aqui é o instituto superior técnico ah sim senhor mas é também aqui que fica a pensão lisbonense não é aqui assim não? 01:02:04.16a pensão lisbonense fica ali de pronto ali para aquele lado ah muito agradecida sim olha e recado ao senhor prior a quem? 01:02:10.54ao senhor prior técnico olha os trabalhadores outra vida outra vida tem gostado dos últimos episódios? 01:02:17.62se ainda não o fizeram subscreva 45 graus na vossa aplicação de eleição no vosso smartphone tablet etc se gostarem mesmo do podcast convido-vos também a partilhá-lo com amigos e avaliá-lo no iTunes é também importante para mim saber o que vai na cabeça de quem ouve o podcast desse lado por isso são muito bem-vindos feedback críticas e sobretudo sugestões de temas e convidados futuros obrigado e até ao próximo episódio