[republicado] Arlindo Oliveira - "Haverá alguma vez Mentes Digitais com inteligência superior à humana?"?

Data: Wed, 26 Jun 2019 · Duração: 01:03:25

Clica em qualquer parte da transcrição para saltar para esse momento no vídeo.

José Maria Pimentel 00:00:00.00Olá, esta semana resolvi republicar um episódio antigo e que é um dos mais ouvidos do 45 Graus. 00:00:06.16É a conversa com Arlindo Oliveira, presidente do Instituto Superior Técnico, a propósito do livro Mentes Digitais, em que falamos sobre o futuro da inteligência artificial e num cenário extremo a maneira como pode pôr em causa a própria supremacia da inteligência humana. 00:00:19.64Este é um tema imensamente relevante, ao qual aliás já voltei no podcast e ao qual vou voltar ainda num episódio antes da pausa para férias. 00:00:26.76Como tinha publicado esta conversa logo ao quinto episódio do podcast, há mais de ano e meio, achei que estava na altura certa de voltar a pôr na primeira fila para que volte a ter a atenção merecida. 00:00:36.84Espero que gostem e até para a semana. 00:00:43.30Bem-vindos ao 45 Graus. 00:00:45.44Neste episódio estou à conversa com Arlindo Oliveira, presidente do Instituto Superior Técnico e autor do livro The Digital Mind, lançado este ano e cuja edição em português, com o título Mentes Digitais, foi lançada na semana passada. 00:00:57.40Foi uma conversa cheia, em que falámos de vários temas ligados ao futuro da inteligência artificial, ou, nas palavras do convidado, o surgimento das chamadas mentes digitais. 00:01:06.04Ao usar esta palavra, mente, Arlindo Oliveira transporta deliberadamente a discussão da inteligência artificial atual, independentemente dos seus avanços inegáveis, para um futuro mais ou menos longínquo, em que poderemos ter inteligência artificial equivalente, e portanto superior, à humana. 00:01:19.78Algumas das questões de que falámos podem parecer mais técnicas, mas outras, em maior número do que poderia parecer à partida, são essencialmente filosóficas, levando-nos a questionar o que é ser humano e como pode vir a ser o convívio com estas mentes digitais. 00:01:32.22Sem mais demoras, vamos então mergulhar no mundo da inteligência artificial, à boleia de Arlindo Oliveira. 00:01:40.16Muito obrigado por ter aceito o convite para vir ao podcast. 00:01:43.20Eu tenho uma certa, quase, vergonha dos temas anteriores deste podcast, que quase parecem prosaicos comparados com o tema de hoje, que é um tema importante, há quem diga, aliás, que é o tema mais importante que a humanidade enfrenta hoje em dia, embora provavelmente não haja tanta essa noção na atualidade noticiosa, mas há muito quem diga isso. 00:02:00.20E é um tema, sobretudo, que tem uma série de aspectos que é interessante falar. 00:02:04.08Eu destacava alguns, desde logo, a evolução recente da inteligência artificial, nos últimos anos, e parte dela ainda não é totalmente conhecida do grande público, como, por exemplo, o chamado machine learning, portanto, a capacidade dos algoritmos de aprender, ou a capacidade dos programas de aprender. 00:02:19.38Depois, a magna questão do, se o chamado human level AI, portanto, inteligência artificial ao nível comparável com o ser humano, se é possível, e os vários caminhos para conseguir, que são abordados no seu livro, e essa questão dos vários caminhos é interessante, porque não é, noutros fóruns eu tenho visto, curiosamente, até menos discutida, portanto, é interessante nós falarmos sobre isso. 00:02:38.16Depois, a segunda perna desta magna questão, que é a questão da consciência, ou seja, que é uma questão mais filosófica dessas todas, que é o se existe ou não consciência, e o seu livro tem claramente uma chamada a esta questão, porque ele chama-se de digital mind, e não se chama de digital intelligence, ou alguma coisa assim do género, ou seja, a palavra mente está lá e, portanto, remete para esta questão, que depois é abordada no livro. 00:02:59.72Para além disso, os perigos da inteligência artificial, que são vários, desde o perigo tipicamente cinematográfico de tomar em conta do mundo, até perigos mais realistas, perigos mais realistas, e, sobretudo, mais, que terão que ser debulados mais brevemente. 00:03:14.42E, finalmente, como vai ser o futuro, assumindo a inteligência artificial, que é outra questão que é abordada no seu livro. 00:03:21.20Começando por esta primeira, da evolução recente, e do machine learning, isto é um fenómeno ultra interessante, porque isto, no fundo, passa-nos de uma realidade em que tínhamos, sobretudo, o chamado narrow AI, portanto, eu não sei como é que se traduz em português a inteligência artificial específica, vamos supor, e começamos a dar passos no sentido de ter uma inteligência artificial genérica. 00:03:40.54Ou seja, passamos a ter programas que eram definidos para fazer determinada tarefa, programas como o programa que venceu o Kasparovno a jogar xadrez, por exemplo, e passamos a ter programas que têm a promessa de poder fazer mais do que uma tarefa e, no limite, fazê-las quase todas. 00:03:56.72E este é um tema muito interessante. 00:03:58.48Aliás, houve um livro do Pedro Domingos, que faz o prefácio do seu livro, que se chama The Master Algorithm, e o ponto dele é, exatamente, é o algoritmo mestre. 00:04:07.46Tal como a chave mestra abre todas as portas, o algoritmo mestre é aquele que poderá, metaforicamente, abrir as portas todas. 00:04:14.98E o que é interessante, disto, sobretudo, para quem está fora, o que parece, e corrijam-me se eu estiver a explicar isto de uma maneira demasiado simplista, é que o que até aqui nós tínhamos era um algoritmo que tinha que ser exaustivamente definido e sem erros, ainda por cima, ou seja, não tinha que ser definido, tudo tinha que lá estar e sem qualquer tipo de erro, e o paradigma para que nós estamos a passar é um paradigma em que o algoritmo não está totalmente definido e depois é o próprio algoritmo que, com base nos dados, no chamado Big Data, que é o que, entretanto, possibilita isto, que são os dados como inputs, consegue aprender por ele próprio, não é? 00:04:45.18Daí o learning. 00:04:46.26É mais ou menos isto?

Arlindo Oliveira 00:04:47.24Sim, em primeiro lugar, muito obrigado pelo convite para estar aqui no podcast, é sempre um prazer falar destas questões e espero que assim também chegue a pessoas que, de outra maneira, não chegariam. 00:04:56.24Pois, a pergunta que eu coloco é interessante, a questão da aprendizagem, os nomes são sempre difíceis de traduzir, em inglês é machine learning, ou seja, aprendizagem por máquinas. 00:05:04.44Em português, geralmente, eu uso por aprendizagem automática, mas, enfim, o que interessa é que é uma técnica onde, de facto, os computadores aprendem a desempenhar determinada tarefa. 00:05:15.96Esta é uma questão que já me fascina há muitos anos, aliás, eu há 30 anos, quando fui fazer a tese de doutoramento, há 30 e tal, já achava que era uma questão fundamental, mas, na altura, ninguém ligava muito. 00:05:24.48Quer dizer, ninguém ligava, não é verdade. 00:05:25.82Havia pessoas na comunidade de ciência artificial que ligavam, mas, em geral, ninguém ligava muito a isso.

José Maria Pimentel 00:05:30.10Era menos executível, provavelmente, na altura.

Arlindo Oliveira 00:05:32.22Não, as tecnologias já existiam, não eram assim tão diferentes desde agora. 00:05:35.12Eu já explico um bocadinho o que é que variou, porque é interessante. 00:05:37.26De qualquer maneira, é como disse, enquanto que, na maior parte dos programas de computador, que estamos habituados, alguém programou em detalhe como é que eles funcionam, cada janela, cada botão, cada comportamento, cada frase que diz, etc., quando um programa usa aprendizagem, é um bocadinho diferente. 00:05:54.24Portanto, o programa aprende, tem lá um algoritmo, esse algoritmo foi codificado por alguém, mas esse algoritmo o que faz é aprender com a experiência. 00:06:01.38Por exemplo, pode aprender a reconhecer gatos em fotografias, ou pode aprender português, a reconhecer português falado a partir de texto em português. 00:06:09.08Deteta padrões, no fundo. 00:06:10.16Deteta padrões. 00:06:10.80Exatamente, o teste são de padrões e a generalização para partir de padrões. 00:06:13.60O que, aliás, pensámos, é um bocadinho o que o cérebro humano faz.

José Maria Pimentel 00:06:15.84Exatamente. 00:06:16.38O cérebro humano também. 00:06:17.06Só que pior. 00:06:17.92Só que? 00:06:18.50Só que pior.

Arlindo Oliveira 00:06:19.44Pior ou pronto? 00:06:20.28Não, até é melhor, é mais versátil. 00:06:22.88Hoje em dia ainda é melhor. 00:06:23.72É mais versátil. 00:06:24.70Mas aquilo que os algoritmos conseguem fazer fazem-no melhor do que nós. 00:06:27.66Exatamente. 00:06:28.16Quando se especializam numa dada área, os algoritmos, às vezes, conseguem ser melhor do que nós. 00:06:31.64Mesmo classificação de imagens e coisas desse tipo, reconhecimento de caracteres manuscritos, que é uma questão difícil, eles já fazem melhor do que os humanos. 00:06:37.88E, portanto, de facto, é como diz, aliás, a inteligência artificial começou um pecado para as pessoas tentarem especificar como é que se fazem coisas, como, por exemplo, planear ir do sítio A para o sítio B, ou demonstrar um triângulo matemático, ou jogar xadrez, são tudo exemplos de coisas que se tentaram pôr os sistemas a fazer, jogar as damas, etc. 00:06:56.50E só mais tarde é que apareceu esta ideia da aprendizagem. 00:07:00.04Embora, curiosamente, o Alan Turing tem dito logo desde o princípio que, pá, isto fazer um programa deve ser muito difícil, é melhor fazer uma coisa para o computador aprender por si. 00:07:06.42O Alan Turing, já agora,

José Maria Pimentel 00:07:07.22só para dar aqui algum contexto, pioneiro da inteligência artificial e conhecido pelo filme Invitation Game.

Arlindo Oliveira 00:07:12.40Muito conhecido pelo filme, que ele trabalhou no ataque às cifras alemães em Bletchley Park, mas de facto foi o fundador da computação, tal como a gente a conhece, foi talvez o mais importante, mas também tem um artigo muito influente de 1950 onde ele fala justamente da inteligência artificial e fala do teste Turing e como é que se pode distinguir. 00:07:29.34É o mesmo artigo. 00:07:30.60Exatamente. 00:07:31.02É o mesmo artigo onde ele explica como é que se pode usar um teste para distinguir quando é que um computador se tornasse inteligente e é nesse mesmo artigo que ele diz mas a maneira mais fácil de tornar um computador inteligente deve ser fazer com que ele aprenda. 00:07:41.50É começar com um cérebro simples e depois fazer com o computador e depois fazer com que ele aprenda. 00:07:45.68Mas enfim, mas isso depois durante muitas décadas não se desenvolveu muito e só recentemente, enfim, as técnicas de aprendizagem já existem há uns 30 anos, mas, há 35 mesmo, mas só recentemente é que temos dados suficientes e só recentemente é que temos computadores suficientemente poderosos para elas poderem funcionar nos problemas realmente difíceis. 00:08:03.64Porque em problemas mais fáceis elas já funcionavam. 00:08:05.68Por exemplo, analisar-se uma pessoa deve, se uma transação de um cartão de crédito deve ou não ser interceptada por ser falsa já é feita há muitos anos como método de aprendizagem autêntica. 00:08:14.82Só que agora, além disso, conseguimos atacar problemas mais difíceis. 00:08:17.64Podemos colocar um carro a conduzir sozinho ou a jogar um jogo do Go que é um jogo complexíssimo ou a traduzir de uma língua para a outra ou a perceber uma língua falada. 00:08:27.46São essas coisas que agora se conseguem fazer porque há mais dados, mais capacidade computacional e algoritmos um bocadinho melhores. 00:08:33.08Eles não são muito melhores, são só um bocadinho melhores, mas é o suficiente para fazer a diferença. 00:08:36.26Claro, mas a chave aí está no poder computacional e nos dados. 00:08:39.88São estas três coisas, são estas três coisas. 00:08:41.72Algoritmos é um bocadinho melhores, portanto, eles melhoraram os algoritmos, é um facto. 00:08:45.18Mas não são radicalmente melhores, é ali um pequeno ajuste. 00:08:48.06Mais dados, muito mais dados e para trabalhar com isto tudo muito mais capacidade computacional.

José Maria Pimentel 00:08:53.70o exemplo que deu do gol, ou do go, nunca soube exatamente como é que se diz, em inglês dizem go, mas acho que é porque é parecido com o verbo. 00:09:02.98Eu lembro-me perfeitamente de estar a ter uma conversa com um amigo há uns anos sobre isso. 00:09:06.32E ao dizer que aquilo não se ia resolver. 00:09:07.74Não, eu confesso que não me lembro o que é que ele dizia, mas lembro-me dele me estar a explicar na altura, nós estávamos muito tempo a falar sobre isso, da diferença face ao xadrez. 00:09:14.68Ou seja, o xadrez tinha sido controlado, embora o Kasparov não tenha aceito a derrota, mas para todos os efeitos foi. 00:09:22.54E havia o desafio do gol que era um jogo muito mais complexo, porque no fundo tem muito mais possibilidades. 00:09:27.26E o que é interessante aí, e isto vinha no seu livro, sabe-vos ver, é que o AlphaGo, portanto o programa que fez isso, aprendeu em certo sentido, aprendeu a detectar padrões e não foi sequer, não jogou apenas com os dados que tinha, até porque os dados que tinha não eram suficientes para dominar o jogo

Arlindo Oliveira 00:09:43.00completamente, porque o jogo tem tantas possibilidades. 00:09:44.38Mas sabe que há um movimento muito interessante do gol e que acabou de sair. 00:09:47.46Aliás, tenho ali o artigo que depois mostro-lhe no fim, que é, portanto, o AlphaGo, como foi apresentado há dois anos, não é? 00:09:53.88Sim. 00:09:54.02Aconteceu há dois anos, em 2015, o AlphaGo aprendeu a partir de partidas que existem em base de dados jogados por humanos. 00:10:01.52Portanto, ele aprendeu que estava nas partidas,

José Maria Pimentel 00:10:03.70depois melhorou aquilo, não é? 00:10:05.36É como o ser humano assistir a uma série de jogos a desenrolar-se na sua frente.

Arlindo Oliveira 00:10:08.72Aprendeu e depois acabou por bater o campeão do mundo. 00:10:11.00Mas no artigo que foi publicado este mês, em setembro, na Nature, eles treinaram um outro sistema que aprendeu sem usar nenhum conhecimento humano, só ao jogar contra si mesmo. 00:10:21.50Jogou 50 milhões de jogos contra si mesmo. 00:10:23.74Sim. 00:10:24.62E este sistema que não usou nenhum conhecimento humano bateu o sistema anterior por 100 a zero. 00:10:30.86Completamente.

José Maria Pimentel 00:10:31.56É o DQN? 00:10:32.96Ou é o outro? 00:10:33.84É o? 00:10:34.46O DQN, que é o Deep Q Network, que é o outro... 00:10:37.10Não, não.

Arlindo Oliveira 00:10:37.82É o AlphaGo. 00:10:39.04É o AlphaGo. 00:10:39.58É o AlphaGo. 00:10:40.08Ah, ok. 00:10:40.68É o AlphaGo, só agora chama-me AlphaGo, não sei quantos. 00:10:42.66Uma variante. 00:10:43.58E então, mas o que é interessante é que enquanto o anterior basicamente aprendeu a partir do conhecimento que a raça humana, porque aqueles jogos são campeões, não é? 00:10:52.20Aprendeu a partir do conhecimento que a raça humana tinha guardado, não é? 00:10:55.30Estava em base de dados, aprendeu e aprendeu muito bem e passou a ser o campeão do mundo. 00:10:59.28Mas este aqui basicamente conseguiu reproduzir dentro do computador todo o processo de aprendizagem do Go desde que ele começou a ser jogado há centenas, milhares de anos, não sei. 00:11:09.24Portanto, e estes milhões de jogos que ele jogou sem usar nenhum conhecimento gerado por humanos transformou-o não só num melhor jogador do que os melhores humanos que o outro programa e o que é mais curioso é que descobriu jogadas e formas de jogar que eram desconhecidas da humanidade. 00:11:23.74Os campeões olham para lá e dizem mas isto não é normal, isto ninguém joga assim. 00:11:27.34e ele de facto descobriu-lhe. 00:11:28.44É muito interessante. 00:11:29.24O último desenvolvimento eu dou-lhe uma cópia do artigo e é muito interessante. 00:11:33.96Obrigado.

José Maria Pimentel 00:11:34.80Mas isso é interessante até a outro nível porque o que o programa fez na prática se tivesse sido um ser humano a fazê-lo chamava-se criatividade. 00:11:43.36Exatamente. 00:11:43.82Não é? 00:11:44.50O que é incrível em certo sentido porque não era

Arlindo Oliveira 00:11:48.04de todo aquilo que acontecia até aqui. 00:11:49.64É, mas exatamente. 00:11:50.50Mas prende-se também com uma outra questão que é aquela ideia que eu também descobriu no livro e que há outros livros sobre isto que é páginas tantas um sistema pode-se tornar tão inteligente que cria mesmo a próxima versão do sistema. 00:12:03.14Sim. 00:12:03.94É claro que foi num domínio muito restrito. 00:12:07.06não é muito sem ser artificial geral. 00:12:10.22Só é bom jogar gol, não faz-me nada. 00:12:12.24Mas neste domínio muito restrito houve ali uma espécie de explosão de inteligência. 00:12:16.40Ou seja, o sistema aprendeu contra si mesmo e bateu realmente toda a humanidade. 00:12:20.44Toda a história da humanidade.

José Maria Pimentel 00:12:21.34Mas o domínio é restrito,

Arlindo Oliveira 00:12:22.94mas programas deste género têm sido usados... 00:12:25.50As técnicas são relativamente gerais.

José Maria Pimentel 00:12:27.24Aplicados a vários... 00:12:28.42Este exemplo do DQN que é o exemplo que eu estou a dar decorre, não é? 00:12:31.94Que eu tenho visto provavelmente o programa nem nada que se pareça. 00:12:34.28Mas é um exemplo de um caso que também aprendeu sozinho a jogar jogos relativamente simples e vários jogos diferentes.

Arlindo Oliveira 00:12:41.04Ainda estamos no terreno dos jogos. 00:12:42.70Estava a falar do DQA. 00:12:43.80Sim, o da IBM. 00:12:45.90Exatamente. 00:12:46.14O da IBM ligado ao Watson.

José Maria Pimentel 00:12:47.70Eu tinha a ideia até que tinha sido comprado pela Google. 00:12:50.66Posso estar enganado, mas para o caso também...

Arlindo Oliveira 00:12:52.26DQA é o nome que os gajos da IBM deram ao sistema que foi o sucessor do Watson que ganhou aquele jogo. 00:12:57.10Ganhou o Casparovic.

José Maria Pimentel 00:12:58.88E isso é interessante porque mostra que no fundo juntando a aprendizagem ao facto dessa aprendizagem dar para usar para várias categorias mostra que há aqui um caminho no sentido da inteligência artificial

Arlindo Oliveira 00:13:13.06genérica que é uma distinção... 00:13:15.06Mas ainda temos uma limitação que é os sistemas como existem agora podem melhorar mas otimizam uma dada função de custo, uma dada objetivo. 00:13:24.34O objetivo no primeiro caso é jogar bem nós ainda não temos um ser humano quando se desenvolve um ser humano quando se desenvolve não está a otimizar nenhum objetivo. 00:13:33.42Quer dizer, no longo prazo está a otimizar a possibilidade de reprodução mas isso é uma coisa muito evolutiva e portanto nós ainda não temos nenhum algoritmo que permita otimizar este tipo de competência geral que o ser humano tem e aí é que eu acho que ainda há a diferença. 00:13:49.04Mas tem razão de facto as técnicas são muito gerais.

José Maria Pimentel 00:13:51.42Mas a chave estará onde? 00:13:52.52Ou seja, qual é o objetivo qual é o obstáculo que é preciso ultrapassar para isso?

Arlindo Oliveira 00:13:58.32O que é que teria que ser diferente por outras palavras? 00:14:00.24Pois, se eu soubesse estava a escolher os artigos e ficava famoso de um dia para o outro. 00:14:04.78Eu acho que o problema é que nós neste momento todos os métodos de aprendizagem continuam a focar-se na ideia de otimizar um certo objetivo. 00:14:12.76E portanto o objetivo pode ser reconhecer bem ou guiar bem carros ou jogar bem go ou traduzir bem de uma língua para a outra mas é um objetivo concreto. 00:14:21.94Nós não conseguimos dizer que uma criança quando está a crescer está a otimizar um objetivo concreto. 00:14:26.68Nós não sabemos que isso não é nenhum objetivo. 00:14:28.24Sim, é difuso. 00:14:29.06Portanto, eu acho que a criança tem interesse em muitas questões e aprende muitas coisas etc. 00:14:35.26E eu acho que é isso que ainda nos falta. 00:14:38.04É uma métrica que consiga guiar os algoritmos para obter esse tipo de inteligência artificial geral. 00:14:44.34E devo dizer que ao contrário do que eventualmente se possa às vezes perceber das notícias nos jornais que ele saiba não há nenhuma proposta concreta para fazer isso. 00:14:54.08Todas as pessoas estão a trabalhar num problema específico. 00:14:57.00Não há ninguém eu também não acompanho toda a literatura mas que eu nunca vi ninguém tenho aqui um algoritmo que pode ser o embrião de desenvolver uma inteligência artificial genérica. 00:15:05.26Aquele silence não existe nunca foi publicado.

José Maria Pimentel 00:15:07.32Mas acho que um dia pode existir. 00:15:09.04Claro, mas eu próprio fiquei com essa impressão porque embora esse tema da inteligência artificial genérica seja muito discutido seja academicamente seja até muito filosoficamente na prática os esforços que estão a ser feitos e percebes porque esses esforços têm interesses comerciais são muito mais de inteligência artificial restrita ou seja, lá está aplicada a um determinado fim do que propriamente da geral que continua no fundo é aquilo que acredita-se que se progredirá para ali mas porventura o benefício estaria tão dilatado no tempo que não justifica o investimento inicial ali mas é

Arlindo Oliveira 00:15:41.22e depois também é tal coisa como dito as motivações isto são económicas neste momento não há ainda uma grande não há um grande benefício económico em desenvolver uma inteligência artificial de geral a gente não precisa de uma pessoa num computador o que a gente precisa é de um computador de automóvel ou de uma pessoa para estender as chamadas num call center ou de um tradutor isso dá jeito mas desde que ele traduza a gente não não precisa que ele seja inteligente noutros aspectos portanto eu acho que tem um bocadinho a ver com isso mas para dizer a verdade nós também ainda não temos a tecnologia por exemplo a ver uma inteligência artificial começamos a ter a tecnologia por exemplo a ver sistemas muito avançados em aplicações específicas e provavelmente

José Maria Pimentel 00:16:17.20pensando rapidamente sobre o assunto olhando para a frente até me pareceria mais lógico que se chegasse à inteligência artificial geral pela emoção das várias específicas

Arlindo Oliveira 00:16:27.68pois há uma possibilidade mas está a ver que a vantagem económica não é óbvia porque é que vai ser havido querer juntar um computador que joga bem go com o que o computador traduza bem e um que guia bem automóveis é um taxista que está discutindo quer dizer não há assim uma vantagem económica muito óbvia pois depende

José Maria Pimentel 00:16:41.64se entrar no domínio social eu vejo grandes vantagens antes de entrar aí pois talvez

Arlindo Oliveira 00:16:45.92e um condutor automático de carros que consiga discutir as notícias se calhar já é mais interessante

José Maria Pimentel 00:16:50.56se há coisa que a história da tecnologia ensina as tecnologias com a maior sucessão são aquelas que aumentam a sociabilidade das pessoas e muitas vezes até havia tecnologias promissoras por não conseguirem fazer isso não tiveram mercado aliás até havia aquele não sei exatamente quem fazia o comentário nem sei se sabe mas havia um comentário engraçado quando se inventou o telefone que alguém perguntava para que é que isto serve se eu quiser falar com o meu vizinho vou ter com ele é verdade

Arlindo Oliveira 00:17:16.30por causa não lembro mas há essas eu também não mas tem piada porque lá está mais um daquilo ninguém viu qual era a utilidade do telefone

José Maria Pimentel 00:17:22.84exatamente na prática ao contrário o sucesso do telefone veio justamente de aumentar ligar e interligar exatamente a possibilidade da pessoa estar sempre ligada mas esta questão voltando a esta questão ou por outra dando um passo à frente deixando de olhar para os desafios do presente e no fundo olhando para aquilo que pode vir a acontecer partindo deste pressuposto de que as limitações que existem são limitações de grau de desenvolvimento e não limitações físicas dir-se-ia que o human level AI que eu falava no início a inteligência artificial ao nível cognitivo do ser humano e provavelmente uma vez chegando lá é muito melhor do que o ser humano porque toda a inteligência específica artificial foi desenvolvida é melhor no ser humano do que o ser humano naquilo que faz esse objetivo no mínimo décadas de distância mas ainda assim é um objetivo que na sua opinião a partir da época é atingível é não me parece uma coisa impossível é preciso dizer

Arlindo Oliveira 00:18:15.18que nós percebemos relativamente mal a inteligência humana pois esse é o grande desafio temos relativamente mal o funcionamento do cérebro humano nós temos alguns princípios mas não sempre eu partilho muito uma opinião que aliás de vários fiosos mas do Daniel Dennett em particular que é o cérebro humano é um conjunto de agentes mais ou menos autónomos entre si um trata da comida e outro que trata de coisas amorosas e outro gosta de pensar e outro gosta são agentes mais ou menos autónomos que depois funcionam como uma espécie de uma sociedade aliás é um livro Society of Mind que fala nisso e nós a inteligência humana é o resultado destes agentes todos que interagem uns com os outros e depois no fim dão uma atuação consciente e um pensamento consciente se de facto a mente humana for isto e eu partilho desta opinião então eu acho que a maneira de chegar à mente digital artificial é exatamente essa nós percebemos um agente que trata de uma certa motivação outra agente põe-se isto tudo junto e depois no fim daquilo sai dali qualquer coisa aqui em última nada nós vamos associar um comportamento parecido com o humano quer dizer também há muitos humanos que só têm duas ou três motivações e também não são particularmente interessantes outros que são muito diferentes e portanto eu acho que vem um bocadinho daí ou seja o que eu quero dizer com isto é eu acho que não há nada particularmente mágico na mente humana a mente humana são um conjunto de agentes muitos deles foram desenvolvidos pela evolução ao longo de milhões de anos depois há aqui toda uma coerência que é um bocadinho imposta artificialmente aliás se liu a parte sobre a consciência percebe-se que a consciência é uma coisa muito obscura que de alguma maneira existe para dar coerência a tudo isto a estas diversas motivações que cada pessoa tem etc e não me parece impossível que à medida que fomos dominando cada vez melhor a capacidade de fazer a gente criar agentes específicos se juntarmos vários deles começam a aparecer coisas por exemplo podemos ter um assistente em casa que trata das compras e da agenda e das viagens há páginas tantas podemos olhar então prende qualquer coisa sobre música para eu poder discutir música e começa a criar-se ali um embrião de uma mente relativamente rica embora não seja mais

José Maria Pimentel 00:20:22.12do que a junção de mente específica mas isso é nessa lógica incremental ou seja de ir adicionando características é

Arlindo Oliveira 00:20:28.94é uma lógica incremental mas se tiver um sistema sucessivamente poderoso imagino que eu tenho não é assim muito difícil eu tenho lá em casa a Alexa e as miúdas falam muito com a Alexa a Alexa ainda é um bocadinho simplista mas já dá para conversar com ela a gente pode ver o que aconteceu hoje na Cataluña ela diz não sei quando já foi presa etc às vezes não percebe mas se em cima daquilo eu vou ter esses temas mais sofisticados e tiver a cabeça olha agora vai aprende sobre o Mozart depois fala sobre percebe começamos a ter ali uma coisa com a gente que é relativamente interessante não é só uma coisa cega não é só como o motor de busca da Google é uma coisa que tem um estado que cria um estado e depois à noite diz olha tive a aprender sobre o Mozart quero ouvir a Ein Kleinart Music ah nunca ouvi ponha lá e tal portanto está a ver não é assim tão difícil imaginar que seja possível construir até incrementalmente uma mente cada vez mais rica em que cada uma das componentes é uma coisa relativamente específica e dirigida não precisa ser um Einstein claro

José Maria Pimentel 00:21:25.28mas isso é admitindo que o processo é feito no fundo a continuar aquilo que temos sim e isso e essa é uma questão interessante a obtenção desse estado é independente pode ser independente da compreensão absoluta do cérebro humano pode

Arlindo Oliveira 00:21:40.02eu acho que sim eu acho que a gente nunca vai compreender o cérebro humano a gente nem sequer consegue compreender um computador não há ninguém que consiga compreender como é que esse computador funciona está a ver no transistor não sei quantos quanto é que está lá ninguém sabe isso tanta gente quando muito vai perceber os princípios gerais de funcionamento do cérebro humano e isso acho que é o melhor que conseguimos fazer compreender em detalhe eu acho que nunca ninguém vai perceber pelo menos não uma pessoa tem de ser um milhão de pessoas para perceber um cérebro mas isso também não tem grande interesse imagino que há um milhão de pessoas que se dicam a estudar o seu cérebro e sabem tudo sobre cada neurônio mas isso também não serve de nada

José Maria Pimentel 00:22:07.34se estiver mapeado

Arlindo Oliveira 00:22:08.96pode servir não é? 00:22:09.86não porque aquilo é muito complicado está a ver e varia de pessoa para pessoa e varia de pessoa para pessoa portanto não há ninguém não há ninguém que consiga ter na cabeça o que é que está na gate de cada transistor num computador que é uma coisa muito mais simples que um cérebro humano nunca ninguém vai conseguir ter na cabeça como é que funciona ah não mas aqui é uma coisa simples tem dois ou três módulos mas o cérebro não é assim aquilo é uma geringonça o cérebro é uma geringonça que foi criada pela evolução portanto não há ali um módulo que faz a fala e um módulo que faz a visão e depois manda um estímulo está tudo interligado aquilo é uma coisa a questão falando superficialmente

José Maria Pimentel 00:22:43.04porque não sou neurologista mas esse é um dos pássaros em certo sentido da ciência é o quão pouco ainda se sabe o cérebro humano e mesmo compreendendo não é líquido quão bem é preciso compreender os princípios gerais ou quão fundo é preciso ir nessa generalidade para perceber o suficiente para conseguir reproduzir numa...

Arlindo Oliveira 00:23:03.20o que eu quero dizer com isso a gente vai perceber os princípios gerais ainda não percebemos podemos vir a perceber os princípios gerais podemos saber que os neurónios prolongam que os axónios se desenvolvem de uma certa maneira de acordo com os certos indícios químicos biológicos agora quando isto tudo está junto e temos ali bilhões de sinapses a disparar e tal perceber onde é que está representada a imagem da sua avó que está lá isso é uma coisa deve estar lá um milhão de neurónios que quando disparam de uma certa maneira representam a avó mas e se disparar de uma maneira um bocadinho diferente é o avô eu acho que essa compreensão

José Maria Pimentel 00:23:38.64nunca vai acontecer nunca vai acontecer é preciso perceber como funciona não necessariamente onde é que está a cada

Arlindo Oliveira 00:23:43.88a gente pode perceber os princípios gerais até pode perceber os princípios gerais de maneira a conseguir reproduzi-lo mas isso é uma coisa mas depois disso agora percebo o detalhe fino eu acho que isso é muito difícil

José Maria Pimentel 00:23:53.98mas para fazer o seu livro refere várias hipóteses de lá chegar uma delas é uma hipótese mais sintética digamos assim que era no fundo sim era um bocadinho que é o que eu estava a referir

Arlindo Oliveira 00:24:02.34tem uma gente aqui para isto ou depois vai juntando aquilo e há outra que é mais natural

José Maria Pimentel 00:24:07.40acho que é até o adjetivo que é usado que é mesmo pegando no cérebro humano e no fundo transportá-lo depois há duas maneiras eu proponho três maneiras uma são via sintética

Arlindo Oliveira 00:24:16.22a gente pega no Google vai melhorando o Google vai falando com o Google ou com o Alex ou alguma coisa dessas e aquilo vai-se tornando mais justificado mas não há nada que tenha ali a ver com o cérebro os algoritmos do Google são poderosíssimos mas não há praticamente nada ou mesmo nada lá que tenha a ver com a maneira como funciona a segunda maneira é pensar a gente vai perceber suficientemente dos princípios que organizam o cérebro para conseguir simulá-los e reproduzi-los no computador então a gente cria no computador e faz o desenvolvimento de um cérebro no computador ou dos princípios que cria um cérebro e se isso funcionar é difícil mas se isso funcionar no fim podemos ter ali uma simulação de um cérebro que funciona como o cérebro real e que fala e que sente é claro que isto é complicado temos de lhe dar estímulos pois, esse é o grande desafio quando cria tem que ter visão e tem que ter som e tem que ter tato tem que ter tudo isso porque nenhum cérebro se desenvolve naturalmente se não tiver estímulos visuais tem que ter todos os inputs que o cérebro está construído para receber essa é a segunda maneira eu acho que essa é viável dentro, não sei dezenas, uma centena de anos em breve eu acho que essa é uma possibilidade podemos vir a perceber suficientemente dos mecanismos de desenvolvimento do cérebro para fazer isto depois a terceira que a meu ver é que levanta mais questões filosóficas embora esta já levante bastante que é é copiar mesmo um cérebro pega o cérebro de uma pessoa ou com técnicas de imagem ou mais provavelmente cortando as fatias percebe-se exatamente como é que está ligado copia-se aquilo para um computador e simula-se um computador

José Maria Pimentel 00:25:35.56cortando as fatias merece aqui a nota

Arlindo Oliveira 00:25:37.86implica que a pessoa está morta ou morre no processo é claro que o de cortar as fatias provavelmente só tem interesse se a pessoa tiver com uma doença terminal mas com doença terminal como sabe há muitas pessoas que já congelaram o cérebro ou o corpo inteiro dependente e que têm a esperança de um dia vir a ser ressuscitadas por esta via ou por uma via parecida eu também eu acho que essa é de facto uma tecnologia muito difícil mas levanta de facto aquela questão um bocadinho interessante da imortalidade que é a pessoa pode morrer aqui mas depois apareceria novamente num mundo virtual simulado num computador e a imortalidade pode aparecer uma ideia meio maluca mas a ideia da imortalidade porque vamos para o céu também é relativamente maluca portanto uma delas é particularmente dá particulares garantias

José Maria Pimentel 00:26:21.32não era terreno virgem nós já falámos da questão dos limites ao estudo do cérebro humano e é interessante a sua resposta porque no fundo implica que não é necessário nós compreendermos completamente o cérebro humano para ser possível ter inteligência artificial ao nível do ser humano existe outro limite possível que me parece ser muito pouco haver poucos defensores na comunidade seja académica seja profissional dele que tem a ver com a lei de Muro tem a ver com a questão do crescimento exponencial da capacidade de compensação essa aliás é uma das questões que o seu livro explica que é é pouco intuitiva para quem está fora desta área porque o ser humano está habituado a que as coisas progredam numa lógica não exponencial e a lógica exponencial aliás se quiser explicar rapidamente isto eu acho que seria interessante o ouvir porque vai explicar a certeza melhor do que eu porque ela é particularmente contraintuitiva nós não estamos habituados a que isso aconteça

Arlindo Oliveira 00:27:12.78pois quer dizer portanto as evoluções exponenciais são aquelas funções que em cada instante a tempo digamos multiplicam por um fator constante uma coisa que duplica eu dou lá o exemplo muito conhecido dos grãos de arroz no tabuete de xadrez que é muito conhecido que quando se fizermos um grão na primeira casa no tabuete de xadrez dois grãos na segunda quatro grãos na terceira etc até a 64ª casa o número total de grãos de arroz que é preciso para fazer isto é a produção da terra durante 500 anos que é altamente contraintuitivo e tem a ver com estas questões da evolução exponencial e a evolução da tecnologia também é exponencial portanto a lei de Moore é a mais conhecida que diz basicamente que o número de transistores que é possível pôr no circuito duplica a cada dois anos e isto não parece muito num ano duplicou depois em dois anos em dois anos duplicou em quatro anos quadruplicou já é pior mas à medida que vamos andando isto criou desde umas coisinhas de uma meia-dugia de transistores até os computadores agora que têm milhares de milhares de transistores e um potencial que era completamente insuspeitado quando esta evolução continuou e de uma maneira ou de outra há várias tecnologias que tendem a ter esta evolução exponencial e nós temos de facto e eu às vezes faço umas apresentações sobre isto e começo justamente com estas extrapoações e nós somos muito maus a prever evoluções exponenciais porque tendemos sempre a subestimar a evolução a longo prazo e às vezes até a subestimar a evolução a longo prazo aliás esta lei não é minha lamentavelmente tem um nome que é a lei da Mara que em termos tecnológicos nós tendemos a subestimar a evolução no curto prazo e a subestimar no longo prazo

José Maria Pimentel 00:28:44.76e é engraçado porque isso é observável

Arlindo Oliveira 00:28:47.34culturalmente eu acho que isso é observável

José Maria Pimentel 00:28:49.22mas em relação à questão do exponencial há um ingrediente fundamental para explicar esta questão que é ele cresce exponencialmente porque cada fase de crescimento acontece sobre as fases

Arlindo Oliveira 00:28:58.70é como uma cela que se duplica as células, o Darwin dá esse exemplo nos elefantes, que é um exemplo interessante mas passando numa cela mas pode falar do exemplo dos elefantes o exemplo dos elefantes a cela divide-se em duas, depois as duas cada uma divide-se a quatro, depois cada uma das quatro está a oito e portanto temos a mesma coisa do jogo de xadrez o Darwin dá o exemplo dos elefantes que é um exemplo interessantíssimo, posso contar uma coisa aqui que não está no livro o Darwin fez a conta a cada 30 anos um par de elefantes tem um par de crias e faz isto três vezes, tem uns 30, uns 60 e uns 90 que é uma coisa lenta, isto parece que não vai lado nenhum e agora, ele disse que ao fim de 500 anos havia, se alverro, 8 milhões de elefantes, não lembro bem do número e ele enganou-se, não foi? 00:29:41.88de facto ao fim dos 500 anos só há acho que são 500 e tal elefantes, umas centenas de elefantes mas mesmo assim ele tinha razão porque ao fim de 10 mil anos já há um número de elefantes que nunca haveria no sistema solar inteiro e ao fim os números são muito interessantes estão aliás num posse do meu blog porque de facto mesmo uma evolução exponencial assim relativamente lenta quando passa após milhares de anos a coisa explode de uma maneira brutal e eu acho que isso é de facto muito contra-intuitivo e muito interessante

José Maria Pimentel 00:30:13.04eu lembro-me quando era miúda havia um desses enigmas não era bem uma espécie de mistura era bem uma anedota porque não era uma graça mas perguntava-se a alguém

Arlindo Oliveira 00:30:21.76se era possível dobrar exatamente, para chegar à lua se pode dobrar 30 vezes ou 40 já não sei quantas eram

José Maria Pimentel 00:30:28.22mas é engraçado porque abstrair-nos agora aqui dos limites a dobrar a dobragem de papel

Arlindo Oliveira 00:30:32.84sobre papel não, mas é fácil se você dobrar 10 vezes fica com mil folhas de papel se dobrar 20 vezes fica com um milhão de folhas de papel mesmo que aquilo seja muito fininho já dá vários quilómetros exatamente portanto se dobrar 30 vezes dá mil milhões de folhas de papel se a gente pensar é fazer as contas mas aquilo provavelmente chega à luta é claro que não se consegue dobrar o papel 30 vezes e nas últimas operações

José Maria Pimentel 00:30:57.60está-se a dobrar já sobre um número tão grande que cada passo vai aumentando mas isto para dizer

Arlindo Oliveira 00:31:02.34esta é a base no fundo do progresso tecnológico e o livro está um pouquinho construído sobre essas questões

José Maria Pimentel 00:31:07.36e é muito do grande parte do argumentário em relação ao futuro da inteligência artificial tem que ver com isso depois há outro lado que é todos os crescimentos ponenciais têm limites no caso dos elefantes havia um limite evidente que eles iam morrer e no caso do ser humano acontece a mesma coisa embora o mundo esteja sobrepopulado não deixa de ter limites a esse crescimento neste caso há quem diga há quem diga até que se já atingiu esse limite

Arlindo Oliveira 00:31:32.08sim, sim, há quem diga e aliás o Pedro Domingos aliás no seu livro até defendisse que nós assistimos a uma altura de rápido crescimento e vamos assistir a uma altura de rápido crescimento e eu não tenho a resposta definitiva sobre isso e até aceito que é uma boa possibilidade mas eu acho que nós temos aqui de escolher uma de duas que eu acho que... 00:31:50.62das duas uma ou a evolução vai continuando a acelerar uma coisa que é mais ou menos exponencial por causa dessa ideia que constrói sobre as suas próprias avanças constrói as novas avanças ou então não ou então houve uma evolução muito rápida desde que começou a evolução industrial até agora temos aqui 200 ou 250 anos de evolução muito rápida mas agora vai faltar ao ser humano criatividade vai faltar capacidade de execução e a páginas de tanta gente isto agora vai desacelerar portanto daqui a 100 anos a malta ainda vai andar com o iPhone 20 e daqui a mil anos a malta vai andar com o iPhone 30 mas é muito parecido os meninos andam nos autocarros com os iPhones e a coisa mudou esta é a alternativa também porque há duas alternativas a gente tem que dizer que isto vai mudar muito e vai mudar cada vez mais rapidamente e daqui a mil anos a gente não reconhece a sociedade ou então é outra oposta que é pá isto vai ficar tudo muito aborrecido porque as coisas não mudam quase nada eu acredito na primeira acredito que as coisas vão continuar a mudar muito rapidamente e acredito que nós neste momento não temos as ferramentas mentais para imaginar o que é que será a civilização daqui a mil anos mas aceito que a outra hipótese também é possível que a gente viveu aqui uma idade de dor de desenvolvimento tecnológico ah mas agora a gente já não vai conseguir a lei de Moro vai cair já não vamos conseguir pôr mais transistores no chip a malta já não consegue lembrar-se de mais nada para pôr num telemóvel além do que está lá etc, etc e portanto a civilização daqui a mil anos vai ser muito parecida com a que temos agora os telemóveis um bocadinho mais rápidos mais pequenos ou maiores não sei etc eu não acredito muito nesta segunda hipótese acredito mais na primeira não sou a primeira a dizer é possível é possível pode acontecer a gente viveu agora uma idade bestial e agora os próximos 800 anos para mil anos vão ser uma estruxa

José Maria Pimentel 00:33:23.26pode ser é como a sua resposta no início se a pessoa soubesse exatamente se a pessoa soubesse estarias com a ver sobre o assunto eu acho difícil apesar de tudo imaginar uma estagnação embora a idade média por exemplo não foi tão parada em termos tecnológicos como se pensa mas ainda assim comparativamente com o pós-revolução industrial era bastante parada

Arlindo Oliveira 00:33:42.72pois não tinham transistos não tinham telemóveis não tinham eletricidade não tinham transportes não tinham máquina a vapor portanto agora temos muita coisa em cima disto e temos muita malta a pensar no que é que se pode fazer com isso

José Maria Pimentel 00:33:52.20pois sobretudo isso exatamente embora nos falte que é uma questão interessante nós temos muito pensamento direcionado como nunca tivemos temos muito pouco não sei se esse modelo era possível de subsistir mas temos pouco daquele pensamento diletante como existia o Darwin era um exemplo disso sim é verdade

Arlindo Oliveira 00:34:10.76que é interessante pensar nisso mas tínhamos muita gente sabe mas no tempo do Darwin havia uns milhares de pessoas que eram cientistas que aliás eram geralmente as pessoas que tinham dinheiro exatamente aquilo era um hobby era um hobby mas agora nós agora temos milhões de cientistas e centenas de milhões de engenheiros e de coisas a trabalhar nestas coisas portanto é verdade cada um deles se calhar tem menos liberdade e liga com aquela

José Maria Pimentel 00:34:32.74questão inicial eles estão a investigar aquilo porque são pagos para investigar

Arlindo Oliveira 00:34:36.22mas são muitos e basta um deles ter uma ideia brilhante claro eu trouxe esta questão

José Maria Pimentel 00:34:42.98porque já pensei sobre isso acho interessante no fundo nós tendemos sempre a achar que a sociedade vai progredindo e esse é um campo em que regrediu em certo sentido porque havia ali um conjunto de pessoas que tinham liberdade por razões perversas porque de verdade nenhum outro trabalhava para eles em condições normalmente não se assinais mas isso prende-se com uma questão

Arlindo Oliveira 00:35:02.56interessante e que é eu vi um artigo tinha a ver com a singularidade mas que é nós não sabemos como é que a essência social vai evoluir mas como essa pessoa argumentava nesse artigo esse autor é assim até pode ser que a comunidade toda esteja um bocadinho às escuras e que está a trabalhar nos algoritmos mais ou menos coisas mas basta uma pessoa fazer um breakthrough por exemplo agora foram os tipos da deep mind que fizeram aquilo que o Google que ninguém pensava que a gente ia fazer portanto basta uma pessoa

José Maria Pimentel 00:35:28.36fazer porque com as comunicações que temos a sociedade que temos tudo isto

Arlindo Oliveira 00:35:31.98o breakthrough pode aparecer de qualquer lado neste momento eu tenho milhões de pessoas a trabalhar em essência social e em machine learning basta um deles ter uma ideia brilhante e isso basicamente leva toda a comunidade para esse novo local portanto realmente uma essência social genérica pode aparecer muito mais cedo e mais indesparadamente do que se está a esperar porque basta haver uma pessoa que tem uma ideia brilhante então se calhar o céu funciona assim vou experimentar

José Maria Pimentel 00:35:57.24e de repente claro essa é a grande dificuldade na área da ciência da pessoa para ver aliás eu vi um exemplo muito engraçado agora não me ocorre o nome da pessoa em causa mas na véspera ter havido sucesso na exploração da energia nuclear sim sim

Arlindo Oliveira 00:36:12.46esse é muito conhecido é o Henrique Fermi exatamente Henrique Fermi em 1939 portanto a primeira bomba notou em 1945 mas a tecnologia era conhecida exatamente Henrique Fermi em 1939 perguntaram-lhe o que é que ele achava se era possível criar fissão nuclear controlada portanto o mecanismo que era e eu em 1939 disse eu tenho 90% de certeza que isso não é possível depois em 1942 um ano antes de eles terem conseguido pôr a coisa a trabalhar perguntaram-lhe quanto é que ele achava que ele ia demorar a conseguir ele disse ah isto vai demorar muitas dezenas de anos nesta altura já acreditava que era possível mas isto vai demorar muitas dezenas de anos e um ano depois os gajos tiveram a primeira reação em cadeia num reator que foi feito num corte de scotch lá nos Estados Unidos e portanto as pessoas as pessoas muitas vezes os próprios pessoas que estão entre as coisas subestimam e houve uma conversa interessante aqui há um ano atrás houve uma conferência sobre a inscrição do futuro e tentaram ver mas digam lá coisas vocês acham que em 10 anos nós não conseguimos fazer consciência eu vou registar aqui vou tomar nota e ninguém conseguiu atravessar se eu dizer uma coisa porque ele disse porque o que ele disse se as pessoas fizeram uma coisa muito porque assim se fizeram uma coisa muito difícil não é não é de espantar que sejam em 10 anos isso foi uma coisa muito fácil a probabilidade de estarem errados é muito grande portanto ninguém conseguiu atravessar assim com nenhuma coisa depois houve alguém disse temos um robô que arruma a cozinha depois de um gajo cozinhar isso em 10 anos talvez não mas é interessante portanto temos coisas que são se tiver um robô que arruma a cozinha aquilo é muito complicado porque aquilo é um ambiente muito pouco estruturado claro e varia imenso e há outra questão

José Maria Pimentel 00:37:52.98ainda engraçada antes de avançarmos para a consciência do que eu falei há pouco há outra questão ainda que é há outra forma como isto se pode desenrolar que é dos progressos ao nível da biologia no fundo convergirem com os progressos ao nível da inteligência artificial e se quase deixar de ser necessário a inteligência artificial chegar lá sozinha porque a pessoa consegue prolongar a vida humana indefinidamente e no fundo criar uma espécie quase um cyborg na junção entre uma coisa e outra o meu livro não é tanto sobre esse assunto eu sei que não aliás o livro até refere que

Arlindo Oliveira 00:38:21.34isso é uma questão muito interessante mas não é por este livro porque essas mentes não seriam digitais nós de facto eu acho perfeitamente possível que através da engenharia genética do nosso conhecimento cada vez melhor dos mecanismos biológicos seja possível controlar a género ou seja é relativamente fácil identificar componentes no genoma que estão relacionados com a inteligência isto é uma análise que é possível fazer e provavelmente nesses casos nem são mais publicadas porque isto é uma coisa como deve calcular mas quer dizer se eu disser que há componentes no genoma que estão relacionados com a altura das pessoas já ninguém se chateia nem toda a gente acredita há coisas que estão correlacionadas e com outras e com o peso da pessoa e com a cor dos olhos etc quando falo de inteligência fica deixando um bocadinho nervosa porque é uma chatice é um tema delicado é um tema delicado mas parece-me perfeitamente razoável que a engenharia biológica venha a sugerir a possibilidade de tecnicamente existir essa possibilidade de eu fazer uma mutação nas células nas células originárias que tenha tendência que no resto seja inofensiva e que tenha tendência a aumentar a inteligência meia da pessoa isto aqui como deve calcular é um tema só por si também dava um podcast mas quem diz isso diz outras coisas controlar doenças absorção ser menos sensível a doenças neurogenerativas prolongar a vida há uma série de mecanismos e neste momento a engenharia genética existem outras vias que não têm nada a ver ou muito indiretamente é que tem a ver com computadores que também permitiriam alterar profundamente a maneira como vivemos isto mas de facto não é sobre isso que fala no livro portanto esse é um outro assunto eu também trabalho em via informática e na análise na correlação entre as características do genoma e as características dos organismos do fenotipo há muito trabalho aí que pode ser feito e há muito dele que também tem consequências éticas extremamente difíceis nomeadamente tudo o que seja introduzir alterações genéticas na linha na linha somática na linha que depois conduz a todas as alterações

José Maria Pimentel 00:40:15.78toda a investigação nessa área é altamente polémica a questão da consciência de que eu falava há pouco é a questão mais filosófica de todas aliás a consciência é um barbicaz é um grande barbicaz e em certo sentido também é mais interessante há aqui dois polos opostos há quem diga que é aqui que está a essência da questão e há quem diga que isto basicamente não tem relevância nenhuma porque é evidente e há quem diga que é uma ilusão é esta a segunda tese no fundo a consciência não é nada essa é uma das perguntas que é a consciência há quem tenha essa visão de que a consciência não é mais do que uma ilusão e que tudo aquilo que não é que não é o raciocínio consciente tudo o que tem a ver como por exemplo com emoções resulta simplesmente dos mesmos circuitos a ocorrerem no cérebro nós é que temos uma percepção

Arlindo Oliveira 00:41:02.94de eles diferentes pois o livro numa parte pequena e portanto não pude aprofundar embora da um bocadinho a questão da consciência que a mim sempre fascinou porque nós todos nós sabemos pelo que é a consciência somos conscientes temos a nossa linha de consciência depois quando tentamos espremer aquilo aquilo fica um bocadinho mais complicado e então para uma pessoa que trabalha em computação fica ainda mais complicado eu sou-me nesse aspecto muito influenciado por alguns pensadores nomeadamente o Daniel Dennett mas apresento alguns argumentos no livro que base e prendes com aquela história ele também tem um nome para aquilo de multiple drafts model daquilo de interação para português mas realmente é esta ideia de que a nossa mente é um conjunto de agentes mais ou menos inteligentes e eles fazem mais ou menos o que lhes apetece mas nós só fizemos uma coisa somos uma pessoa só e depois no fim criamos uma consciência que é a maneira de escrever o nosso curso é o repórter é aquela metáfora do repórter o repórter não é a grande coisa como para dizer que a consciência é uma coisa bestial o repórter é uma espécie que está ali e vai vendo o que acontece mas há uma série de evidências experimentais para a história do repórter alguma dela está no livro nomeadamente aquelas experiências primeiras experiências com split brain patients pacientes que têm as duas metades do cérebro separados e portanto têm dois agentes completamente autónomos dentro do mesmo cérebro e depois um deles justifica as ações do outro para não os ter influenciado e aquelas experiências dos timings do Libert

José Maria Pimentel 00:42:20.82não se... 00:42:21.60a questão mecânica não é?

Arlindo Oliveira 00:42:22.48a questão mecânica a pessoa diz quando é que tomou decisão e a pessoa obviamente já tomou decisão antes de perceber que tomou decisão que é uma coisa muito estranha mas todas essas apontam um bocadinho o mesmo sentido que de facto a consciência é mais um repórter que de alguma maneira conta uma história coerente de todas as coisas que a gente fez do que alguém que está antes e que toma as decisões por nós o que é uma coisa muito perturbante pelo menos para mim

José Maria Pimentel 00:42:45.40sim é desconcertante é muito desconcertante

Arlindo Oliveira 00:42:47.74é muito desconcertante agora obviamente eu num livro não tenho tempo para abordar isso em profundidade e há um bocadinho lá mas está lá justamente para argumentar que talvez a consciência não seja uma coisa tão mágica como isso tudo e talvez um sistema por exemplo como aquele que eu há bocadinho sugeri de um sistema que vai tendo vários agentes e vai comportando se calhar a páginas tantas nós seremos capazes de perceber consciência naquilo talvez se eu perguntar Alex mas porquê que agora pôs essa música ah porque ontem você me pediu para eu investigar sobre o Mozart se ela conseguir fazer isto não é muito difícil pensar que um sistema possa fazer isto páginas tantas a gente começa ali a pensar se não há ali alguma coisa mais além de uma resposta puramente mecânica exatamente sim

José Maria Pimentel 00:43:27.46a partir do momento que traça o padrão

Arlindo Oliveira 00:43:28.76exatamente traça um padrão detecta um padrão quando tem uma história para contar até porque é que eu lhe pedi sobre o Mozart ah porque você estava farto de ouvir o espinho de flor está a ver eu consigo programar um sistema que faz mais ou menos isto só que para páginas você começa a colocar consciência livre-arbítrio está a ver isto é

José Maria Pimentel 00:43:47.64não a questão da consciência que é uma lá está era aquilo que o Aline falava há pouco é uma destas coisas se a pessoa perguntar na rua se a pessoa perguntar a uma pessoa na rua sabes o que é a consciência toda a gente dirá que sim e no entanto é uma coisa que nem filosoficamente quanto mais cientificamente

Arlindo Oliveira 00:44:02.62há um consciência em relação a ela cientificamente é impossível não há nenhum teste para a consciência exatamente

José Maria Pimentel 00:44:06.52e a palavra é polissémica ela própria por exemplo a consciência tem a ver com a noção de existir no fundo em certo sentido tem que ver com intencionalidade aliás o John Searle que é quem no fundo julgo que foi o primeiro ou pelo menos o primeiro a corporizar esse argumento de uma forma

Arlindo Oliveira 00:44:24.88John Searle é muito defensor de uma mágica qualquer nos cérebros cria eu não concordo muito com ele sim mas é uma pessoa que pensou muito profundamente sobre isso é verdade a consciência tem uma série de componentes e tal o Monete também está a relacionar com a questão de livre-arbítrio exatamente mas não é a mesma coisa

José Maria Pimentel 00:44:38.16não é a mesma coisa ele fala da intencionalidade

Arlindo Oliveira 00:44:41.32no fundo depois ainda há uma outra coisa que acho que não tem quase nada a ver com isto que é a consciência moral aliás os ingleses têm duas palavras consciência e consciência portanto eu acho que são duas coisas um bocadinho diferentes

José Maria Pimentel 00:44:51.34é a questão dos princípios éticos

Arlindo Oliveira 00:44:53.10princípios éticos que eu acho que essa essa está mesmo ao lado essa é outra e também é outra questão interessante

José Maria Pimentel 00:44:57.60já lá vamos porque também se tem falado muito sobre isso mas eu concordo que é diferente aqui o que estamos a falar

Arlindo Oliveira 00:45:02.48é a questão de a autoconsciência

José Maria Pimentel 00:45:05.16o John John Searle o argumento dele Savuera é o autor daquela Chinese Room

Arlindo Oliveira 00:45:11.92experiment e no fundo o que ele diz é que

José Maria Pimentel 00:45:13.78determinado programa pode até fazer determinada coisa a mesma coisa

Arlindo Oliveira 00:45:17.96mas não é exatamente pode fazer a mesma coisa que não tem consciência exatamente ele não tem intencionalidade em fazê-lo isto é petafísico não é é mas é o argumento dele por isso é que eu não concordo com o argumento dele que aliás é exatamente oposto ao argumento do Turing o teste do Turing se o sistema A faz exatamente o mesmo que o sistema B se o sistema A for inteligente o sistema B também é ele não diz mas eu acrescento se o sistema A faz exatamente o mesmo que o sistema B e a gente não os consegue distinguir se o sistema A é consciente o sistema B também é consciente o CERL não reconhece isto o CERL diz não, não, não isso só manipular símbolos não conta tendo que ser mesmo um cérebro humano só ia que dá e o CERL não está sozinho nisto há outras coisas

José Maria Pimentel 00:45:54.04e há quem diga por exemplo e essa é a questão interessante porque a maneira de pensar que eu estava a expor inicialmente no fundo voltando àquela questão do machine learning por exemplo é que no fundo se nós assumimos que há aqui uma progressão incremental ou exponencial essa progressão levar-nos à partida nada impede tirando aqueles argumentos que nós falámos antes mas admitindo que não existe esse tipo de limitações nada impede a chegar à inteligência artificial ao nível humano mas há quem diga por exemplo que a consciência não é algorítmica não é? 00:46:21.60Pois mas é o mesmo argumento

Arlindo Oliveira 00:46:22.78é o argumento do Searle o argumento do Penrose que a consciência não é algorítmica mas como ninguém sabe o que é a consciência isso é mais uma questão de fé porque não, na verdade é muito parecido

José Maria Pimentel 00:46:32.06eu digo isto como alguém que aprecia este argumento da consciência mas eu reconheço que o argumentário é muito parecido com o argumentário relacionado com a religião é muito parecido é exatamente igual eu acho que é exatamente igual é a questão de não se conseguir provar o contrário exatamente

Arlindo Oliveira 00:46:44.72mas eu volto a dizer eu acho que isto é exatamente o oposto do que o Turing propõe se a gente não consegue distinguir na interface é porque tem de ser a mesma coisa e as pessoas estão ao contrário que aliás como muito bem disse é um bocadinho mesmo a questão que a religião se eu fizer aqui uma cópia átomo por átomo de si se calhar não tem alma você tem mas esta cópia não tem mas isto é uma questão filosófica é uma questão religiosa é uma questão de convicção porque nenhuma experiência física poderá distinguir um sistema que tem alma um sistema que não tem alma tal como não podes ter um sistema que tem consciência de um sistema que não tem consciência

José Maria Pimentel 00:47:18.66mas apesar de tudo eu aí diria que é um bocadinho diferente porque se reproduzissem átomo por átomo seria alguém igual a mim seria alguém igual a mim o que acontece na inteligência artificial é que não houve até agora nenhum live ou pelo menos reconhecido enquanto tal de consciência e de intencionalidade mas a questão filosófica

Arlindo Oliveira 00:47:33.10tem um bocadinho a ver não tem um bocadinho a ver exatamente mas é aliás eu dou o exemplo também de um dos críticos disto que é o homem do pântano onde ele dá exatamente o som pântano não tem alma é aquela que são

José Maria Pimentel 00:47:47.84dos dualistas mas eu acho isso para dizer que eu por exemplo

Arlindo Oliveira 00:47:52.46pessoalmente não me vejo como um dualista e no entanto mas há um bocadinho dualista eu não chamaria era se calhar estou a ser estou a tentar preservar mas é isso que eu tento descascar um bocadinho no livro que é a maior parte das pessoas diz que não é dualista mas depois quando a gente pergunta ali um bocadinho mais há uma moral no fundo que está relacionada com isso é exatamente há uma coisa mais um bocadinho mais porque a questão por exemplo outra questão

José Maria Pimentel 00:48:12.48que isto me suscitou logo é a questão do inconsciente por exemplo o cérebro humano e isso tem que ver com o lado mais não só neurológico mas também psicológico e no fundo o cérebro humano funciona de uma forma que não é análoga à maneira como o algoritmo está construído para funcionar mas isso pode não ser uma característica pode ser uma limitação do cérebro humano agora isso está presente em muito está presente nas nossas emoções as emoções têm muito que ver com o inconsciente embora não sejam a mesma coisa

Arlindo Oliveira 00:48:37.66mas são tudo neurônios a disparar e os neurônios podem ser estimulados no computador

José Maria Pimentel 00:48:42.22mas o processo é diferente ou seja se as nossas emoções no fundo eu faria a pergunta esta distinção consciente e inconsciente torna-se irrelevante no algoritmo porque não faria sentido ter um computador construído para ter consciente e inconsciente é quase uma contradição em termos

Arlindo Oliveira 00:48:56.38mas eu acho que essas coisas estamos a entrar em uma zona mas eu acho que são tudo ilusões o inconsciente e inconsciente são tudo neurônios a disparar

José Maria Pimentel 00:49:06.02eu digo o que eu quero dizer eles podem ser ilusões mas estão muito presentes na maneira de atuar do cérebro humano o inconsciente dita muitas das nossas ações aliás essa questão o exemplo que falava há pouco da mecânica

Arlindo Oliveira 00:49:17.32o inconsciente dita quase todas as nossas ações pois ou quase todas exatamente

José Maria Pimentel 00:49:20.40e no fundo sem perceber exatamente o que aquilo é é muito difícil perceber se pois é mas voltamos

Arlindo Oliveira 00:49:27.40àquele modelo do cérebro como é o multiple drafts do DENET nós temos aqui muitos agentes há uns que estão preocupados com a sobrevivência e outros com coisas e depois o nosso comportamento como ser humano resulta desta interação e de alguns filtros que outros agentes põem em cima destes se você matar alguém aparece um outro agente e diz isso não é boa ideia

José Maria Pimentel 00:49:46.94há aqui uma questão muito interessante independentemente destas limitações da consciência admitindo a progressão da inteligência artificial aqui há vários perigos digamos assim com várias ordens de grandeza e também com várias ordens temporais uns mais próximos e outros mais longínquos para seguir uma lógica contraintuitiva começando pelos mais longínquos há a questão que já falámos há pouco superficialmente da singularidade que no fundo que é ela própria também em certo sentido contraintuitiva que é a partir do momento em que o primeiro algoritmo é criado o primeiro algoritmo genérico e com capacidade de equivalente ao humano é criado como esse algoritmo não tem as restrições biológicas que o ser humano tem ele pode criar o algoritmo seguinte e por aí em diante num curtíssimo espaço de tempo e no fundo muitos dos alertas para os perigos da inteligência artificial têm em conta isso que é nós podemos pode ser tarde para agir

Arlindo Oliveira 00:50:37.80essas duas questões estão relacionadas e podemos tratar das luzes ao mesmo tempo embora elas sejam um bocadinho diferentes uma é a questão da singularidade tecnológica e até a questão das super inteligências ou via explosão de inteligência portanto o Irving John Wood que foi um cientista que trabalhou com o Alan Turing foi o primeiro a dizer que se a gente alguma vez inventar se o homem alguma vez inventar uma máquina tão inteligente como ele já não precisa inventar mais nada ele chamou-lhe a última invenção da humanidade depois a máquina faz o resto como trabalha mais depressa pode ser reproduzida os programas podem ser copiados muitas vezes a partir de aí não precisa fazer mais nada portanto fica ao lado e depois espera que a máquina faça a próxima versão e essa faça a próxima versão que é aquela ideia da explosão da inteligência nós ainda estamos muito longe disto felizmente com certeza que não haverá isto embora como eu disse o jogo do Go tem ali um em domínios específicos é interessante ver isto a acontecer muito específicos portanto essas duas questões de facto estão relacionadas eu não tenho uma resposta para isso há pessoas que se preocupam com isso é curioso que há grandes investigadores pessoas dos nomes mais importantes da área de assistência artificial nomeadamente o Stuart Russell que é talvez a pessoa mais conhecida da área de assistência artificial é um professor em Berkeley e que ultimamente tem se dedicado muito a esta questão ele fez parte daquela carta aberta

José Maria Pimentel 00:51:42.54do que tinha vários nomes tinha o Stephen Hawking também

Arlindo Oliveira 00:51:47.00mas o Stephen Hawking é um físico o Stuart Russell não o Stuart Russell escreveu o livro de inteligência artificial que todas as universidades usam incluindo a nossa o Stuart Russell não se pode dizer que é uma pessoa que não percebe bem das técnicas artificial porque ele só alguém percebe é ele portanto não deixa de ser interessante que ele e outros de facto consideram que essa questão é suficientemente relevante para ser digna de análise porque eu podia dizer não a gente tem a desenvolver inteligência e deixa no celular dessas coisas como aliás muita gente diz estamos tão longe disso que isso é um problema que não existe mas algumas pessoas não acham isso portanto eu acho que pelo menos dedicar algum tempo a pensar nessa questão acho que vale a pena não é que eu acho que vai haver um Terminator ou uma coisa qualquer parecida acho que esse um dele não mas pode haver coisas diferentes pode haver sistemas que tomam conta dos computadores para tentar atingir um objetivo qualquer que a gente nos disse para atingir sei lá para evitar a pirataria informática portanto pode haver outras questões portanto eu acho que essa questão é filosoficamente interessante e acho que é pelo menos cidadão interessante para a gente dedicar um bocadinho de esforço de investigação a pensar nessas questões

José Maria Pimentel 00:52:50.88a questão que ele levanta o Stuart Russell ele ouvi uma entrevista com ele com o Sam Harris não sei se eu ouvi essa entrevista

Arlindo Oliveira 00:52:57.64dele exatamente que era muito interessante e ele falava exatamente e ele falava exatamente daquilo

José Maria Pimentel 00:53:02.68daquilo que falámos a passão há pouco que é a questão da função objetiva e o que ele diz exatamente a gente tem que ter cuidado com o que é que pede exatamente e se a pessoa pede para fazer A ele para fazer A pode não ter o discernimento pode não ter lá está se quisermos chamar-lhe a consciência ou pelo menos a inteligência exatamente e a inteligência no sentido

Arlindo Oliveira 00:53:22.18do bom senso do bom senso

José Maria Pimentel 00:53:24.36exatamente daquilo que nós chamamos bom senso para perceber o que está em jogo e portanto no fundo o trabalho que ele está a tentar fazer de alerta parece-me que é alertar quem programa

Arlindo Oliveira 00:53:32.80para eles chamam-lhe o alinhamento é a questão de garantir que os sistemas que estão a ver vão ter os valores alinhados com as necessidades da raça humana eu costumo dar o exemplo costuma ser claramente perceptível sabemos que eu tenho um sistema finalmente muito inteligente daqui a 10 anos tenho um sistema super inteligente consegue resolver qualquer problema importante para a humanidade então olha faz o que for preciso para parar o aquecimento global há uma solução muito fácil para o aquecimento global é exterminar a humanidade exterminar a humanidade

José Maria Pimentel 00:53:59.08o aquecimento global está resolvido agora não convém ser essa solução

Arlindo Oliveira 00:54:05.12depois é tarde não era bem isso que eu queria dizer parar o aquecimento global sem matar ninguém há aquela parábola

José Maria Pimentel 00:54:12.06do gênio da lâmpada é uma série de anedotas que são assim exatamente é tipo pede o primeiro desejo o segundo e no fim acaba

Arlindo Oliveira 00:54:17.44e o terceiro é voltar atrás neste caso

José Maria Pimentel 00:54:20.46porventura não dava para voltar atrás exatamente

Arlindo Oliveira 00:54:22.74é preciso ter cuidado mas o que o setor já se eu diria as pessoas dizem e eu acho que eles têm razão o que é que o sistema que a gente peça aos sistemas para fazer temos de ter a certeza que temos a especificar bem a questão

José Maria Pimentel 00:54:32.24e o argumento dele ou por outro ele sustenta a preocupação no facto de muitos algoritmos recentes e o julgo que ele está a falar é exatamente especialmente destes relacionados com o machine learning serem black boxes

Arlindo Oliveira 00:54:43.14serem caixas negras não sabe o que é que está a ler isso é uma coisa que eu não afirava na questão da aprendizagem que é ao contrário de um programa que é especificado detalhe por detalhe linha por linha num destes sistemas que aprende nós nunca são muito complexos nós nunca sabemos bem o que é que ele aprendeu por exemplo um carro que a gente treina para andar e a conduzir e este é um dos argumentos principais quanto aos carros autónomos que ele tem de ter muitas redundâncias porque a gente nunca tem a certeza que um carro um dia não acelera porque uma pessoa vai estudar de vermelho com faixas azuis que é uma coisa que ele nunca viu na vida isso é um exemplo qualquer distruso isto em princípio não acontece a probabilidade é muito baixa mas nós nunca sabemos exatamente o que é que foi aprendido por um sistema destes é como o cérebro nós também nunca sabemos exatamente no cérebro também nunca sabe se a pessoa não sai daqui vai matar outra linha o caso é o mesmo e essa é uma questão importante que é o que diz o Stuart Russell são caixas pretas nós treinamos um sistema deste ele funciona bem funcionou bem em todas as experiências que a gente fez nunca acelerou para matar nenhum peão mas a gente não comentou todos os peões possíveis à frente

José Maria Pimentel 00:55:37.48exatamente e o Pedro Domingos em relação a isso ouviu uma entrevista dele em que ele dizia que

Arlindo Oliveira 00:55:41.98nem todos são caixas negras há alguns que são outros que não é verdade mas os mais complexos e mais poderosos e tendrá a evoluir para aí tendrá a evoluir para quase todos os que estamos a usar agora são caixas negras há outra questão há alguns que se pode perceber o que é que ele aprendeu mas são em domínios muito restritos e não atacam geralmente estes problemas genéricos que estamos a falar

José Maria Pimentel 00:56:01.24outro perigo da inteligência artificial relacionado com este no fundo é outra visão de um futuro possível este aqui é que há um desalinhamento da função objetivo a pessoa dá um objetivo engana-se quase em certo sentido ou o algoritmo não prevê isso e acontece uma calamidade outro argumento interessante ou outra possibilidade interessante é a questão do argumento do formigueiro normalmente formulado assim que é não é lá está aquela perspetiva do Terminator de querer eliminar a humanidade que é obviamente um bocadinho cinematográfica mas é questão da humanidade deixar de ser importante sim, sim claro como são as formigas para nós se calhar pisei várias formigas a caminho daqui

Arlindo Oliveira 00:56:34.88e não é verdade quer dizer nós como a raça mais espécie mais inteligente da terra somos culpados disso nós não nos preocupamos muito com o bom estar das galinhas nem sequer dos outros animais e mesmo dos chimpanzés é isso a gente deixa já viver em umas reservas mas não damos exatamente umas condições de vida por aí além esse risco esse risco é um bocadinho diferente apesar de tudo porque aí já estamos a imaginar um sistema que tem eu diria que tem de ter uma consciência tem de ter uma consciência de tal forma avançada que essa espécie humana são os nossos antepassados exatamente surge mais à frente eu acho que isso é uma conceptualmente é uma questão interessante estamos a falar realmente de enormes desenvolvimentos com este momento acho que isso já está para o lado da singularidade claro quer dizer se chegássemos a esse sítio é porque temos um sistema de tal maneira complexo e sofisticado que mudaria profundamente a sociedade sim é completamente futurista é completamente futurista eu acho que isso está para o lado da singularidade e mesmo eu não tenho que ter por ver para o lado da singularidade como percebeu exceto ali umas especulações

José Maria Pimentel 00:57:34.14eu acho que eu admito que se torna um bocado irresistível a certa altura discutir porque quanto mais longe se está mais incerto é e portanto mais é possível conjeturar sobre uma coisa e outra o tema da inteligência artificial e em relação ao tema do alinhamento à questão do alinhamento dos objetivos o que isto faz que é interessante e no fundo explica porque é que há muito porque é que há muito tem havido muita atenção da parte dos filósofos em relação a este tema é que isto traz para cima da mesa considerações morais que muitas vezes estão só implícitas a questão dos carros eu lembro de ter feito

Arlindo Oliveira 00:58:07.60aquele o teste que depois os tempos depois começou a correr muito por aí da pessoa decidir quem é que mataria quem é que não mataria o magic é um sítio que é o moral machine para a gente decidir quem é que mata

José Maria Pimentel 00:58:17.30e quem é que não exatamente eu apanhei isso a primeira vez num curso aberto de árvores sobre justiça do Michael Sandel que tem muita piada e ele falava nesse teste que é um teste que nos obriga a fazer escolhas que nós não fazemos no dia a dia temos-las implícitas em certo sentido e é preciso colocar na máquina entre uma pessoa de idade e uma criança o que é que a máquina vai fazer

Arlindo Oliveira 00:58:37.74e ela tem que ter isso ou não tendo qual é a alternativa

José Maria Pimentel 00:58:41.90a alternativa é não fazer nada

Arlindo Oliveira 00:58:43.58ou a alternativa é o que acontece é que nós quer dizer nós geralmente nos exames de condição não perguntam se a gente mata a rainha do lado esquerdo ou mata o jovem do lado direito a atravessar no sinal vermelho porque nós também geralmente não temos tempo para isso os poucos casos em que lamentavelmente existem acidentes absolutamente não têm tempo para racionalizar mas os computadores têm porque são muito mais rápidos portanto um computador que decida matar a veirinha que está do lado esquerdo em vez da criança tomou deliberadamente essa decisão e essa decisão temos de garantir que é o mais aceitável possível depende-se com aquela questão do trolley problem que eu por acaso não falo no livro mas tem muito a ver com estas coisas o problema do elétrico não sei qual é sabe é muito conhecido que a ver um elétrico eu posso desviar o elétrico e botar-me o seu sol o Michael Sander falava disso mas era com um comboio é o trolley chama-se o trolley problem há um livro há muitos artigos

José Maria Pimentel 00:59:32.56isso é interessante eu vou terminar a conversa fazendo-lhe uma pergunta relacionada com aquele papel com aquele teste que me estava a falar há pouco portanto suspeito que possa não querer responder mas se tivesse que atravessar genericamente com uma timeline com uma ordem de progressão para aquilo de que falávamos

Arlindo Oliveira 00:59:47.30o que é que diria? 00:59:49.08relativamente relativamente por exemplo

José Maria Pimentel 00:59:50.72a abstrair-nos aqui da questão da consciência em relação a termos inteligência artificial genérica que engloba as várias tarefas

Arlindo Oliveira 00:59:57.66eu estou convencido que através sistemas de inteligência sintética portanto desenhados a partir de técnicas não tem nada a ver com o cérebro humano tais como os que estão por trás da Siri da Alexa da Google etc acho que esses sistemas vão se tornar cada vez mais sofisticados e nós vamos passar a depender muito mais deles e que a pressão natural será para que eles desenvolvam uma personalidade suficientemente própria e suficientemente sofisticada para páginas tantas nós pelo menos implicitamente concedermos algum tipo de reconhecimento pela personalidade não diria consciência não diria não diria personalidade jurídica mas conhecemos personalidade ou seja um assistente que está connosco muitas horas do dia que trata dos nossos assuntos etc que manda flores à mulher no dia do aniversário etc será demasiado parecido com um ano para nós não lhe reconhecermos a algum tipo de e portanto esse será provavelmente o primeiro passo as outras vias via simulação dos mecanismos do cérebro ou mesmo via o mind uploading via cópia integral do cérebro e simulação eu acho que são tecnologias que estão mais distantes embora como já várias pessoas observaram elas já existem agora é só uma questão de escala ou seja nós conseguimos fazer isto para sistemas muito pequeninos como a ilusão de neurónios não conseguimos fazer para um cérebro humano que tem mil milhões mas as tecnologias existem portanto é só questão de as desenvolver e aperfeiçoar não é preciso nada que não exista agora pois lá está é continuar a subir os degraus é continuar a subir os degraus aparentemente há coisas que é preciso por exemplo para a segunda via que é desenvolver um cérebro humano nós neste momento não sabemos há tecnologias que não existem pode ser que venhamos até hoje mas não existe sim não se está sequer a investigar não está está a investigar mas aqui é muito difícil não existem é preciso um breakthrough as outras não é realmente preciso um breakthrough nas outras nas duas vias que é das agências sintéticas quer na copa integral não é realmente preciso nada que a gente não conheça agora é só preciso desenvolver muito é certo técnicas que já existem agora portanto eu acho que essas provavelmente as agências sintéticas vão estar aí mais cedo do que a gente está à espera provavelmente ainda vou ver algumas dessas relativamente genéricas associando para a gente ter que conversar com elas naturalmente e as outras depois onde vir mais tarde muito obrigado por ter vindo muito obrigado foi muito interessante a conversa espero que os

José Maria Pimentel 01:02:12.24ouvintes também de certeza porque este tema é daqueles temas que toda a gente está interessada muito obrigado por ter vindo e como dizia a Maria Papoela cumprimentos ao senhor prior técnico 01:02:51.14tem gostado dos últimos episódios se ainda não o fizeram subscreva 45 graus na vossa aplicação de eleição no vosso smartphone tablet etc se gostarem mesmo do podcast convido-vos também a partilhá-lo com amigos e avaliá-lo no iTunes é também importante para mim saber o que vai na cabeça de quem ouve o podcast desse lado por isso são muito bem-vindos feedback críticas e sobretudo sugestões de temas e convidados futuros obrigado e até ao próximo episódio Legenda por Sônia Ruberti