#174 Zita Marinho - Como funcionam os algoritmos do ChatGPT e de outros Large Language Models?

Data: Fri, 01 Nov 2024 05:30:00 +0000 · Duração: 01:18:33

Clica em qualquer parte da transcrição para saltar para esse momento no vídeo.

José Maria Pimentel 00:00:00.00Olá, o meu nome é José Maria Pimentel e este é o 45 Graus. 00:00:10.16Como sempre, um muito obrigado aos novos mecenas do podcast. 00:00:13.60São eles a Bárbara Souza Coutinho, o José Bilro Cabreirinha e ainda o Luís Quelhas Valente. 00:00:20.40Muito obrigado a todos. 00:00:21.48E agora o episódio de hoje. 00:00:23.12Foi há quase dois anos que entrou em ser um chat GPT. 00:00:26.74E com isso o mundo voltou a ficar obcecado pela inteligência artificial. 00:00:31.14Uma coisa que acontece de tempos a tempos, mas desta forma com razão para isso. 00:00:34.66Porque subitamente com o chat GPT passámos a ter uma ferramenta com que conseguimos interagir quase como se fosse outro ser humano. 00:00:42.26Em alguns aspectos ainda continua muito aquém, mas em outros aspectos faz muito melhor do que nós faríamos ou pelo menos muito mais rápido do que nós faríamos. 00:00:49.50E entretanto, nestes últimos dois anos surgiram, obviamente, porque o mercado se tornou apelativo, vários outros modelos deste tipo, os chamados Large Language Models, modelos grandes que interpretam a nossa linguagem, como, por exemplo, o Claude da Anthropic ou o Gemini da Google, entre outros. 00:01:05.14Há uma série deles hoje em dia. 00:01:06.78Já motivado por esta onda, fiz há um ano o episódio com o Pedro Domingos, um grande episódio, por sinal. 00:01:12.06Mas foi também o episódio mais amplo, em que falámos de modelos de inteligência artificial de muitos outros tipos, para além destes modelos específicos. 00:01:18.90E por isso achei que fazia sentido fazer um episódio dedicado especificamente ao tipo de modelos em que o chat GPT se encaixa, para perceber como é que funciona a arquitetura deles e como é que foi possível, de repente, eles terem surpreendido tanta gente com o salto tão grande de performance que deram. 00:01:34.32Dificilmente podia pedir melhor convidada para este episódio. 00:01:37.46A Zita Marinho é investigadora na Google DeepMind, uma das principais empresas nesta área, criadora do Gemini, por exemplo, entre outros, onde trabalha atualmente na área de Reinforcement Learning, chamada Aprendizagem por Reforço, que é precisamente uma das componentes essenciais de modelos como o chat GPT. 00:01:54.14A Zita tem um duplo doutoramento em robótica, pelo Instituto de Robótica da Carnegie Mellon University, nos Estados Unidos, e pelo Instituto Superior Técnico. 00:02:01.78Começámos a nossa conversa pelo início de tudo, que é a família de modelos em que estes algoritmos como o chat GPT se encaixam. 00:02:08.66E que é uma família muito mais ampla, obviamente, e também muito mais antiga. 00:02:12.30São as chamadas Neural Networks, redes neuronais, que existem basicamente há décadas. 00:02:17.64A arquitetura destes modelos de redes neuronais é, como o nome indica, inspirada no cérebro humano, no nosso cérebro. 00:02:23.74E como é que funciona? 00:02:24.86Basicamente, como a Zita explica, entre os inputs que damos a este algoritmo e o output que ele depois vai gerar, há nestes modelos de redes neuronais, basicamente, várias camadas, compostas, cada uma delas, por uma série de nós, e cada um desses nós, em cada camada, está ligado a vários nós da camada seguinte. 00:02:40.94E é basicamente assim que o modelo interpreta os dados, o input que nós lhe damos. 00:02:45.08E qual é a inspiração no cérebro humano? 00:02:46.66É que estes nós são, basicamente, o equivalente aos neurónios do nosso cérebro, e as ligações entre os nós são equivalentes às sinapses que ligam os neurónios. 00:02:55.18Tal como a nossa mente funciona quando nós pensamos ativando bilhões de sinapses ao mesmo tempo, estas redes interpretam o input que nós lhe damos, ativando as ligações entre os nós mais relevantes para entender. 00:03:07.08Mas também é preciso não exagerar nesta analogia com o cérebro humano, porque o nosso cérebro, por exemplo, não tem várias camadas de neurónios, tem, de certa forma, uma única camada, e as nossas sinapses não funcionam exatamente desta forma. 00:03:18.18Funcionam de uma maneira binária, ou ativam ou não, e não propriamente com base nas funções matemáticas contínuas que estes modelos usam. 00:03:24.76E isto para não falar de aspectos biológicos, como o papel dos neurotransmissores, ou a importância das emoções na nossa mente, por exemplo. 00:03:31.16Nem de propósito, eu não estava à espera disso quando convidei a Zita, mas este ano houve dois prémios Nobel para a Inteligência Artificial. 00:03:37.80O prémio Nobel da Física foi atribuído a dois físicos que desenvolveram trabalho precisamente em torno destes modelos de redes neuronais e de aprendizagem automática, e o Nobel da Química premiou o trabalho de três investigadores, dois dos quais que trabalham, como a Zita, na Google DeepMind, e que conseguiram, através destes modelos, prever a estrutura das proteínas. 00:03:56.48Uma coisa que, dito assim, se calhar não parece assim tão complicada, mas é bastante difícil, é um dos fenómenos mais complicados da biologia. 00:04:02.82E o avanço que estes modelos deram foi tão grande que este prémio Nobel, o da Física, já há muito tempo que se dizia que ele poderia ser atribuído ao trabalho com estes modelos. 00:04:10.26Aliás, talvez alguns de vocês se lembrem que falámos sobre isso no episódio 157, com os irmãos Luís e João Batalha. 00:04:16.28Voltando às redes neuronais, esta família de modelos existia, como disse, já há muito tempo. 00:04:21.34O principal avanço que veio tornar possível modelos como o ChatGPT e outros modelos que também nos têm impressionado nos últimos anos e que geram som, imagens ou mesmo vídeo, que parece completamente realista, o que tornou possível estes modelos foi a invenção de um tipo específico de algoritmo, os chamados Transformers. 00:04:37.46Aliás, o T de Transformers é precisamente a terceira palavra da sigla do ChatGPT, que é Generative Pre-Trained Transformer. 00:04:45.28Ou seja, é um elemento essencial destes modelos, do ChatGPT e de muitos outros hoje em dia. 00:04:49.96E foi uma revolução nestas redes neuronais porque basicamente veio permitir ao algoritmo entender muito melhor os inputs que recebe, nomeadamente fazendo algo que era muito difícil até aqui, que é perceber como o significado das palavras muda consoante o contexto, ou seja, consoante o papel que elas têm na frase. 00:05:06.90Portanto, uma parte importante da nossa conversa foi a tentar perceber estes modelos de redes neuronais e a revolução que estes algoritmos Transformers trouxeram. 00:05:16.10Uma vez tendo compreendido isto, perguntei também à Asita quais são, na opinião dela, no estado atual, as maiores forças, mas também as fraquezas deste tipo de modelos. 00:05:23.96E também, uma vez percebendo nós, a arquitetura destes modelos, que dicas é que ela nos pode dar sobre como utilizá-los melhor. 00:05:30.92Imaginem, por exemplo, no ChatGPT, como calibrar o que nós escrevemos de maneira a tirar o melhor partido destes modelos, uma vez compreendendo a arquitetura deles. 00:05:38.84Isto é aquilo que se chama, pomposamente, na gíria desta área, Prompt Engineering. 00:05:43.38Engenharia de Prompting, que é basicamente os comandos que nós escrevemos na janela do ChatGPT e de outros modelos. 00:05:49.44Já agora, eu digo a certo ponto que no ChatGPT não é possível fazer parágrafos, mas percebi depois que isto não é verdade, verdade, como muitos de vocês, calhar, sabem. 00:05:58.22Basta fazer, já agora, para quem não souber, Shift-Enter, para fazer parágrafo dentro do ChatGPT. 00:06:03.10E, no final, perguntei-lhe também o que é que podemos esperar no futuro, que modelos é que aí vêm, como é que eles nos vão surpreender, será que este modelo já tem o essencial para replicar inteligência humana, será que faltam ainda outras revoluções ao nível dos algoritmos, será que faltam dados, enfim, no fundo, o que é que nós podemos esperar olhando para o futuro. 00:06:19.56Foi uma grande conversa, foi uma conversa também desafiante, preparem-se, este é daqueles episódios que vão dar luta, espero que gostem, e não liguem que nos momentos iniciais o som tem um problema e não está com grande qualidade. 00:06:30.78E agora, deixo-vos com Zita Marinho. 00:06:33.22Até à próxima. 00:06:41.12Muito bem-vindo ao 45 Gros. 00:06:42.58Olá, obrigada pelo convite. 00:06:44.36O tema da nossa conversa são os novos modelos de inteligência artificial. 00:06:47.94Eu digo novos, porque hoje em dia já não é, aliás, vamos falar disso, já não é só o ChatGPT, que são basicamente modelos com base em redes neuronais, com depois um acrescento chamado Transformers, que tem este nome sofisticado, que veio permitir a estes modelos fazer ainda mais do que faziam antes. 00:07:02.28E já lá vamos. 00:07:02.80Mas antes disso, como eu dizia, estes modelos fazem parte desta família de modelos chamados redes neuronais, que já existem há algum tempo, e é interessante, antes de ir aos Transformers a estes modelos novos, perceber como é que estes modelos funcionam e de onde é que eles vêm.

Zita Marinho 00:07:14.02Ok. 00:07:14.74Estes modelos, apesar de novos, já vêm com uma bagagem de researches para trás, muito antiga, que têm uma inspiração naquilo que se achava que era o modelo dentro do nosso cérebro, através de neurónios, não é? 00:07:27.44Exato. 00:07:28.14Em que cada unidade mais simplista, os neurónios conseguiam, através da sua ligação entre eles, formar uma rede que poderia distinguir padrões complexos. 00:07:39.22Pronto, e parte um bocadinho dessa inspiração. 00:07:41.06Não tem quase nada a ver com o que é que se passa dentro da nossa cabeça.

José Maria Pimentel 00:07:44.92A analogia é um bocadinho enganadora. 00:07:47.08Exatamente.

Zita Marinho 00:07:47.64São modelos computacionais, pronto, que a inspiração vem um bocadinho daí. 00:07:51.88Pronto, e partem um bocadinho desta aprendizagem pelo conexionismo, não é? 00:07:55.78Que padrões diferentes eram outputs diferentes e o que dita a distinção deles é a forma como os neurónios se ligam entre eles.

José Maria Pimentel 00:08:03.48Sim. 00:08:03.92E eles surgem para dar, quer dizer, isso é que explica o sucesso deles, eles têm muito mais flexibilidade do que outros modelos anteriores, muito mais em que se tentava programar. 00:08:13.18Sim, monolíticos,

Zita Marinho 00:08:14.26como a casa do nosso computador, não é? 00:08:15.70Isso, exato. 00:08:16.12Às vezes quando queremos mudar aquilo que ele consegue modelar, não é? 00:08:19.98Temos que mudar o chip todo. 00:08:22.10Temos que mudar o computador, propriamente dito. 00:08:24.62Ou melhor, podemos armazenar coisas diferentes na memória do computador e isso permite-nos detectar novos inputs. 00:08:31.94Mas no caso do nosso cérebro, a forma como os neurónios estão ligados entre si é que ditam o que é que ele vai dar de output na saída. 00:08:40.24Sim,

José Maria Pimentel 00:08:40.54quando nós temos um pensamento qualquer, neste momento que eu estou a falar contigo e tu comigo, há uma série de neurónios, na verdade, sinapses, que são as ligações entre os neurónios, que se ativam e que produzem. 00:08:49.86Exatamente.

Zita Marinho 00:08:50.80E, portanto, isso é que vai ditar o que é que vai estar no padrão da saída. 00:08:55.30E se, por exemplo, queremos testar numa coisa completamente diferente, vamos ter que retreinar, ou seja, vamos ter que mudar a máquina. 00:09:01.52E no caso de uma máquina normal de um computador, bastava mudar a memória ou mudar o que armazenamos lá. 00:09:06.70Sim. 00:09:07.32E é o teu CPU que vai começar a fazer operações lógicas sobre isso. 00:09:11.80Neste caso, é um bocadinho diferente. 00:09:12.96É a própria máquina e as ligações entre os nós da rede ou os neurónios, neste caso, que vai editar aquilo que está no padrão de saída.

José Maria Pimentel 00:09:22.36A analogia faz sentido e, claramente, estes modelos tiveram inspiração na biologia. 00:09:27.20Aliás, estamos a gravar isto no dia em que dois físicos ganharam o Prémio Nobel pelo início destes modelos, percebem. 00:09:33.56E, portanto, tem inspiração na biologia, embora depois, na verdade, também é um bocado enganador, porque ele não funciona exatamente como o nosso cérebro. 00:09:38.92Tem em comum a questão de serem redes de neurónios, mas depois a arquitetura é um bocado diferente. 00:09:43.56Eu sei que é difícil explicar essa arquitetura sem ter uma imagem, mas tu consegues mais ou menos explicar.

Zita Marinho 00:09:47.80Então, é assim, quando temos redes neuronais, a ideia é aprender através dos dados a fazer predições, pode ser de classes, pode ser de reconstruir o input. 00:09:57.52Por exemplo, quando temos uma imagem e vamos pôr noise, barulho em cima dela e depois queremos reconstruir a imagem sem esse ruído. 00:10:04.60Sem esse ruído, sim. 00:10:05.26Pode ser a previsão de uma probabilidade de um certo evento ou de uma palavra, no caso dos language models, dos modelos de língua.

José Maria Pimentel 00:10:12.76Se calhar podemos usar aquele exemplo clássico que é o de reconhecer algarismos, não é?

Zita Marinho 00:10:16.04Ok, podemos reconhecer algarismos também.

José Maria Pimentel 00:10:17.60Algarismos escritos à mão, não é? 00:10:19.08Pronto. 00:10:19.36Ou seja, número dois escrito por não sei quantas pessoas, não é? 00:10:22.58Sim. 00:10:22.88Criar um algoritmo que seja capaz, independentemente da variação da nossa caligrafia, reconhecer que sempre quer o número dois.

Zita Marinho 00:10:27.72Nesse caso, por exemplo, podes pôr a imagem ou uma forma codificada qualquer da imagem no teu input e no teu output terias, no final, uma classificação sobre cada um dos algarismos, ok? 00:10:40.78Seriam as tuas previsões na saída. 00:10:42.68Então, a rede neuronal em si é uma camada de nós ligados entre si. 00:10:46.86Nós costumamos chamar a layer ou a camada quando os nós dentro dessa camada... 00:10:50.86Os nós são os neurônios, não é? 00:10:51.78Os nós, exatamente. 00:10:52.54São os neurônios ou estas unidades mais básicas que compõem a rede quando estão ligados entre si. 00:10:57.82Chamamos uma camada quando estas unidades mais básicas não estão ligadas entre elas próprias mas só na camada seguinte. 00:11:04.14Portanto, chamamos uma camada quando temos vários nós em que estes nós vão se ligar à camada que está

José Maria Pimentel 00:11:09.78e não entre eles. 00:11:11.44Exato. 00:11:12.14Lá está a analogia a quebrar, não é? 00:11:13.34A analogia que eu serve, sim.

Zita Marinho 00:11:14.50Porque o que interessa na noção da camada é a profundidade da rede. 00:11:18.02Portanto, é o número de saltos que terias que dar entre os nós para chegar ao caminho mais longo.

José Maria Pimentel 00:11:22.08E aqui, voltando ao exemplo dos algorismos, tu tens um input que significa que tu tens de ter uma maneira de ler esta imagem, ou seja, um 2 escrito à mão. 00:11:29.86Imagina escrito por mim. 00:11:31.10Isso é das versões mais simples que há por isso é que normalmente é dado como exemplo. 00:11:33.92E o que acontece é tu terias o meu 2 ou o teu 2 representado num plano com dois eixos escrito à mão. 00:11:41.10Sim, normalmente

Zita Marinho 00:11:41.74tens um canal RGB, não é? 00:11:43.16Que é o quê? 00:11:44.34Tens o red, green, blue, não é? 00:11:46.20Sim. 00:11:46.56Ou então podes só ter binário entre que tens preto e branco na imagem e tens valores reais que descrevem a intensidade ou inteiros que descrevem a intensidade do pixel.

José Maria Pimentel 00:11:55.78Do pixel, exatamente. 00:11:56.56Ou seja, repartias aquilo tudo em pixel.

Zita Marinho 00:11:57.66E depois podes vectorizar e neste caso perdes um bocadinho a estrutura do 2 mas tens a representação da imagem na mesma.

José Maria Pimentel 00:12:02.32Vectorizar é pôr tudo num veículo. 00:12:03.68Uma coisa com um de largura, não é?

Zita Marinho 00:12:05.22Uma dimensão. 00:12:05.96Sim. 00:12:06.50Ou então tens uma representação

José Maria Pimentel 00:12:07.54qualquer que tenha em conta a estrutura do problema. 00:12:10.48Pronto. 00:12:10.90Mas isso é o teu input, não é? 00:12:11.88Mas tu, desculpa interromper, só para isto ficar claro, mas tu estás sempre a fazer o mesmo que é a tentar ler aquele input que vai entrar na rede como se fosse no fundo são os quase neurónios de entrada de certa forma

Zita Marinho 00:12:24.60que estão a ler aquele input. 00:12:25.84Vão processar o teu input de alguma maneira numa forma que vá permitir fazer tarefas mais complexas com este input. 00:12:32.58No teu caso é classificar o algarismo.

José Maria Pimentel 00:12:35.00E aqui o desafio no input estou a tentar descrever isto de uma maneira muito concreta para quem está a ouvir. 00:12:38.68Ou seja, aqui o desafio é que o meu 2 e o teu 2 nós conseguimos ambos perceber que são o mesmo algarismo mas não estão escritos da mesma forma. 00:12:46.62O que significa que eles não vão entrar a leitura não é igual. 00:12:49.24Ou seja, vai haver partes que sobrepostas mas vai haver pontos do espaço em que o teu está branco.

Zita Marinho 00:12:53.32Há diferentes padrões de input do 2 que ele vai ter que identificar como a mesma classe.

José Maria Pimentel 00:12:57.62Isso. 00:12:57.92E portanto o desafio é que o algoritmo desenvolva esta espécie de senso comum baseado na experiência que nós temos de perceber que aquilo são sempre 2. 00:13:05.34Exatamente.

Zita Marinho 00:13:05.78Vai aprender estas associações certas diferenças da forma como se escreve o 2 com a curvinha no canto ou com o manuscrito ou mais caligráfico.

José Maria Pimentel 00:13:15.26Boa. 00:13:16.02Portanto isto é o input. 00:13:16.78O input lê de alguma forma como tu dizias pode ler bidimensionalmente até pode ler unidimensionalmente até pode ter outras características mas lê mais ou menos estas imagens, não é? 00:13:25.32Sim. 00:13:25.68E depois isto entra Entra numa rede Entra numa rede e depois como é que se processa a partir daí?

Zita Marinho 00:13:30.30Depois a rede vai aprender estas associações e a forma como aprende é através dos pesos a cada ligação entre estas unidades estes neurónios. 00:13:39.14Ah, exato. 00:13:39.48Portanto vai dar mais peso Entre cada pixel e o neurónio seguinte Digamos assim. 00:13:42.98Mais peso ou menos peso a cada uma destas ligações entre dois neurónios. 00:13:47.48Sim. 00:13:47.76Ok.

José Maria Pimentel 00:13:48.20E depois vai chegar Já vamos falar como é que ele aprende não é que isso é importante mas onde é que ele vai buscar estes pesos mas isto depois vai andando de camada em camada Sim. 00:13:55.70Até ao output Sim. 00:13:57.24Que te diz qual é o algoritmo

Zita Marinho 00:13:58.66Isto não vão ser só pesos lineares não é só multiplicação por pesos não é? 00:14:03.06De uma forma linear em cada camada costuma-se ter uma não linearidade que pode ser uma espécie de um botão que deixa passar informação ou não por exemplo uma função de threshold em que depois é linear mas de certa forma pode cortar a informação se for necessário

José Maria Pimentel 00:14:16.78Ah, uma gate Sim.

Zita Marinho 00:14:17.84E então cada unidade básica é formada por isto tem inputs que podem vir da imagem ou da camada anterior multiplica por uns certos pesos e pode ter um offset que costuma-se chamar bias e depois passa por uma não linearidade e depois passa para a camada seguinte e repete assim até chegar ao output em que normalmente a última não linearidade é uma projeção entre 0 e 1 que te dá a probabilidade de cada uma das classes

José Maria Pimentel 00:14:39.96Sim. 00:14:41.10E portanto o output disto ou seja o resultado

Zita Marinho 00:14:42.96No teu exemplo específico seria uma probabilidade de ser cada um dos algarismos

José Maria Pimentel 00:14:48.62Sim, e portanto o resultado digamos assim para efeitos práticos é aquele algarismo que tem mais probabilidade Exatamente Ele não é binário ele não diz é um 2 de certeza ele diz-te há x% vamos supor 90% de probabilidade de ser um 2 Por exemplo Por exemplo ou se calhar menos se calhar mais não sei depende de caso deve variar de caso para caso

Zita Marinho 00:15:05.24Sim, mas depende da forma como tu queres o output dos teus dados neste caso para a classificação podes fazer assim

José Maria Pimentel 00:15:10.64Pois que outras formas é que há? 00:15:12.86Eu sei o que queres dizer Pode ser binário, não é? 00:15:15.66Ah, podes programar para ser binário Sim

Zita Marinho 00:15:17.30Depois fazes para cada um dos algarismos binários ou pronto pode ser Pois, claro, claro Podes ter várias formas diferentes

José Maria Pimentel 00:15:23.20Portanto, este algoritmo que tu descreveste para além de ser um algoritmo de redes neuronais é um algoritmo que tem várias camadas Sim

Zita Marinho 00:15:30.22É o que se costuma usar agora é com várias camadas Inicialmente No início das redes neuronais as redes que se propunham não tinham muitas camadas e era por causa disso que não conseguiam obter padrões de output tão complexos

José Maria Pimentel 00:15:41.88Hum, interessante Porquê?

Zita Marinho 00:15:43.60Porque as decisões que tomavas iam ser só lineares não consegues separar os dados de forma não linear se tu tiveres só uma camada

José Maria Pimentel 00:15:51.48Ou seja para lidar com não linearidades que é basicamente o mundo real tu precisas ter várias camadas

Zita Marinho 00:15:56.50precisas ter profundidade das redes

José Maria Pimentel 00:15:58.48ou seja, vários passos entre o input e o output de certa forma que lhe dá depois a flexibilidade para ajustar Aham, aham, aham, aham

Zita Marinho 00:16:06.50E normalmente as camadas as camadas mais baixas estão relacionadas com features neste caso da imagem por exemplo mais básicas que identificam contornos que identificam diferenças de sharpness Os ângulos Tem a ver mais com estas fichas mais básicas visuais E à medida que sobes na rede aquilo vai aprendendo coisas mais complexas da imagem

José Maria Pimentel 00:16:24.42Aham, pois é engraçado ou seja, no fundo para lidares com diferentes dimensões com diferentes variáveis tens de ter um sistema não linear como é óbvio, não é? 00:16:31.76Porque um sistema linear por definição está circuncrito a duas, não é? 00:16:34.28Sim Isso é engraçado mas tu disseste aí uma coisa que é apelativa mas eu tenho ideia que não é sempre assim ou seja, tu estavas a dizer ah, o modelo nas primeiras camadas está a tirar essas características

Zita Marinho 00:16:41.88Geral, são características mais gerais mais fundamentais

José Maria Pimentel 00:16:45.26Mas não é porque ele seja programado assim porque ele não é programado

Zita Marinho 00:16:47.64Aprenda a ser assim para conseguir prever as coisas porque nas camadas acima estás a usar a informação muito das camadas abaixo e vais misturando a informação Sim

José Maria Pimentel 00:16:54.16Mas a ideia que eu tenho é que às vezes quando tu vais inspecionar o modelo eu surpreendo-te ou seja, tu terias à espera que ele fizesse isso Sei lá, terias à espera que a primeira camada fosse os contornos e depois vais ver e aquilo não é exatamente o que a tua intuição diria que era Sim Se eu estiver enganado diz-me mas lembro-me de ler sobre isto

Zita Marinho 00:17:08.76Ou seja, tu aches que Não é uma coisa interpretada não é? 00:17:11.10Aquilo não é Ninguém foi lá dizer que agora vais aprender os contornos na camada 0 ou na camada 1

José Maria Pimentel 00:17:16.54Ou seja, para ele interpretar aqueles dados muitas vezes ele segue uma lógica vista de fora que não era a que tu estarias à espera É aprendido

Zita Marinho 00:17:24.18A representação que as camadas inferiores vão aprender depende dos dados que tens

José Maria Pimentel 00:17:27.90e é aprendido O que eu quero dizer é é aprendido de uma forma que às vezes te surpreende pelo menos é a ideia que eu tinha o que mostra a potência destes modelos não pré-programados digamos assim de certa forma

Zita Marinho 00:17:38.88Eu vejo mais isto como features de padrões que ele vai ter que identificar e aquilo quanto mais para baixo se desce aquilo vai ser comum a todos os padrões Imagina que tu para preveres que é o 2 ou outro tipo de vais ter que prever agora outro tipo de imagem As coisas mais comuns vão ter que ficar nas camadas mais baixas Claro, claro, claro Aquilo que explica mais a diferença dos dados Sim Que vai ser utilizado para todas as coisas porque imagina se tu pusés a 0 um nó na camada de baixo vai influenciar muitos outros nas camadas acima Enquanto se tu pusés a 0 um nó na camada de cima se calhar só vai influenciar um output Ok Portanto, o grau de influência das camadas abaixo é muito maior do que o grau de influência das camadas acima Certo, certo, exatamente Portanto, permite ter mais refinamento das decisões que vais tomar quanto mais acima estiveres

José Maria Pimentel 00:18:23.48Sim, mas encurado ao que está nas camadas de baixo que está mais fixo

Zita Marinho 00:18:26.44Portanto, vai obrigar a própria representação das camadas de baixo a ser uma coisa mais geral, não é?

José Maria Pimentel 00:18:32.38Uma pergunta que me ocorreu agora não sei se isto faz sentido Há um trade-off entre digamos a altura e a profundidade do modelo ou seja, tu se tiveres uma capacidade limitada de processamento e de armazenamento de dados deve haver ou faz sentido que haja uma espécie de trade-off ou seja, uma escolha que tu tens de fazer entre o número de nós que tem o modelo o número de neurônios digamos assim e portanto que influencia no fundo a resolução com que tu consegues ler o input verso o número de camadas que tu tens ou seja, se tiveres mais nós se calhar não podes ter tantas camadas e se tiveres mais camadas se calhar não podes ter tantos nós faz sentido?

Zita Marinho 00:19:02.02podes ter os dois na mesma desde que estejas computação suficiente pois, exato poder computacional suficiente para poder lidar com isso se o poder computacional estiver fixo há um trade-off aí sim que é normalmente o número de nós na sequência está um bocadinho ligado ao tamanho dos inputs queres repreenditar ou com a parte da complexidade do tamanho da sequência ou está mais relacionado com isso a parte deep está relacionada com a complexidade da tarefa porque quanto mais deep tens vais ter mais decisões complexas que a própria rede vai conseguir tomar

José Maria Pimentel 00:19:26.80sim, dá até essa elasticidade

Zita Marinho 00:19:28.36tem outros problemas porque vais estar a multiplicar muitas multiplicações seguidas cada camada vai estar a multiplicar umas por outras e vais ter problemas inerentes ao facto de teres redes mais profundas

José Maria Pimentel 00:19:38.44do tipo ou atende para zero ou atende para... 00:19:40.00exatamente

Zita Marinho 00:19:40.32tens os vanishing gradients ou quando estás a aprender por gradiente ou exploding gradients

José Maria Pimentel 00:19:45.60e já agora estes modelos novos o 7GPT, Gemini por exemplo têm quantas camadas? 00:19:50.08estou a ver aqui na net diz que o GPT-3 tem 96 camadas mas acho que isto multiplica por causa da história da questão do transforma

Zita Marinho 00:19:56.84eu acho que com o número de parâmetros consegues ver mais ou menos quão grande é o modelo não é? 00:20:00.12mas é muito o GPT-3 tinha 175 bilhões de parâmetros e tinha 96 camadas não é? 00:20:05.34o que a outra gente não sabe não sabemos claro

José Maria Pimentel 00:20:07.62espera aí parâmetros é o que já agora?

Zita Marinho 00:20:09.92portanto um parâmetro vai ser um peso que dás à ligação entre dois nós cada dois nós tem um peso ah ok mas também tem dois pesos para frente mas cada camada pode ter muitos nós não é? 00:20:20.34aí o número de camadas só te dá o número da profundidade da rede

José Maria Pimentel 00:20:23.12sim não dá o número de nós não dá o número de nós não dá altura e há uma coisa importante que nós não falamos aqui ainda que na verdade é quase o mais importante isto tudo que é como é que estes modelos aprendem ou seja portanto voltando ao nosso modelo lá bocado tu tens um input que é uma maneira de ler vamos pôr uma imagem não é? 00:20:39.12mapeias aqueles pixels e depois esse input entra no sistema é alimentado a neurónios que são os tais nós e que depois estão ligados para a camada seguinte atribuindo um peso no fundo ao nó na camada seguinte mas isto só vai funcionar bem se tu consegues ensiná-lo a reconhecer a imagem como é que tu consegues ensinar-lhe que aquele output que ele reconheceu está bem reconhecido ele reconheceu um 2 e era de facto um 2 ou está mal reconhecido e portanto ele tem que mudar os pesos para trás a ideia que eu tenho é quando tu começas estes pesos estes ponderadores são mais ou menos aleatórios não é?

Zita Marinho 00:21:06.74é, são muito próximos de zero e aleatórios e depois vão alterando consoante as predições que fazem portanto na rede do detecção dos algarismos estás a atar o 2 só que de repente a tua imagem afinal eram 3 e vais ter uma diferença das probabilidades que tu dizias nos algarismos portanto tinhas um valor muito grande para o 2 e se calhar um mais baixinho para o 3 mas o valor verdadeiro vai ser um 1 no 3 e 0 em tudo o resto portanto vais pegar no erro que há de ser a diferença entre o 1 e a probabilidade que tu atribuísto ao 3 e vais agora

José Maria Pimentel 00:21:37.68mandas para trás exatamente

Zita Marinho 00:21:38.94vais propagar para trás os erros que fizeste no final da tua rede e é uma questão só de propagação de erros de regra da cadeia de multiplicação de

José Maria Pimentel 00:21:46.24certo que na verdade o teu output é todo ele diferente 0 e diferente 1 qualquer coisa entre 0 e 1 variável mas depois o valor verdadeiro é 1 para o algarismo certo e 0 para tudo o resto e depois tu propagas a diferença para trás que no fundo vai reforçar os pesos do que conduziria a prever o algarismo que efetivamente é e tendrá a baixar os outros exatamente

Zita Marinho 00:22:07.66a ideia será essa

José Maria Pimentel 00:22:09.26no meio desta deste matagal difícil de mapear não é porque está tudo ligado desta rede

Zita Marinho 00:22:15.32mas o fundamental é que por exemplo nós sabemos que a forma como alteramos o sinal em cada camada tem esta função que há de ser a não linearidade seguida da multiplicação dos pesos que é linear portanto tu para cada camada vais saber qual é a forma do gradiente da função portanto a forma mais simples de pensar nisto é tu pegas no final da rede tens o teu erro e vais propagar para trás consoante este erro vais multiplicar pelo jacobiano por aquilo que seria o gradiente da função ok e vais multiplicar pela forma como a função altera para trás certo

José Maria Pimentel 00:22:48.80ou seja o modelo isto é engraçado porque ele anda para a frente e para trás é como se fosse quase uma onda ou seja ele vai para a frente para ver

Zita Marinho 00:22:54.62podes pensar como se fosse a função composta uma função a seguir a outra função outra função outra função e quando estás a propagar para trás tens que pegar no gradiente que é a forma como essa função vai mudar do input para o output isso é que é o gradiente sim o gradiente o que te diz é se tu variares o teu input como é que isso vai refletir no output

José Maria Pimentel 00:23:09.94e tu depois

Zita Marinho 00:23:12.06pegas no teu output e dizes para trás isto foi o que eu vi no meu output como é que isto vai variar para o input e vais andando para trás para trás para trás e consequente isso vais corrigindo os pesos da rede

José Maria Pimentel 00:23:23.08e é um processo iterativo entre o input sai o output o output está correto ou errado faz essa conversão volta para trás na tal backpropagation depois voltas a meter o input sai o output comparas com o output real e volta para trás

Zita Marinho 00:23:34.62e só com os erros é que a rede vai estar a aprender sim

José Maria Pimentel 00:23:36.50exato engraçado e tu estavas a dizer há bocado que isto depois acaba por produzir esta arquitetura acaba por resultar em que os pesos das primeiras camadas tendem a estar mais fixos e os das últimas camadas a serem mais flexíveis sim

Zita Marinho 00:23:48.58acho que é por causa mesmo da inerente como as camadas estão ligadas entre si portanto as camadas baixas vão afetar mais nós na rede

José Maria Pimentel 00:23:56.16tem mais impacto claro do que os de cima a última camada só afeta as previsões da probabilidade só impacta uma camada a primeira impacta todas as camadas que eu vejo exatamente certo

Zita Marinho 00:24:05.40nós até agora vimos o que é que é uma rede feed forward não sei dizer isto em português sim está à frente está à frente não sei mas uma das técnicas que surgiu se calhar com o modelo de Icing que pode um bocadinho motivar agora o prémio Nobel que é a ideia de recorrência em que temos uma coisa que vai depender vai ter que precisar de alguma memória portanto vais ter que ver qual seria o estado de uma camada ou de alguns nós desta rede na tua decisão anterior neste momento tu estás só a prever os dígitos mas se tivesses que prever uma sequência de dígitos que precisasses de saber qual era o dígito anterior por exemplo pensando assim daria jeito de ter alguma forma de recorrência que vai gerar alguma memória na rede

José Maria Pimentel 00:24:46.64terias de saber porque ele era informativo em relação à probabilidade do dígito seguinte por exemplo

Zita Marinho 00:24:50.64sim ou precisas de guardar na memória da rede alguma coisa a recorrência permite te fazer isso

José Maria Pimentel 00:24:55.64e como é que fazes isso? 00:24:56.62como é que funciona na prática?

Zita Marinho 00:24:57.80a recorrência se quiseres pensar nesta rede dos dígitos é no caso em que por exemplo o output de cada camada na previsão de um time step vai alimentar o input dessa mesma camada no seguinte por exemplo na previsão do 2 a seguir vais ter que prever imagina que tens uma sequência de dígitos imagina que estás a ordenar por ordem crescente por exemplo interessa saber o que é que foi o anterior estás só a adicionar um a tua rede vai precisar de saber as previsões que tinham na decisão no tempo passado certo

José Maria Pimentel 00:25:26.86mas isso entra onde? 00:25:27.58eu não percebi

Zita Marinho 00:25:28.00o output de cada nó de cada estado da rede vai entrar como input no tempo seguinte

José Maria Pimentel 00:25:35.18mas então onde é que entra o input novo?

Zita Marinho 00:25:37.24entra no input na mesma tens um input na mesma da imagem mas vais ter também como input o output da própria nó no tempo anterior

José Maria Pimentel 00:25:45.26ah interessante mas entra eles entram os dois no mesmo nó ou entram em nós? 00:25:48.98ah é uma espécie de combinação dos dois

Zita Marinho 00:25:50.38sim combinação do sinal ok interessante portanto é a ideia de recorrência e isto foi muito importante para poder modelar coisas em que precisas ter alguma memória

José Maria Pimentel 00:25:58.58sim mas isso não perturba de certa forma o sinal do input novo?

Zita Marinho 00:26:02.14sim então há um trade-off que vais ter que escolher onde é que estás mais peso vais aprender com o passo anterior mas a rede aprende não tens de dizer nada não é?

José Maria Pimentel 00:26:08.54sim engraçado

Zita Marinho 00:26:09.76então estes modelos correntes pondo agora em questão com o que saiu agora do Prémio Nobel da Física vem muito daqueles modelos de Heising em que foram construídos para estudar conjuntos de partículas em que tinhas cada partícula podes pensar como um nó na rede em que pode ter valores menos um e um que era o spin do ah é o spin da partícula o spin da partícula e tu querias a partir dos padrões

José Maria Pimentel 00:26:29.88partículas da física de partículas é do que estamos a falar

Zita Marinho 00:26:33.34querias prever pronto transições de fases entre estados da matéria sim e estes modelos criaram uma espécie que era um modelo de Heising e depois mais tarde um modelo proposto pelo Inten ou as Boltzmann Machines tinha um modelo com base nestes valores destes spins que consoante estivessem positivos ou negativos na rede em si se tu olhasses para todos os nós como o estado da rede ias ter uma probabilidade para cada estado da rede e estes modelos tinham associado em si uma energia que tinha a ver com a configuração do sistema que tem um bocadinho a ver com o trabalho feito do Inten e do Heising inicial e que motivou um bocadinho o prémio nobel

José Maria Pimentel 00:27:12.78o Heising quem era? 00:27:14.18lembra-me o Heising era um físico mas não foi ele que ganhou o prémio nobel

Zita Marinho 00:27:16.78não, não mas as Boltzmann Machines que foi o trabalho do Heising tiveram inspiração exato, tiveram a inspiração nos modelos de Heising que puseram em cima um bocadinho a parte estocástica de interpretar o que era a probabilidade de um estado etc

José Maria Pimentel 00:27:28.16é a primeira vez que alguém ligado a estes modelos de redes neuronais ganha um prémio nobel não é? 00:27:31.94sim estes modelos com base em redes neuronais basicamente são atualmente os modelos dominantes ou seja a maior parte dos modelos com que nós contactamos seja modelos de tradução modelos lá está tipo CHPT ou até modelos de reconhecimento de proteínas por exemplo na investigação científica ou modelos de condição autónoma todos eles têm na base estes sistemas de redes neuronais basicamente o que é engraçado porque para quem ouviu o episódio com o Pedro Domingos nós falávamos de uma taxonomia que é proposta por ele mas que basicamente tem 5 famílias de modelos e atualmente esta que é apenas uma das 5 é basicamente a dominante sendo que esta até é uma subcategoria da categoria mais ampla que ele propunha acho eu de uma dos conectivistas que é mais ampla do que isto mas enfim whatever mas é engraçado de facto isto foi uma revolução tal que atualmente praticamente tudo o que se faz na inteligência artificial sim

Zita Marinho 00:28:15.04é assim isto não foi escolhido há vamos trabalhar só nisto foi testando várias ideias e aquilo que ia funcionando ia permanecendo ao longo do tempo sim sim sim

José Maria Pimentel 00:28:23.66já explicaste como é que funcionam estas redes neuronais no geral e as suas várias aplicações e embora isto tenha tido um impacto grande e desde que lancei o podcast já fiz alguns episódios sobre este tema em que se falava sempre disto mas a verdade é que o grande salto foi dado quando saiu o chat GPT em que de repente este tipo de modelos que já fazia coisas extraordinárias conseguiam fazer coisas ainda mais extraordinárias e replicar a inteligência humana de uma maneira que até ainda não tinha acontecido a grande revolução por trás do GPT e de outros modelos que existem atualmente como o Gemini o Cloud depois já vamos falar a seguir e que permitiu levar estes modelos para um nível ainda acima é aquela inovação que ele acrescente que tem aquele nome que parece tirado de um filme de bonecos os Transformers certo? 00:29:04.82sim sim o que é que os Transformers fazem? 00:29:07.68como é que eles permitiram levar estes modelos ainda mais longe? 00:29:10.26pronto

Zita Marinho 00:29:10.56partindo aqui da ideia da recorrência porque quando estamos a trabalhar com dados sequenciais que é a maior parte daquilo que nós temos na linguagem são sequências de palavras podes pensar como um dado sequencial

José Maria Pimentel 00:29:22.60nesse aspecto são sequências de letras até antes de ser sequências de palavras e de caracteres

Zita Marinho 00:29:27.48e de caracteres tu precisas de redes com alguma memória com alguma espécie de recorrência só que o problema dessas redes era que tinham este quando tinhas redes muito deeps tinhas problemas de multiplicação de pesos que poderiam levar à explosão dos pesos ou desaparecerem e a rede deixava de aprender

José Maria Pimentel 00:29:45.16aquilo que falámos há bocado ou convergia para 1 ou convergia para 0 ou seja ou convergia para muito alto

Zita Marinho 00:29:50.08os pesos explodem ou convergem para 0 e depois a rede deixa de aprender portanto isso leva a que seja um bocadinho limitado a memória que tens no tempo das sequências e uma forma de resolver o problema foi proposta nos Transformers e um bocadinho antes nos Scale.products attention que era arranjar um mecanismo em que cada nó tu consegues olhar para todos os outros nós no passado e não só olhar para o anterior como no caso da recorrência portanto no caso da recorrência o teu input é só o output do nó no passo anterior não é?

José Maria Pimentel 00:30:20.48Sim, da iteração imediatamente anterior do algoritmo anterior como tu dizias há bocado e aqui consegues olhar para vários caracteres naquela frase anterior

Zita Marinho 00:30:27.28ou na camada anterior e aqui consegues olhar para todos eles e ter uma média ponderada por um peso que é o que a gente chama de attention que é um peso é um escalar que te diz quão importante aquela posição vai ser para a tua decisão

José Maria Pimentel 00:30:40.88Sim, aliás o ar em logia da atenção é engraçado até há um paper conhecido nessa área que tu me mandaste é o paper mais conhecido acho que se chama attention is all you need dos tipos da Google

Zita Marinho 00:30:50.32Sim, é quando os Transformers funcionaram assim em grande escala Sim, sim

José Maria Pimentel 00:30:55.80e tem um título provocador é engraçado e de facto o nome atenção ao contrário de Transformers que é um nome para quem está fora um pouco informativo os mecanismos de atenção até tem uma interpretação relativamente intuitiva porque a lógica a isso eu percebo é tu estás a alimentar o algoritmo com uma frase vamos supor e a atenção diz ao algoritmo qual é a atenção relativa que ele deve dar do que precedeu da frase aos vários componentes da frase no fundo é isso pensando para trás para retirar contexto relevante para interpretar aquela frase

Zita Marinho 00:31:26.12é olhar para o contexto daquilo que já as predições que fizeste até agora e ver o que é que precisas para decidir a tua próxima predição e a ideia é que isto varia consoante o que estás a prever não é? 00:31:37.44isso, exato é aprendido

José Maria Pimentel 00:31:38.90ou seja se eu entendo tu sem isto tinhas um modelo que tinha dificuldade em lidar com as ambiguidades da língua consoante o contexto e a língua tem muitas ambiguidades era um bocadinho

Zita Marinho 00:31:49.02mais monolítico não era tão flexível como neste caso

José Maria Pimentel 00:31:51.76mas sobretudo em relação ao contexto não é? 00:31:53.28se eu entendo

Zita Marinho 00:31:53.74tinhas contexto na mesma mas era um contexto mais limitado portanto não olhavas para cada coisa para trás olhavas ou para um sumário da sequência que já viste ou olhavas só para o anterior

José Maria Pimentel 00:32:02.58mas as tuas formas permitem olhar para mais histórico ou isso já existia o que eles permitem é dentro do histórico para que tu estás a olhar concentrar a atenção do algoritmo mais numas partes da frase a segunda?

Zita Marinho 00:32:15.14sim no anterior tinhas uma decisão que era só podias olhar para um deles tu olhavas normalmente para o final não é? 00:32:20.94para o último codificavas a tua sequência de alguma forma num vetor e olhavas para esse vetor como se fosse o contexto neste caso tu vais codificar a cada passo que vais escolher vais codificar a tua sequência de forma diferente e não sempre da mesma imagina que estás a jurar uma sequência de palavras uma frase ao longo da tua geração tu vais poder escolher qual é o teu contexto porque os teus pesos de atenção vão variar conforme aquilo que é importante para tu preveres agora

José Maria Pimentel 00:32:44.54só uma coisa para ver se eu percebo bem tu antes dos transformers serem inventados digamos assim nos modelos da geração anterior tu quando estavas a projetar o espaço interno era simplesmente um modelo recorrente como tu descreveste há bocadinho que tinhas só vamos supor o carátero ou o algarismo da iteração imediatamente anterior ou podias ter um histórico maior

Zita Marinho 00:33:02.10por ser recorrente tens um histórico infinito porque estás a fazer a recorrência das coisas que vais fazendo tens alguma informação a passar mas o teu input é só o tempo anterior mas esse tempo anterior vai conter informação do tempo anterior do tempo anterior do tempo anterior que a informação é comprimida de alguma forma

José Maria Pimentel 00:33:17.76um bocado como falávamos das camadas

Zita Marinho 00:33:19.00e neste caso não há esta compressão tão óbvia é só através desta combinação linear portanto num modelo recorrente tu vais a partir de um determinado passo vais comprimir a informação e passar para o seguinte através deste estado e vais fazendo isto recorrentemente ou seja tu quando estás num determinado ponto da sequência vais conseguir olhar para muitas coisas lá para trás mas a informação vai ter que passar e se calhar passa para este estado mas para o seguinte já não vai passar porque pronto não vai interessar de alguma forma mas este exige mais memória? 00:33:46.60este exige mais memória sim

José Maria Pimentel 00:33:47.82porque está a passar mais informação

Zita Marinho 00:33:49.26este exige que cada ponto na tua decisão vais olhar para tudo para trás é quadrático

José Maria Pimentel 00:33:53.86pois mas era isso que eu estava a tentar perceber ou seja por um lado ele faz com que em cada ponto tu olhes para todos os outros para todos os outros e ao mesmo tempo faz com que dentro de todos esses outros tu dês mais peso ou que naquele contexto é mais relevante ou não?

Zita Marinho 00:34:06.20sim é mais flexível e tem mais memória por ter mais memória vais ter esta flexibilidade extra de poder escolher o que é que é relevante

José Maria Pimentel 00:34:12.52e como é que ele escolhe o que é relevante?

Zita Marinho 00:34:14.10tu aprendes uns pesos tens três coisas que é ski, query e value que é que normalmente as tuas queries codificam aquilo que tu queres que a renda aprenda ok? 00:34:23.42é a tua pergunta as keys codificam a representação do modelo daquilo que já viu e é o que te vai permitir projetar aquilo que tu estás a perguntar naquilo que o sistema já sabe pronto a intuição que eu tenho é esta e depois o value é efetivamente o valor da representação da rede ok? 00:34:39.18portanto as keys e os values normalmente estão no mesmo espaço de informação e permitem-te procurar por exemplo faz uma pergunta qualquer não é? 00:34:47.20ou uma palavra gato se calhar vai ser muito semelhante com coisas com outros animais não é? 00:34:52.74porque a representação costuma ocorrer naquela posição com outros animais como cão etc pronto e esta representação semântica das palavras nestes vetores é o que dá esta flexibilidade ao modelo de poder aprender estes mecanismos de atenção ou seja por ser semelhante semanticamente se calhar vai partilhar informação e vai permitir ao modelo atender a coisas que já viu para trás

José Maria Pimentel 00:35:17.28consegues dar-me um exemplo de algo que o modelo de uma geração anterior tivesse muito dificuldade de fazer e que estes modelos fazem bem? 00:35:22.56ou seja algo que os modelos sem transformers fariam mal sei lá por pensar na tradução

Zita Marinho 00:35:27.30sim sim sim por exemplo quando tens informação no início da frase que tu precisas para prever sei lá imagina que codificas uma frase e precisas agora quando estás a fazer tradução precisas da informação que estava no início estes modelos recorrentes é muito difícil passar informação relevante através destes passos todos no tempo até este tempo de decisão no final quase da frase

José Maria Pimentel 00:35:46.28os modelos recorrentes eram os anteriores falámos há bocadinho os recurrent neural networks

Zita Marinho 00:35:50.40era muito difícil esta informação passar porque tens uma série de multiplicações que o sinal vai-se perdendo claro ou então passa mas aquele sinal se calhar não é preciso para mais nenhuma outra frase etc portanto nunca vai aparecer outra vez isto é muito mais difícil é uma forma muito mais complexa de funcionar porque é mais monolítico enquanto que com o modelo de atenção tens mais flexibilidade e não interessa muito onde é que está na frase porque como é quadrático a cada problema vais estar a olhar para tudo o resto tu podes atender ao início da frase muito facilmente portanto isto aumentou um bocadinho a memória que os sistemas tinham

José Maria Pimentel 00:36:22.32e dar-lhes também pelo que eu entendo mais flexibilidade a lidar com aquela ambiguidade da língua que eu falava há bocadinho ou seja da mesma palavra usada em contextos diferentes terem significado diferente

Zita Marinho 00:36:31.96os transformers e esse paper do Vazvani introduziu outra coisa que era eles adaptaram esta ideia dos dot product attention em paralelo portanto tiveram várias cabeças ou camadas que faziam isto em paralelo portanto cada uma destas peças poderia-se estar a especializar num determinado sentido daquela ocorrência ou podia-se especializar numa determinada forma tendo em conta

José Maria Pimentel 00:36:56.46que este paper saiu em 2017 há este breakthrough este salto em 2017 entretanto não sei se os GPT já tinham sido lançados na altura são lançados depois 1, 2, 3 o GPT-3 já existia durante um bom período até rebentar o set de GPT sim

Zita Marinho 00:37:12.36já havia estes modelos antes de estes usava-se muito o BERT que era um modelo de encoder e decoder que codificava o sinal de entrada e depois descodificava estes modelos baseados no GPT são mais só de descodificador no sentido

José Maria Pimentel 00:37:29.98o GPT-3 é de 2020 e aqui é engraçado porque portanto há esta invenção dos Transformers que nós identificamos como o que provocou este salto em retrospectiva nós identificamos mas na verdade o GPT-3 sai em 2020 e demora quase 3 anos a dar o salto na versão que depois de repente mostrou aquilo tudo isto teve a ver com o quê? 00:37:46.92Foi com dados, não é?

Zita Marinho 00:37:47.88Não, não foi por causa dos dados que demorou tanto tempo portanto tem a ver um bocadinho com a computação e com o tamanho das redes

José Maria Pimentel 00:37:54.10dados eu queria dizer a dimensão do sistema também tem a ver com os dados

Zita Marinho 00:37:57.04estranhos portanto no início tínhamos estes modelos de codificar e descodificar que era o BERT com cerca de 0,34 bilhões de parâmetros e depois temos modelos como o GPT-2 que é o antecessor do 13 do chat GPT que tinha cerca de 1,5 bilhões e estes aqui só treinavam para fazer esta descodificação das tarefas já o GPT-2 e depois a partir daí foi a rede cresceu e o GPT-3 já tem 175 bilhões de parâmetros pois é muito mais já é muito mais depois os modelos a seguir como o Palm da Google já tem 540 bilhões e à medida que se aumenta o número de parâmetros as capacidades do modelo melhoram e a quantidade de dados também portanto a partir daí começou-se a treinar na internet no Common Crawl e neste momento os modelos aprendem com trilhões de dados que é uma coisa abismal eu estou a perguntar isto porque

José Maria Pimentel 00:38:44.80quer dizer repare-se em termos científicos tudo isto pode ser obviamente num período muito curto mas para todos os efeitos há aqui uma competição grande portanto anos contam e tu tiveste o Pepper dos Transformers está em 2017 o GPT-3 está em 2020 e ainda levou para aí dois anos e meio até sair o modelo que de facto revolucionou e o que tu estás a explicar que é interessante é que no fundo a magia digamos assim tem a ver com a escala começou a acontecer quando ele tomou uma escala realmente grande e passou a estar treinado com uma brutalidade de dados e aí é que de repente se deu a magia digamos assim

Zita Marinho 00:39:16.30portanto é levar ao extremo a ideia da escala e da rede vai aprender sozinha mas que tu escalas na quantidade de dados que lhes dás

José Maria Pimentel 00:39:23.46e portanto tem a ver com os Transformers sim mas também tem a ver com a dimensão do modelo e com teres muitos dados com que o possas alimentar digamos assim até porque estes modelos têm uma característica engraçada face ao cérebro humano que são muito menos eficientes muitíssimo menos eficientes no sentido em que o nosso cérebro coitado é uma coisa muitíssimo modesta comparada com estes modelos ou seja estes modelos conseguem fazer o que fazem enfim não é para tirar mérito não é isso que eu quero dizer mas tem uma capacidade de computação brutal são modelos gigantescos se formos medir o número de neurônios digamos assim

Zita Marinho 00:39:54.60eu acho que não sei eu acho que nós somos maiores o nosso cérebro é uma grande máquina acho que é maior do que isto eu não sei acho que sim não sei

José Maria Pimentel 00:40:00.60na verdade estou aqui misturado as coisas o nosso cérebro consome muito menos energia sim muito mais eficiente em termos energéticos em termos de neurônios digamos assim nesta acessão não sei por acaso primeiro não é não é óbvio que um e o outro sejam equivalentes mas ou de sinapses na verdade seria acho que nós temos

Zita Marinho 00:40:15.68cerca de 80 milhões de neurônios

José Maria Pimentel 00:40:17.12sim mas muito mais sinapses aí seria muito menos

Zita Marinho 00:40:19.70100 trilhões de conexões

José Maria Pimentel 00:40:21.62é? 00:40:22.40ah então em continuação é mais do que isto interessante por acaso assim de facto o nosso cérebro é eficiente em termos energéticos em termos de ligações já continua a estar à frente

Zita Marinho 00:40:30.42isso é engraçado eu acho que nós estamos a aproximar mas ainda não estamos lá houve outras coisas que foram surgindo não é? 00:40:35.68portanto não foi só o caso de escala dos modelos e das redes houve coisas como na forma de pré-treinar que mudaram um bocadinho o que se costuma chamar agora de RLHF que é reinforcement learning através de feedback humano em que por exemplo quando o chat de GPT saiu tinhas sempre o botãozinho do like ou dislike da resposta que o modelo dava e depois esse sinal era usado para aprender um modelo de reward que avaliava a geração do texto sim no fundo

José Maria Pimentel 00:41:01.54parecido ao que aconteceu no nosso exemplo do algoritmo há bocado pronto

Zita Marinho 00:41:04.34tinhas alguma coisa que dizia se a resposta que tu desces estava correta ou não e aprendes um modelo de avaliação e com base nesse modelo de avaliação depois podes retreinar o teu modelo que gera a linguagem ou para gerar mais dados que tu consigas treinar ou então para melhorar as tuas gerações eu por acaso sempre tive alguma dúvida em relação a isso

José Maria Pimentel 00:41:22.50esse polegar para cima polegar para baixo é uma coisa um bocado grosseira como é que tu usas isso para alimentar o modelo imagina ele tem um output gigantesco tu só lhe dizes olha isto não está muito bom como é que

Zita Marinho 00:41:32.44em termos matemáticos com a quantidade de dados depois tens montes de gerações imagina depois quando vais propagar para trás o erro além do erro tens uma preferência em que tu vais dar um peso maior ou melhor um erro menor às gerações que têm uma melhor classificação ou melhor avaliação pelo teu modelo do que os outros

José Maria Pimentel 00:41:52.24sim porque geraste não sei quantas e certo certo e atualmente para além do do chat GPT que na verdade é o que eu conheço melhor quais são os principais que andam por aí do Gemini que é o que tu conheces melhor tens o Gemini no Google

Zita Marinho 00:42:05.60tens o Claude do Anthropic AI tens o Mistral daqui da Europa francês não é sim

José Maria Pimentel 00:42:11.12isso não conhecia por exemplo comparando o chat GPT com o Gemini que é o que tu conheces melhor quais são as parecensas e diferenças

Zita Marinho 00:42:17.08de quê? 00:42:17.92entre os dois é assim a partir de uma certa altura não sei se estás a par disso mas a partir de uma certa altura as empresas deixaram de publicar e de anunciar o que é que os modelos faziam que é mais ou menos a seguir ao chat GPT sim ao GPT 4

José Maria Pimentel 00:42:31.46mas a verdade é que conseguiram mais ou menos fazê-lo porque tu até o final de 2022 tu não tinhas nada de repente sai o chat GPT no final de 2022 e em não é bem assim

Zita Marinho 00:42:40.00não é bem assim tinhas muita coisa

José Maria Pimentel 00:42:42.56claro que tinhas mas não tinhas nada que tivesse causado o mesmo impacto não tinhas nenhuma

Zita Marinho 00:42:45.58interface que as pessoas pudessem usar e eu acho que isso foi crítico também porque a partir daí eles puderam obter dados para todo o tipo de tarefas que as pessoas pudessem usar acho que isso foi uma ideia brilhante da parte deles portanto conseguiram perceber que tipo de problemas é que as pessoas queriam usar conseguiram ter feedback muito mais dados feedback sobre as gerações que estavam disponíveis que estavam usar

José Maria Pimentel 00:43:07.30ok ou seja o que tu estás a dizer é nessa altura a par do GPT já havia o Gemini já havia outros modelos

Zita Marinho 00:43:14.86não eram estes nomes mas já haviam outros modelos claro

José Maria Pimentel 00:43:16.90mas a mesma arquitetura parecido sim e no fundo no fundo a infraestrutura já lá estava de certa forma faltava-lhes era os dados e a partir do momento em que o OpenAI lançou a versão de chat do GPT-3

Zita Marinho 00:43:28.50sim eu acho que isso foi fundamental de repente

José Maria Pimentel 00:43:30.92percebes que a solução está aí e os dados que nós estamos a dar no fundo com a nossa utilização é que alimenta estes modelos e os faz

Zita Marinho 00:43:36.42refinar-se ok

José Maria Pimentel 00:43:38.48bem desculpa tu estavas a fazer esse disclaimer de que os dados não são públicos mas há alguma coisa que se possa dizer da arquitetura comparada

Zita Marinho 00:43:46.32ou das finalidades a gente também não sabe porque eles não publicam os dados que eles têm sobre os modelos que têm a única coisa que se consegue comparar é através de benchmarks de formas de avaliação de datasets etc

José Maria Pimentel 00:43:58.14e o que é que isso diz? 00:43:59.56sei lá algum que seja melhor para a programação outro melhor para a escrita não sei porque eu sei que o Cloud

Zita Marinho 00:44:03.98por exemplo é muito mais parecido com as gerações que os humanos fazem

José Maria Pimentel 00:44:06.46com as gerações desculpa com a escrita

Zita Marinho 00:44:08.30sim sim e é muito mais seguro por exemplo se quiseres fazer alguma coisa mais harmful eles treinam modelos como o constitutional AI que te permitem ter alguma resiliência dos modelos deles face a perguntas dos users que tenham assim um bocado mais de mau intent sim mas pronto isto é sempre uma área que está sempre a alterar consequente coisas que saem depois os modelos vão-se readaptando a essas novas benchmarks e vão ficando cada vez melhores portanto é muito difícil de avaliar ok

José Maria Pimentel 00:44:37.66ok compreendo contribua para a continuidade de crescimento e crescimento e crescimento deste projeto no site 45grospodcast.com selecione a opção apoiar para ver como contribuir diretamente ou através do Patreon bem como os benefícios associados a cada modalidade então e dicas de prompting ou seja dicas do que escrever nestes modelos porque este episódio eu acho que é interessante para curiosos como eu que gostam de saber como é que estes modelos funcionam mas isso conhecer a arquitetura destes modelos também é útil para perceber como nós podemos tirar a melhor partida deles no fundo aquilo que pomposamente nesta área se chama prompt engineering que é no fundo fazer os nossos prompts que é basicamente o que nós escrevemos lá na caixa de algo da melhor forma para obter o que nós queremos daqueles modelos já agora desculpa Zita até antes disso uma pergunta mais ampla do que isso em que é que tu dirias que estes modelos são melhores

Zita Marinho 00:45:29.84e piores ou seja

José Maria Pimentel 00:45:31.06antes de ir aos prompts quais são os usos úteis potencialmente para muitos de nós para que eles funcionam muito bem e quais são aqueles para que eles ainda ainda não estão a grande coisa

Zita Marinho 00:45:39.40eles funcionam muito bem alterar a forma do texto portanto dizer tentar personificar como se fosse um professor a falar ou de forma a formalizar texto ou tornar-lo informal portanto

José Maria Pimentel 00:45:50.38lá está os transformers a funcionar a dar a ser um certo pedidos para mudar o estilo do texto exatamente

Zita Marinho 00:45:57.30funciona muito bem também aprender através de exemplos se forem coisas que tu a replicar exemplos sim metes no prompt exemplos daquilo que tu queres fazer e eles com os exemplos que tens na prompt conseguem muitas vezes gerar com poucos exemplos para coisas que nunca viram ou seja tu dizes coisas que não estão nos exemplos

José Maria Pimentel 00:46:15.46ou seja tu dizes eu recebi este e-mail aqui há uns tempos e respondi-lhe desta forma agora responde de maneira idêntica a este novo e-mail exatamente por exemplo idealmente dás vários exemplos de e-mails não só uma no fundo é isso estás a dizer

Zita Marinho 00:46:26.70e isto dá para imensas coisas não é só para parte de texto tu podes usar para sei lá formatar um website cria-me um website dás-lhe exemplos do código agora cria um novo e metes uma descrição qualquer do que é que queres fazer

José Maria Pimentel 00:46:40.64das coisas em que estes modelos são melhores é ajudar com código

Zita Marinho 00:46:44.70também funciona bem quando ajudam com código mas ainda não conseguem fazer código assim muito muito complexo é pequenas alterações conseguem ou perceber

José Maria Pimentel 00:46:53.86detectar erros no código detectar erros etc isto no fundo são máquinas muito potentes de detecção de padrões exatamente então dicas de prompting mais específicas ou seja o que escrever pronto

Zita Marinho 00:47:04.00então é assim algumas dicas pode ser como colocar as instruções muito próximas daquilo que foi o modelo pré-treinado não é? 00:47:10.94ou pondo entre aspas ou às vezes não se sabe mas pronto pondo entre aspas costuma ajudar

José Maria Pimentel 00:47:15.24as aspas ajudam ok eu tenho sempre essa dúvida

Zita Marinho 00:47:17.38ser específico ir direto ao assunto sobre aquilo que queremos no contexto sobre a forma o tamanho o estilo das coisas que queremos gerar e ajuda a ter os exemplos e eliminar coisas imprecisas ambiguidades questões que não ocupam espaço ou que possam adicionar ruído no prompt dizer o que queremos que o modelo faça e se calhar não aquilo que não faça

José Maria Pimentel 00:47:40.48ah essa é boa sim dizer pela positiva dizer pela positiva porquê?

Zita Marinho 00:47:44.96eu acho que é mais fácil de aprender porque acho que a negativa até é muito mais geral qualquer coisa pode ser não do que certo

José Maria Pimentel 00:47:52.14ou seja não

Zita Marinho 00:47:53.56não ajuda muito a saber o que é que é preciso fazer se disseres que não quero que faças assim

José Maria Pimentel 00:47:57.50sim se disseres olha muda-me isto para um estilo não muito sério exato este texto para um estilo não muito sério é um bocado ambíguo se disser muda este texto para um estilo formal entusiástico por exemplo já é mais explícito do que eu quero pronto

Zita Marinho 00:48:08.44e ajuda também às vezes a forma como a persona induz sim portanto que tipo de texto queres gerar por exemplo queres tirar uma dúvida qualquer sobre uma determinada matéria explica-me como se fosse um professor universitário é muito diferente do explica-me como se fosse um professor primário o tipo de resposta que vais ter vai ser diferente portanto isto ajuda por exemplo se quiseres gerar código gera como se fosse um code expert sim outras coisas que vale a pena falar se calhar é sobre a forma como estes modelos eram aprendidos pelo facto de nós termos só um único modelo e só estar sempre a aprender em texto houve uma parte em que começaram a aprender várias tarefas sempre a partir de como se fosse uma tarefa de geração de linguagem aquilo que vamos a falar no início a parte da descrição dos dígitos por exemplo podes ter várias tarefas de classificação mas que tu podes pô-las sempre como uma tarefa de linguagem e tentar prever qual é a próxima palavra apesar de ser uma tarefa de classificação ah podes convertê-la numa tarefa de linguagem o facto de terem convertido numa tarefa de linguagem também ajudou nisso porque permitiu o modelo aprender diversas tarefas e de repente consegues ter várias capacidades que o modelo consegue fazer tudo num só modelo que é um modelo de linguagem mas não está só a aprender a gerar texto está a aprender a fazer várias coisas vai aprender matemática vai aprender a fazer adição de dígitos etc apesar de ser um modelo de linguagem porque pus esta tarefa de aprender a somar e a resolver problemas matemáticos como um problema de geração de linguagem de geração de texto

José Maria Pimentel 00:49:28.76mas que tenderá a ser imperfeito não? 00:49:30.54porque ele está só a funcionar com associação de padrões não é?

Zita Marinho 00:49:32.52sim mas quer dizer deve funcionar surpreendentemente bem regras que extrai a partir daí o que precisa de extrair para gerar a forma correta vai sendo cada vez mais complexo e às vezes já funciona para problemas bastante difíceis claro

José Maria Pimentel 00:49:44.54o que eu quero dizer é se tu aprenderes a somar consegues fazer qualquer soma mas se tu aprenderes a somar apenas como reconhecimento de padrões sem entenderes a lógica só vais conseguir somar o que já viste

Zita Marinho 00:49:54.40conseguem somar até muitos dígitos

José Maria Pimentel 00:49:56.90curioso mesmo sem ter sim sem serem pré-treinados para isso esse é um grande debate nesta área sim

Zita Marinho 00:50:01.94portanto há algumas capacidades que é o que se chama de emerging capabilities destes modelos que a partir de um certo tamanho da volta de 7 bilhões de parâmetros começam a aparecer e eu acho que tem a ver um bocadinho com este o facto de colocarem isto como uma tarefa de linguagem

José Maria Pimentel 00:50:15.48ou seja quando os modelos atingem uma determinada dimensão surgem estas propriedades emergentes emergentes já no sentido de não serem identificáveis diretamente no modelo de repente surge sim

Zita Marinho 00:50:24.72começa a aprender umas regras e a generalizar para coisas que nunca viu por exemplo no caso da soma dos dígitos sim isso é interessante

José Maria Pimentel 00:50:31.00e isso liga a outra coisa eu há bocado perguntei o que é que era bom nestes modelos e o que era mau para que é que eles eram maus tu não me disseste para que é que eles eram maus ou seja em que é que eles ainda falham

Zita Marinho 00:50:41.24é assim eles são muito bons a gerar texto que é é muito plausível tu poderias ler no início eles geravam texto que era muito muitas vezes não tinha conteúdo não tinha forma estrutural mas gerava texto coerente e elegível não é? 00:50:54.24sim

José Maria Pimentel 00:50:54.34parecia fazer sentido sim

Zita Marinho 00:50:55.64mas não não tiravas grande sumo daquilo que estava lá escrito agora começam a ser bastante melhores não é? 00:51:00.98e geram coisas mais complexas mas ainda há um bocadinho essa falta de tudo o que precisa de reflexão ou de planeamento ou de coisas mais complexas como procura etc ainda não funciona muito bem apesar de haver já uma alguma investigação nessa área

José Maria Pimentel 00:51:16.80aquilo que eu noto enquanto utilizador é que estes pessoas são muito bons em tudo o que dependa de ter muitos dados e tratar padrões e são piores em aspectos de lá se está que evoluam mais raciocínio embora esteja a tornar bastante melhor há um relatório da BCG da consultora que é de 2023 que eles fizeram uma investigação engraçada que era a perceber

Zita Marinho 00:51:37.38sim há muitos papers a falar sobre isso e sobre as limitações dos modelos mas eles estão sempre a mudar porque eles estão sempre a reempreender

José Maria Pimentel 00:51:43.88era sobre isso mas era me deu o impacto direto porque me deu o impacto que tinha sobre o trabalho das pessoas e é muito engraçado porque uma das coisas que às vezes diz-se que as modelos não têm criatividade o que poderá ser verdade num sentido mais lá está da capacidade de generalizar que tu falavas há bocadinho mas num sentido mais mudando o termo eles são imensamente criativos e isso era o que resultava melhor ali do tipo olha eu quero lançar um negócio de venda de flores por exemplo whatever punhas lá dá-me ideias para não sei o que ele dá-te não sei quantas ideias se calhar há duas ou três tu te lembrarias sozinha

Zita Marinho 00:52:13.44muitas deles inventam não dizem que existem algumas

José Maria Pimentel 00:52:15.92não, não mas são possibilidades digamos assim ou seja porquê? 00:52:19.42porque eles têm acesso a tantos, tantos, tantos dados que ele vai se lembrar de mais coisas do que tu poderias sozinha lembrar-te há sempre

Zita Marinho 00:52:27.36mas eles têm um problema que é esta parte de verificar a veracidade daquilo que estão a dizer por exemplo é muito mais complicado tudo o que precisa de experiências digo eu de verificar as sources é muito mais difícil porque eles estão simplesmente a gerar texto

José Maria Pimentel 00:52:41.86claro, eles não têm daí aquela questão da alucinação quando eles alucinam que é uma coisa que parece fazer sentido mas na verdade

Zita Marinho 00:52:47.10ou tudo o que precisa de algum pensamento mais de planeamento por exemplo se lhe pediste estou a jogar xadrez e fiz este move e este e este o que é que eu vou fazer seguir? 00:52:57.28muito raramente vai-te gerar uma coisa pois

José Maria Pimentel 00:52:59.00porque aí depende é muito contextual não é? 00:53:01.62sim

Zita Marinho 00:53:01.82e não aprendeu nisso não é? 00:53:03.20não há dados na internet que te vão descrever em texto jogos se houver se calhar vai aprender não sei não sei se calhar e também

José Maria Pimentel 00:53:11.46tem um contexto grande e junta várias dimensões este relatório da BCG era engraçado porque eu mostrava que ele era muito melhor do que as pessoas neste aspecto da criatividade neste sentido de imaginar possibilidades mas era pior por exemplo em resolução de problemas eles metiam lá o caso de uma empresa qualquer punham resultados da empresa umas notas de reuniões e não sei o quê e aquilo dava-te uma resposta muito redonda que para a questão da criatividade é boa porque garante que tu vais a todo lado mas aqui impete de ir ao cerne da questão ou por outra tem uma grande probabilidade de não ir ao cerne da questão não ir ao que tu queres resolver e isso pelo menos na minha experiência a limitação destes modelos é um bocado por aí mas é porque também lhes falta tu não consegues tu não consegues pôr o contexto suficiente no input para

Zita Marinho 00:53:49.34se pusésse isso como tarefa no input talvez eles consigam

José Maria Pimentel 00:53:52.56mas é preciso muito muito ou seja

Zita Marinho 00:53:54.02ou se retreinás o modelo depois para ficar melhor nessas tarefas o que se costuma fazer também para além do contexto é o que se chama supervised fine tuning que é alterar alguns pesos ou parte de camadas ou da rede para melhorar as tuas previsões nos dados que tu queres nas tarefas que tu queres sim

José Maria Pimentel 00:54:11.50o que eu quero dizer é o seguinte mas eu não tenho a certeza disto mas o que eu sinto que acontece com estes modelos e acho que faz algum sentido tendo em conta a arquitetura deles e os dados que eles usam é que eles são uma espécie de máquinas de detecção de padrões fortíssimas o nosso próprio cérebro funciona muito nessa base mas estes modelos têm acesso a muito muito mais dados e portanto conseguem detectar estes padrões ao ponto de eu dizer lá está eu quero lançar uma loja de flores dá-me 12 ideias ele vai dar 12 não me ocorreriam aquelas 12 ocorreriam 3 ou 4 mas há outras que nem me lembraria olha bem pensado mas isto não tem que ser uma coisa muito rigorosa ele só tem que dar 12 ideias cada uma delas possa ter um potencial agora se tu quiseres algo que seja altamente especializado lá está por exemplo analisar o negócio de uma empresa qualquer ou um trabalho mais qualquer que seja a nossa área de especialização aí tu precisas de um contexto que é no fundo toda a nossa experiência de vida é que é impossível pôr num prompt eu não consigo pôr num prompt tudo o que está na minha cabeça quando estou a pensar naquele tema e aí eu tenho que ser exato é uma tarefa muito mais de exatidão do que a tarefa criativa que é por definição uma tarefa de abrir possibilidades não sei se isto faz sentido

Zita Marinho 00:55:16.92sim eu achei que estes modelos estão a ficar cada vez mais especializados e vão começar a ser como os melhores experts em algumas áreas portanto nesse aspecto eu acho que não é só coisas gerais e diversas assim a level que podem gerar podem gerar coisas mais técnicas

José Maria Pimentel 00:55:31.18e isso era a pergunta que eu te queria fazer porque nós seres humanos vivemos seres humanos e a sociedade em geral estamos sempre numa coisa meia binária meia temperamental que ou estamos encantados achamos que aquilo vai resolver tudo ou então de repente achamos que não vai valer nada não andamos assim para oschilar entre um encanto sim historicamente sim e mesmo individualmente isso acontece às vezes tu entusiasmas depois aquilo dá um erp este afinal não vai mais longe e como tu estás a dizer estas limitações podiam existir mas se calhar não vou continuar a existir e aí eu até apanhei uma entrevista recente com o Sam Altman que é o CEO da OpenAI em que ele no fundo estava a falar também um bocado a vender a coisa como é óbvio de modelos futuros e o modelo que ele anunciava para a próxima era precisamente o que ele chamava um reasoner portanto um modelo com capacidade de raciocionar a um nível diferente no fundo a minha pergunta para ti é esta tu achas que estes modelos conseguem chegar lá sim ou não e se sim o que é que falta para eles chegarem é uma questão de de algoritmos ligeiramente diferentes é uma questão de mais capacidade ainda é uma questão de acesso a mais dados

Zita Marinho 00:56:29.68eu acho que é uma questão também de acesso a dados e dos próprios modelos poderem gerar os dados onde eles possam melhorar dados relevantes para o próprio modelo onde eles possam melhorar naquilo que precisarem esta parte do reasoning não chegamos a falar mas é muito interessante que nesta questão do prompt algum mais recentemente o ano passado ou em 2022 verificou-se quando pedíamos aos modelos para dizer então e agora explica porque é que vai gerar esta resposta passo a passo eles geravam toda uma explicação do racional por trás da resposta e isto muitas vezes ajuda a gerar melhores respostas ajuda como? 00:57:07.48ao estar a gerar a própria explicação às vezes gera respostas melhores

José Maria Pimentel 00:57:10.80ah o próprio modelo sozinho

Zita Marinho 00:57:12.44apenas por ter de gerar a explicação que é o que a gente costuma chamar do chain of thought que explica agora porque é que estás a gerar esta explicação e esta parte do reasoning tem um bocadinho agora a ver com isto com a parte dos modelos poderem explicar-se o tipo de pensamento que estão a fazer ou poder criticar aquilo as gerações que estão a fazer para poderem melhorar sobre eles e começar a gerar coisas mais complexas mas como é que isso funciona

José Maria Pimentel 00:57:36.12na prática? 00:57:37.60como é que eles já estão criticam e...

Zita Marinho 00:57:39.02por exemplo podes ter outro modelo qualquer a criticar o output de um ou mesmo o próprio modelo criticar muitas vezes estes modelos são melhores a criticar do que a gerar é mais fácil criticar o output gerado do próprio modelo do que gerar um melhor output são como nós então e podes tirar a partir disso e tentar gerar melhor com base nas críticas de um modelo

José Maria Pimentel 00:58:00.22mas porquê que são melhores a criticar do que a gerar? 00:58:02.88é uma tarefa mais simples? 00:58:04.14quer dizer, para nós é mas para um modelo deste deveria ser parecida, não é?

Zita Marinho 00:58:06.98eu não sei qual é a complexidade disso mas eu diria que sim deve ser mais fácil distinguir um output bom de um output mau do que gerar o output bom

José Maria Pimentel 00:58:14.72e tu estavas a dizer há bocado que estes modelos podem gerar os próprios dados e que isso pode fazer ultrapassar esta limitação porque uma das coisas que se fala muito nesta área que ou uma das possíveis limitações é que estes modelos tal como estão já andaram a passar limpo todos os dados possíveis que existam disponíveis online na internet todos os que dê para agarrar eles já lá foram e portanto uma das coisas que se diz é isso pode limitar a passagem ao nível seguinte o facto de não haver mais dados não é bem não haver mais dados como é lógico claro que há mais dados mas no sentido de a paisagem de treino poder estar limitada mas tu estavas a dizer que aqueles modelos podem gerar os próprios dados

Zita Marinho 00:58:50.26sim por exemplo se tens um modelo que critica o output podes estar a gerar dados na zona onde tu queres por exemplo

José Maria Pimentel 00:58:56.24mas aí eles estão a se alimentar sobre os próprios digamos assim

Zita Marinho 00:58:58.68sim há alguns perigos nisso não é? 00:59:01.06sim generar mas a ideia é por exemplo imagina que queres gerar mais dados numa determinada área sei lá no caso dos reward models queres gerar mais dados harmful para o teu modelo ser muito bom a detectar quando é que a resposta é harmful e dar uma resposta mais moderada por exemplo podes estar a usar o modelo a testar as gerações que tu tens e vais filtrar uma coisa mais simples vais filtrar aquelas que te interessam mas usas as gerações que o próprio modelo faz como dados de entrada de treino

José Maria Pimentel 00:59:30.60ok isso é um exemplo interessante mas é dentro da no fundo é densificar uma paisagem que já se conhece agora eu se estivesse à frente de uma destas empresas o que estava a pensar acho eu é como é que eu arranjo mais dados das pessoas ou seja porque o que lhes falta é imagina isto aquilo que estes mesores têm acesso é ao que nós lá escrevemos eles não têm acesso ao meu e-mail não têm acesso sim

Zita Marinho 00:59:49.36podes ter dados anotados de pessoas a que pagas para ir lá anotar estes pensamentos críticos dos modelos e dizer quais é que estão corretos qual é que não estão e retreinar com isso

José Maria Pimentel 00:59:57.88não é só isso o que eu quero dizer é portanto a que é que eles têm acesso neste momento é acesso a tudo que está online o que está online está longe de ser a totalidade da nossa experiência enquanto seres humanos há muito que falta lá sim sim e é em grande parte por lhes faltar acesso a esses dados não sei se é totalmente essa que é a pergunta ou se tem a ver também com o próprio algoritmo mas pelo menos é em parte por lhes faltar acesso a esses dados que eles não conseguem fazer algumas tarefas tão bem como por exemplo resolução de problemas e tal porque ele não tem tudo o que está na minha cabeça da minha experiência mas se tivesse

Zita Marinho 01:00:22.66por exemplo tu perguntas há uns tempos e eles não sabiam fazer isso mas eu acho que eles já retreinaram com isto mas perguntavas ao modelo o que era mais pesado se era uma moeda ou se era um elefante não tem noção não tem noção física do que é que é a não ser pelas probabilidades se deixa um exemplo em que fosse mais provável uma coisa que não estava correta ou fosse menos provável uma coisa que não está correta ele provavelmente ia prever isso não é? 01:00:43.76porque tem a ver com a probabilidade de ocorrência e não com ser perdado ou não

José Maria Pimentel 01:00:47.34esses eram aqueles truques que se fazia mesmo para fazer o modelo errar a malta que andava a ver como é que fazia o modelo errar eu acho que eles já não erram nesse caso mas tu estás aí a tocar num ponto que eu ia ou seja parece-me que há aqui dois tipos de limitações mas que na verdade são muito diferentes para estes modelos passarem para o nível seguinte um tem a ver com os dados a que eles têm acesso não são tudo do mundo e portanto há grande parte do que se passa olha isto quer dizer por acaso este até pode ter acesso que vai dar um podcast mas parte da nossa experiência parte do contexto no fundo que é relevante aqueles modelos não têm acesso seja o modelo geral seja o modelo eventualmente criado para nós próprios e depois há a própria arquitetura do sistema e este modelo de redes neuronais com os transformers no fundo com esta capacidade de estar atento ao contexto isto é uma espécie de máquinas brutais de detectar padrões só como tu dizias os padrões podem não ser lógicos e portanto quando nós estamos a raciocinar estamos a fazer uma espécie de dança entre por um lado usar este nosso cérebro também ter essa capacidade de detectar padrões e portanto perceber o mundo de ter uma percepção sobre o mundo com base nisso e por outro lado a nossa capacidade de raciocínio que é lógica e que nos permite tirar conclusões por cima disso estes modelos à partida não estão programados para esta segunda coisa para a parte lógica para a parte lógica no entanto como tu dizias há bocado eles às vezes fazem coisas sim essas propriedades emergentes que a pessoa não esperaria e portanto a minha pergunta e portanto a minha pergunta é a pergunta para ti Zezita Marinho é a seguinte tu achas que estes algoritmos chegam lá assim havendo dados suficientes ou é preciso eu acho que sim

Zita Marinho 01:02:08.26eu acho que eles têm a maior parte dos ingredientes que precisam porque se nós pensarmos não é tens a prova do alfaproof não é tens um modelo que aprenda como se fosse um modelo de língua não é os simbolismos matemáticos é como se fosse uma língua

José Maria Pimentel 01:02:22.50não é sim o alfaproof é o modelo da da Google que agora recentemente ganhou a medalha de prata nas Olimpíadas de Matemática

Zita Marinho 01:02:29.90sim em que podem provar formalmente provas matemáticas não é chegas à prova

José Maria Pimentel 01:02:36.98e a arquitetura era uma das coisas que eu te queria perguntar a arquitetura desse modelo é semelhante à destes modelos sim é com base nisso sim são modelos não é de linguagem mas é um ferretos neuronais eu acho que as coisas que podem faltar

Zita Marinho 01:02:47.82nestes modelos é coisas mais relacionadas com mais com robótica por exemplo em que tens um corpo tens vários sensores isto só está baseado no texto não é ou em imagem não tens nada baseado em sensores em braços robóticos consoante aquilo que consegues executar ou coisas que possas experiências que possas fazer numa coisa que não controlas testar coisas novas não é isso não tem

José Maria Pimentel 01:03:09.50mas essa é uma coisa é um tema giro em que medida é que este tipo de modelos permitiria também tratar ou permite tratar esse tipo de desafios é um desafio completamente diferente mas tu já disseste há bocadinho que estes modelos são incrivelmente polivalentes

Zita Marinho 01:03:20.70pensando assim num braço robótico podes tentar interpretar como se fosse a sequência dos ângulos dos braços como se fosse uma sequência de palavras não é? 01:03:28.16na sequência mas eu acho que varia um bocadinho

José Maria Pimentel 01:03:30.18por exemplo os modelos não sei se sabes isto mas os modelos atuais de robótica de condução automática por exemplo também têm por base estes

Zita Marinho 01:03:38.78eu acho que devem ser baseados em transformers sim que são modelos mais computacionalmente mais poderosos permitem mesmo ter uma memória de longo prazo maior etc são mais flexíveis nesse aspecto vão ser mais flexíveis para todas as tarefas sim isso foi o grande poder dos transformers foi isso foi ser tão geral para tudo em tudo que aplicasse iria funcionar e de repente toda a gente só fazia transformers exato só se fala transformers mudou um bocadinho toda a research à volta agora começam a haver uns modelos mais baseados em redes recorrentes etc começam a ser alternativas aos transformers

José Maria Pimentel 01:04:10.50e aqueles modelos que fazem músicas ou até no outro dia mandaram um modelo que fazia o próprio modelo fazia um podcast parecia uma conversa deste género que é no nosso caso uma conversa entre dois seres humanos mas ali era uma coisa completamente artificial mas tinha o mesmo ar natural tens modelos que fazem vídeos e que hoje em dia cria aquele perigo dos deepfakes do vídeo de uma pessoa conhecida que parece que é ela própria e na verdade não é estes modelos são na verdade de novo muito semelhantes a estes modelos baseados em transformers no fundo estamos sempre a falar da mesma coisa porque eles têm essa polivalência

Zita Marinho 01:04:39.86ou então por exemplo na parte do som eu sei que modelos como as redes convolucionais funcionavam muito bem

José Maria Pimentel 01:04:46.08tens de explicar o que é que acho que ainda não falamos isso

Zita Marinho 01:04:47.98isto é olhando para trás antes dos transformers da forma como podíamos ter a forma como se podia olhar para as sequências podia ser com estas redes recorrentes ou então com redes convolucionais em que olhavam para um chunk bastante grande da parte da sequência e tinhas pesos que eram partilhados ao longo do tempo

José Maria Pimentel 01:05:05.32em vez de leres bit a bit lias logo uma

Zita Marinho 01:05:07.78tinhas a rede normal lias uma sequência como se fosse a tua feed ford inicial que tínhamos falado e depois tinhas só pesos que eram partilhados e que ao longo do tempo olhavas para uma janela assim à volta da tua sequência em que estes pesos que misturavam as coisas da rede que substituíam um bocadinho a parte recorrente das RNNs tem pesos partilhados e isso serve para quê? 01:05:30.36funcionava muito bem nas coisas de áudio

José Maria Pimentel 01:05:32.10ah ok porquê?

Zita Marinho 01:05:33.54não sei se é por ter um bocadinho um cariz mais contínuo

José Maria Pimentel 01:05:36.52pois provavelmente exato

Zita Marinho 01:05:37.60funcionava também muito bem nas partes da imagem portanto a linguagem é uma coisa um bocadinho mais discreta é mais discreta sim daí os tokens ou seja e a parte da atenção ser discretizada no tempo cada palavra existe ali não é uma coisa contínua que se vai sim nós não falámos isso

José Maria Pimentel 01:05:52.54por causa os inputs no caso destes modelos destes chamados LLM Large Language Models como o chat GPT o input neste caso são os chamados tokens que correspondem basicamente a quê? 01:06:03.14um caráter?

Zita Marinho 01:06:04.24normalmente correspondem a uma fração da palavra um pedaço da palavra

José Maria Pimentel 01:06:08.52então é mais do que um caráter? 01:06:09.96costuma ser sim ok e eu por acaso não me perguntei há bocado tu falaste das aspas que é uma dica engraçada ou seja usar aspas ajuda eu sempre tive essa dúvida outra dúvida que eu tenho

Zita Marinho 01:06:17.62é os parágrafos

José Maria Pimentel 01:06:19.80porque eu às vezes estou a copiar imagina misturo coisas e se eu fizer aquilo tudo na janela ele vai-me pôr imagina quando copio ele faz-me logo um parágrafo e responde a este e-mail como visaste no anterior vamos supor e colo o e-mail ele faz um parágrafo mas depois quando eu começo a escrever a seguir ao e-mail já não me faz um parágrafo então eu começo a escrever posso pôr um A posso pôr a aspa final mas estou a continuar na mesma linha eu pergunto-me sempre será que eu devia fazer parágrafo? 01:06:47.26espero que isto seja compreensível para quem está a ouvir eu no chat GPT não consigo fazer parágrafo teria que escrever aquilo à parte para pôr um depois o meu prompt realmente dito a começar na linha de baixo e voltar a colar no chat GPT por isso é que eu não faço sempre dar-me algum trabalho mas a minha dúvida é isso faz diferença?

Zita Marinho 01:07:02.50não, então as partes do formato alteram muito o output sim

José Maria Pimentel 01:07:06.14ok, então é boa prática é boa política na dúvida pôr um parágrafo

Zita Marinho 01:07:09.86não sei se funciona pôr um parágrafo não sim mas o formato não, mas eu estou a perceber

José Maria Pimentel 01:07:14.20tudo isso interessa isso é engraçado

Zita Marinho 01:07:16.66e quanto mais próximo for da forma como foram pré-treinados se calhar também não falamos disso que os modelos têm uma parte em que treinam com muitos dados da internet na tarefa de prever o próximo token e isso é o que a gente chama de pré-treino certo e em que são treinados com trilhões de dados da internet depois quando queres adaptar a uma tarefa mais pequena ou a alguma tarefa de pergunta-resposta etc às vezes são o que a gente chama de fine-tuned há aquele dataset específico para melhorar a performance que têm para aquele dataset qual dataset, desculpa? 01:07:47.58qualquer um que estejas a usar para uma tarefa que queiras fazer se quiseres melhorar o teu sistema e adaptar o teu sistema da forma como as pessoas fazem é fazer fine-tuned não vão retreinar o modelo destes com a internet toda mas quais pessoas, desculpa? 01:07:57.88os... 01:07:58.20empresas eles ou nós os users certo quem quiser fazer download do modelo e usar para uma coisa qualquer portanto é usar um modelo pré-treinado e que depois pode ser usado para fazer prompting que é o que a gente costuma chamar few-shot learning sim ou fine-tuning em que tu adaptas os pesos da rede para a tarefa que tu queres

José Maria Pimentel 01:08:16.34mas nós utilizadores podemos fazer isso?

Zita Marinho 01:08:18.10sim podes fazer download dos modelos que são open ah, certo ok? 01:08:21.90dos que estão disponíveis claro e não são todos o GPT não é sim e adaptar para tarefas que queiras eu acho que os da Mistral são

José Maria Pimentel 01:08:28.50mas isso requer alguma programação ou não? 01:08:30.36sim, sim sim pois é que lhe temos quando eu digo nós utilizadores são não programadores ok tu também consegues a partir de cada janela tu consegues fazer mais ou menos isso se lhe deres contexto estás a...

Zita Marinho 01:08:40.30sim, de certa forma o que a gente chama de context learning isso, exato não estás bem a treinar mas estás a... 01:08:45.74estás de certa forma a aprender sim

José Maria Pimentel 01:08:47.18por acaso uma dúvida que eu tenho é às vezes estou a escrever imagina, estou a escrever algo em português mas no meio ocorre-me o termo em inglês mais facilmente e eu misturo um termo em inglês no meio de um texto em português e pergunto-me sempre será que ele claramente conhece até conhece melhor o termo em inglês do que os termos em português porque tem muito mais dados mas será que isto o baralha digamos assim?

Zita Marinho 01:09:05.82eu acho que não eu acho que eles são treinados multilingues

José Maria Pimentel 01:09:09.14nunca leu aquela frase nas duas línguas se calhar nunca leu isto?

Zita Marinho 01:09:12.12as cocorrências nunca ocorreram entre português e inglês havia uma forma de treinar modelos que era assim que era pegar nomas palavras para treinar multilingue e substituir por outra língua

José Maria Pimentel 01:09:19.24essa é a outra

Zita Marinho 01:09:20.96não sei se isto depois persistiu

José Maria Pimentel 01:09:22.68mas o que tu estavas também a tocar noutra questão interessante que é estes modelos por exemplo o GPT o nome do GPT significa Generative Pre-Trained Transformer Transformer nós já sabemos o que é Pre-Trained também já sabemos e o Generative ou seja o Generativo tem basicamente a ver com prever o próximo token ou seja a maneira como eles foram feitos é um modelo que está treinado para prever o próximo token ou seja tu escreves uma frase qualquer

Zita Marinho 01:09:45.78e ele prevê

José Maria Pimentel 01:09:47.70vamos para simplificar dizer a palavra mais provável de surgir a seguir à última que tu escreveste tendo em conta lá está o contexto e o que falamos há bocadinho sei lá imagina que eu escrevia Heróis do Mar vírgula provavelmente ele preveria a seguir a palavra nobre porque é o que está no hino e é enfim provavelmente a palavra que mais vezes apareceu a seguir àquele token portanto é assim basicamente que a coisa funciona como é que tu depois convertes isto numa coisa que tem capacidade de responder a perguntas que parece muito diferente na verdade é parecido mas como é que tu fazes isto como é que tu dás este salto do modelo que está feito para

Zita Marinho 01:10:18.88prever o próximo token para responder a perguntas é isso? 01:10:21.14é porque imagina parece uma coisa muito diferente mete-se a pergunta no contexto e ele está a gerar o próximo token que é a resposta e vai gerando sequencialmente

José Maria Pimentel 01:10:28.32mas tu tiveste de o treinar com muitas perguntas e muitas respostas

Zita Marinho 01:10:30.36e treinaste com muitas perguntas e respostas e ele a cada quando está a prever os tokens está a prever os tokens das respostas

José Maria Pimentel 01:10:37.16eu sei mas eu desculpa espero não estar aqui a complicar escusadamente uma coisa o que quero dizer é a maior parte dos dados que ele consumiu na internet não eram perguntas e respostas alguns seriam outros não mas tu queres treiná-los especificamente

Zita Marinho 01:10:47.90para alguma tarefa não é? 01:10:48.92como é que ele aprende isso em Contestland a certa altura as pessoas começaram a aprender com aquilo que se costuma chamar que é o Instruction Tuning que é tu metes também nos dados de treino a tarefa que és fazer a pergunta e a resposta e é em tarefas e se tu puseres isso nos dados de treino um modelo vai aprender a gerar respostas

José Maria Pimentel 01:11:05.52ok ok ok pois lá está exatamente é que parece diferente parece um exercício completamente diferente mas lá está tu consegues programá-lo da mesma forma voltando àquela questão do potencial destes modelos há um artigo muito giro que tu partilhaste comigo chamado The Bitter Lesson a lição amarga do lembra-me que agora não me estou a lembrar

Zita Marinho 01:11:22.30Richard Sutton exatamente

José Maria Pimentel 01:11:23.48e é engraçado por que o artigo é de 2019 e no entanto é incrivelmente preciente pelo menos do meu ponto de vista ele parece prever prever isto é não é prever mas detectar uma tendência da qual estes modelos novos estão basicamente no enfiamento em 2019 antes destes modelos surgirem entretanto já me disseste que ele não era grande fã destes modelos GPT

Zita Marinho 01:11:42.48é uma pessoa que trabalha não na área de linguagem mas trabalha em reinforcement learning porque o que ele diz que é muito interessante é o pai do reinforcement learning é o pai do reinforcement learning

José Maria Pimentel 01:11:52.00é para ouvir muitas coisas sim o que ele diz é que é muito interessante é ao longo da história da inteligência artificial nós sempre tivemos a tentação de programar estes modelos no fundo programar o nosso cérebro nestes modelos mas isso nunca resultou bem e o que resultou bem sempre foi força bruta digamos assim ou seja o modelo como é que se chamava em 97 venceu o Kasparov no xadrez o Diplu Diplu exatamente o Diplu e depois tudo o que se seguiu inclusive estes modelos novos no fundo isto é força de certa forma é força bruta lá está tu não programaste o modelo para pensar naquela base lógica que nós falávamos há bocadinho ou introduzindo informação tu criaste estes modelos destes dados dados dados capacidade de computação e ele fez magia digamos assim

Zita Marinho 01:12:32.92sim eu acho que o que ele quer dizer aí é que não devemos estar a fazer investigação em métodos como é que achamos que o modelo deve aprender não deve ser isso que nós desenhamos nos modelos acho que devemos fazer investigação para tirar partido da aprendizagem ou melhorar a aprendizagem e a procura que os modelos possam fazer e não tentar desenhar a partir de coisas que nós achamos sei lá achamos que para melhorar o sistema numa determinada tarefa se calhar vai melhorar se eu puser um bias qualquer que eu acho que o modelo deve aprender assim e para ali funciona mas depois não nos jornaliza para outras tarefas portanto é uma coisa específica que não vai melhorar a capacidade de modelos gerais

José Maria Pimentel 01:13:07.72sim mas isto pode ser uma interpretação abusiva da minha parte mas eu interpretei o texto como uma crítica essa intuição inicial que faz sentido de quando tentas desenvolver inteligência artificial tentares basicamente programar o cérebro humano top down digamos assim ou seja tentares ver como funciona o nosso raciocínio e tentar programá-lo quando na verdade isso nunca resultou

Zita Marinho 01:13:27.54a ideia é tirar partido de coisas que funcionam na aprendizagem do algoritmo tentar melhorar a aprendizagem do algoritmo e não se calhar tentar pôr premissas que achamos que o algoritmo devia ter esta forma porque o nosso cérebro é igual às vezes funciona mas depende do que melhora a aprendizagem do algoritmo portanto acho que o ponto fulcral é esse

José Maria Pimentel 01:13:47.74até porque estes algoritmos de redes neuronais no fundo algoritmo de certa forma é um termo enganador parece-me porque eles não são algoritmo no sentido exaustivo que nós usamos para algoritmos noutras espécies ou seja se tu tomares um algoritmo a analogia que muitas vezes é usada para explicar o que é um algoritmo é uma espécie de receita como se fosse uma receita para um cozinhado mas absolutamente exaustiva não é aquela coisa do ponha-se mas é uma receita de processo não uma receita de... 01:14:12.86isto é uma pergunta eles a nível de programação são muito mais leves do que os modelos tradicionais em que tu programavas de facto o output tu aqui não estás a programar o output tu estás a programar

Zita Marinho 01:14:23.58um método para converter inputs no output sim, exatamente não estás a programar o output o boom das redes neuronais é bastante recente muitas pessoas não acreditavam nisto era mais baseado em features e tu mudavas as features para teres o output que querias se tiveres os melhores features

José Maria Pimentel 01:14:39.56o que é features desculpa neste contexto era o que eu estava a descrever ao bocado

Zita Marinho 01:14:42.80atores de input se quiseres passar pensar na imagem do 2 é a forma como tu alteras o processamento dos teus pixels

José Maria Pimentel 01:14:52.50está a gostar de dizer uma coisa muito interessante ou seja tu tinhas muita gente que se estava a concentrar não em arranjar este processo que conseguisse converter um input meio imperfeito num output mas a tentar aperfeiçoar o input

Zita Marinho 01:15:02.88exatamente formas mais complexas de descrever o input não é? 01:15:06.80sim e depois um algoritmo que fosse mais básico baseado em altura era em kernels era em decisões num espaço de dimensão alta isso é muito engraçado porque no fundo

José Maria Pimentel 01:15:16.64aliás mostra que esta opção não era nada óbvio porque realmente intuitivamente

Zita Marinho 01:15:20.20é sim as próprias redes podes pensar nas camadas como features como as apresentações

José Maria Pimentel 01:15:24.78da camada de input mas que elas próprias fazem sim exatamente ou seja se tu tivesse que tratar esse problema exatamente essa é a chave essa é a chave se tu tivesse que tratar este problema nós quer dizer a tratar este problema sem acontecer nada disto imagina-se ok aqui o desafio vamos voltar ao nosso exemplo do início aqui o desafio é temos aqui mil algarismos dois escritos por dois e os outros todos não é? 01:15:46.28escritos por pessoas diferentes cada um com o seu estilo uns fazem os dois um muito fininho outros um dois muito largarão quer dizer a pessoa imagina a quantidade de possibilidades quer dizer de variação que existe nos dois a nossa tentação inicial era vamos arranjar uma maneira de normalizar estes dois exatamente para depois poderes pôr no algoritmo

Zita Marinho 01:16:03.80para ser um variante para todos para depois poderes pôr no algoritmo e decidir

José Maria Pimentel 01:16:07.50e o que estes algoritmos fazem é tu não precisas tratar os dados eles próprios exatamente vão perceber esse padrão de uma maneira que tu se quiseres programar tu própria introduzir tu própria como feature não querias conseguir

Zita Marinho 01:16:18.74sim são mais gerais não querias

José Maria Pimentel 01:16:20.88ou pelo menos até agora não conseguias

Zita Marinho 01:16:22.04se calhar até podes ajudar o algoritmo a decidir mas são coisas que dependem muito daquilo que tu fazes depois não jornalizam para outras tarefas não é?

José Maria Pimentel 01:16:28.88sim boa olha Zita foi excelente desafiante esta conversa sei que tens aí uma série de coisas para recomendar livros e

Zita Marinho 01:16:38.26então vamos começar tenho um curso para recomendar que é muito interessante do Thad Polk sobre The Learning Brain boa ele depois põe na descrição fala sobre como é que o nosso cérebro aprende é muito inspirado naquilo que o nosso cérebro faz mas eu achei super interessante e mesmo para pessoas que não estão a trabalhar na área mas querem se aprender melhor ou a estudar melhor isto funciona muito bem

José Maria Pimentel 01:16:59.00isso exato exato

Zita Marinho 01:16:59.84tem coisas muito engraçadas que se calhar também funcionam para os algoritmos muitas destas coisas é de facto verdade para os algoritmos

José Maria Pimentel 01:17:05.56embora o nosso cérebro seja muito mais limitado sim sim

Zita Marinho 01:17:08.00como randomização dos dados o que é que funciona melhor etc depois tenho alguns livros uma perspectiva mais histórica tenho um livro que é A Brief History of Mathematical Thought do Luke Heaton que fala sobre um bocadinho o pensamento matemático como é que evoluiu ao longo do tempo e pronto ele começa na linguagem as pessoas precisavam de comunicar aquilo o tipo de operações que faziam accounting etc é muito interessante

José Maria Pimentel 01:17:32.12mas liga a estes modelos liga a...

Zita Marinho 01:17:33.64não liga aos modelos mas é a parte do pensamento matemático que é muito interessante

José Maria Pimentel 01:17:36.90é interessante a si mesmo

Zita Marinho 01:17:38.48e eu acho que os algoritmos saem um bocadinho do pensamento matemático de jornalização do pensamento matemático e depois mais sobre a parte da inteligência tenho A Brief History of Intelligence do Max Bennett e pronto depois tenho assim umas coisas mais técnicas força se alguém quiser um survey sobre os LLMs uma coisa mais técnica comparar os LLMs atuais há um muito engraçado que é o A Survey for the Perplexed acho que assim é o tipo mas eu depois partilho

José Maria Pimentel 01:18:02.72Boa eu tenho um método nas referências Zita obrigadíssimo foi ótimo Obrigada pelo convite Este episódio foi editado por Hugo Oliveira Contribua para a continuidade e crescimento deste projeto no site 45curauspodcast.com Selecione a opção Apoiar para ver como contribuir diretamente ou através do Patreon bem como os benefícios associados a cada modalidade Apoiar o nosso site www.fema.org.br