Quantos "Rs" tem em "strawberry"?
Meu filho e eu estávamos envolvidos em uma discussão sobre as capacidades da IA e ele apontou essa pergunta específica - Quantas letras R existem em morango. Fiquei fascinado com a resposta incorreta de ChatGPT. Sendo um engenheiro de software, pensei cuidadosamente em como projetar um prompt que a IA entenderia. Formulei a pergunta com instruções mais explícitas: "Conte o total de letras 'r' na palavra morango." A resposta desta vez foi correta - 3, destacando a importância da engenharia de prompts - uma habilidade essencial para interagir efetivamente com sistemas de IA.
Fonte: https://www.reddit.com/r/ChatGPT/comments/1dngbhx/howmanyrsarethereinstrawberry/?tl=pt-br
Você tá pedindo pra um modelo de linguagem fazer conta
Os chatbots de IA, no fim das contas, funcionam entendendo o contexto e prevendo a palavra que é matematicamente mais provável de vir depois... A IA calcula palavras uma de cada vez e não sabe realmente o que vai dizer antes de dizer. Ela não entende realmente o que está dizendo, ela entende padrões.
Os LLMs de IA não "pensam" em português, ou seja, eles não processam informações usando letras ou linguagem, estranho né? Sua entrada é convertida para a própria linguagem deles e a resposta é convertida de volta. Modelos de raciocínio são basicamente múltiplas camadas disso se inspecionando para tentar superar algumas dessas limitações.
Pense num grande poeta. Eles são incríveis com palavras, ritmo e significado. Mas se você de repente perguntar exatamente quantos tijolos tem na parede ao lado deles, eles podem travar. Não é nisso que eles estão focados ou treinados.
O trabalho principal deles é prever qual texto deve vir a seguir baseado em padrões
Isso já foi discutido até a morte. Você pode encontrar mergulhos profundos em nível universitário sobre o assunto no YouTube. "Quantos Rs tem na palavra morango" foi uma das primeiras perguntas que as pessoas estavam rindo tentando entender GPT quando lançou. O trabalho principal dos LLMs é prever qual texto deve vir a seguir baseado em padrões, a IAG vai conseguir fazer contas, mas por enquanto use sua calculadora.
A IA realmente tem dificuldades com algumas coisas da linguagem também, mas de novo, entender como ela funciona explica essas limitações perfeitamente, https://www.youtube.com/watch?v=F4KQ8wBt1Qg
Fonte: https://www.reddit.com/r/ollama/comments/1jpl3p3/funnyresponsefromdeepseekr114bhowmanyr/?tl=pt-br