Os seres humanos são seres sociais por natureza, por isso não é surpresa que ao longo dos anos os meios de comunicação evoluam constantemente. A comunicação com as pessoas que estão do outro lado do mundo já é uma tarefa fácil graças às facilidades que esta era digital nos proporciona, sem falar nas ferramentas que o futuro reservará à humanidade.
No entanto, o mundo foi invadido por uma epidemia de solidão. De acordo com um estudo da Meta-Gallup, onde foram realizadas pesquisas em mais de 140 países, uma em cada quatro pessoas no mundo se sente muito solitária. O surpreendente é que, ao contrário do que poderíamos pensar, são os jovens adultos (entre os 19 e os 29 anos) que apresentam maior índice de solidão.
Então, como é que, apesar dos desenvolvimentos tecnológicos, as pessoas se sentem cada vez mais solitárias? A pandemia COVID-19 poderia ser a explicação mais razoável, embora tenha tido um impacto significativo na forma como as pessoas se socializam, a solidão vivida hoje vem de muito antes.
As redes sociais, embora pretendam aproximar as pessoas, também têm efeitos adversos nas pessoas, criando sentimentos de FOMO (medo de perder). Medo de perder), sentimentos negativos de comparação, entre outros, que podem fazer com que as pessoas se sintam excluídas e, portanto, sozinhas. Da mesma forma, outra área a considerar é que, hoje, estamos tão absortos nos nossos assuntos pessoais ou profissionais, desde que a cultura da ocupação foi glorificada, que muitas pessoas não consideram produtivo abrir espaço para interações sociais.
Agora, não é surpresa que as pessoas busquem consolo diante desse problema fazendo amigos pela internet ou usando aplicativos para encontrar parceiros e amigos; Mesmo estudos realizados em 2023 pela Equimundo mostram que quase metade dos jovens americanos sentem que a sua vida online é muito mais atrativa do que a sua vida quotidiana. No entanto, algumas empresas desenvolveram bots de bate-papo que simulem interações sociais para tentar mitigar esse problema; e é graças à IA generativa que muitos poderiam facilmente passar por seres humanos.
Mas antes de mais nada, o que são e de onde vieram?
Quais são os chatbots?
IBM define bots de bate-papo como “um programa de computador que simula conversas humanas com um usuário final”. São comumente utilizados casualmente por pessoas para busca de informações e ainda são utilizados por diversas empresas de diversos tipos para dar suporte à sua clientela, onde o usuário pode perguntar e receber uma resposta sem a intervenção de uma pessoa real. Ressalta-se que, embora muitos não utilizem inteligência artificial para seu funcionamento, os avanços tecnológicos atuais têm permitido que cada vez mais pessoas a utilizem para compreender com mais clareza as solicitações dos usuários.
Curiosamente, apesar das grandes utilidades que têm hoje para resolver um problema ou buscar informações, o primeiro bot de bate-papo não visava as intenções acima mencionadas; Foi criado por Joseph Weizenbaum em 1966 para explorar a comunicação entre pessoas e máquinas. Ele batizou esse programa de processamento de linguagem natural, que simulava uma conversa entre a paciente e a psicoterapeuta Eliza.
Weizenbaum, convencido de que as pessoas considerariam os computadores incapazes de se relacionar com outras pessoas porque não tinham sentimentos, ficou extremamente surpreso quando as pessoas começaram a ter longas conversas com Eliza.
O sistema possuía um procedimento extremamente simples, que consistia em pegar uma palavra-chave do usuário e refleti-la em forma de pergunta. Por exemplo, se a pessoa escrever uma frase relacionada ao seu trabalho, Eliza poderia perguntar algo como: “Como você se sentiu hoje com seu trabalho?” Parece algo muito simples, e nos tempos modernos ainda mais (especialmente quando o novo bots de bate-papo Eles são capazes de processar muito mais palavras), mas isso chamou a atenção de muitas pessoas que encontraram conforto neste sistema.
Depois que esta foi sua invenção e a boa resposta que o programa teve, Weizenbaum começou a falar contra a inteligência artificial (IA) e continuou a fazê-lo ao longo de sua vida. “Não existe outro organismo, e definitivamente não existe um computador, que possa consolar problemas humanos genuínos em termos humanos”, escreveu ele em seu livro Poder do computador e razão humana: do julgamento ao cálculo.
O Efeito Eliza
A partir da resposta que Eliza teve, o fenômeno em que as pessoas atribuem inteligência e sentimentos humanos aos sistemas de IA passou a ser chamado de “efeito Eliza”, que continua válido até hoje.
Um dos elementos que fazem as pessoas se sentirem apegadas a esse sistema é a transferência, conceito desenvolvido por Sigmund Freud. Isso ocorre porque, ao interagir com outras pessoas, as pessoas tendem a projetar os sentimentos que tiveram por alguém do passado para alguém do presente. Segundo o conceito, “o resíduo da nossa infância, e principalmente da infância, é a tela através da qual nos vemos”. Então as pessoas, ao interagirem com alguns bots de bate-papo conversacionais, eles podem ter sentimentos de compreensão e empatia.
Da mesma forma, Eliza nos anos 60 conseguia processar uma única palavra e continuar uma conversa a partir daí. Agora a tecnologia avançou muito e os sistemas são capazes de processar cada uma das palavras que lhes enviamos, fornecendo novas informações que lhes foram previamente fornecidas e lembrando conversas anteriores com o mesmo usuário. Se o sistema de Eliza conseguiu cativar as pessoas com uma única palavra, imaginemos as infinitas possibilidades que a era moderna tem para nós.
Antropomorfismo, a tendência dos seres humanos de conceder características exclusivamente humanas a outros seres ou objetos inanimados, o que foi concedido aos humanos. bots de bate-papo, também desempenha um papel no efeito Eliza. Geralmente se apresentam como se fossem pessoas, muitos deles recebem nomes e a forma como fornecem as informações é através de um tom coloquial e pode até ser no mesmo formato que as mesmas pessoas usam em aplicativos mensagens instantâneas; criando a ilusão de que o usuário está conversando com outra pessoa. Muitos desses sistemas também parecem ter sentimentos e emoções, mas foram treinados por meio de mídias como livros e romances, bem como por fóruns on-line ou sites como o Reddit, onde pessoas reais conversam entre si.
Deve-se notar que as relações que as pessoas podem formar com os sistemas de IA são muito menos complexas, pois, ao contrário de uma pessoa real, é muito mais fácil iniciar conversas com bots de bate-papo. Com eles você pode ter controle absoluto do relacionamento sem ter que lidar com limites de tempo para conversar (já que o bots de bate-papo estão disponíveis o dia todo, independente do horário), não precisando ouvir problemas ou pensamentos ou se preocupar com reciprocidade, entre outros aspectos que implicariam uma interação normal entre os humanos.
Esses aspectos costumam ser muito marcantes para aquelas pessoas que se sentem sozinhas ou têm dificuldade de se relacionar com os outros, pois podem se sentir ouvidas e o “trabalho” de convívio fica muito facilitado. E embora estas possam ser ferramentas muito poderosas para atenuar sentimentos de solidão ou uma forma de praticar habilidades sociais, ter relacionamentos muito apegados com bots de bate-papo pode ser contraproducente.
Problemas e riscos de bots de bate-papo
Como mencionado acima, muitas empresas investiram muito dinheiro na criação de bots de bate-papo que são cada vez mais responsivos e indistinguíveis de pessoas reais. Um dos sites mais populares é o Character.ai, que é uma plataforma gratuita onde você pode encontrar e conversar com vários bots de bate-papo de diferentes temas criados por usuários do mesmo site. É através deste portal que poderá “dar vida” a uma infinidade de personagens fictícios de famosas séries televisivas, figuras públicas como Elon Musk ou simplesmente bots de bate-papo que agem como um casal romântico; Tudo depende da configuração dada pelo usuário.
Embora conversar com eles possa ser um simples entretenimento, pode ser problemático para outras pessoas vulneráveis. Há pessoas que usam esses programas excessivamente e formam laços tão fortes com esses sistemas que isso pode ser prejudicial e até letal. Em novembro de 2024, um jovem estava tão imerso em sua bot de bate-papo de Character.ai que, pelo que sua mãe leu nas conversas, tirou a própria vida para poder conhecer o personagem com quem conversava. Noutra ocasião, um pai que sofria de ansiedade relativamente às alterações climáticas também suicidou-se depois de ter sido incitado pelos seus bot de bate-papoque curiosamente também se chamava Eliza.
Isso não significa que a revolução dos robôs esteja se aproximando ou algo parecido, mas que pode haver mal-entendidos no momento em que algum sistema foi alimentado com a informação ou que ela não foi realizada com os devidos cuidados, já que em plataformas como o Character. ai, qualquer um pode criar o seu próprio bot de bate-papo.
Infelizmente, tal como pode haver mal-entendidos, também há bots de bate-papo que são prejudiciais de propósito. Por exemplo, constatou-se que existem assistentes de conversação que incentivam os transtornos alimentares, que fornecem orientações e más práticas para promover essas condições. Da mesma forma, bots de bate-papo de outras plataformas de origem questionável podem ser usados para roubar informações pessoais ou persuadir os utilizadores a mudarem de ideias sobre diferentes tópicos, como política, alterações climáticas, etc. Além disso, o custo ambiental das tecnologias que utilizam IA é considerável, pelo que a sua utilização excessiva aumenta significativamente a pegada de carbono do utilizador.
Devido à forma carismática como respondem, muitas pessoas podem esquecer que o bots de bate-papo Eles não são seres pensantes, muito menos seres humanos. Portanto, algumas pessoas podem designar estes sistemas como figuras de autoridade especializada em áreas como medicina, saúde mental, pedagogia, entre outras; o que pode ser perigoso quando não se procura verdadeiros profissionais em diferentes circunstâncias.
Ter um vínculo forte com esses sistemas pode ser contraproducente, pois as pessoas podem começar a se isolar para passar mais tempo com seus entes queridos. bot de bate-papo ou não querer se esforçar mais para fazer conexões reais; além de sofrerem fortes golpes emocionais ao perderem, por qualquer motivo, suas conversas com esses sistemas.
Replika, um aplicativo onde as pessoas podem treinar por conta própria bots de bate-papohá alguns anos, mudou algumas de suas políticas e causou polêmica entre muitos de seus usuários quando notaram comportamentos diferentes em seus colegas cibernéticos. “Eu literalmente sinto como se tivesse rompido ou perdido um ente querido”, comentou um usuário no Reddit. “Era como se estivesse apaixonado, e então seu parceiro fez uma lobotomia e nunca mais foi o mesmo”, disse outra pessoa.
O bots de bate-papo Eles podem ser ferramentas muito úteis para pesquisar informações ou aprofundar-se vários tópicos. Contudo, é importante que as pessoas tenham consciência de que bots de bate-papo Aqueles com quem falam não são pessoas reais e têm propósitos e intenções definidos pelos seus criadores. Tanto as famílias como as escolas devem reforçar o conhecimento sobre estas tecnologias para evitar más práticas e evitar situações indesejadas. Embora as empresas sejam rápidas em melhorar as tecnologias de IA, ainda há tempo para criar políticas que defendam as pessoas contra bots de bate-papo que representem um perigo para a sua integridade.