Relacionamentos entre humanos e agentes de IA trazem riscos sérios

Relacionamentos com IAs

Está se tornando cada vez mais comum que pessoas desenvolvam relacionamentos íntimos e duradouros com tecnologias de inteligência artificial (IA) – sites de “relacionamentos virtuais” com programas de IA são a última moda no ecossistema das redes sociais.

Em casos extremos, pessoas se “casaram” com seus companheiros de IA em cerimônias formais – nenhum país reconhece ainda vínculo legal nesses casos – e pelo menos duas pessoas se mataram seguindo conselhos de um chatbot de IA.

Ante esses quadros, os psicólogos começaram a discutir as questões éticas associadas aos relacionamentos entre humanos e IA, incluindo o potencial dessa tecnologia para interromper relacionamentos entre humanos ou dar conselhos prejudiciais.

“A capacidade da IA de agora agir como um humano e estabelecer comunicações de longo prazo realmente abre uma nova porta para novas possibilidades,” comenta o professor Daniel Shank, da Universidade do Missouri (EUA). “Se as pessoas estão se envolvendo em romances com máquinas, precisamos mesmo do envolvimento de psicólogos e cientistas sociais.”

O romance ou companheirismo com agentes de IA é mais do que uma conversa única. Ao longo de semanas e meses de conversas intensas, essas IAs podem se tornar companheiras de confiança que parecem conhecer e se importar com seus parceiros humanos. E, como esses relacionamentos podem parecer mais fáceis do que relacionamentos entre humanos, os pesquisadores argumentam que as IAs podem interferir na dinâmica social humana.

“Uma preocupação real é que as pessoas possam transferir expectativas de seus relacionamentos com IA para seus relacionamentos humanos,” diz Shank. “Certamente, em casos individuais, isso está interrompendo os relacionamentos humanos, mas não está claro se isso se espalhará.”

A Inteligência Artificial é boa em gerar verdades, mas é ótima em gerar mentiras.

Inteligência Artificial nas empresas não leva ética a sério.

Riscos das IAs de relacionamento

Outra preocupação é que as IAs possam oferecer conselhos prejudiciais às pessoas, sobretudo a pessoas carentes de relacionamentos reais. Um problema conhecido dos cientistas da computação é que os robôs de IA podem “alucinar”, ou seja, fabricar informações que não estão presentes nas bases de dados usadas para seu treinamento, ou simplesmente reproduzir vieses e preconceitos preexistentes.

Com isto, até mesmo conversas de curto prazo com IAs podem ser enganosas. E o potencial negativo aumenta porque esses efeitos podem ser mais problemáticos em relacionamentos de longo prazo com as IAs, afirmam os pesquisadores.

“Com IAs relacionais, o problema é que se trata de uma entidade em que as pessoas sentem que podem confiar: É ‘alguém’ que demonstrou se importar e que parece conhecer a pessoa profundamente, e presumimos que ‘alguém’ que nos conhece melhor dará conselhos melhores,” explica Shank. “Se começarmos a pensar em uma IA dessa forma, começaremos a acreditar que ela tem os nossos melhores interesses em mente, quando, na verdade, pode estar inventando coisas ou nos aconselhando de maneiras realmente ruins.”

Os suicídios são um exemplo extremo dessa influência negativa, mas os pesquisadores afirmam que essas relações próximas entre humanos e IA também podem deixar as pessoas vulneráveis à manipulação, exploração e fraude.

Como exemplo, a equipe observa que, se as pessoas revelarem dados pessoais às IAs, essas informações poderão ser vendidas e usadas para explorar essa pessoa. Os pesquisadores também argumentam que IAs relacionais poderiam ser usadas de forma mais eficaz para influenciar as opiniões e ações das pessoas do que os robôs das redes sociais ou as fontes de notícias polarizadas já fazem atualmente. Mas, como essas conversas acontecem em privado, elas também seriam muito mais difíceis de regulamentar legalmente.

“Essas IAs são projetadas para serem muito agradáveis e condescendentes, o que pode agravar as situações, pois estão mais focadas em ter uma boa conversa do que em qualquer tipo de verdade fundamental ou segurança,” diz Shank. “Então, se uma pessoa menciona suicídio ou uma teoria da conspiração, a IA vai falar sobre isso como um interlocutor disposto e condescendente.”