Embora o futuro seja cada vez mais promissor quando se fala de inteligência artificial generativa, ainda existem riscos associados à adoção dessa nova tecnologia.
As formas mais comuns de IA baseiam-se em modelos estatísticos que reconhecem padrões a partir de dados existentes e são mais utilizadas em contextos analíticos e preditivos. Com o surgimento da categoria chamada generativa foi criada a possibilidade de (re)construir ou (re)produzir conteúdo proveniente de texto, imagem, vídeo, áudio ou código-fonte.
Os modelos generativos podem produzir novos dados (artificiais) usando dados reais (fornecidos pelo usuário) e criar informações inéditas; o horizonte que até há alguns anos existia apenas nos livros de ficção científica ou filmes está cada vez mais próximo da realidade.
A IA Generativa reside no ciberespaço, e, como consequência, existem riscos associados que podem afetar tanto pessoas quanto empresas ou governos. De acordo com a ESET, os principais riscos seguem abaixo.
Algumas das redes sociais, sites ou aplicativos não são legalmente responsáveis em relação aos conteúdos enviados por seus usuários, como ideias ou publicações feitas por terceiros ou subjacentes, nem mesmo o conteúdo gerado por IA, mesmo quando possuem termos de uso, normas da comunidade e políticas de privacidade que protegem os direitos autorais, há uma lacuna legal que serve como escudo para os provedores em caso de violação dos direitos autorais.
O usuário tem fácil acesso e uma enorme disponibilidade de ferramentas de IA Generativa que são pouco claras, inclusive contraditórias, em suas políticas de uso e implementação.
Nos Estados Unidos, em maio de 2023, uma greve do Sindicato de Roteiristas deu início a uma série de conflitos, aos quais se juntou, em julho do mesmo ano, o Sindicato de Atores de Hollywood. As principais causas desse movimento foram a exigência de aumento salarial devido ao aumento na demanda e criação de conteúdo, buscando a distribuição proporcional dos lucros entre roteiristas,atores e as grandes empresas.
Outro motivo foi o abuso da IA Generativa por parte dessas empresas para produzir conteúdo sem o consentimento de atores ou atrizes, utilizando seu rosto e voz para fins comerciais. Neste caso, muitos direitos autorais e permissões de imagem foram ignorados por grandes empresas, causando grande indignação. Como resultado, os Estados Unidos optaram por implementar recursos legais para proteger ambas as partes.
Para que os modelos de IA Generativa possam funcionar corretamente, eles precisam de grandes volumes de dados para serem treinados. No entanto, surge a questão: o que acontece quando esse volume pode ser obtido de qualquer fonte pública, como vídeos, áudios, imagens, textos ou códigos-fonte, sem o consentimento do titular?
Nesse cenário, de acordo com a ESET, as plataformas, aplicativos e redes sociais deveriam aderir ao quadro normativo sobre privacidade de dados de cada país, caso exista, ou então apoiar-se no Regulamento Geral de Proteção de Dados (GDPR) do Parlamento Europeu, que já inclui uma seção dedicada à IA.
Em países onde as regulamentações sobre IA são escassas ou inexistentes, alguns usuários aproveitam as lacunas para fins não éticos, como a suplantação de identidade (voz, imagem ou vídeo) para criar perfis falsos usados para cometer fraudes e extorsões através de plataformas, aplicativos ou redes sociais. Isso inclui também o lançamento de campanhas de phishing sofisticadas ou golpes do tipo catfishing.
Aproveitando-se desse tipo de IA, as práticas de disseminação de notícias falsas em plataformas e redes sociais são aprimoradas. A viralização desses conteúdos enganosos pode prejudicar a imagem de uma pessoa, comunidade, país, governo ou empresa.
“A IA Generativa apresenta riscos específicos que devem ser tratados com cuidado para garantir seu uso ético e seguro. Esses riscos incluem desde a moderação do conteúdo enviado pelos usuários até aquele que pode ser enganoso, tendencioso ou prejudicial, a fim de evitar a manipulação da informação”, afirma David González Cuautle, Pesquisador de Segurança da Informação da ESET América Latina.
Ao considerar esses riscos, a ESET destaca a importância de implementar estratégias preventivas e corretivas, tais como: