5 desafios da Inteligência Artificial Generativa

Embora o futuro seja cada vez mais promissor quando se fala de inteligência artificial generativa, ainda existem riscos associados à adoção dessa nova tecnologia.

As formas mais comuns de IA baseiam-se em modelos estatísticos que reconhecem padrões a partir de dados existentes e são mais utilizadas em contextos analíticos e preditivos. Com o surgimento da categoria chamada generativa foi criada a possibilidade de (re)construir ou (re)produzir conteúdo proveniente de texto, imagem, vídeo, áudio ou código-fonte.

Os modelos generativos podem produzir novos dados (artificiais) usando dados reais (fornecidos pelo usuário) e criar informações inéditas; o horizonte que até há alguns anos existia apenas nos livros de ficção científica ou filmes está cada vez mais próximo da realidade.

A IA Generativa reside no ciberespaço, e, como consequência, existem riscos associados que podem afetar tanto pessoas quanto empresas ou governos. De acordo com a ESET, os principais riscos seguem abaixo.

Moderação de Conteúdo

Algumas das redes sociais, sites ou aplicativos não são legalmente responsáveis em relação aos conteúdos enviados por seus usuários, como ideias ou publicações feitas por terceiros ou subjacentes, nem mesmo o conteúdo gerado por IA, mesmo quando possuem termos de uso, normas da comunidade e políticas de privacidade que protegem os direitos autorais, há uma lacuna legal que serve como escudo para os provedores em caso de violação dos direitos autorais.

5 desafios da Inteligência Artificial Generativa© Fornecido por 33gigaPolítica de Propriedade Intelectual no TikTok

O usuário tem fácil acesso e uma enorme disponibilidade de ferramentas de IA Generativa que são pouco claras, inclusive contraditórias, em suas políticas de uso e implementação.

5 desafios da Inteligência Artificial Generativa© Fornecido por 33gigaWebsite especializado em clonagem de vozes: sem limitações para a utilização da voz de qualquer celebridade

Violação de direitos autorais e de imagem:

Nos Estados Unidos, em maio de 2023, uma greve do Sindicato de Roteiristas deu início a uma série de conflitos, aos quais se juntou, em julho do mesmo ano, o Sindicato de Atores de Hollywood. As principais causas desse movimento foram a exigência de aumento salarial devido ao aumento na demanda e criação de conteúdo, buscando a distribuição proporcional dos lucros entre roteiristas,atores e as grandes empresas.

Outro motivo foi o abuso da IA Generativa por parte dessas empresas para produzir conteúdo sem o consentimento de atores ou atrizes, utilizando seu rosto e voz para fins comerciais. Neste caso, muitos direitos autorais e permissões de imagem foram ignorados por grandes empresas, causando grande indignação. Como resultado, os Estados Unidos optaram por implementar recursos legais para proteger ambas as partes.

Privacidade

Para que os modelos de IA Generativa possam funcionar corretamente, eles precisam de grandes volumes de dados para serem treinados. No entanto, surge a questão: o que acontece quando esse volume pode ser obtido de qualquer fonte pública, como vídeos, áudios, imagens, textos ou códigos-fonte, sem o consentimento do titular?

Nesse cenário, de acordo com a ESET, as plataformas, aplicativos e redes sociais deveriam aderir ao quadro normativo sobre privacidade de dados de cada país, caso exista, ou então apoiar-se no Regulamento Geral de Proteção de Dados (GDPR) do Parlamento Europeu, que já inclui uma seção dedicada à IA.

Questões éticas

Em países onde as regulamentações sobre IA são escassas ou inexistentes, alguns usuários aproveitam as lacunas para fins não éticos, como a suplantação de identidade (voz, imagem ou vídeo) para criar perfis falsos usados para cometer fraudes e extorsões através de plataformas, aplicativos ou redes sociais. Isso inclui também o lançamento de campanhas de phishing sofisticadas ou golpes do tipo catfishing.

Desinformação

Aproveitando-se desse tipo de IA, as práticas de disseminação de notícias falsas em plataformas e redes sociais são aprimoradas. A viralização desses conteúdos enganosos pode prejudicar a imagem de uma pessoa, comunidade, país, governo ou empresa.

“A IA Generativa apresenta riscos específicos que devem ser tratados com cuidado para garantir seu uso ético e seguro. Esses riscos incluem desde a moderação do conteúdo enviado pelos usuários até aquele que pode ser enganoso, tendencioso ou prejudicial, a fim de evitar a manipulação da informação”, afirma David González Cuautle, Pesquisador de Segurança da Informação da ESET América Latina.

Ao considerar esses riscos, a ESET destaca a importância de implementar estratégias preventivas e corretivas, tais como:

• Filtragem e moderação eficazes: desenvolver sistemas robustos de filtragem e moderação capazes de identificar e eliminar conteúdo inapropriado, enganoso ou tendencioso gerado por modelos de IA Generativa. Isso ajudará a manter a integridade das informações e a prevenir possíveis consequências negativas.
• Treinamento com dados éticos e diversificados: garantir que os modelos de IA Generativa sejam treinados com conjuntos de dados éticos, imparciais e representativos. A diversificação dos dados contribui para reduzir preconceitos e melhorar a capacidade do modelo de gerar conteúdo mais equitativo e preciso.
• Transparência na regulamentação do conteúdo: estabelecer regulamentações que permitam aos usuários compreender como o conteúdo é gerado, o tratamento que os dados recebem e as implicações que podem ocorrer caso não sejam cumpridas.
• Avaliação contínua da ética e qualidade: implementar mecanismos de avaliação contínua para monitorar a ética e a qualidade do conteúdo gerado. Esses mecanismos podem incluir auditorias regulares, testes de robustez e colaboração com a comunidade para identificar e abordar possíveis problemas éticos.
• Educação e conscientização pública: promover a educação e a conscientização pública sobre os riscos associados à IA Generativa. Estimular a compreensão de como esses modelos funcionam e quais são seus possíveis impactos permitirá que os usuários participem ativamente nas discussões e exijam práticas éticas por parte dos desenvolvedores e empresas.