Pesquisadoras defendem regulação de plataformas e fiscalização de conteúdo gerado por IA

Duas pesquisadoras defenderam nesta terça-feira (15) ampliar a regulação de plataformas digitais e a fiscalização de conteúdos feitos com inteligência artificial no Brasil.

Em webinário sobre tecnologias, IA e eleições, especialistas apontam riscos de algoritmos de recomendação e deepfakes para a democracia

Regulação mínima para algoritmos de recomendação

A diretora executiva do Instituto de Referência em Internet e Sociedade (IRIS), Fernanda Rodrigues, chamou atenção para o modo como funcionam os algoritmos de recomendação das plataformas digitais. Segundo ela, esses mecanismos fazem com que as próprias plataformas determinem quais conteúdos chegam aos usuários.

Rodrigues defendeu o que descreveu como uma regulação mínima, capaz de assegurar que as pessoas possam optar por não receber conteúdos padronizados. Para a pesquisadora, é preciso garantir também que os mecanismos de recomendação não carreguem vieses discriminatórios.

A fala ocorreu durante o webinário Tecnologias, IA e Eleições, promovido pela Articulação de Organizações de Mulheres Negras Brasileiras nesta terça-feira (15).

Inteligência artificial e concentração do debate

Sobre a inteligência artificial, as pesquisadoras afirmaram que o desenvolvimento da tecnologia não tem sido pautado pelas demandas da sociedade. Na avaliação delas, as grandes empresas de tecnologia monopolizam o debate sobre o assunto.

A cofundadora da plataforma de comunicação independente Blogueiras Negras, Larissa Santiago, disse que, em comparação com outros países, o Brasil tem um bom sistema regulatório de inteligência artificial. Ainda assim, ela defendeu o aumento da fiscalização e, principalmente, da educação midiática.

Segundo Santiago, as pessoas não conseguem distinguir uma pessoa real de uma pessoa criada por inteligência artificial. Por isso, afirmou, é preciso educar a população.

Deepfakes e violência política de gênero e raça

Ao citar o processo que levou ao impeachment da então presidenta Dilma Rousseff, Larissa Santiago mencionou a circulação de imagens e notícias distorcidas. O processo de impeachment ocorreu em 2016, antes da popularização das ferramentas atuais de inteligência artificial generativa.

Santiago afirmou que a tecnologia de inteligência artificial potencializa a violência política de gênero e raça com o uso de desinformação e deepfakes. Ela relembrou o caso de Dilma Rousseff como exemplo de como imagens e notícias distorcidas circularam até o desfecho do processo.