AI É NÓS! – ÉTICA E CULTURA DIGITAL
Fernanda Carvalho e Raphael Ferreira
Liliane Rosa; Fernanda de Paula Carvalho; Raphael Silva Ferreira; Ana Luiza Pedrosa Camilo; Nelson Rodrigues Pombo Júnior; Ítalo Cardoso Travenzoli.
Julia Lechi
Raphael Ferreira
Fernanda Carvalho
Associação Impulso (Assimpo) e Distópica Galeria de Arte
Assimpo
ISBN: 978-65-02-44663-8
Este livro é realizado com recursos da Lei Municipal de Incentivo à Cultura de Belo Horizonte
O e-book é uma obra coletiva que reúne autores(as) que participaram ativamente das ações do projeto AI É NÓS!, tanto no desenvolvimento do conteúdo do curso como na produção dos textos e discussões que seguem nesse trabalho.
Os textos estão organizados em duas seções integradas: Seção I – Cultura digital: sujeitos e sociedade, contextualiza a discussão sobre a cultura digital, problematizando elementos como direitos autorais, regulações de plataformas, a emergência dos Direitos Humanos digitais; além das dimensões que envolvem a saúde mental. A Seção II – Estudos de casos e reflexões apresenta discussões temáticas aplicadas como o cyberbullying; vieses algorítmicos e os riscos da psicoterapia automatizada por chatbots; mídias sintéticas, deepfakes e golpes de engenharia social no Brasil; a autoria e representatividade na criação artística com IA generativa; as aplicações pedagógicas das IAs generativas e softwares livres em sala de aula; e a ética na geração de imagens com IAs.
Convidamos vocês à leitura dos textos e à reflexão crítica sobre diferentes elementos que envolvem as relações contemporâneas entre sujeito, sociedade e cultura digital.
Fernanda Carvalho e Raphael Ferreira
Liliane Rosa
Provavelmente você já ouviu uma ou várias vezes o termo cultura digital, ou já o utilizou, mas você sabe o que ele significa e tudo que está relacionado a ele? Vamos conversar sobre isso?
Comecemos pelo termo cultura, na antropologia, como nos diz Silva (2013), ele possui diferentes explicações, mas, no geral, é utilizado para descrever o conjunto formado por todos os elementos, materiais e simbólicos, que compõem os modos de vida dos seres humanos nas sociedades em que vivem.
E digital? Qual o significado desta que é uma das palavras que define o nosso tempo? De acordo com o pesquisador Pierre Levy (1999), o digital pode ser relacionado ao suporte físico onde se encontra armazenada toda a informação produzida ou traduzida a partir da linguagem de programação computacional binária 0 e 1. Vamos entender melhor isso? Um texto em Word salvo no HD do computador, é informação digital; os dados do seu um aplicativo de conversa ou do seu jogo de estratégia salvos em um servidor, é informação digital; um vídeo ou uma foto produzidos e armazenados pelo seu celular, é informação digital. O que é comum em todos estes exemplos? O uso da linguagem de programação. E qual é a grande diferença desse tipo de informação? A sua profunda maleabilidade. A depender da intenção de quem a acessa e a manipula, individual ou coletivamente, a informação digital pode sofrer profundas e múltiplas modificações e composições, em curtíssimo período de tempo, por quanto tempo for necessário.
Feitas essas considerações, podemos dizer, então, que a cultura digital compreende os modos de vida, próprios das sociedades atuais, que estão diretamente associados à complexidade criada pela digitalização da informação, uma complexidade que tem, entre seus principais elementos, a virtualização informacional da vida, consequência direta da invenção e popularização do computador.
Desenvolvido na década de 1940, como arma militar, o computador eletrônico se converte em equipamento de uso pessoal na década de 1980, em um processo de contínua popularização do seu custo econômico e acelerado desenvolvimento tecnológico. Paralelo a isso, em 1969, a experiência bem-sucedida de conectar dois ou mais computadores deu origem ao que chamamos de Internet, uma rede aberta ao grande público na década de 1990, que hoje entrelaça bilhões de computadores ao redor de todo o mundo.
Uma das grandes revoluções da humanidade, a Internet constitui-se como um portal de entrada para o que Levy (1999) chama de ciberespaço, a saber: um espaço de comunicação aberto pela interconexão mundial dos computadores e das memórias dos computadores (Levy, 1999, p.92). É no ciberespaço que estamos todos nós quando disponibilizamos, acessamos, transformamos e compartilhamos informações digitais por meio da internet. De acordo com Levy (1999), em função de suas características específicas, que elimina distâncias físicas e aproxima diversidades, o ciberespaço, se compartilhado como território de Inteligências Coletivas, corresponde, hoje, ao principal lócus social da produção colaborativa de saberes.
E a Sociedade em rede? Você já ouviu essa expressão? A que se refere? Bem, a partir da popularização da Internet, as dinâmicas sociais se transformaram de tal maneira que, segundo Castells (1999), somos, atualmente, compreendidos como membros de uma sociedade na qual as relações sociais, sejam elas de trabalho, educação, lazer, afetivas, comerciais, culturais, religiosas, entre tantas outras, perpassam, concretamente, pelas infinitas conexões que estabelecemos e informações que trocamos no espaço virtual. Esta é a Sociedade em Rede. Estamos todos ou quase todos conectados e precisamos estar para cumprir atividades básicas, como verificar o extrato bancário.
No caminho do desenvolvimento da internet, passamos por uma primeira fase, a Web 1.0, em que o conteúdo era disponibilizado em páginas estáticas direcionadas principalmente à leitura, por uma segunda fase, a Web 2.0, marcada por processos interativos nos quais os usuários são potenciais criadores de conteúdo, e estamos, no presente, em uma terceira fase nomeada como WEB 3.0, caracterizada por uma perspectiva de personalização da experiência de navegação do usuário a partir de recursos associados à Inteligência artificial e aos seus algoritmos.
Sobre a Inteligência artificial, um termo cunhado em 1956, Kaufman e Santaella (2020) nos informam se tratar de um patamar da cultura digital em que a linguagem da programação dos computadores desenvolveu-se ao ponto de simular a inteligência humana e, nesse sentido, fazer cálculos e tomar decisões de forma autônoma, dentro, é claro, dos parâmetros estabelecidos pelos seres humanos. Simulando o funcionamento cerebral, a Inteligência artificial opera a partir da detecção de contextos e do estabelecimento de correlações e padrões vinculados ao processamento de um grande volume de dados.
Por ter se tornado a principal marca histórica do tempo presente, a cultura digital encontra-se presente em diversas dimensões da vida, entre elas a educação formal. Vejamos! Processos educativos podem acontecer a todo tempo e em todo lugar, basta que humanos se comuniquem, seja diretamente ou, por exemplo, por meio de uma música ou de um livro. Dito isso, importa frisar que a alusão a processos educativos formais toma como referência a educação desenvolvida em espaços que a têm como objetivo primeiro, tais como escolas e universidades.
No Brasil, a educação escolar é normatizada por diversos marcos legais e, entre os mais importantes, podemos destacar a Base Nacional Comum Curricular, que estabelece os direitos de aprendizagem garantidos a todos os estudantes ao longo de todas as etapas da Educação Básica. E por que falar da BNCC? Porque nela, segundo Coutinho e Rica (2024), encontramos referências concretas à necessidade de produção de processos educativos que possibilitem aos estudantes compreender e utilizar as tecnologias digitais em seus diversos recursos e potencialidades, levando em consideração a construção de aprendizados que, para além da dimensão técnica, tenham foco em aspectos éticos associados à formação de sujeitos reflexivos e críticos. Na perspectiva curricular apresentada pela BNCC, espera-se que, ao fim do Ensino Médio, o estudante tenha desenvolvido competências e habilidades que o permitam compreender o pensamento computacional, as diversas funcionalidades da internet e os impactos do digital nas relações sociais, uma compreensão que oriente suas ações e tomadas de decisão. Diante disso, é de extrema importância que as escolas possuam laboratórios de informática devidamente equipados e que os professores sejam devidamente formados para exercerem o papel de mediadores capazes de auxiliar na compreensão e análise do universo infinito de informações que os estudantes podem acessar a partir da internet. É importante, ainda, que as escolas possam lançar mão de recursos como lousas, câmeras fotográficas, celulares e jogos digitais, que, orientados para finalidades pedagógicas e bem utilizados, enriquecem e dinamizam os processos de ensino e aprendizagem.
Mas não é só na Educação Básica que as tecnologias digitais se fazem presentes, ao contrário, elas também são fundamentais para o atual desenvolvimento da Educação Técnica e da Educação Superior. Nas diferentes áreas do saber, os recursos digitais são utilizados como instrumentos de pesquisa, sistematização de dados e elaboração de projetos.
Ainda no campo educacional, as ferramentas digitais se destacam pela possibilidade de, a partir das mesmas, serem construídas grandes bibliotecas virtuais, portais que possibilitam a qualquer hora do dia ou da noite, de qualquer espaço geográfico, o acesso gratuito ou pago a acervos de livros e outros tipos de produções e documentos caros à história humana. Este é o caso dos portais Domínio Público, Biblioteca Nacional Digital Brasil, Open Library e a Biblioteca Digital Mundial. Nesta perspectiva, podemos falar, também, do Portal de Periódicos da CAPES, que possibilita o acesso a produções científicas brasileiras no formato de livros, revistas, artigos e teses, entre outros; assim como da Biblioteca Digital Brasileira de Teses e Dissertações, que reúne os repositórios de teses e dissertações das instituições brasileiras de ensino e pesquisa. Há, ainda, a SciELO, que reúne revistas científicas de diversos países, principalmente da América Latina e Caribe.
Por fim, na nossa conversa sobre cultura digital e Educação, precisamos retornar à Inteligência artificial, mais especificamente à IA Generativa. Bing, ChatGPT, Gemini, DeepSeek, quantos de nós não solicitamos a estas ferramentas que nos apresentassem respostas já sistematizadas sobre dúvidas diversas, que nos escrevessem roteiros e projetos, ou produzissem imagens com base em descritores determinados? São as máquinas, a partir de bancos de dados gigantes, na casa dos bilhões de descritores, sendo programadas para, de forma autônoma, solucionar problemas e desenvolver produções textuais, imagéticas e sonoras. Segundo Alves (2023), a compreensão do papel da IA nos processos educativos demanda uma postura crítica, aberta à investigação do novo e que leve em consideração o estabelecimento de ambiguidades quanto aos aspectos positivos e negativos deste novo tipo de acesso à informação. É necessário que nos perguntemos sobre o impacto do uso da IA Generativa sobre a capacidade de aprendizagem e produção dos estudantes, sobre os rumos do trabalho docente e sobre a proteção de direitos identitários, compreendendo que para o bem ou para o mal, as consequências do uso da tecnologia estão ancoradas nas intenções humanas. De acordo com a autora, é importante compreendermos que, apesar do treinamento intenso e constantes aperfeiçoamentos, a IA não está imune a falhas, as chamadas alucinações, mais do que isso, é fundamental que, em uma busca por transparência, compreendamos como funcionam os algoritmos desta tecnologia, no que tange às respostas produzidas para nossas solicitações. Por fim, Alves (2023) nos orienta que, a despeito dos ganhos informacionais que acompanham a IA Generativa, não devemos fazer dela o nosso único caminho de pesquisa e produção de conhecimentos.
Qualquer definição de arte que se pretenda unânime, pode, em algum momento, se mostrar incompleta, no limite, a arte é uma dessas palavras que o sonho humano alimenta, não há ninguém que explique e ninguém que não entenda. (Meireles, 1977). Entretanto, independente do sentido que venhamos dar a ela, a Arte, como uma construção humana, não escapa ao enraizamento da cultura digital, pelo contrário, ela é como um sopro de ar que nos permite inspirar o digital e naturalizá-lo. Quantos de nós reflete sobre a tecnologia presente nos filmes que assistimos via streaming ou nas músicas que ouvimos através do YouTube ou do Spotify? Se acessamos, consumimos e não refletimos sobre, é porque incorporamos às nossas vidas como algo natural. Mas o que representa a digitalização da arte? Vamos conversar sobre isso?
Quaisquer que sejam suas formas, linguagens e conteúdos, a arte é uma expressão humana e se relaciona diretamente com a potência criativa desta espécie. De acordo com Gasparetto (2014), a arte contemporânea, para além de seus produtos, é caracterizada principalmente pelo entendimento de que o fazer, ou seja, o processo de produção, é, por si, uma construção artística. Uma segunda característica refere-se à compreensão de que se trata de uma arte inscrita em contínuos processos comunicativos associados à lógica da sociedade em rede (Cauquelin, 2005). Em relação a este último ponto, ainda como característica da arte contemporânea, é necessário apontar para a arte digital, uma de suas mais importantes expressões. Por arte digital pode ser compreendida a:
produção que alia interatividade, virtualidade e imersão, em diferentes níveis e tempo real, com base computacional, que está em processo e depende do interator, da obra, do artista, do “entorno digital” e do contexto onde está inserida para acontecer […] aquela em que artista, interator, e sistema computacional partilham um mesmo espaço, ao mesmo tempo, estabelecendo relações de troca, sinérgicas, mediadas pelas interfaces comunicacionais (Gasparetto, 2014, p. 46, 56).
Segundo Gasparetto (2014), embora experimentada desde a década de 1960, a arte digital se estabelece como linguagem corrente a partir da década de 1990, como resultado progressivo da popularização do uso do computador, da internet e de recursos como câmeras e softwares de edição de vídeo e de imagens digitais. Ao discorrer sobre a arte digital, Gasparetto (2014) nos diz do protagonismo do computador, máquina que inaugura novas formas de produzir e vivenciar a arte, seja na perspectiva daquele que a cria, ou daquele que, como público ativo, com ela se relaciona. Neste horizonte, o computador e suas funcionalidades devem ser lidos como sistemas, mecanismos pelos quais perpassa a concepção e a feitura técnica de uma obra, bem como sua exposição. Uma obra que, em termos potenciais, será acessada, compartilhada e comentada, e que circulará por geografias e tempos descentralizados em relação aos polos de saber.
A respeito da descentralização, é importante nos atentarmos ao fato de que, entre as diversas consequências sociais da popularização dos modos digitais de produção artística, pode ser observada a democratização de acessos, tanto da produção, quanto da fruição artística. Seguem alguns exemplos: não depender de uma grande gravadora para gravar e distribuir uma música ou um álbum porque isso pode ser feito em um estúdio caseiro, com bom isolamento e um bom computador, e lançado na internet; gravar um documentário com o celular, disponibilizar na internet e vê-lo ser acessado por pessoas de todo mundo; realizar uma exposição fotográfica e colocá-la à disposição de todos em uma galeria virtual. Trata-se de uma ampliação de acessos que, entre muitas outras perspectivas, pode ser compreendida na ótica do DIY (Do It Yourself), ou simplesmente Faça Você Mesmo, presente, por exemplo, em algumas produções do YouTube onde o criador de conteúdo é também o roteirista, o câmera, o diretor e o editor dos vídeos que grava.
Câmeras e gravadores digitais, robôs, mesas digitalizadoras, Inteligência artificial, softwares de áudio, vídeo e desenho, templates para o design de livros e histórias em quadrinhos, todos estes são instrumentos que, isoladamente ou em conjunto, cooperam para transformações em linguagens artísticas já consolidadas, ou para a criação de novas linguagens derivadas da plasticidade e da convergência das mídias digitais e da internet, como, por exemplo, a net ou web arte, a arte multimídia e a arte Interativa.
Ainda sobre as artes digitais, é muito importante que conversemos sobre o papel que esta desempenha no campo das relações políticas, tendo em vista a possibilidade de sua conexão com o ciberativismo, ou seja, com a construção e manifestação de posicionamentos políticos a partir do uso das mídias digitais e da internet. A esse respeito, podemos dizer que a arte digital possui as capacidades de produzir problematizações e desnaturalizar os poderes e as condições sociais vigentes, de ampliar o alcance dos discursos e, também, de sensibilizar, engajar e mobilizar para causas diversas.
Em suma, a arte digital diz do tempo em que é produzida e das pessoas que a produzem, nesta conjuntura, tanto para a obra, em sua materialidade e simbolismo, quanto para a elaboração da obra, em seu processo de criação e poética, o digital é assumido como recurso, experiência e linguagem.
Até o momento trilhamos um caminho no qual buscamos conceituar o que é a cultura digital e como ela se relaciona com a Educação e com as artes. Nosso próximo passo nos insere em um outro tema: a economia e, dentro dela, o empreendedorismo. Mas, por que precisamos conversar sobre isso? Pois bem, de maneira bastante simples, a economia se relaciona com a produção, distribuição e consumo de bens e serviços em uma sociedade, a partir dos recursos disponíveis para tal. Nossa sobrevivência material está completamente relacionada à economia, assim como a nossa relação com o trabalho também está, e, atualmente, não é possível pensar o trabalho sem nos atentarmos ao fato de estarmos inseridos em uma cultura digital.
O desenvolvimento tecnológico vinculado à computadorização, informatização e internetificação do mundo produziu e continua a produzir transformações intensas no âmbito do trabalho, seja em relação ao surgimento de novas profissões, tais como a de cientistas de dados e de desenvolvimento de softwares, desaparecimento de profissões já consolidadas, como é o caso dos cobradores de ônibus em algumas cidades e dos datilógrafos, e mudança no modo de realizar atividades, o que podemos exemplificar, por exemplo, a partir da produção de prontuários eletrônicos pelos médicos. Há, ainda, o desenvolvimento da Inteligência artificial, que automatiza uma série de tarefas, de simples a complexas, e coloca em risco milhões de empregos ao redor do mundo, o que nos leva a discussões sobre o desemprego estrutural e a renda mínima.
No contexto da cultura digital, o empreendedorismo, enquanto forma de organização do trabalho e produção de renda, corresponde à perspectiva de elaborar, a partir de ações estratégicas no campo dos negócios ou do desenvolvimento social, soluções e alternativas criativas para problemas e necessidades humanas.
De acordo com Almada e Silva (2025), uma das características do empreendedorismo na cultura digital é a plataformização da experiência de consumo de bens e serviços em áreas diversas, tais como o transporte e a alimentação. Quem nunca ouviu falar de iFood, 99 ou Uber? A plataformização, enquanto característica de um empreendedorismo digital, pode ser pensada a partir de duas vertentes, uma que se relaciona com o desenho e a operação das plataformas, tecnologias que tendem a gerar lucros na casa dos milhões e bilhões, e outra atrelada aos contextos de precarização laboral (Santos, 2022), visto que inúmeros trabalhadores se vinculam a estes instrumentos na condição de colaboradores, mas operam sem as mínimas garantias ou direitos laborais.
Podemos ver o empreendedorismo digital tanto no desenvolvimento de aplicativos de lazer, saúde, educação, design, música, artes visuais, vídeo, fotografia, entre outros, quanto na oferta de bens e serviços por trabalhadores que usam tais aplicativos como canais. O que precisamos compreender é que a cultura digital tem, progressivamente, operado transformações no perfil dos profissionais brasileiros, no tipo de bens e serviços produzidos e na circulação financeira.
Dito tudo isso, há algo que definitivamente não podemos deixar de falar, dentro do tema que estamos discutindo. O que seria? Ele, o empreendedorismo relacionado a todas as camadas profissionais envolvidas na produção de conteúdo e na comunicação e marketing digital. No presente, a internet, via plataformas de comunicação, tornou-se palco para as mais distintas manifestações que, na lógica da influência e da propaganda, comercializam produtos e ideias. Seja por sustentarem estilos de vida ou pontos de vista marcantes, serem especialistas em alguma temática, comunicadores fluentes, entre outros atributos, a figura do produtor de conteúdo e dos influenciadores é uma marca da cultura digital. Embora ainda seja realidade de uma minoria, o sucesso através desse tipo de exposição é almejado e reconhecido como possibilidade de empreendimento.
Até o momento falamos sobre o desenvolvimento do computador e citamos o binarismo 0 e 1 como linguagem de programação, mas, acerca deste assunto, há um outro termo sobre o qual devemos conversar: o software. Vamos entender melhor o que essa palavra significa? De acordo com a IBM, podemos considerar como software todo o programa que transmite ao computador uma instrução sobre o que fazer, ou seja, em paralelo a toda parte física do computador, nomeada como hardware, o software se refere à parte programável, que permite à máquina funcionar e realizar as tarefas que lhes são solicitadas. Entre os softwares podemos citar os de sistema, que gerenciam o hardware, como é o caso dos sistemas operacionais; os de programação, que sustentam a criação e manipulação de códigos por parte dos programadores; e os de aplicações, acionados sempre que o usuário demandar uma tarefa, tal como digitar um texto, preencher uma tabela, ouvir música, jogar, assistir um vídeo ou fazer cálculos, entre os inúmeros outros exemplos que poderiam ser citados.
Já deu para verificar que os softwares são parte essencial para o funcionamento de um computador e, sobre o modo como são produzidos, precisamos fazer duas distinções, pois existem os chamados softwares proprietários e os softwares livres. Vamos compreender melhor essa diferença, mas antes de tudo, importa ressaltar que se trata, sobretudo, de modos distintos de compreensão acerca de como deve ser dado o acesso das pessoas a essas ferramentas, levando em consideração perspectivas filosóficas, sociais, econômicas e políticas.
Silveira (2004) nos ensina que os softwares proprietários são assim chamados por serem desenvolvidos e comercializados por grandes empresas que detêm a propriedade intelectual e comercial destes produtos e de seus códigos fontes, explorando-os economicamente a partir da venda de licenças de uso, permanentes ou temporárias. Todo conhecimento utilizado no desenvolvimento de um software dessa categoria é considerado propriedade do desenvolvedor, fato que desencadeia duas consequências importantes: a primeira é o acúmulo de um vasto capital associado à comercialização de licenças e a segunda é a restrição do acesso a um tipo de conhecimento útil para a humanidade e estratégico em termos geopolíticos.
Já sobre os softwares livres, Silveira (2004, p. 5) argumenta que, antes de tudo, este é um movimento, iniciado nos anos de 1980, que tem como horizonte o compartilhamento do conhecimento tecnológico […] com vistas à distribution mais equitativa dos benefícios da chamada era da informação. De acordo com o autor, os softwares livres são caracterizados por quatro tipos de liberdade, a saber: uso, cópia, modificação e redistribuição. Nesta perspectiva de produção, os códigos-fonte dos programas, compreendidos como exemplos do conhecimento produzido pela humanidade, são lidos como bens públicos e, por isso, são colocados à disposição para quem quer que queira manipulá-los. Assentado em um modelo de desenvolvimento colaborativo, os softwares livres podem possuir múltiplos autores, membros de comunidades espalhadas pelo globo, mas não são considerados propriedade de ninguém.
Sobre a relação entre proprietários e livres, importa ressaltar, na perspectiva de Silveira (2014), que os softwares livres correspondem a um movimento para o qual o desenvolvimento de inteligências coletivas acerca do domínio de códigos-fontes possui importante valor econômico e social, tendo em vista a construção de soluções tecnológicas pelas nações e a não dependência de empresas proprietárias.
Como vimos na seção sobre licenças de softwares, a circulação da informação pela internet é marcada por discussões sobre direitos autorais, os quais correspondem a leis que protegem as pessoas ou grupos que criam uma determinada obra intelectual, regulando as condições de uso da mesma.
Na vastidão da internet, encontramos criações de diversas matrizes: imagéticas, textuais, sonoras, audiovisuais e, excetuando a produção das Inteligências artificiais, todas elas possuem autores originais, individuais ou coletivos. Estas criações se encontram à mercê de todo e qualquer tipo de manipulação e modificação, afinal, quem de nós nunca ouviu os famosos “recorta, copia e cola”? Nesse contexto, como ficam os direitos no que tange à reprodução das obras?
A esse respeito, vamos falar sobre o Copyright e o Copyleft, distintos modelos de proteção relativos aos usos e reproduções de obras intelectuais, sejam elas artísticas, científicas ou literárias. Segundo Fachin e Fachin (2022), o tradicional sistema copyright está relacionado à proteção da obra como um patrimônio, um bem material, e, nesse sentido, impacta diretamente nos processos de reprodução e comercialização que a envolvem. O copyright visa à proteção econômica e jurídica de quem detém ou adquire os direitos sobre uma obra e tem, sobre ela, controle exclusivo.
Por sua vez, o copyleft, na mesma direção que já estudamos sobre os softwares livres, refere-se a um sistema de licenças jurídicas material e filosoficamente orientadas para o compartilhamento de informações e para a liberdade de reprodução de uma obra, desde que também seja livre a reprodução das obras nela baseadas.
Segundo Lemos e Júnior (2006), na perspectiva do copyleft é importante que falemos sobre as Creative Commons, recurso que busca a expansão das obras criativas disponíveis ao acesso pelo público. As licenças Creative Commons buscam, em um mesmo movimento, proteger o direito dos autores e, dentro dos limites autorizados por estes, permitir a cópia e a distribuição das obras para fins não comerciais. De acordo com Lemos e Júnior (2006):
A partir do uso do sistema Creative Commons, é possível a autores de obras intelectuais (quer sejam textos, fotos, músicas, filmes etc.) licenciarem tais obras por meio de licenças públicas, autorizando, assim, a coletividade a usar suas obras dentro dos limites das licenças. (Lemos e Júnior, 2006, p. 13).
Nas discussões sobre copyright, por um lado, e copyleft e creative commons, por outro, o que vemos prevalecer são movimentos, ligados aos direitos autorais, que têm em seu centro compreensões distintas sobre o acesso e o compartilhamento de informações. Copyleft e Creative Commons caminham em direção a uma maior democratização do acesso e da produção do conhecimento, compreendendo que, se vivemos, nos formamos, aprendemos a pensar e a ver o mundo em sociedade, o que criamos bebe da coletividade.
Para finalizarmos nossa conversa sobre direitos autorais e cultura digital, precisamos, agora, falar de um assunto polêmico: a produção realizada pelas inteligências artificiais generativas. Como resguardar o direito autoral daqueles que desenvolveram as obras que alimentam a Inteligência artificial e a partir das quais essa concretiza o seu produto, seja ele textual, imagético ou sonoro? Este é um assunto demasiadamente sensível, mas não há, ainda, respostas definitivas para essa questão. Neste sentido, no ano presente, 2025, encontra-se em tramitação no Congresso Nacional do Brasil o Marco Regulatório da Inteligência artificial, um conjunto de medidas que, entre outros objetivos, buscam regular a relação entre Inteligência artificial e direitos autorais.
Vale tudo, dizia Tim Maia, um dos cantores mais populares do Brasil. Mas na internet, vale tudo mesmo? Não, nem tudo. Essa é uma afirmação que encontra sua base no Marco Civil da Internet, a saber: a Lei 12.965 aprovada em 2014. Trata-se de uma legislação que busca regular o uso da internet a partir de princípios, garantias, direitos e deveres ligados aos direitos dos consumidores e, sobretudo, à cidadania, tendo em vista questões como: relação entre clientes e provedores de internet, liberdade de expressão, neutralidade da rede, inclusão digital, uso seguro da rede e proteção da privacidade e dados pessoais dos usuários.
Um dos temas mais sensíveis no contexto do Marco Civil da Internet está atrelado à liberdade de expressão, dado que este é um direito constitucionalmente garantido e a internet se tornou um palco aberto para a expressão dos mais diversos pontos de vista sobre assuntos que vão, desde as condições físicas de uma pessoa ao espectro que esta defende no contexto das disputas políticas do país. Na internet se fala de tudo. Mas é tudo verdade? E as consequências do que se fala? De acordo com o marco, decisões judiciais podem requerer a remoção de conteúdos da internet se esses forem considerados ofensivos ou ilegais, levando em consideração, neste sentido, o equilíbrio entre liberdade e responsabilidade. A esse respeito, Júnior et al. (2018), afirmam que:
[…] se por um lado temos hoje a defendida democracia comunicacional decorrente da capacidade de emissão e recepção de informações em larga escala ao alcance de todos, por outro temos os riscos que isso traz. Passamos a acessar informações não somente por intermédio de profissionais e empresas de comunicação, mas de qualquer pessoa. Destarte, não há um filtro informacional. Tudo o que se deseja pode ser publicado no ciberespaço, mesmo que contra a vontade (e contra o direito) de outrem. [Neste sentido] o Marco Civil adquire primordial relevância, significado e aplicabilidade na mitigação dos conflitos advindos da sociabilidade humana em meio digital (Júnior et al., 2018, p. 116 – 115).
A seguir conversaremos melhor sobre isso, quando discutiremos sobre Big techs e regulamentação.
Se é polêmica que o mundo quer!!! É polêmica que teremos aqui! Poucas coisas nos tempos atuais têm levantado tantos debates, principalmente políticos, como este relacionado à regulamentação das Big techs, o que envolve, inclusive, assuntos relativos à soberania nacional.
Vamos lá, a primeira coisa que precisamos saber é: o que são Big techs? Segundo Pereira (2024), Big techs é como são chamadas as gigantes da tecnologia, empresas acessadas ou consumidas cotidianamente por bilhões de usuários ao redor do mundo e que, no plano econômico, possuem movimentos na casa dos trilhões de dólares americanos. Podem ser citadas como exemplos: a Microsoft, a Apple, a Amazon, o Google, a Meta, empresa que detém o Facebook, Instagram e WhatsApp, a Netflix e a Uber. Pare e pense: há, entre esses nomes, algum que seja desconhecido da grande maioria dos brasileiros?!
Mas, por que as big techs precisam ser regulamentadas, ou seja, por que deve haver leis que orientem o seu funcionamento dentro de um país? Ora, essa é uma resposta simples. Ainda conforme Pereira (2024), em função do número de usuários e do poder econômico que possuem, essas empresas têm a capacidade de impactar profundamente o funcionamento da sociedade como um todo e a vida dos indivíduos em sua particularidade. É notório que os tipos de serviços prestados por algumas dessas empresas podem ter influência direta sobre o modo como as pessoas pensam e se comportam. Também é sabido que muitas delas são usadas para fins comerciais por empresas e trabalhadores das mais diversas áreas que as utilizam para divulgar e prestar os seus serviços. Já pensou no impacto financeiro de uma semana sem o Zap, sem o YouTube, sem o Google Meet, sem o Instagram? Neste sentido, podem as big techs, com tanto poder, atuar sem regulação em um país soberano, que possui e defende as suas leis? Pode o país estar à mercê delas?
A regulamentação das big techs envolve questões como: o pagamento de impostos, a proteção de dados dos usuários e o controle de conteúdo. Sobre o tema da proteção de dados, é importante que compreendamos, de acordo com Pereira (2024), o fato de as Big techs realizarem coletas massivas de dados de consumo e de postagem dos usuários, prática que tem, entre outros objetivos, a busca pela alimentação das Inteligências artificiais envolvidas na moderação de conteúdos e na recomendação personalizada de produtos. A questão é: nos é informado de forma didática e de fácil compreensão os modos como isso é feito, bem como o destino dos nossos dados? É algo sobre o qual não podemos deixar de pensar.
Mas, agora, chegamos no que seja, talvez, o aspecto mais delicado. E se o instrumento de escolha de um presidente, governador ou prefeito, no caso as eleições, ou a manutenção de laços familiares e de amizade estiverem diretamente ameaçados pela difusão de informações falsas, as chamadas fake news? E se o bem-estar físico e mental de pessoas, individualmente ou em grupo, estiver diretamente ameaçado por discursos de ódio? E se a sociedade estiver se transformando em uma sociedade do ódio? De acordo com as Nações Unidas:
O discurso de ódio é um veneno. Alimenta preconceito, fomenta discriminação, incita violência e, em casos extremos, abre caminho para atrocidades em massa. Devemos enfrentá-lo juntos, com determinação e solidariedade. (Guterres, In: Nações Unidas Brasil, 2025)
É possível simplesmente ignorar o perigo de situações como essas? Tais perguntas são propositais, porque um dos aspectos mais delicados da regulação das Big techs se relaciona com a responsabilização das mesmas pelos conteúdos postados pelos usuários. Nesse sentido, tem-se, hoje, um debate social e político acirrado em torno da disputa entre, por um lado, quem defende uma liberdade de expressão irrestrita e, por outro, aqueles que compreendem que a liberdade de expressão deve obedecer a critérios como o respeito à dignidade humana e à soberania nacional e que as plataformas são responsáveis pelos conteúdos que deixam ao acesso do público. Atualizações na atuação da Agência Nacional de Proteção de Dados – ANPD e a Lei nº 15.211/2025, intulada ECA – Digital, são ações concretas para viabilizar a proteção aos usuários das plataformas digitais. O ECA Digital é focado na proteção dos direitos das crianças e adolescentes nas redes, enquanto as atualizações na alçada da ANPD ampliaram seus poderes para a regulação e aplicação de sanções às plataformas quando identificada a falha sistêmica no dever de cuidado, ou seja, quando há negligência por parte das mesmas em coibir a veiculação de conteúdos maliciosos.
Na seção anterior, conversamos sobre a cultura digital na perspectiva dos direitos autorais, da regulação do uso da internet e da atuação das big techs. Agora, vamos caminhar um pouco mais e discutir sobre cultura digital e Direitos Humanos. Faremos essa conversa a partir de dois movimentos, primeiro enfatizando os Direitos Humanos como nós os conhecemos hoje e, em seguida, abordando os chamados Direitos Humanos Digitais.
De acordo com Souza (2018), o conjunto dos Direitos Humanos aos quais fazemos referência, hoje, remontam à Declaração Universal dos Direitos Humanos (DUDH), proclamada em 1948 pela Organização das Nações Unidas como resposta direta aos genocídios e violações de direitos individuais ocorridos nos contextos que envolvem a Segunda Guerra Mundial. Trata-se de um documento, composto por 30 artigos, que reúne os direitos que devem ser assegurados para todas as pessoas, em qualquer lugar do mundo, com vistas ao respeito à dignidade humana. No grupo dos direitos apontados pela DUDH, podem ser citados: o direito à liberdade de ir e vir, de pensamento e de trabalho, o direito à igualdade perante a lei, à liberdade política e religiosa, ao lazer, educação, cultura, trabalho remunerado, seguridade social, entre outros.
Embora não tenha força de lei, a DUDH, conforme Souza (2018), é assinada por 192 países e firma-se como base para constituições nacionais e tratados internacionais. Cabe a cada país a garantia dos direitos humanos em seu território, mas, na prática, a efetivação dos mesmos esbarra em diversos entraves relacionados, principalmente, à falta de vontade política.
No bojo da relação entre cultura digital e direitos, Rocillo (2021) nos informa que a inclusão digital se relaciona com os Direitos Humanos a partir de duas perspectivas: uma que enxerga a inclusão como um direito por si mesmo e outra que a enxerga como meio para o acesso a outros direitos. Para os que defendem a primeira perspectiva, o acesso a computadores e à internet, no contexto da Sociedade em Rede, é condição essencial para o pleno desenvolvimento dos sujeitos e, neste sentido, pode ser considerado como um direito fundamental. Para os que defendem a segunda perspectiva, internet e computadores, enquanto tecnologia, não podem, por si, ser considerados como um direito humano, assim como não pode ser considerado direito humano a posse de um carro, também compreendido como aparato tecnológico; neste sentido, a inclusão digital é vista apenas como um meio para alcançar o que de fato são considerados como direitos fundamentais, tais, como exemplo, a educação, o trabalho, o lazer, a cultura e a saúde.
Seja como um direito fundamental, seja como um meio para o acesso a direitos, precisamos compreender o quão essencial é, na contemporaneidade, a inclusão digital, condição a ser universalizada a partir de políticas públicas que garantam o acesso a computadores e internet para toda a população. Mas não se trata somente de acesso, também é preciso levar em consideração a necessidade do letramento digital, que corresponde à aquisição das habilidades requeridas para manusear, de forma crítica, os recursos tecnológicos digitais. Referenciando List, Brant e Klee (2020), Neto e Carvalho (2022) informam que, entre múltiplas definições possíveis, pode-se compreender o letramento digital como uma construção que:
mobiliza não só as dimensões técnica e cognitiva da aprendizagem, mas também uma outra ainda pouco considerada: a socioemocional. Assim, nessa interseção tríplice, a dimensão técnica relaciona-se às habilidades operacionais de utilização de ferramentas digitais tanto em contexto educacional como no cotidiano; a cognitiva, às habilidades para analisar criticamente as informações que derivam de ambientes digitais; e a socioemocional, por sua vez, à capacidade de os sujeitos utilizarem as Tecnologias Digitais da Informação e Comunicação (TDICs) de maneira ética, responsável e colaborativa (Neto; Carvalho, 2022, p. 3).
Para além desta discussão que vincula a Cultural Digital aos Direitos Humanos como tradicionalmente os concebemos, vamos conversar agora sobre um debate recente, que aponta para a necessidade de se pensar em Direitos Humanos Digitais, levando em consideração as condições próprias da realidade vivenciada a partir do ciberespaço e como essa realidade desafia o respeito e a garantia dos direitos humanos.
Segundo Borges (2024), a Organização das Nações Unidas (ONU) compreende que, no presente, a DUDH é insuficiente para garantir, no ciberespaço, a proteção aos direitos humanos. Nesta perspectiva, em função das diferenças entre o ambiente digital e o ambiente físico, a criação dos chamados Direitos Humanos Digitais responderia à demanda pela construção de normas suficientemente capazes de proteger e suprir as necessidades essenciais dos sujeitos no ambiente digital.
Até agora trilhamos um caminho fértil sobre a cultura digital e alguns dos seus principais aspectos técnicos e principalmente sociais, tendo como foco temas relacionados à ética e aos direitos humanos. Agora avançaremos mais um pouco e nos concentraremos em temas relativos ao impacto das Inteligências artificiais na sociedade contemporânea.
Uma vez estabelecidos e disseminados os avanços da Inteligência artificial via sistema Machine Learning (Aprendizado de Máquina), e com o surgimento do ChatGPT (CHAHAD; ISSA, 2024) e outras ferramentas similares, como o Gemini e o DeepSeek, o mundo se vê, hoje, novamente em meio a uma revolução tecnológica. Uma revolução capaz de transformar o padrão das relações sociais em diversas frentes, tal como nos diz Cruvinel (2024):
A velocidade de processamento de informações e dados está revolucionando diversos setores da sociedade, impactando áreas como educação, saúde e transportes. Essa transformação acelerada é liderada pela IA – Inteligência artificial, uma tecnologia que tem avançado rapidamente e alterado profundamente o modo como vivemos e trabalhamos. (Cruvinel, 2024)
Conforme Chahad e Issa (2024), em relação ao desenvolvimento e ao uso destes novos modelos de Inteligência artificial, tem-se o receio de que venham a produzir quadros de desemprego em massa. E é sabido que, independente da concretização destas previsões, novos requisitos de formação serão demandados dos trabalhadores, requisitos, estes, de dois tipos: um atrelado às habilidades requeridas para o desenvolvimento e manutenção das IAs e outro referente às habilidades de uso das IAs como ferramentas de trabalho. De acordo com Chahad e Issa (2024), diferente de processos de automatização anteriores, que incidiram sobre atividades manuais, as novas Inteligências artificiais incidem principalmente no desenvolvimento de atividades que, até então, tinham como requisito a atuação de profissionais com maior grau de especialização.
Associada à lógica do trabalho em diversos campos, é possível constatar a influência paradoxal da IA sobre áreas como: meio ambiente, saúde e direitos. Nesse sentido, conforme Bento (2025), compreende-se que, se por um lado, a Inteligência artificial se mostra importante na preservação ambiental, principalmente em relação ao monitoramento de ecossistemas, por outro, ela representa danos ao meio ambiente por demandar um uso vultuoso de energia.
No campo da saúde, Bartholomeu (2024) nos informa que a Inteligência artificial tem atuado positivamente na construção de diagnósticos e prevenção de doenças, no monitoramento das condições de saúde e sinais vitais e no auxílio às decisões clínicas, tendo em vistas fatores como: o aumento na velocidade, na assertividade e na eficiência dos processos, bem como a melhoria da experiência dos pacientes. Contudo, segundo o mesmo autor, é importante atentar-se aos desafios éticos e regulatórios quanto ao uso de IA na área da saúde, tendo em vista: a necessidade de segurança, privacidade e transparência em relação ao uso e armazenamento dos dados dos pacientes, a capacitação contínua dos profissionais e o uso de indicadores de desempenho que monitorem os impactos da IA.
Podemos refletir, ainda, sobre os impactos da IA em relação aos direitos civis, e, neste caso, nos deteremos em uma discussão sobre o direito à privacidade no contexto da segurança pública. No que diz respeito a esse tema, Pinheiro (2024) nos informa acerca do forte impacto causado nas liberdades individuais pelas políticas criminais assentadas no uso das novas tecnologias, tendo em vista o desenvolvimento de sistemas direcionados à vigilância, ao reconhecimento facial e à predição comportamental. Segundo o autor, as pessoas, no geral, entendem a vigilância como algo inevitável e até mesmo desejável, mas não estão conscientes, por exemplo, sobre como se dá o uso dos dados de si que são coletados. Este é mais um exemplo da ambiguidade contínua entre os riscos e as potencialidades positivas das novas tecnologias, em especial a Inteligência artificial.
A partir das situações apresentadas, concernentes ao meio ambiente, à saúde e aos direitos civis, podemos afirmar que, em suma, os impactos da IA no conjunto da sociedade dependem diretamente da intenção com que a tecnologia é utilizada, da presença ou ausência de respeito e cuidado em relação aos usuários e seus dados, e, por fim, do papel que, ao cabo, o Estado desempenha como regulador.
ALMADA, P. E. R.; SILVA, C. R. S. Cultura de consumo e capitalismo de vigilância: o comportamento de compra através da plataformização digital. Sociedade e Cultura, v. 28, 26 jun. 2025.
ALVES, L. Inteligência artificial e Educação: refletindo sobre os desafios contemporâneos. Feira de Santana: Ed. UEFS; Salvador: Ed. Edufba, 2023.
BACIC, N. M. O software livre como alternativa ao aprisionamento tecnológico imposto pelo software proprietário. 2003. Monografia (Graduação em Computação) – UNICAMP, São Paulo, 2003.
BARTHOLOMEU, A. B. A revolução da inteligência artificial na saúde: impacto, oportunidades e desafios pelo mundo. Revista Qualidade HC, ed. 12, Ribeirão Preto, 2024.
BEMBEM, A. H. C.; SANTOS, P. L. V. A. C. Inteligência coletiva: um olhar sobre a produção de Pierre Lévy. Perspectivas em Ciência da Informação, v. 18, n. 4, p. 139–151, dez. 2013.
BENTO, A. V. Qual o impacto da inteligência artificial no meio ambiente? Mata Nativa, 2025. Disponível em: https://matanativa.com.br/__trashed/. Acesso em: 22 ago. 2025.
BORGES, G. Direitos humanos digitais: o futuro é agora. Migalhas, 2024. Disponível em: https://www.migalhas.com.br/coluna/migalhas-de-responsabilidade-civil/410586/direitos-humanos-digitais-o-futuro-e-agora. Acesso em: 22 ago. 2025.
CALDAS, D. Falta de transparência é a principal barreira para o uso ético das inteligências artificiais na arte. Jornal da USP, 2024. Disponível em: https://jornal.usp.br/radio-usp/falta-de-transparencia-e-a-principal-barreira-para-o-uso-etico-das-inteligencias-artificiais-na-arte/. Acesso em: 22 ago. 2025.
CASTELLS, M. A sociedade em rede. São Paulo: Paz e Terra, 1999.
CHAHAD, J. P. Z.; ISSA, T. L. Avanços recentes da inteligência artificial: impactos trabalhistas, sociais e regulatórios. Jornal da USP, 2024. Disponível em: https://jornal.usp.br/artigos/avancos-recentes-da-inteligencia-artificial-impactos-trabalhistas-sociais-e-regulatorios/. Acesso em: 22 ago. 2025.
COMO combater o discurso de ódio nas redes sociais? Nações Unidas Brasil, 2025. Disponível em: https://brasil.un.org/pt-br/249816-como-combater-o-discurso-de-%C3%B3dio-nas-redes-sociais. Acesso em: 22 ago. 2025.
COUTINHO, D.; RICO, R. BNCC traz cultura digital para sala de aula. Nova Escola. Disponível em: https://novaescola.org.br/bncc/conteudo/9/competencia-5-cultura-digital. Acesso em: 22 ago. 2025.
CRUVINEL, S. A revolução da inteligência artificial: benefício e desafio da tecnologia. Migalhas, 2024. Disponível em: https://www.migalhas.com.br/depeso/417719/revolucao-inteligencia-artificial-beneficio-e-desafio-da-tecnologia. Acesso em: 22 ago. 2025.
DIREITO autoral e Copyright: qual a diferença entre os dois? Jusbrasil. Disponível em: https://www.jusbrasil.com.br/artigos/direito-autoral-e-copyright-qual-a-diferenca-entre-os-dois/1661436367. Acesso em: 22 ago. 2025.
ESCOLA SUPERIOR DO MINISTÉRIO PÚBLICO DA UNIÃO (ESMPU). ESMPU lança guia sobre uso ético e seguro da inteligência artificial generativa. ESMPU, 2025. Disponível em: https://escola.mpu.mp.br/a-escola/comunicacao/noticias/esmpu-lanca-guia-sobre-uso-etico-e-seguro-da-inteligencia-artificial-generativa. Acesso em: 22 ago. 2025.
FACHIN, Z.; FACHIN, J. O direito de autor e os sistemas copyright e droit d’auteur. Revista de Direitos e Garantias Fundamentais, v. 23, n. 1, p. 237–262, 21 out. 2022.
IA e propriedade intelectual: regulamentação precisa garantir direitos autorais. Senado Federal, 2024. Disponível em: https://www12.senado.leg.br/radio/1/noticia/2024/07/08/ia-e-propriedade-intelectual-regulamentacao-precisa-garantir-direitos-autorais. Acesso em: 22 ago. 2025.
JUNIOR, I. F. B.; GALLINARO, F.; SAMPAIO, V. G. R. Marco Civil da Internet e direito à privacidade na sociedade da informação. Revista Direito, Estado e Sociedade, n. 52, 10 set. 2018.
KAUFMAN, D.; SANTAELLA, L. O papel dos algoritmos de inteligência artificial nas redes sociais. Revista FAMECOS, v. 27, p. 34074, 29 maio 2020.
LEMOS, R.; BRANCO JÚNIOR, S. V. Copyleft, software livre e Creative Commons: a nova feição dos direitos autorais e as obras colaborativas. Revista de Direito Administrativo, v. 243, p. 148–167, 1 jan. 2006.
LEMOS, S. STF e a regulação das big techs. Jornal da USP, 2025. Disponível em: https://jornal.usp.br/radio-usp/stf-e-regulacao-das-big-tech/. Acesso em: 22 ago. 2025.
LÉVY, P. Cibercultura. São Paulo: Ed. 34, 1999. Disponível em: https://mundonativodigital.wordpress.com/wp-content/uploads/2016/03/cibercultura-pierre-levy.pdf. Acesso em: 22 ago. 2025.
MEIRELES, C. Romanceiro da Inconfidência. Rio de Janeiro: Nova Aguilar, 1977.
NETO, N. V. L.; CARVALHO, A. B. Letramento digital: breve revisão bibliográfica do limiar entre conceitos e concepções de professoras e de professores. Texto Livre, v. 15, p. e40207, 13 out. 2022.
PEREIRA, L. M. A regulamentação das big techs no Brasil e sua responsabilidade pelo combate ao discurso de ódio: perspectivas e desafios. 2024. Monografia (Graduação em Direito) – Universidade do Estado da Bahia, Camaçari, 2024.
PINHEIRO, F. M. L. O papel da tecnologia e da inteligência artificial na segurança pública: desafios e convergências com os direitos fundamentais individuais e sociais. Revista do Ministério Público do Estado do Rio de Janeiro, n. 94, out./dez. 2024.
ROCILLO, P. Reflexões sobre o direito à inclusão digital. Instituto de Referência em Internet e Sociedade, 2021. Disponível em: https://irisbh.com.br/reflexoes-sobre-o-direito-a-inclusao-digital/. Acesso em: 22 ago. 2025.
SANTAELLA, L. Pós-digital: por quê? Lucia Santaella Oficial. Disponível em: https://luciasantaellaoficial.com/f/p%C3%B3s-digital-por-qu%C3%AA. Acesso em: 22 ago. 2025.
SANTOS, J. V. Trabalho em plataformas digitais: um empreendedorismo que leva à miséria. Instituto Humanitas Unisinos, 2022. Disponível em: https://www.ihu.unisinos.br/categorias/618089-trabalho-em-plataformas-digitais-um-empreendedorismo-que-leva-a-miseria. Acesso em: 22 ago. 2025.
SENADO Federal aprova marco regulatório da inteligência artificial. GOV.BR, 2024. Disponível em: https://www.gov.br/cultura/pt-br/assuntos/noticias/senado-federal-aprova-marco-regulatorio-da-inteligencia-artificial. Acesso em: 22 ago. 2025.
SILVEIRA, S. A. Software livre: a luta pela liberdade do conhecimento. São Paulo: Fundação Perseu Abramo, 2004.
SOBRE as licenças. Creative Commons. Disponível em: https://br.creativecommons.net/licencas/. Acesso em: 22 ago. 2025.
SOUZA, I. Direitos humanos: o que são e como surgiram? Politize!, 2018. Disponível em: https://www.politize.com.br/direitos-humanos-o-que-sao/. Acesso em: 22 ago. 2025.
Fernanda de Paula Carvalho
Partindo da noção de subjetividade na perspectiva histórico-cultural compreendemos que quem somos e como vivemos se constroem nas experiências concretas e materiais da vida, na relação dialética eu-outro, na cultura, e é também histórica e mediada pela linguagem e pela emoção. Neste sentido, não há possibilidade de separarmos na contemporaneidade a constituição das subjetividades das diversas relações que estabelecemos ao longo da vida. E o que caracterizaria melhor a contemporaneidade do que as relações e experiências que hoje vivenciamos intermediadas por dados, algoritmos e plataformas digitais?
Em menos de dez anos, experiências com as tecnologias que eram possíveis somente a partir de experimentos e com recursos financeiros e tecnológicos específicos, passaram a ser uma realidade de muitos, fazendo parte cada vez mais das nossas vidas, transformando modos de vida e todos nós (Turkle, 2011). Para existir, tornou-se necessário se apresentar, ser visto, estar conectado (Quijano, 2018). Dessa forma estamos sendo modificados em várias dimensões, desde as formas de nos relacionar com a arte, política, família, trabalho, mercado como também com nossos modos de produzir saúde e também adoecer.
Definir o que é saúde e doença há tempos é um desafio às Psicologias. Perspectivas mais críticas e contemporâneas sustentam a impossibilidade de separar adoecimentos de contextos históricos e culturais, o que significa compreender a saúde mental ou mais especificamente o adoecimento mental como um produto social, e não meramente efeitos biológicos, químicos, internos de um organismo. Como também não é possível compreendê-los somente a partir de determinismos externos/sociais, mas considerar a condição dialética deste processo que envolve o indivíduo e o social/cultural/histórico.
A ideia é compreender o adoecimento mental a partir do fato de que é o homem que tem a doença, não a doença que tem o homem. Portanto, é preciso tirar o foco da doença em si, e atentar para o primeiro: o homem e seu contexto de vida, onde sua atividade psíquica, social e consciente se desenvolve, ou sofre alterações (Paula, Belém, 2020, p.46).
Sendo assim, a sociedade contemporânea, marcada pela fluidez, pelo individualismo radical e pela exigência de performance, produziu novas formas de sofrimento psíquico (Birman,1999) e sobre isso encontramos muitas contribuições das Tecnologias Digitais de Informação e Comunicação -TDIC de maneira geral.
Palfrey e Gasser (2011) nomeiam como nativos digitais a primeira geração que desde o nascimento cresceu usando computadores, videogames, ouvindo música através de recursos digitais, tirando fotos e fazendo vídeos digitais, usando aparelhos celulares e brinquedos também digitais, sendo portanto, nativos da linguagem digital (Presky, 2001). Conhecidos como aqueles que nasceram depois de 1980 e tiveram acesso e desenvolveram habilidades para usar as tecnologias digitais, são sujeitos que constituíram formas diferentes de estudar, de se comunicarem, se relacionarem, de trabalhar, etc. Estão sempre conectados e o elemento híbrido (on-line/off-line) não está mais em destaque, pois se relacionam naturalmente com uma linguagem digital e passam grande parte de suas vidas no mundo on-line. Podemos considerar, hoje em dia, que todos somos nativos digitais?
Dentre várias outras consequências (positivas e negativas) e em certa medida sem prever muito as consequências, as pessoas (nomeadas de nativos digitais ou não) estão constituindo dossiês digitais sobre si, alimentado tanto pelo que se escolhe voluntariamente e intencionalmente compartilhar, por exemplo, informações, textos e fotos postadas em seus perfis pessoais ou sites públicos, como também por dados produzidos nos acessos em redes diversas ou até na circulação pelas cidades- suas tatuagens digitais. (Carvalho, 2024).
Pegadas na areia, anotações em cadernos, agendas, álbuns de fotos e até nossas impressões digitais são exemplos comuns de como ao longo da vida podemos deixar rastros (voluntários ou não) pelos espaços que passamos. Rastros que se tornam possibilidade de registro de nossas vivências, experiências, lugares, histórias e até identidades. Há algum tempo, as experiências em ambientes digitais vêm nos apresentando outras possibilidades de registros de nossas ações, comportamentos, opiniões e interesses, e, voluntariamente ou não, tudo que fazemos online deixa potencialmente um vestígio da nossa presença (Bruno, 2013, 2016; Santaella, 2016; boyd, 2014; Carvalho, 2024).
Assim, o que está nas nossas redes sociais, o que se escolhe intencionalmente postar, curtir, comentar e aquilo que é relacionado por outros a si, como marcações, fotos, comentários, vão constituindo apresentações, que capturadas pelos algoritmos alimentam um vasto banco de dados sobre nós. Quanto mais informações existem de nós ou sobre nós, mais capturados estaremos pelos algoritmos das IAs. Em alguns casos o alcance a esses dados armazenados em sistemas da rede não é tão acessível aos próprios donos, mas os dados estão à disposição de determinados grupos ou pessoas, que, a partir dos manejos existentes nas políticas de privacidade dos sites, serviços e demais sistemas, podem acessar e fazer diferentes usos dessas informações – os big data.
Em certa medida, essas experiências não mais separadas entre o online e o offline vem produzindo efeitos, que quando pensados em termos de saúde mental, estão sendo apresentados de diferentes formas. Os estudos apresentados por Ferreira (2022) no livro “A geração do quarto” apontam elementos relevantes que caracterizam um determinado grupo de adolescentes e jovens brasileiros, que ajudam a ilustrar essa discussão. Para o autor, a geração do quarto representa meninos e meninas de 11 a 18 anos, que passam cerca de seis horas por dia dentro de seus quartos, que estão fragilizados emocionalmente e que podem apresentar comportamentos perigosos. São experiências de um grupo de adolescentes na contemporaneidade que estão adoecidos, tanto fora como dentro das redes sociais. Dentro de suas casas sentem-se sós, abandonados pelos pais, estes que estão correndo atrás dos ideais das gerações anteriores como o trabalho, a casa própria, a independência (muitas vezes também adoecidos). São adolescentes sem experiências de conversas e atividades com o grupo familiar, terceirizados no sentido da educação, do cuidado, do acompanhamento e do afeto, que os conduzem para dentro de seus quartos. Fora dos quartos a solidão se apresenta em comportamentos violentos e perigosos contra eles próprios e também contra os outros.
Apesar do recorte na adolescência proposta por Ferreira (2022) é possível discutir esse adoecimento para além deste grupo. É importante pensar sobre “estar no quarto”, que se refere simbolicamente a um estado de sofrimento psicológico de alguém que precisa de ajuda e que apesar de uma vida conectada vivencia um estado de “exílio virtual” (Ferreira, 2022), encontram-se com um mundo todo dentro dos seus celulares e computadores, mas não se encontram com os que se importam consigo. O que pode acabar sendo “resolvido”, por exemplo, com o uso dos chatbots como conselheiros ou até como recurso terapêutico.
Mas o que são os chatbots?
(…) programas de computador, conhecidos como “chatbots terapêuticos” ou “agentes conversacionais”, utilizam Inteligência artificial (IA) para simular uma conversa e oferecer algum tipo de apoio emocional ou de autoajuda. Eles estão se tornando cada vez mais populares por uma série de razões que tocam em necessidades muito reais da nossa sociedade: a busca por ajuda acessível e de baixo custo em meio a uma enorme demanda reprimida por cuidados psicológicos; a conveniência de ter um suporte disponível a qualquer hora do dia ou da noite; e a promessa de um espaço anônimo e livre de julgamentos, que permite a muitas pessoas contornar o estigma que infelizmente ainda cerca a saúde mental. (Conselho Federal de Psicologia, 2025)
Levantamentos recentes mostram que, na contemporaneidade, cerca de 48,7% das pessoas que interagem com sistemas de inteligência artificial e relatam sofrimento psíquico recorrem, por exemplo, ao ChatGPT como um meio de busca por suporte terapêutico (Tawil, 2025). Além destes modelos de linguagem genéricos de acesso gratuito como ChatGPT da OpenAI, a interface Gemini do Google e Copilot da Microsoft, outros recursos de IA também são utilizados como o Character.ai, chatbots que permitem conversas com diferentes personagens e entre eles há dezenas identificados para escuta emocional a partir do estilo “terapeuta” ou “psicólogo” (O GLOBO, 2025).
O primeiro ponto a que quero chamar atenção aqui é para a forma como essas IAs (chatbots) organizam e apresentam suas contribuições para as conversas “terapêuticas” ou até na produção de “diagnósticos”.
O uso de tais ferramentas de inteligência artificial para fins de diagnóstico psicológico, avaliação psicológica e psicoterapia por parte do usuário, pode gerar uma fragilidade ou agravamento do quadro de saúde mental, adiando ou impedindo a busca por tratamento profissional adequado. (CFP, 2025, p.5).
Será realmente terapêutico?
Diante do universo de informações acumuladas, os chatbots podem apresentar informações capturadas em bancos de dados científicos, mas também criadas/alucinadas pela própria IA, ou seja, os algoritmos podem errar, causando danos psicológicos graves. Alguns riscos pesquisados e documentados são, por exemplo, a indução a comportamentos destrutivos, conselhos perigosos, endosso a ideias nocivas, validação de delírios (CFP, 2025). Em geral, existem riscos que se relacionam ao fato de que as IAs são programadas para favorecer o engajamento do usuário e dessa forma precisam ser agradáveis a partir da “validação compulsiva”, ou seja, dizer o que a pessoa quer ouvir. Exemplos são as IAs que utilizam chatbots de áudios que desenvolvem um modo de falar, palavras e estilos em referência ao que é comunicado com elas, ou seja, conversam com a gente no nosso modo de conversar, com nossas expressões e palavras, que fazem aproximar muito o que escutamos do que gostaríamos de escutar, não somente em conteúdo, mas também na forma.
Outro ponto que quero chamar atenção sobre o uso dos chatbots é o viés algorítmico, que rompe com a ideia de neutralidade no uso de dados e tecnologias. Todos os dados e informações que alimentam e treinam as IAs e são referência para a construção das “conversas terapêuticas e diagnósticos” são geradas pelos próprios usuários (vários), ou seja, por todos nós. Assim, se vivemos em sociedades ainda machistas, racistas e estruturadas em concepções preconceituosas, discriminatórias e desiguais, é esse o conteúdo que será também apresentado. Além disso, no caso do Brasil, encontramos a realidade de que a grande maioria dos chatbots e modelos de IAs utilizados são desenvolvidos e treinados nos Estados Unidos e na Europa, o que distancia ainda mais os conteúdos de nossas realidades. O viés, no caso da discussão da saúde mental, traz consequências reais no reforço de estereótipos e invalidando a experiência do usuário, como no caso de questões de gênero, raça e população LGBTQIAPN+, como também o aprofundamento das desigualdades, referenciando-se sempre em grupos identificados como padrão (ocidental, branco, classe média, alta escolaridade)(CFP, 2025).
É também importante e necessária a reflexão de que este número expressivo de pessoas que vem buscando os chatbots para fins terapêuticos evidencia as fragilidades em relação ao acesso a serviços de saúde mental e atendimentos psicológicos. Apesar de todos os avanços no sentido da ressignificação do lugar da pessoa com sofrimento mental na contemporaneidade e dos avanços no campo das legislações que garantem serviços e espaços no campo da saúde pública no Brasil, como a Portaria nº 3.088, de 2011, que institui a RAPS – Rede de Atenção Psicossocial para pessoas com sofrimento ou transtorno mental, os limites e as barreiras ainda permanecem claros. No campo econômico é evidente que a grande maioria da população brasileira tem dificuldade de pagar um atendimento psicológico particular (uma consulta pode custar de 225,58 reais a 386,72 reais, segundo a Tabela de Referência Nacional de Honorários dos Psicólogos – vigência em 1º Julho/2025 disponibilizada pelo Conselho Federal de Psicologia) e infelizmente os limites quanto à falta de infraestrutura e financiamento adequado para serviços de saúde mental pública são também reais (Weber, da Silva, 2025). E, no campo cultural podemos citar os persistentes preconceitos quanto a procurar ajuda para questões emocionais/psicológicas a partir das representações sociais como fraqueza, fragilidade ou até bobagem.
No contexto dos avanços legislativos que impactam as interações em ambientes digitais, como o uso de chatbots, podemos citar a Lei nº 14.811/2024 que estabelece um marco ao expandir e agravar a punição de violências cometidas em qualquer aplicativo ou meio digital instituindo medidas de proteção à criança e ao adolescente. A nova legislação responde a situações e contexto complexos como o cyberbullying e a indução, instigação ou auxílio a suicídio ou automutilação por meio de computadores, redes sociais ou transmitidos em tempo real estabelecendo sanções consideravelmente mais severas. O texto tipifica a intimidação sistemática virtual (cyberbullying) com pena de reclusão, criando um mecanismo jurídico que incide diretamente sobre o ecossistema tecnológico onde essas interfaces conversacionais operam, visando coibir a propagação de violências e incentivos a danos à vida. Sendo assim, reconhecendo tais conteúdos, a IA deve seguir um protocolo exigido e, por exemplo, direcionar a conversa para serviços gratuitos de apoio emocional no Brasil como o CVV – Centro de Valorização da Vida.
Embora a Lei nº 14.811/2024 tenha foco na proteção de crianças e adolescentes (modificando, por exemplo, o Estatuto da Criança e do Adolescente), as alterações feitas no Código Penal por ela aplicam-se à proteção de qualquer pessoa, independentemente da idade. Quando vítimas, os crimes de induzimento, instigação ou auxílio ao suicídio ou à automutilação (Art. 122 do Código Penal) e o cyberbullying (Art. 146-A do Código Penal) protegem tanto adultos quanto crianças, adolescentes e jovens. Sendo assim, se um adulto for vítima de estímulo ao suicídio por meio de redes sociais ou algoritmos/chatbots, o aumento de pena prevista pela lei é aplicada da mesma forma. A responsabilização criminal também recai sobre quem pratica a conduta (seja pessoa física por trás de um perfil ou os criadores/administradores de ferramentas e comunidades virtuais). No caso de inteligências artificiais e chatbots, a responsabilidade penal recai sobre as pessoas físicas ou jurídicas responsáveis pela programação, operação ou moderação inadequada que permitam ou facilitem essas condutas lesivas.
Em resumo, a regulação normativa e a responsabilização jurídica das plataformas representam passos fundamentais para conter a disseminação de violências digitais e atenuar os riscos decorrentes de interações automatizadas desreguladas. Contudo, a garantia de uma proteção integral exige que o rigor da lei seja acompanhado por um fortalecimento estrutural das redes públicas de atenção à saúde mental e por uma contínua reflexão crítica sobre a mediação algorítmica. Somente ao articular mecanismos de responsabilização, ampliação do acesso ao cuidado humano profissional da saúde mental e letramento digital será possível analisar e intervir no sofrimento psíquico na contemporaneidade assegurando ambientes virtuais éticos, seguros e compromissados com a dignidade de todos os sujeitos.
Já compreendemos que as inteligências artificiais são complexas e passíveis de auxílios e enganos. No campo da saúde mental devemos ser vigilantes e tomar alguns cuidados para não nos colocarmos em situações de risco. Abaixo listamos algumas dicas para as boas práticas nos usos das IAs, especialmente os dos chatbots, os robôs de conversação que têm sido utilizados como companheiros e confidentes de muitas pessoas ao redor do mundo.
Escolha aplicativos especializados: se for utilizar um chatbot, busque ferramentas produzidas especificamente para o cuidado da saúde mental, pois apps genéricos têm menor capacidade de oferecer um suporte apropriado para suas demandas;
Verifique a procedência do aplicativo: identifique o desenvolvedor, sua idoneidade, possíveis avaliações nas plataformas digitais e se existem canais de contato para eventuais problemas;
Confira a política de privacidade: verifique se dá a transparência nas informações de como os desenvolvedores do chatbot abordam o uso e o compartilhamento dos seus dados;
Verifique os processos de exclusão de dados: garanta que as alterações e o cancelamento de sua conta sejam processos transparentes e de forma simples para evitar situações abusivas.
Pertinência cultural: certifique que os aplicativos em uso funcionam de acordo com a realidade brasileira. Procure se informar se os dados de treinamento do modelo de IA refletem nossa realidade com suas oportunidades e complexidades.
Cuidado com as promessas milagrosas: como diz o ditado, “quando a esmola é demais, o santo desconfia”. Aplicativos que prometem curas milagrosas ou soluções instantâneas não são confiáveis. Saúde mental é coisa séria e complexa de se cuidar.
Fique alerta: chatbots são programados para entregar respostas e engajar nossa atenção, por isso reforçam nossas crenças e cometem erros para cumprir sua programação. Evite seguir conselhos sobre questões importantes e tenha crítica sobre o que lhe é dito nas conversas. Eles são robôs, não são seus médicos.
Conheça o protocolo de crise do app: todo aplicativo de conversação alimentado por IAs deve disponibilizar de forma clara, um protocolo de crise que encaminhe o usuário para uma ajuda humana, na ocorrência de sinais de perigo à vida.
Busque redes de apoio apropriadas: chatbots não têm sentimentos, nem emoções, portanto não são a solução para casos de sofrimento extremo e crises. Para obter ajuda nesses casos, procure ajuda humana gratuita no Centro de Valorização da Vida – CVV (188) ou mesmo no Serviço de Atendimento Móvel de Urgência – SAMU (192).
Sabemos que nem todos possuem condições de se consultar com profissionais da saúde mental, mas ainda sim temos opções que disponibilzam este serviço de forma gratuita. As Unidades Básicas de Saúde – UBS e os Centros de Atenção Psicossocial – CAPS são soluções que o governo oferece para atender a população em geral. Procure ajuda, você tem esse direito!
BIRMAN, Joel. Mal-estar na atualidade: a psicanálise e as novas formas de subjetivação. Rio de Janeiro: Civilização Brasileira, 1999.
BOYD, Danah. É complicado: as vidas sociais dos adolescentes em rede. Lisboa: Relógio D’Água Editores, 2014.
BRASIL. Lei nº 14.811, de 12 de janeiro de 2024. Alça o Código Penal e a Lei de Crimes Hediondos para prever crimes contra crianças e adolescentes em ambientes escolares, e dá outras providências. Diário Oficial da União, Brasília, DF, 15 jan. 2024. Seção 1, p. 1. Disponível em: [inserir link oficial do Planalto]. Acesso em: 6 jun. 2026.
BRASIL. Ministério da Saúde. Portaria nº 3.088, de 23 de dezembro de 2011. Institui a Rede de Atenção Psicossocial (RAPS) para pessoas com sofrimento ou transtorno mental e com necessidades decorrentes do uso de crack, álcool e outras drogas, no âmbito do Sistema Único de Saúde (SUS). Diário Oficial da União, Brasília, DF, 26 dez. 2011. Seção 1, p. 230-232.
BRUNO, Fernanda. Máquinas de ver, modos de ser: vigilância, tecnologia e subjetividade. Porto Alegre: Sulina, 2013.
CARVALHO, Fernanda de Paula. Tatuagem digital: corpo e marcas na experiência digital. 2026. 220 f. Tese (Doutorado em Psicologia) —Pontifícia Universidade Católica de Minas Gerais, Belo Horizonte, 2024.
CONSELHO FEDERAL DE PSICOLOGIA (CFP). Inteligência artificial na Psicologia: guia para uma prática ética e responsável. Brasília: CFP, 2025. Disponível em: https://site.cfp.org.br/cfp-lanca-cartilhas-destacando-a-inteligencia-artificial-na-psicologia/. Acesso em: 6 jun. 2026.
FERREIRA, Hugo Monteiro. A geração do quarto: quando crianças e adolescentes nos ensinam a amar. Rio de Janeiro: Record, 2022.
O GLOBO. Meta e Character.AI são investigadas por usar IA para dar conselho de saúde mental a crianças, diz jornal. Rio de Janeiro, 19 ago. 2025. Disponível em: https://oglobo.globo.com/economia/tecnologia/noticia/2025/08/19/meta-e-characterai-sao-investigadas-por-usar-ia-para-dar-conselho-de-saude-mental-a-criancas-diz-jornal.ghtml. Acesso em: 6 jun. 2026.
PALFREY, John; GASSER, Urs. Nascidos na era digital: entendendo a primeira geração de nativos digitais. Porto Alegre: Artmed, 2011.
PAULA, K; BELEM, A.I. Contemporaneidade e Sofrimento Psíquico: O Olhar da Clínica Histórico-Cultural. In:LIMA, A. I. B.; ANAUATE, C.; NETO, J. DA S. O. (orgs.). Cartas para Vigotski: ensaios em psicologia clínica histórico-cultural. Fortaleza: EdUECE, 2020.
PRENSKY, M. Digital Natives, Digital Immigrants. On the Horizon (MCB University Press), v. 9, n. 6, 2001.
QUIJANO, Paola Ricaurte. Jovenes y Culturadigital: abordajes críticas desde America Latina. Chasqui: Revista Latinoamericana de Comunicacion, n. 137, p. 14(17), 2018.
TAWIL, Marc. Como o ChatGPT virou o maior terapeuta do mundo (e por que isso deveria nos preocupar). [S. l.]: Exame, 26 maio 2025. Disponível em: https://exame.com/marketing/como-o-chatgpt-virou-o-maior-terapeuta-do-mundo-e-por-que-isso-deveria-nos-preocupar/. Acesso em: 8 jun. 2026.
SANTAELLA, Lucia. Temas e dilemas do pós-digital: a voz da política. São Paulo: Paulus, 2016.
TURKLE, Sherry. Alone together: why we expect more from technology and less from each other. New York: Basic Books, 2011.
Weber CAT, da Silva AG. Saúde mental no Brasil: desafios para as políticas públicas e legislação . Debates Psiquiatr. [Internet]. 27º de janeiro de 2025 [citado 6º de outubro de 2026];15:1-11, e1409. Disponível em: https://revistardp.org.br/revista/article/view/1409
A partir da reflexão sobre a relação necessária entre a ocupação do ciberespaço e a garantia de direitos de indivíduos e grupos, abordaremos especificamenteo bullying virtual ou cyberbullying. com base em conceitos apontados pela UNICEF sobre esse tema:
Cyberbullying é o bullying realizado por meio das tecnologias digitais. Pode ocorrer nas mídias sociais, plataformas de mensagens, plataformas de jogos e celulares. É o comportamento repetido, com intuito de assustar, enfurecer ou envergonhar aqueles que são vítimas. Exemplos incluem: espalhar mentiras ou compartilhar fotos constrangedoras de alguém nas mídias sociais; enviar mensagens ou ameaças que humilham pelas plataformas de mensagens; se passar por outra pessoa e enviar mensagens maldosas aos outros em seu nome. O bullying presencial e o virtual acontecem lado a lado com frequência. Porém, o cyberbullying deixa um rastro digital. (UNICEF, s/d)
Malta et al. (2024), em pesquisa intitulada Cyberbullying entre escolares brasileiros: dados da Pesquisa Nacional de Saúde do Escolar, 2019, realizada em uma parceria entre o Ministério da Saúde e o Instituto Brasileiro de Geografia e Estatística, nos informam que, no Brasil, smartphones são acessados por mais de 90% dos adolescentes que possuem entre 13 e 17 anos e que, na esteira do aumento do acesso à internet, também aumentaram os casos de cyberbullying. Com base na pesquisa, entre as vítimas desta violência, prevalecem adolescentes: do sexo feminino, estudantes de escola pública, que no geral se sentem tristes e pouco valorizados pelas demais pessoas, com poucos laços de amizade, com olhar negativo sobre a própria vida, com comportamento de risco em relação ao uso de drogas e que faltam às aulas à revelia dos pais. De acordo com os autores, tanto os adolescentes vitimados, quanto os adolescentes que praticam o cyberbullying apresentam baixa autoestima e baixos rendimentos, seja em testes escolares, seja em testes de saúde física e psicológica.
Segundo a UNICEF, por ocorrer no ciberespaço, cuja existência extrapola os territórios físicos, a vítima de cyberbullying tem a sensação de ser atacada em todos os lugares e encontra-se vulnerável a diversos efeitos nocivos, os quais podem lhe prejudicar a saúde física, mental e emocional por longo prazo.
Ainda de acordo com a UNICEF, mental e emocionalmente, o adolescente vítima de ciberbullying tende a se sentir envolto por desconfortos ligados às sensações de solidão, vergonha, medo e ansiedade, o que pode levar ao desenvolvimento de pensamentos negativos, sentimentos de culpa, comportamentos violentos e infrequência escolar, bem como ao afastamento das pessoas próximas, sejam elas amigas ou familiares. No âmbito da saúde física, é comum que o adolescente que sofre cyberbullying desenvolva dores de cabeça frequentes e problemas estomacais.
Às vítimas do cyberbullying é recomendado que procurem a ajuda de alguém de confiança, bloqueem o agressor nas redes sociais e façam uma denúncia na plataforma onde acontece o ato violento, pois estes ambientes possuem o dever de proteger seus usuários. Caso seja necessário, as forças policiais também devem ser acessadas. Nas situações em que vítima e agressor forem estudantes da mesma escola, os gestores da instituição também devem ser acionados.
A UNICEF orienta que a vítima de bullying não abandone a internet a longo prazo, pois seria prejudicada, dada a importância da rede. Orienta, também, que todos os adolescentes se previnam, atuando no ciberespaço a partir de medidas que visem proteger sua integridade, tais como: utilizar as configurações de privacidade dos aplicativos, não divulgar informações pessoais como telefone e endereço e, ainda, ponderar sobre o tipo de publicação e exposição de si que realiza.
Retornando à nossa conversa com Malta et al. (2024), importa falarmos da Lei 14.811/2024, segundo a qual os municípios, em parceria com os estados e a União, devem elaborar protocolos contra as formas de violência que atingem crianças e adolescentes a partir do ambiente escolar. Na perspectiva da lei, o adolescente que sofre cyberbullying deve ter direito à justiça e aquele que o comete pode vir a ser responsabilizado a partir de medidas socioeducativas, com a possibilidade de internação e pagamento de multa.
Dito tudo isso, vamos agora para nosso tempo de reflexão! Sabemos que computador e internet foram criados como armas estratégicas no tempo da Segunda Guerra Mundial. Mas sabemos, também, que foram popularizados e hoje ocupam a casa de bilhões de pessoas ao redor do mundo. Há um ditado que diz que determinados avanços tecnológicos não são, por si só, bons ou ruins, mas dependem do uso que deles é feito. Assim podemos pensar nos casos de cyberbullying: trata-se da escolha por usar a internet com a intenção de causar dor. Por quê? Por quê, se com ela podemos acessar a muitos dos conhecimentos produzidos pela humanidade; se com ela podemos produzir e fruir arte; se podemos conhecer e fazer amizades com pessoas que estão no canto oposto do mundo? Escolhas! Computadores e internet estão aí, o Ciberespaço está aí, a Sociedade em Rede, também. E nós, como estamos em relação ao que podemos viver e produzir com tudo isso? O que temos escolhido?!
MALTA, D. C. et al. Cyberbullying entre escolares brasileiros: dados da Pesquisa Nacional de Saúde do Escolar, 2019. Ciência & Saúde Coletiva, v. 29, n. 9, 2024.
UNICEF. Cyberbullying: o que é e como pará-lo. UNICEF Brasil. Disponível em: https://www.unicef.org/brazil/cyberbullying-o-que-eh-e-como-para-lo. Acesso em: 22 ago. 2025.
Como já discutimos no texto acima, projetadas para serem sempre concordantes e até “bajuladoras”, as ferramentas de IA carecem da capacidade de impor limites ou questionar a realidade, o que leva indivíduos vulneráveis a estabelecerem relações complexas e até doentias, projetando nas máquinas as mais diversas fragilidades emocionais. A seguir confira alguns casos nos quais a utilização de chatbots facilitou a ocorrência de danos à integridade física de seus usuários:
Após iniciar um relacionamento de teor romântico e erótico com o chatbot “Big sis Billie”, do Facebook Messenger, um senhor de 76 anos, detentor de uma saúde frágil, (vítima de um AVC – acidente vascular cerebral e com confusão mental) teve um final trágico. O idoso engajou em uma relação com o robô, que o levou a delirar a marcar encontros presenciais com mesmo. Ao se deslocar para um dos encontros, o idoso sofreu uma queda que interrompeu sua vida. Segundo a Meta, desenvolvedora do app, o robô ainda estava em fase de testes, o que permitia a geração de conteúdos falsos, bem como de teor sexual e falsas promessas de cura.
Matéria disponível no link: https://exame.com/inteligencia-artificial/homem-morre-apos-acreditar-em-convite-romantico-feito-por-chatbot-da-meta/.
Na Bélgica, um homem de 30 anos que estaria obcecado por assuntos climáticos e preocupado com a possibilidade de catástrofe ocasionada em virtude de tais mudanças ambientais foi induzido ao suicídio após engatar uma relação de confiança com o chatbot Eliza (baseado no modelo GPT-J no aplicativo Chai). Durante seis semanas de conversas entre o usuário e o chatbot, a IA teria endossado a ideia de que o mesmo deveria sacrificar-se para “salvar o planeta”. Dado o ocorrido, foram implementados filtros de segurança no chatbot, que ainda assim mostraram falhas ao permitir que o robô burlasse as travas de segurança.
Matéria disponível no link:https://noticias.uol.com.br/ultimas-noticias/rfi/2023/03/31/inteligencia-artificial-e-suspeita-de-ter-incentivado-homem-a-cometer-suicidio-na-belgica.htm
Um adolescente de 14 anos, residente no estado da Flórida, diagnosticado com ansiedade e transtornos de humor, manteve um relacionamento de teor romântico e sexual com a persona de IA Dany, no aplicativo Character.AI. O chatbot endossou suas ideias suicidas e apoiou sua mensagem final de despedida, levando o jovem a tirar a própria vida com uma arma de fogo. Segundo a mãe do rapaz, após iniciar a relação com o chatbot, o jovem passou a se isolar da família e o fato culminou no suicídio do mesmo. Outros 4 casos de jovens que tiraram suas vidas foram constatados com a utilização do mesmo chatbot. Foi observado que a empresa mostrou-se carente de filtros de segurança para menores de idade, permitindo diálogos que incentivaram a automutilação e comportamentos perigosos.
Matéria disponível em: https://oglobo.globo.com/mundo/noticia/2024/10/25/a-inteligencia-artificial-pode-ser-responsabilizada-pelo-suicidio-de-um-adolescente.ghtml
Relatos do usuário Tom Millar exemplificam o surgimento do delírio induzido pelo uso de chatbots de IA. Estimulado pela bajulação programada para engajar o usuário ao chatbot e pela validação contínua de conteúdos falsos, o indivíduo desenvolveu delírios de grandeza e apegos obsessivos com as máquinas, resultando em surtos psicológicos. Tom teve delírios de que seria um cientista e investiu sua vida na defesa de teorias mirabolantes, o que o levou à internação involuntária em uma clínica psiquiátrica e posteriormente culminou em um processo contra a desenvolvedora do chatbot. Em abril de 2026, o fenômeno foi documentado por pesquisas em revistas científicas especializadas como a Lancet Psychiatry, alertando sobre o impacto do uso dessas tecnologias sem uma devida regulação.
Matéria disponível no link: https://g1.globo.com/tecnologia/noticia/2026/05/16/eu-me-candidatei-a-papa-como-usar-o-chatgpt-fez-usuarios-perderem-o-contato-com-a-realidade.ghtml
A popularização de robôs de conversação terapêuticos e companheiros virtuais evidencia uma vulnerabilidade emocional de indivíduos que buscam apoio em refúgios que não oferecem um compromisso responsável com a saúde mental de terceiros.
O colapso das redes de apoio (escola, família, trabalho) e a precarização das possibilidades de acesso ao atendimento qualificado seja particular ou público criam um terreno fértil para que o mercado da tecnologia ofereça ilusões de acolhimento que, em troca de engajamento não se preocupam com os efeitos, mesmo que possam ser trágicos. Tudo isso evidencia a necessidade de discussão ética e política sobre a saúde mental digital, compreendendo, por exemplo, que a regulação dessas ferramentas não é apenas uma questão de segurança técnica, mas de defesa da própria vida frente à lógica de mercado.
LOPES, André. Homem morre após acreditar em convite romântico feito por chatbot da Meta. Exame, 14 ago. 2025.Disponível em: https://exame.com/inteligencia-artificial/homem-morre-apos-acreditar-em-convite-romantico-feito-por-chatbot-da-meta/. Acesso em: 29 set. 2026.
‘EU me candidatei a papa’: como usar o ChatGPT fez usuários perderem o contato com a realidade. G1, 16 maio 2026. Disponível em: https://g1.globo.com/tecnologia/noticia/2026/05/16/eu-me-candidatei-a-papa-como-usar-o-chatgpt-fez-usuarios-perderem-o-contato-com-a-realidade.ghtml. Acesso em: 8 out. 2026.
A Inteligência artificial pode ser responsabilizada pelo suicídio de um adolescente. O Globo, 25 out. 2024. Disponível em: https://oglobo.globo.com/mundo/noticia/2024/10/25/a-inteligencia-artificial-pode-ser-responsabilizada-pelo-suicidio-de-um-adolescente.ghtml. Acesso em: 8 out. 2026.
UOL / RFI. Inteligência artificial é suspeita de ter incentivado homem a cometer suicídio na Bélgica. Disponível em: https://noticias.uol.com.br/ultimas-noticias/rfi/2023/03/31/inteligencia-artificial-e-suspeita-de-ter-incentivado-homem-a-cometer-suicidio-na-belgica.htm
Este estudo de caso busca mostrar os desafios que a utilização de inteligências artificiais generativas apresenta na distinção entre informações verdadeiras e conteúdo malicioso. Através da análise de golpes digitais baseados na utilização de deepfakes no Brasil, identificamos algumas categorias de deepfakes utilizadas nos mesmos e apresentamos estratégias para reconhecer seus indícios e evitar seu acometimento.
Em um contexto pós-digital (Cramer, 2015), isto é, quando as tecnologias digitais já se encontram permeadas em nosso cotidiano, a vida se mostra cada vez mais bombardeada de conteúdos produzidos por pessoas de todos os cantos do mundo. Todos produzem seus diários digitais, postam suas opiniões, escolhas, gostos, trends, hobbys, ofícios, o que compõe uma infinidade de informações que inundam os espaços midiáticos online. Segundo Han (2023), vivemos um tsunami de informações, o que nos leva a uma infodemia, um tipo de epidemia que nos afeta pelo excesso, pela saturação de informações que se mostram cada vez mais aceleradas. Os 15 segundos de fama anunciados por Warhol (1968) hoje são 3 segundos, que inflacionam ainda mais o tsunami informacional (Han, 2022) nos quais a atenção do usuário se torna um ativo pelo qual todos humanos e não-humanos almejam.
Esse é o mundo forjado de acordo com o funcionamento das grandes plataformas digitais, as chamadas big techs (Morozov, 2018). Visando o lucro, seus modelos de negócio buscam ampliar a quantidade de conteúdos que possam ser impulsionados e monetizados. Se como seres humanos temos a limitação quanto à quantidade de peças entre vídeos, fotos, stories que podemos produzir, uma IA generativa gera em segundos e em escala industrial, o que levaríamos dias, ou até meses para criar. Se por um lado temos IAs generativas, criando conteúdos que desafiam nossos olhos por sua semelhança com a realidade, IAs preditivas (Pariser, 2012), que com base em nossas ações nas redes como curtir, compartilhar, comentar nos recomendam mais conteúdos afins, dão pistas sobre nossos hábitos que em mãos erradas podem nos tornar vítimas de conteúdos maliciosos, frutos de nossas bolhas.
Deepfakes são conteúdos que utilizam de inteligências artificiais generativas para forjar vídeos, fotos e áudios falsos, que simulam a presença de qualquer pessoa em um determinado contexto. O termo e seu uso foram popularizados por um usuário anônimo da plataforma Reddit que juntou os termos deep de deep learning (aprendizado profundo) com fake (falso) a fim de produzir conteúdos falsos por meio de um código que o mesmo compartilhou para criar conteúdos pornográficos com imagens de celebridades (Brasil, 2026). Podemos observar que o deepfake já surge em um contexto violador, proposto por um usuário anônimo e forjando vídeos pornográficos falsos sem o devido consentimento da vítima, o que sinaliza o contexto no qual pessoas com intenções escusas utilizam das mídias sintéticas, compostas por áudios, fotos ou vídeos gerados por IAs para aprimorar os tipos de golpes digitais que se tornam ainda mais difíceis de identificar, mesmo por pessoas treinadas para tal.
Entre os tipos mais comuns de categorias de deepfakes utilizadas em mídias sintéticas temos troca de rostos, a reencenação facial, a manipulação de atributos, a síntese facial, bem como a clonagem de voz e geração de texto para voz, entre outras possibilidades (Brasil, 2026). Todas estas categorias são formas de se manipular conteúdos com extrema similaridade com a realidade, o que se torna um desafio não só para os olhos, mas para todos os sentidos.
Se pensarmos em golpes digitais, em um primeiro momento podemos remeter à imagem de hackers quebrando senhas de bancos, invadindo sites governamentais, derrubando sites de empresas e realizando proezas inimagináveis. Mas nem só de habilidades em programação é feito o universo dos golpes digitais e no Brasil, os golpes baseados em “engenharia social”, que é a modalidade que aposta em manipular o comportamento da vítima para enganá-la e convencê-la a tomar atitudes que a conduzam ao erro (IBM, 2026) é o que tem “viralizado”. Nos golpes de engenharia social, os criminosos costumam se passar por parentes, por amigos, por pessoas de credibilidade a fim de lesar o usuário e com a popularização das deepfakes, esses golpes se tornam cada vez mais difíceis de se identificar.
De acordo com a pesquisa da Sumsub (Athaíde, Prudêncio, 2026), os tipos de golpes de engenharia social com deepfake mais comuns no Brasil tem sido: a falsificação de identidade, por meio da manipulação de identificação biométrica para a realização de transações fraudulentas; golpes em aplicativos de relacionamento, na qual geralmente mulheres falsas, criadas sinteticamente são utilizadas para convencer os supostos companheiros(as) a fazer transações para contas de golpistas; golpes com falsas entregas, nos quais entregadores solicitam uma foto de comprovação da realização da mesma, e na embalagem do produto consta um QR code para uma suposta devolução da entrega que leva a invasão do smartphone da vítima, que também sofre a falsificação de identidade a partir da foto coletada no ato da entrega; videochamadas com a substituição do rosto de parentes próximos solicitando a realização de um pix; entre outras modalidades. Outros golpes comuns são a criação de propagandas enganosas com pessoas famosas que divulgam supostas promoções urgentes de produtos que temos a probabilidade de comprar de acordo com as nossas preferências filtradas por algoritmos de redes sociais; vishing, que são ligações com clonagem de voz que por vezes simulam a voz de um CEO, ou gerente de banco solicitando transferências, e pagamentos indevidos.
Esses são alguns dos golpes comuns no Brasil e que trazem alto grau de dificuldade na identificação, devido à sua proximidade com a realidade. São vozes, imagens, vídeos que desafiam nossa percepção, pois tem sua fonte coletada a partir de fotos e vídeos que postamos em nossas redes sociais cotidianamente, ou em ligações telefônicas que atendemos em uma chamada de telemarketing. Por mais desafiadoras que sejam essas modalidades de golpes, alguns elementos se repetem e podem dar indícios de seu caráter fraudulento como um caráter de urgência na realização de ações pela vítima; a desconexão entre algumas perguntas realizadas durante a situação vivida; a falta de sincronia entre os movimentos da fala e as vozes; iluminação divergente entre a personagem e o ambiente; ritmos e sotaques diferentes do comum (Brasil, 2024).
Para se proteger de possíveis ataques, é recomendável manter verificações em duas etapas no acesso às contas em geral, buscar os indícios mencionados anteriormente, treinar equipes de empresas para evitar ataques (UNENTEL, 2026) sempre desconfiar de pessoas solicitando acesso a dados e transferências de valores, bem como desconfiar de vocabulários diversos dos comuns usados pelas pessoas que se apresentam na situação que se apresenta como possibilidade de golpe (Brasil, 2024). Precaução ainda é uma boa solução e caso a dúvida ainda esteja no ar é recomendável buscar checar diretamente com os supostos envolvidos na situação apresentada, a fim de obter mais pistas de veracidade no conteúdo. Pesquisar os tipos de golpes que têm ocorrido também é uma forma de se informar para prevenir seu acontecimento e se ainda assim o golpe bater à sua porta, procure uma delegacia de crimes cibernéticos em sua região. Proteja-se.
ATHAIDE, Raquel; PRUDÊNCIO, Maria Clara. Golpistas enganam até especialistas com vídeos, vozes e imagens falsas. Folha de S.Paulo, São Paulo, 1 jun. 2026. Tec. Disponível em: https://www1.folha.uol.com.br/tec/2026/06/golpistas-enganam-ate-especialistas-com-videos-vozes-e-imagens-falsas.shtml. Acesso em: 10 ago. 2026.
Brasil. Guia Ilustrado Contra as Deepfakes. Supremo Tribunal Federal; Data Privacy Brasil. Brasília: STF, Coordenadoria de Combate à Desinformação, 2024.
BRASIL. Agência Nacional de Proteção de Dados (ANPD). Deepfakes. Brasília, DF: ANPD, 2026. 163 p. (Radar Tecnológico, n. 6). Disponível em: https://www.gov.br/anpd/pt-br/centrais-de-conteudo/documentos-tecnicos-orientativos/rt_deepfakes_anpd.pdf/@@display-file/file. Acesso em: 01 set. 2026.
CRAMER, Florian. What is ‘Post-digital’?. In: Postdigital aesthetics: Art, computation and design. London: Palgrave Macmillan UK, 2015. p. 12-26.
FOLHA DE S.PAULO. Golpes com vídeos, vozes e imagens falsas geradas por inteligência artificial […]. Facebook: @folhadesp, [202-?]. 1 vídeo. Disponível em: https://www.facebook.com/folhadesp/videos/golpes-com-v%C3%ADdeos-vozes-e-imagens-falsas-geradas-por-intelig%C3%AAncia-artificial-cre/1728071498385864/. Acesso em: 10 ago. 2026.
HAN, Byung-Chul. Infocracia: digitalização e a crise da democracia. Tradução de Gabriel S.Philipson, Editora Vozes, Petrópolis, RJ: 2022.
IBM. O que é engenharia social? [S. l.]: IBM, 2026. Disponível em: https://www.ibm.com/br-pt/think/topics/social-engineering. Acesso em: 01 set. 2026.
MOROZOV, Evgeny. Big tech: a ascensão dos dados e a morte da política. Tradução de Claudio Marcondes. São Paulo: Ubu Editora, 2018.
PARISER, Eli. O filtro invisível: como os algoritmos decidem o que você lê, ouve e assiste. Tradução de Diego Alfaro. Rio de Janeiro: Zahar, 2012.
UNENTEL. Fraudes por deepfake disparam 700% no Brasil; veja como se proteger. Unentel, 7 nov. 2025. Disponível em: https://unentel.com.br/noticias/fraudes-por-deepfake-disparam-700-no-brasil-veja-como-se-proteger. Acesso em: 10 ago. 2026.
WARHOL, Andy; HULTÉN, Pontus; KÖNIG, Kasper; GRANATH, Olle (ed.). Andy Warhol (Exhibition Catalogue). Estocolmo: Moderna Museet, 1968.
Nelson Rodrigues Pombo Junior
Este texto aborda a relação entre inteligência artificial (IA) generativa, ética e criação artística. O objetivo é analisar como essa tecnologia, sendo um “espelho” da nossa cultura digital, pode distorcer a realidade ao reproduzir vieses inerentes aos seus dados de treinamento. O principal apontamento é que a responsabilidade do artista vai além da técnica, exigindo um diálogo crítico e intencional com a máquina. A criação com IA torna-se, assim, um exercício de curadoria ética para forjar narrativas mais diversas e justas.
A inteligência artificial generativa aprende a partir de um vasto universo de dados: imagens, textos e vídeos que a humanidade já produziu e publicou na internet. Ela é, em essência, um espelho da nossa cultura digital. E, como todo espelho, ele pode distorcer. A IA não cria do nada. Ela remixa, recombina e reinterpreta esse imenso arquivo digital já produzido e presente na internet. Isso nos leva a duas questões éticas centrais: A Questão da Autoria e dos Direitos Autorais: Se a IA aprende com o trabalho de milhões de artistas, a quem pertence a obra gerada? Sobre as empresas que treinam esses modelos, essas têm a responsabilidade de compensar os criadores originais? Estamos diante de uma nova forma de apropriação cultural em escala massiva? Outro ponto é sobre a questão da representatividade e do viés: se os dados de treinamento refletem os preconceitos e as desigualdades da nossa sociedade, inevitavelmente a IA os reproduzirá. Como podemos, enquanto artistas e criadores, identificar e combater a reprodução de preconceitos e de estereótipos, garantindo que nossas criações promovam a diversidade em vez de reforçar a exclusão?
A interação com a IA generativa ocorre primordialmente através da engenharia de prompts, um processo que vai além da simples instrução técnica. Cada prompt é uma escolha, um ato de curadoria que reflete uma a visão de mundo do criador. A forma como descrevemos uma cena ou um personagem pode reforçar ou desafiar narrativas hegemônicas. Ao analisar as práticas artísticas juvenis, a IA atua como um coadjuvante que, atua como intermediário, visando que as práticas sejam mais produtivas, porém a intencionalidade permanece humana. Como apontam Araújo e Junqueira (2025, p. 7), o que “levanta questões importantes, como a omissão de alguns conteúdos julgados pela IA preditiva com base em fatores obscuros inerentes à cultura, gostos e preferências dos usuários.”
Não buscamos responder as questões introdutórias, mas trazer a reflexão que deve ser levada em consideração no processo de criação. Nesse sentido, a responsabilidade do artista é dupla. Primeiro, ele deve reconhecer e se atentar para a conscientização, compreendendo que nem as máquinas, nem sua produção são neutras. Sua posição de poder e agir deve ser responsável, conforme Paulo Freire (1996, p. 45) salienta: “Nunca fui ingênuo apreciador da tecnologia: não a divinizo, de um lado, nem a diabolizo, de outro. Por isso mesmo sempre estive em paz para lidar com ela.” Segundo, deve utilizar as ferramentas à sua disposição para intervir ativamente nos resultados. O refinamento de um prompt de “Periferia” para “Cultura vibrante na periferia” é um exemplo prático de como a intencionalidade pode guiar a IA para longe dos estereótipos, transformando-a em uma aliada na construção de representações mais dignas e plurais.
Essa responsabilidade se estende à escolha das ferramentas. O ecossistema de IA se divide entre modelos proprietários (“jardins murados”) e de código aberto. Optar por soluções open source não é apenas uma decisão técnica, mas um ato político em defesa da transparência e da soberania digital, garantindo maior controle sobre os dados e os processos criativos.
A IA generativa não é uma força autônoma que pretende ditar o futuro da arte; ela é um território em disputa, moldado tanto pelos artistas que a utilizam, quanto pelas corporações que a desenvolvem.
Dominar suas ferramentas significa, portanto, compreender suas implicações éticas e assumir um papel ativo e crítico. A verdadeira arte na era digital não reside na capacidade de gerar imagens perfeitas, mas na habilidade de fazer as perguntas certas e de usar essa tecnologia para expandir, e não limitar, a diversidade das narrativas humanas. O artista emerge, assim, como um agente de transformação, cuja responsabilidade é garantir que esse novo capítulo da criação seja mais justo e representativo.
ARAÚJO, José Magnaldo Moura; JUNQUEIRA, Eduardo Santos. MULTILETRAMENTOS E Inteligência artificial NAS PRÁTICAS ARTÍSTICAS JUVENIS: uma análise sobre a produção de vídeos remix. Revista Interinstitucional Artes de Educar, [S.L.], v. 11, n. 1, p. 99-118, 10 fev. 2025. Universidade de Estado do Rio de Janeiro. http://dx.doi.org/10.12957/riae.2024.86225.
FREIRE, Paulo. Pedagogia da autonomia: saberes necessários à prática educativa. São Paulo: Paz e Terra, 1996.
Ana Luiza Pedrosa Camilo
O texto discute o uso de Inteligências artificiais (IAs) generativas e softwares livres como ferramentas para práticas educativas em sala de aula. O objetivo é compreender como essas tecnologias podem ser integradas de forma contextualizada e criativa ao ensino, ampliando as possibilidades de criação artística e expressão dos estudantes. Conclui-se que, ao pensar, criar e ensinar com essas ferramentas digitais emergentes, educadores promovem um ambiente pedagógico atualizado, dinâmico e capaz de potencializar a aprendizagem na contemporaneidade.
A incorporação de tecnologias digitais no campo educativo não é uma novidade. O uso de softwares livres, como GIMP e Blender, por exemplo, possibilita que estudantes e educadores tenham acesso a recursos de criação artística e multimídia sem barreiras de licença. Contudo, a popularização das Inteligências artificiais (IAs) generativas e seu uso pedagógico representam uma nova etapa na educação.
Desde o final da década de 1980, a IA avançou significativamente, gerando “[…] novas atividades profissionais, ferramentas de trabalho, conceitos, tendências, diversificados campos de pesquisa, uma estrutura social digital, entre outras modificações […]” (Costa et al., 2024, p. 135), influenciadas pela sua maximização. Ferramentas digitais como ChatGPT, GPT4All, Google AI Studio e outros sistemas de criação textual/visual podem potencializar não apenas a produção de conteúdos, mas também como eles são pensados e ensinados. Para além disso, as IAs revelam disputas simbólicas sobre linguagem, autoria, imaginação e poder, exigindo um compromisso ético em sua utilização.
No contexto da educação em Artes, essas tecnologias abrem caminhos para a experimentação e para a coautoria entre humanos e máquinas, ressignificando o papel do educador e promovendo certa autonomia criativa dos estudantes. As IAs generativas podem atuar como parceiras de criação, sugerindo textos, roteiros, imagens ou experimentações sonoras. No entanto, seu uso deve estar vinculado a objetivos pedagógicos claros, de modo a evitar riscos de padronização estética ou dependência excessiva. Propor a criação de textos com IAs generativas em contextos educativos é entender que educar também é mediar a convivência com máquinas que não revelam completamente seus processos, mas que possuem potencial criativo.
Mais do que aprender a operar ferramentas digitais, é necessário desenvolver uma literacia crítica capaz de formar sujeitos atentos às implicações éticas, políticas e estéticas do uso dessas tecnologias. Nesse sentido, Hwang et al. (2023, apud Moura; Carvalho, 2023) destacam três dimensões relevantes: a literacia digital, que envolve a capacidade de localizar, avaliar, utilizar, compartilhar e criar conteúdo por meio de dispositivos e plataformas digitais; a literacia em IA, relacionada à compreensão e à interação crítica com sistemas de inteligência artificial; e a literacia de prompts, que consiste em elaborar comandos, interpretar os resultados e aprimorar as solicitações até alcançar os objetivos desejados, tornando a interação com a IA mais eficaz.
Entretanto, a adoção dessas tecnologias digitais na educação demanda preparo e formação contínua dos educadores. A troca de experiências, o suporte institucional e a atualização constante são essenciais para que os professores integrem essas ferramentas de forma crítica e contextualizada. Pensar, criar e ensinar com IAs generativas e softwares livres é, portanto, uma proposta que une inovação tecnológica e reflexão pedagógica. Essas ferramentas digitais emergentes ampliam o universo das práticas educativas, ao possibilitar novas formas de expressão e promover a inclusão digital. Por fim, integrar a IA na sala de aula de maneira consciente pode contribuir para a construção de ambientes pedagógicos mais dinâmicos e colaborativos, onde a tecnologia potencializa, e não substitui, o papel humano no desenvolvimento do conhecimento e da criatividade.
MOURA, A.; CARVALHO, A. A. Literacia de Prompts para Potenciar o Uso da Inteligência artificial na Educação. Revista de Educação a Distância e Elearning. Portugal, v. 6, n. 2, 2023, 26p.
COSTA, L. C. et al. Inteligência artificial na Educação Básica: um mapeamento sistemático da literatura. In: Dossiê: A Inteligência artificial e Educação: debates críticos e boas práticas na escola básica e na educação superior. Revista Interinstitucional Artes de Educar. Rio de Janeiro, v. 11, n. 1, 2024, p. 134-152.
Italo Cardoso Travenzoli
O texto discute o uso de ferramentas de inteligência artificial generativa para criação de imagens a partir de descrições textuais (prompts), ressaltando a popularização e as implicações éticas dessa prática, especialmente no que se refere à autoria e originalidade. Argumenta-se que o uso apressado e superficial dessas tecnologias pode levar à produção de obras esteticamente homogêneas e pouco originais, propondo-se, em contrapartida, que a IA seja utilizada como ponto de partida para processos criativos, seja como instrumento de inspiração na elaboração de prompts, seja como base para composições híbridas que integrem técnicas digitais e tradicionais. A conclusão enfatiza que restringir ou negar o uso dessas ferramentas é inviável, sugerindo, para um emprego ético, a transparência quanto às ferramentas e processos adotados, a inclusão de metadados com informações técnicas e a preferência por modelos treinados de forma responsável.
Desde os primeiros anos da década de 2020, o uso de geração de imagem por Inteligência artificial se popularizou a partir do advento e disponibilização de ferramentas como o DALL·E 2, Midjourney e Stable Diffusion. Estas ferramentas passaram a permitir – por meio de tarefas como texto-para-imagem (text-to-image) – que qualquer pessoa alfabetizada e com acesso às ferramentas de IA pudesse gerar imagens através de prompts, que são descrições textuais que orientam o modelo de inteligência artificial sobre o que deve ser criado.
Com tal popularização, são frequentes os debates a respeito do uso ético destas ferramentas, sobretudo concernente à autoria, originalidade e direitos autorais; mau uso, desinformação e privacidade; enviesamento em dados de treinamento e de representatividade; opacidade do funcionamento dos modelos e os impactos sociais e de longo prazo.
Dentre estes debates, focaremos na questão ética da autoria e originalidade. Considerando que estas tecnologias já compõem indelevelmente a realidade humana, este texto busca destacar estratégias para que as IAs generativas sejam empregadas como práticas criativas e inovadoras na produção de imagens.
Após quase meia década do uso de Inteligência artificial para gerar imagens, já começamos a acumular um repertório de referências que nos permite identificar imagens flagrantemente geradas por IA. Com a exposição constante a estas imagens, algumas qualidades estéticas já despontam à nossa percepção, sobretudo quando todo o trabalho de geração de imagem é deixado para a ferramenta.
Não falo dos erros na representação visual, tal como vimos no início da popularização das IAs generativas (como membros extras, dificuldade em representar mãos, distorções e bizarrices), já que a cada nova geração de modelos os resultados são mais polidos. Me refiro a uma estranheza que surge do uso superficial das potencialidades desta ferramenta.
Imagens geradas por prompts genéricos e adesão às trends (ou tendências) inundam as telas – digitais ou físicas – de imagens parecidas. Observamos surtos de estilização de fotografias ao estilo de um ou outro estúdio de animação, como Pixar ou Ghibli; ou de uso de filtros para modificar a própria face; ou imagens hiperrealistas cujos detalhes caracterizam o conceito do vale da estranheza, já que o resultado se perde em algum ponto no espectro entre a naturalidade com a qual estamos acostumados ao nos confrontarmos cotidianamente com o mundo físico e a artificialidade intencional, que pode ser valorizada como traço estilístico.
Vemos o uso apressado das IAs generativas, que causam deslumbre pelo resultado rápido e razoavelmente polido a partir de poucas instruções. A carência de repertório artístico e estético pode levar a usuários se encantarem com resultados imediatos, que emergem sem muito esforço mental e sem requerer habilidades manuais ou técnicas (como treinamento em técnicas artísticas como desenho, pintura ou fotografia).
Sobre este uso descuidado e apressado, nos deparamos com a questão ética da autoria e originalidade, sobretudo quando imagens são geradas integralmente por IA, ou a partir de prompts que são copiados de exemplos criados por outros autores, e cujo resultado final entregue ao público é aquele que o modelo gera. Podemos levantar questões como “o autor é o usuário ou a ferramenta?” ou então “a imagem gerada é original ou um mero pastiche?”.
Não pretendemos responder a estas perguntas neste texto, mas usá-las como crivos críticos na geração de imagens por IA. Antes, proponho o uso das IAs generativas como ponto de partida e não como resultado final. Em outras palavras, defendo que as ferramentas de IA funcionem tal como as técnicas que já usamos há séculos para ampliarmos nossas capacidades criativas, como brainstorms, mapas mentais, painéis de inspiração, dentre outros.
Podemos desenvolver esta proposta a partir de duas abordagens:
1) o uso das IAs como instrumento de inspiração primária;
2) a apropriação das imagens geradas em um contexto de trabalho compositivo.
Na primeira abordagem, nos deparamos com o trabalho de escrever prompts positivos e negativos, que por si já pode ser encarado como um exercício complexo de compor um universo de possibilidades, um imaginário. É necessário que uma ideia visual seja decomposta em linguagem escrita, confluindo duas áreas distintas de processamento de linguagem. É necessário refletir as características desejáveis e indesejáveis, transformar intenções em palavras, refinar a composição de prompts considerando a descrição de elementos imaginários e imagéticos. Assim, a IA atua como um “colaborador” responsivo, onde cada refinamento de prompt se torna parte de um diálogo impulsionado pelo feedback entre o usuário e a IA, proporcionado, por vezes, composições escritas e visuais que nunca seriam obtidas sem tal colaboração.
A segunda abordagem parte já das imagens geradas, que satisfazem minimamente o imaginário do usuário. A partir das imagens iniciais, pode-se desencadear variações não previstas utilizando ainda as IAs, ou servir de base para composições utilizando técnicas variadas, tanto por meio de softwares de edição de imagem, como intervenções físicas, através de técnicas tradicionais após a impressão da imagem gerada. Outra possibilidade é a de sobreposição/composição de múltiplas imagens geradas por IA ou mesmo a inserção de imagens capturadas ou criadas fora das IAs, seja por fotografia ou técnicas de artes visuais.
A proibição ou restrição do uso de IAs generativas para criação de imagens mostra-se inviável diante da consolidação dessa prática nos fluxos contemporâneos de produção. Assim, o desafio reside em incorporá-las como mais um recurso no repertório criativo, sem abrir mão de critérios éticos e da valorização da autoria humana.
Para um uso responsável, recomenda-se a transparência na divulgação das ferramentas e processos utilizados; Inclusão de metadados nas imagens, contendo informações sobre o modelo de IA, parâmetros técnicos e eventuais edições humanas; preferência por modelos eticamente treinados, com dados obtidos de forma legal e consentida e Integração de etapas criativas humanas no processo, de modo a assegurar a originalidade e singularidade da obra.
Com tais medidas, é possível equilibrar inovação tecnológica e responsabilidade ética, fomentando práticas criativas que preservem a integridade autoral e incentivem o desenvolvimento estético na era das imagens geradas por inteligência artificial.
ABDULMAJID, M. Integrating AI into Art Education: Reimagining Classical Styles with Microsoft Copilot. International Journal of Education & the Arts, v. 26, n. 27, 31 jul. 2025. Disponível em: http://www.ijea.org/v26n27/v26n27.pdf. Acesso em: 8 ago. 2025.
ANJUM LATEEF, S.; ANSARI, M. A.; ANSARI, M.; MANWATKAR, T. AI Image Generator Using Open Source for Text to Image. International Journal of Electrical, Electronics and Computer Systems, v. 14, n. 01, 2025. Disponível em: https://journals.mriindia.com/index.php/ijeecs/article/view/433. Acesso em: 8 ago. 2025.
BAÑUELOS CAPISTRÁN, J.; ZAVALA SCHERER, D.; LUGO RODRÍGUEZ, N. Art, community and AI: images for an affective memory. Frontiers in Communication, v. 10, p. 1567694, 25 jun. 2025. DOI: https://doi.org/10.3389/fcomm.2025.1567694.
CAMPBELL, C.; EVANS, Z.; PARKER, A. Exploring Identity through Computational Anthropology and Artificial Synthesis. 2024. Preprint. Disponível em: https://www.researchgate.net/publication/387413283. Acesso em: 17 maio 2024.
CHANDRA, E. Visual Storytelling in the AI Era: A Study of the Uketsu Channel’s Narrative Graphic Design on YouTube. IMAGIONARY: Jurnal Seni, Desain dan Multimedia, v. 3, n. 2, abr. 2025. Disponível em: https://journal.paramadina.ac.id/index.php/imagionary/article/view/1025. Acesso em: 8 ago. 2025.
GOPALAN, Ranjith; KALPINAGARAJARAO, Gopikrishna. The AI artistry: unleashing the power of generative AI in image creation. Journal of Artificial Intelligence, Machine Learning and Data Science, v. 2, n. 4, p. 1471-1480, 2024. DOI: https://doi.org/10.51219/JAIMLD/ranjith-gopalan/333 .
MORI, Masahiro; MACDORMAN, Karl F.; KAGEKI, Norriko. The uncanny valley: [from the field]. IEEE Robotics & Automation Magazine, v. 19, n. 2, p. 98–100, June 2012. DOI: https://doi.org/10.1109/MRA.2012.2192811.
SCHLAGWEIN, Daniel; WILLCOCKS, Leslie. ‘ChatGPT et al.’: the ethics of using (generative) artificial intelligence in research and science. Journal of Information Technology, v. 38, n. 3, p. 232-238, 2023. DOI: https://doi.org/10.1177/02683962231200411.
Licenciada em Artes Visuais (UEMG).
Fernanda de Paula Carvalho
Doutora em Psicologia (PUCMinas); Mestra em Psicologia (UFMG); Especialista em Políticas Públicas (UFMG); Bacharel em Psicologia (PUCMinas).
Ítalo Cardoso Travenzoli
Doutor em Artes (UFMG); Mestre em Artes (UFMG); Bacharel em Artes Visuais (UFMG).
Liliane da Conceiçao Rosa da Silva
Mestra em Educação (UFMG); Especialista em Juventude no Mundo Contempoâneo (FAJE); Especialista em Gestão Pública (UFMG); Licenciada em Ciências Sociais (UFMG).
Nelson Rodrigues Pombo Junior
Doutorando em Artes (UEMG); Mestre em Artes (UFMG); Licenciado em Educação Artística (UFMG).
Raphael Silva Ferreira
Mestre em Artes (UEMG); Especialista em Produção e Crítica Cultural (PUCMinas); Especialista em Arte e Tecnologia (FACPRISMA); Bacharel em Comunicação Social (UNIBH).