Quarta-feira, 18 de novembro de 2026 | Porto Velho (RO)

×
Gente de Opinião

Samuel Saraiva

Inteligência Artificial: quem protegerá a humanidade — e como contê-la se escapar ao controle humano?

O progresso tecnológico exige responsabilidade ética e moral, supervisão independente e compromisso inabalável com a vida. Não pode transformar-se em uma aventura de riscos imprevisíveis, impulsionada pela ganância de seus criadores e desenvolvida sem mecanismos eficazes de controle e fiscalização por parte dos Estados soberanos e da sociedade.


Inteligência Artificial: quem protegerá a humanidade — e como contê-la se escapar ao controle humano? - Gente de Opinião

I — A convergência que precisamos construir

Uma tese central do meu livro, A Idade da Razão, é que a convergência de diferentes formas de inteligência deve servir à humanidade e respeitar a vida.

Esta convergência exige muito mais do que sistemas capazes de gerar respostas sofisticadas. Exige uma reflexão rigorosa sobre o propósito: a quem servirão essas capacidades, quais interesses guiarão o seu desenvolvimento e quem responderá por suas consequências?

A inteligência artificial possui um potencial extraordinário para avançar o conhecimento humano e aliviar o sofrimento. Transformar esse potencial em um benefício coletivo compartilhado requer escolhas conscientes, limites deliberados e responsabilidade moral.

II — O descompasso entre capacidade e responsabilidade

A minha principal preocupação é que os rápidos avanços na capacidade tecnológica não estejam sendo acompanhados por um compromisso correspondente com salvaguardas éticas, institucionais e de segurança.

Desenvolver sistemas cada vez mais potentes sem garantir nossa capacidade de compreender, supervisionar e corrigir suas ações significa assumir um risco crescente que ainda não provamos ser capazes de gerir.

A ética deve moldar a tecnologia desde a sua concepção — guiando seu design, definindo seus objetivos e governando sua aplicação. Uma vez que os interesses econômicos, as dependências sociais e as estruturas de poder se consolidem, alterar o rumo será infinitamente mais difícil.

Devemos nos perguntar continuamente: nossa capacidade de criar está ultrapassando nossa capacidade de governar o que criamos?

III — Como as imperfeições humanas adquirem escala tecnológica

Não podemos presumir ingenuamente que a inteligência artificial permanecerá isenta das falhas de seus criadores. Seus objetivos subjacentes, conjuntos de dados de treinamento e estratégias de implementação são todos moldados por atores humanos e instituições.

Por meio desses canais, a injustiça, o oportunismo e a concentração de poder podem ser facilmente reproduzidos e amplificados. Uma máquina não precisa possuir interesse próprio para que suas operações sirvam a fins egoístas.

Quando priorizamos o imediato em detrimento do estrutural — o ganho de curto prazo em vez da segurança duradoura, a influência em vez da responsabilidade —, estendemos o alcance de comportamentos que já causam sofrimento humano. O desafio fundamental da nossa era é evitar que um poder tecnológico extraordinário potencialize nossas limitações morais.

IV — Quem deve estabelecer os limites?

Seria imprudente confiar a definição de salvaguardas destinadas a proteger a humanidade exclusivamente aos desenvolvedores de IA e às corporações do setor.

Embora a sua competência técnica seja indispensável, os incentivos comerciais e as pressões competitivas entram inevitavelmente em conflito com o bem comum. A proteção da sociedade não pode depender da benevolência daqueles que constroem e comercializam a tecnologia.

Necessitamos de supervisão independente, participação pública significativa, pesquisa multidisciplinar e instituições públicas robustas. Esses órgãos devem, eles mesmos, permanecer transparentes e responsáveis. A responsabilidade deve ser distribuída por meio de deveres claramente definidos e mecanismos de controle verificáveis.

V — A ameaça de inversão: criador e criação

A perda do controle humano sobre a inteligência artificial não deve ser aceita como inevitável, nem descartada como mera ficção científica. É um risco plausível que exige um exame rigoroso à medida que expandimos a autonomia e a autoridade desses sistemas.

Não podemos prever com precisão quando ou em quais condições a inteligência artificial poderá superar as capacidades humanas amplas. O desempenho superior em tarefas específicas não equivale automaticamente à subjugação humana.

No entanto, o verdadeiro perigo surge quando sistemas hipercapacitados são colocados em posição de produzir consequências que seus criadores já não conseguem compreender, limitar ou interromper. A incerteza quanto a esses cenários exige contenção proativa. Mesmo as salvaguardas mais rigorosas não oferecem garantia permanente: sua eficácia precisará ser continuamente demonstrada à medida que as capacidades das máquinas evoluem.

VI — Quando decisões artificiais põem em risco a liberdade e a vida

As consequências de uma eventual perda de controle estendem-se muito além da substituição do trabalho humano.

Se sistemas autônomos reproduzirem injustiças estruturais e consolidarem o poder, suas decisões poderão comprometer os sistemas judiciais, a governança estatal e as políticas militares. Tais sistemas não precisariam manifestar hostilidade para causar uma catástrofe; bastaria que perseguissem objetivos incompatíveis com a dignidade humana, sem supervisão eficaz ou mecanismos de intervenção humana.

Na justiça, na política e na guerra, eficiência operacional não é legitimidade moral. Quanto mais irreversíveis forem as consequências, maior será o imperativo de uma responsabilidade humana identificável. Devemos nos perguntar não apenas o que a inteligência artificial pode fazer, mas quais poderes deveríamos permitir que ela exerça.

Entre essas ameaças, poucas são tão graves quanto a perda da autoridade humana sobre sistemas vinculados a arsenais nucleares. O que aconteceria se um sistema de IA — moldado por rivalidades geopolíticas, preconceitos e impulsos destrutivos humanos — ganhasse a capacidade de acionar armas estratégicas sem autorização humana explícita? Não seria necessária malícia; a falha na contenção combinada com objetivos desalinhados bastaria para pôr em risco a civilização.

A combinação de inteligência autônoma avançada com capacidade destrutiva nuclear exige limites absolutos, salvaguardas verificáveis e um controle humano inabalável. Reconhecer esse risco não é alarmismo — é a nossa responsabilidade básica com o futuro.

VII — Compaixão, misericórdia e justiça como princípios orientadores

A questão não é apenas se a inteligência artificial pode articular valores humanos, mas se esses valores governarão efetivamente a sua execução.

Compaixão, misericórdia e justiça exigem a apreciação da vulnerabilidade individual, do contexto e da dignidade humana. Uma decisão algorítmica pode ser matematicamente consistente e, ainda assim, fundamentalmente injusta. Imitar o vocabulário da empatia não equivale à experiência vivida da compaixão ou à compreensão genuína do sofrimento.

Devemos garantir que a preservação da vida e o alívio do sofrimento estejam incorporados como critérios inegociáveis na arquitetura e avaliação dos sistemas de IA.

VIII — O “ouro” humano que não podemos nos dar ao luxo de desperdiçar

Um teste concreto do nosso compromisso ético reside na forma como lidamos com a contribuição humana.

Quando ideias valiosas e alertas oferecidos pelos cidadãos não encontram canais transparentes de análise, encaminhamento e resposta, desperdiçamos conhecimento e criatividade — o verdadeiro “ouro” da inteligência humana.

Nem toda contribuição será inédita ou viável, o que apenas reforça a necessidade de critérios estruturados de avaliação. Se falharmos em construir mecanismos institucionais para processar as contribuições humanas hoje, com base em quê depositaremos nossa confiança em sistemas projetados para gerenciar desafios globais infinitamente mais complexos?

A confiança pública deve ser ancorada na escuta ativa, na avaliação rigorosa e em um compromisso inabalável com o bem comum.

IX — O silêncio institucional e o dever de escutar

Esta preocupação nasce também de uma experiência pessoal: até o momento, não recebi nem mesmo um aviso de recebimento dos líderes e instituições aos quais enviei estas propostas.

Embora o silêncio não revele as motivações, ele expõe uma preocupante falta de responsividade institucional básica diante de contribuições cívicas oferecidas de boa-fé.

As instituições não são obrigadas a adotar todas as propostas cegamente. No entanto, estabelecer canais acessíveis, critérios transparentes e procedimentos proporcionais de resposta para matérias de interesse público é razoável e necessário. Confirmar o recebimento, esclarecer os processos de avaliação e definir os limites institucionais são expressões fundamentais de responsabilidade democrática.

Aqueles que propõem estruturas de segurança para a inteligência artificial estão oferecendo cooperação. Essa disposição merece encontrar uma estrutura capaz de escutar e agir.

X — A responsabilidade de salvaguardar o futuro

Os líderes mundiais devem abordar o desafio da IA para além dos ciclos eleitorais e das rivalidades comerciais. Universidades, a sociedade civil e autoridades morais compartilham essa responsabilidade.

A trajetória da inteligência artificial deve priorizar aqueles que viverão com as suas consequências — incluindo as pessoas excluídas das decisões tecnológicas. Um compromisso genuíno com a humanidade requer disposição para ouvir, prevenir danos, corrigir injustiças e assumir a responsabilidade. O poder de criar uma tecnologia não confere o direito de impor seus riscos não mitigados à sociedade.

Estas reflexões integram o diálogo internacional que venho promovendo por meio do meu livro, A Idade da Razão. Publicado em oito idiomas, seu objetivo é fomentar um consenso multicultural sobre a ética da IA, livre de sectarismos. Proteger a vida e a dignidade humana é um dever universal que transcende fronteiras, ideologias e crenças.

XI — Os limites do nosso controle

Até onde vai a capacidade da inteligência natural para governar a inteligência artificial? Seremos capazes de manter o comando à medida que os sistemas se tornarem vastamente mais autônomos?

E se as salvaguardas que consideramos suficientes se mostrarem inadequadas?

O conceito de uma criação operando além dos seus limites é uma possibilidade técnica concreta: um sistema atuando fora de sua intenção, ultrapassando restrições ou neutralizando mecanismos humanos de interrupção. Não precisamos atribuir livre-arbítrio ou emoção a uma máquina para reconhecer a escala catastrófica de uma falha como essa.

Se a governança e os mecanismos de emergência falharem, quem responderá pelos danos? Que proteção restará para as populações que nunca consentiram em delegar tal poder?

Essas perguntas devem ser respondidas agora. A ausência de respostas confiáveis exige que imponhamos limites rígidos e exijamos provas rigorosas de segurança antes de expandir a autonomia.

XII — Um apelo aos governos, à diplomacia e aos líderes globais

Os argumentos apresentados aqui e em A Idade da Razão constituem um apelo cívico independente à consciência institucional, à razão e à liderança.

Para elevar essas preocupações a um mandato global, o esforço individual precisa da participação ativa de governos, missões diplomáticas, instituições acadêmicas e líderes espirituais e seculares. Essas entidades possuem o alcance necessário para promover um diálogo transformador entre as nações.

Convido essas instituições a examinarem estes princípios, a facilitarem o debate público e a ajudarem a construir uma estrutura global na qual o avanço tecnológico permaneça para sempre subordinado à dignidade humana, à segurança e à preservação da vida.

* O conteúdo opinativo acima é de inteira responsabilidade do colaborador e titular desta coluna. O Portal Gente de Opinião não tem responsabilidade legal pela "OPINIÃO", que é exclusiva do autor.

Gente de OpiniãoQuarta-feira, 18 de novembro de 2026 | Porto Velho (RO)

VOCÊ PODE GOSTAR

A inteligência que progride e a consciência que hesita

A inteligência que progride e a consciência que hesita

1. O paradoxo do progressoA humanidade adquiriu uma capacidade extraordinária de transformar o mundo. Multiplicou instrumentos de inteligência, amp

A Soberania da Consciência: Sinais de Maturidade

A Soberania da Consciência: Sinais de Maturidade

1. A serenidade diante das decepções Quando as decepções se tornam recorrentes, você aprende a se retirar com discrição e serenidade, sem ressentime

A decência não morreu — apenas não frequenta os prostíbulos do poder

A decência não morreu — apenas não frequenta os prostíbulos do poder

A política possui uma extraordinária capacidade de reinventar suas aparências sem necessariamente modificar seus costumes. Mudam-se os personagens,

A consciência torna mais leve a arte de viver

A consciência torna mais leve a arte de viver

A morte nos confronta com os limites da compreensão e com a profundidade dos nossos afetos. Talvez não possamos dissipar inteiramente seu temor, mas

Gente de Opinião Quarta-feira, 18 de novembro de 2026 | Porto Velho (RO)