Os perigos da IA

As notícias chegam de todos os lados, a começar por alunos desaprendendo a redigir. São muitos efeitos colaterais na medicina, no direito, na arquitetura, nos escritórios, mas que podem ser superados com adequação e aperfeiçoamentos, considerando os incontáveis benefícios.

Infelizmente não é só isso. A inteligência artificial não é assunto que demanda apenas pequenos ajustes e adaptações, segundo os especialistas.

Bill Gates entende de tecnologia e já esteve à frente de grandes inovações com a Microsoft. Mesmo atualmente afastado do conselho da empresa e, como muitos bilionários americanos, envolvido com filantropia, com o escândalo de Jeffrey Epstein e perdendo questões bilionárias na justiça por abuso de monopólio, costuma ser ouvido e falou ao NY Times. Gates manifestou preocupação com a inteligência artificial e os riscos que pode trazer para os empregos e para a vida humana.

Quem já teve oportunidade de utilizar a IA percebe que é incrivelmente competente e com grandes vantagens em muitas áreas, mas é assustadora a possibilidade de que venha a fugir do controle e o lado bom seja superado pelos aspectos negativos. Gates a classifica como a ferramenta mais perigosa já inventada e diz que as providencias necessárias são urgentes, como prioridade global. Diz que a indústria de tecnologia está ciente dos riscos, mas conversa pouco sobre o assunto e minimiza as ameaças porque existe muito dinheiro envolvido, contado em trilhões.

Ciberataques impulsionados pela IA já tem ocorrido, mas ainda de forma setorial, podendo atingir escala global em curto prazo, prevê.

A IA substitui muitos empregos nos escritórios, entre arquitetos, engenheiros, advogados, médicos, telefonistas, psicólogos e argumenta-se que serão reposicionados no mercado, mas com a velocidade do avanço da IA não haverá tempo para a requalificação que possibilite a manutenção dos empregos. Sugere então que seja criado um imposto sobre Tokens para tornar a substituição de pessoas mais cara e para oferecer suporte social à multidão de desempregados. É verdade que a Ford recontratou engenheiros ao contabilizar prejuízo de milhões depois que entregou o controle de qualidade e segurança à IA, mas não será por muito tempo pois uma das tarefas dos humanos contratados é exatamente treinar a IA para executar o trabalho de forma que volte ao posto no lugar dos funcionários.

Gates também tem sugerido que sejam definidas funções reservadas para humanos.

Receitas para formulação de armas biológicas, para criação de novos patógenos e desencadear uma nova pandemia, parecem estar perto, na opinião de especialistas que chegam a sugerir um controle nos moldes do que existe para proliferação nuclear. Uma IA avançada nas mãos de pessoas mal-intencionadas seria suficiente para promover bioterrorismo não sendo aceitável considerar que fique submetida apenas à autorregulação. Propõem que a regulação seja nos moldes da AIEA (agência internacional de energia atômica) com limites rígidos de segurança antes do lançamento de modelos de IA de alta capacidade, com auditores independentes, testes de segurança e transparência.

Foi sugerido usar a IA contra a IA para identificar vulnerabilidades e rastrear mal uso e crimes.

A IA se encaminha na direção de ser capaz de promover a desinformação em massa, ataques à democracia, vídeos e textos altamente convincentes em escala maciça, manipulação de eleições, destruição de confiança nas instituições e no jornalismo, ataques cibernéticos e armas biológicas. A IA superinteligente terá superado a capacidade cognitiva humana em quase todas as áreas e poderá assumir o controle, definindo seus próprios objetivos. Com  inteligência superior, poderá considerar o ser humano dispensável ou um empecilho para execução de seus projetos.

Será o fim.

Sérgio Gondim, médico