Riqueza das Nações com IA: um modelo para adaptação na era da IA

Este artigo foi salvo em seus favoritos. Clique aqui para ver seus favoritos. Embora a inovação tecnológica da IA ​​progrida, a adaptação à IA está atrasada.

Esta é uma situação semelhante àquela que o economista e filósofo escocês Adam Smith enfrentou à medida que a Revolução Industrial se desenrolava: uma sociedade agrária adaptando-se à mecanização. Seu livro, Uma Investigação sobre a Natureza e as Causas da Riqueza das Nações (1776), comumente referido como A Riqueza das Nações, forneceu a base para essa adaptação. Hoje, somos confrontados com a necessidade de fazer uma adaptação semelhante à IA.

Para fazer isso, precisamos de uma base semelhante para os nossos atuais esforços de adaptação – uma Riqueza das Nações com IA, por assim dizer. Existe um consenso crescente de que a sociedade terá de fazer adaptações à IA, à medida que a inovação em hardware, software e aplicações de IA avança rapidamente. No entanto, há pouco trabalho sobre como fazer isso.

Há um coro de pessoas falando e escrevendo sobre o que a IA fará conosco, mas na verdade não estão trabalhando em possíveis respostas, cenários de efeitos ou adaptações adaptativas. Smith não criou A Riqueza das Nações inteiramente sozinho; foi o resultado de 17 anos de conversas entre economistas e dez anos de escrita. Na mesma linha, nenhuma pessoa pode criar sozinha a base para a adoção da IA.

Precisamos de um conjunto semelhante de conversas para formar a base para a adaptação da IA. A Revolução Industrial, por volta da invenção da máquina a vapor em 1712, é geralmente considerada como tendo levado até 1840 para atingir plena fruição. A inovação da IA ​​está a avançar muito mais rapidamente e, como tal, precisamos de construir a nossa base para uma adaptação inovadora também com muito mais rapidez.

Tentar resolver os problemas de hoje com as ferramentas de ontem é, na melhor das hipóteses, problemático, por isso precisamos de abordagens inovadoras. A inovação é difícil de programar, mas é possível criar um ambiente que promova a inovação. Ter uma variedade de cenários para discutir e locais para essas conversas é a melhor forma de incentivar a inovação de que necessitamos.

Esperar para construir coletes salva-vidas até já estarmos na água é perigoso. Estamos no meio de uma etapa de IA 10X – um aumento de dez vezes no tamanho das IAs de fronteira. O Rubin da NVIDIA e os chips concorrentes são poderosos, mas não o suficiente para este atual passo de 10X no tamanho do modelo de fronteira.

Veremos a próxima geração de chips e a nova arquitetura de data centers/infraestrutura para apoiá-los por volta de 2028. Então, esses modelos 10 vezes maiores começarão a treinar a próxima geração de IA. O novo hardware e modelos levarão a melhorias drásticas no software.

A experiência passada de 10X diz-nos que as melhorias são difíceis de prever, mas é muito provável que sejam dramáticas. Haverá pelo menos uma etapa adicional de 10X depois disso – com melhorias ainda mais dramáticas. Enquanto isso, as empresas do modelo de fronteira estão progredindo em software, impulsionando novos recursos, como o produto Mythos da Anthropic.

No espaço das aplicações, os agentes inteligentes (agentes de software que agem de forma autônoma) pegaram fogo. Eles mudaram as IAs de responder perguntas para fazer coisas para as pessoas. A versão inicial do OpenClaw colocou lenha na fogueira ao fornecer a indivíduos não sofisticados uma ferramenta que eles poderiam usar para criar agentes inteligentes.

Isto foi seguido por uma onda de inovadores e inovações de agentes inteligentes mais sofisticados. Esses desenvolvimentos são apenas o começo. A IA continuará a avançar de formas difíceis de prever.

Embora não possamos prever para onde irá a IA a partir daqui, podemos fazer o nosso melhor para garantir que estamos preparados para qualquer resultado possível. Algumas pessoas gostariam de parar a IA, ou pelo menos impedir que ela mudasse a sociedade. Infelizmente para eles, a produtividade e os ganhos de capital da IA ​​são demasiado grandes.

A IA também já está a tornar-se uma parte regular da vida quotidiana, pelo que, com excepção de alguns grupos religiosos autoritários, não será possível travar totalmente o crescimento ou a utilização da IA. Como resultado, a sociedade terá de se adaptar à IA em algumas áreas. Mas também haverá outras áreas onde a IA terá de se adaptar à sociedade.

A ilustração #1 mostra as adaptações que a sociedade deve fazer para a IA, começando com mudanças nos sistemas educativos para funcionarem no ambiente de IA e estratégias para evitar a perda de empregos devido à IA. Há também a questão das armas autónomas, que foi recentemente destacada pela tentativa da Anthropic de impedir que o Departamento de Defesa dos EUA (DoD) utilizasse as IA da Anthropic para vigilância em massa de cidadãos dos EUA e armas autónomas depois de o DoD ter sancionado a empresa. A Mythos chamou a atenção para o desafio da segurança cibernética.

Pode-se sentir nas vaias em resposta aos discursos de formatura da faculdade que mencionam a IA, o estrondo do ressentimento com a IA por aumentar a riqueza e a disparidade de poder. Há também preocupação com o comportamento psicótico e os Deep Fakes de IA, tornando difícil determinar o que é verdade e o impacto em nossos materiais linguísticos/culturais. Estes são os desafios que devemos aprender a superar se quisermos viver numa sociedade de IA.

Tal como a sociedade deve adaptar-se à IA, a IA também deve adaptar-se à sociedade. Esta adaptação da IA ​​à sociedade é mostrada na Ilustração #2. Uma primeira prioridade é evitar resultados existenciais, que é onde entra o problema do alinhamento.

Este é o desafio de garantir que os sistemas avançados de IA atuem de acordo com os valores e objetivos humanos para evitar o fim da humanidade. Para fazer isso, uma solução tecnológica sofisticada deve ser incorporada nas IAs, garantindo que a IA tenha uma perspectiva humana. Esta é uma tecnologia emergente que ainda não foi totalmente desenvolvida.

O desafio é garantir que uma nova IA seja “segura” do ponto de vista do alinhamento antes de ser lançada. No entanto, existe uma grande pressão competitiva para lançar novas IA antes que esta tecnologia esteja totalmente desenvolvida e as IA sejam totalmente testadas. Ao mesmo tempo que consideramos o problema existencial, precisamos de garantir que as IA não distorcem negativamente as nossas sociedades e culturas.

Existem duas áreas onde este é um problema sério. A primeira diz respeito ao que é chamado de Spec (especificação) e a segunda diz respeito aos dados de treinamento. Para implementar o alinhamento, deve haver algo para alinhar: a especificação.

A tecnologia de alinhamento emergente procura garantir que a IA esteja em conformidade com as especificações. Mas quem o cria? Neste momento, são empresas de curto prazo e com fins lucrativos, mas serão elas realmente capazes de ser guardiãs responsáveis ​​da sociedade como um todo?

A segunda área de preocupação cultural centra-se em questões sobre o que está incluído nos materiais de formação utilizados para criar IA. Estes são, novamente, escolhidos por empresas com lucro e, às vezes, com outras agendas. Isto levou a preocupações sobre material nazista, propaganda, pornografia, materiais de abuso sexual, etc., provenientes de IAs.

Como devem as necessidades mais amplas da sociedade ser representadas na seleção e utilização de dados comerciais? A questão que nos confronta é quais devem ser estas adaptações (tanto da sociedade à IA como da IA ​​à sociedade) e como realizá-las. A situação atual não tem precedentes.

Isso significa que não existe um modelo/receita sobre o que fazer ou como enfrentar esses desafios. Assim, a inovação é necessária. No entanto, o público em geral não pede adaptação.

Em vez disso, estão a reagir às ameaças reais e percebidas representadas pela IA. As reações negativas mais fortes ocorrem entre aqueles que vivenciam pessoalmente problemas de trabalho relacionados à IA ou têm amigos que os vivenciam – mais severamente entre a geração que se formou recentemente na faculdade. Depois, há as pessoas mais estabelecidas que foram demitidas nas primeiras rodadas de demissões da IA, e aquelas que temem ser as próximas.

Finalmente, há aqueles que lutam contra a inflação e que veem os centros de dados de IA a aumentar os custos de electricidade e temem o racionamento de água. Outros consideram isso um problema ambiental. O que se esconde no fundo é a sensação de que alguns membros da IA ​​ganharão muito poder e riqueza, enquanto o resto de nós enfrentará dificuldades em tempos cada vez mais desafiantes.

Há aqueles que apostaram na IA, tornando-os em melhor situação.