Por que a tecnologia cria novos problemas para cada um que ele resolve? | Mark Buchanan

Hoje, os chamados techno-otimistas preenchem as fileiras dos bilionários do Vale do Silicone. Eles declaram um futuro brilhante para a humanidade, que é entregue pela rápida busca de avanços tecnológicos.

Obviamente, esses techno-otimistas são um dos maiores ativos de tecnologia e ciência, e é adequado para eles darem esperança ao futuro. Mas eles vão muito longe, porque mesmo que a tecnologia resolva os outros, é verdade que, mesmo que resolva os outros – também é algo que aprendemos através da ciência. Como resultado, a pura crença na tecnologia é uma receita para um zumbido de curto prazo, enquanto suporta custos de longo prazo. O benefício da tecnologia da melhor maneira requer uma abordagem mais cautelosa e equilibrada.

Por que a tecnologia está dando tão errado – mesmo que seja verdade? O antropólogo Sander Van der Leeuwe atraiu uma resposta há dez anos e parece uma lei da natureza. Quando encontramos um problema, pensamos nisso e criamos um modelo conceitual de como uma parte do mundo funciona. Nós o usamos para propor uma solução para o nosso problema. Com base nesse entendimento, nos movemos mais tarde e geralmente resolvemos o problema tecnológico. No entanto, normalmente descobrimos que nosso modelo – é claro – na verdade não é um modelo completo do mundo. Nosso modelo simples deixou algumas coisas de fora. De uma maneira não suculenta, verifica -se que nossa tecnologia, que opera no mundo real, tem efeitos no mundo, que não prevêmos – não prevemos consequências inesperadas.

Como os modelos simples são muito poderosos, sedutores e úteis, encontramos esse modelo repetidamente. Além disso, modelos simples deixam os detalhes, para que todos os resultados de nossas ações sempre entendam mal. Inventamos uma melhor tecnologia de pesca para alimentar mais pessoas e depois vemos que excluímos as populações de peixes. Criamos excelentes superfícies não -dejuladas para cozinhar panelas e, em seguida, descobrimos que os produtos químicos nesses materiais causam problemas de saúde e se infiltram no ambiente e se espalham essencialmente em todos os lugares. Fazemos plásticos super ligados que resultam em micro partículas nos oceanos e em nossos próprios corpos. Esta também é a história da tecnologia com grandes vitórias.

Como entendemos isso, prever problemas devem fazer parte do próprio desenvolvimento tecnológico. Uma visão clara de nossa ignorância não significa seguir a tecnologia, mas consulta cuidadosamente e a sabedoria usando a previsão sem esperar nada próximo ao prefácio aperfeiçoado. Ao mesmo tempo, tomando medidas práticas para regular o desenvolvimento e dedicar tempo para corrigir os problemas que ocorrem, pelo menos evitar os piores resultados.

Nossa abordagem atual de pesquisa e desenvolvimento em inteligência artificial ou inteligência artificial oferece um exemplo da abordagem imprudente. Atualmente, as maiores empresas de tecnologia do mundo estão lutando entre si para controlar o mercado para essa tecnologia e usar um modelo o mais rápido possível com pouca vigilância. Como afirma o neurocientista Gary Marcus, essa raça tem um custo óbvio para a soberania de curto prazo-todo mundo é exposto a riscos desconhecidos de tecnologias novas e não especificadas. Ele também tem um custo menos pronunciado: a fraude da concorrência significa que quase todos os recursos existentes estão investindo atualmente em pesquisas no campo mais promissor chamado grandes modelos de idiomas. Isso se afasta de outros campos da ciência da computação que podem ser mais importantes por um dia para obter inteligência artificial real.

Felizmente, todos os líderes do Vale do Silício não aceitam a demanda techno-otimista por aceleração tecnológica descontrolada. A Dario Amodei, CEO antrópica da empresa de IA, compartilha seu otimismo, como explica em um último artigo, que expressa sua visão de que a pesquisa de IA pode levar a incríveis melhorias no bem -estar humano. Sem dúvida, ao descobrir um cenário otimista, ele argumenta que em algumas décadas podemos eliminar todas as doenças, espalhar o crescimento econômico útil entre as nações e até melhorar o consenso sobre a importância social básica das pessoas.

No entanto, Amodei também reconhece que há muito espaço para que as coisas dêem errado. Depende das eleições que fizemos.

E nesse sentido, ele propõe que o foco de perto em riscos e regulamentação deve ser o caminho certo, em vez de competir com a esperança como nosso guia. As pessoas não são apenas o quão bom pode ser um dia, mas também como Pode haver riscos. E temos assimetria natural a respeitar.

“Muitos do desenvolvimento básico e dos benefícios da tecnologia de IA (não todos) parecem inevitáveis como resultado de fortes forças de mercado.

Como em culturas como Wall Street ou Silicon Valley, a tensão básica está entre as forças que equilibram lucros de curto prazo, independentemente da consequência de longo prazo, e das forças que equilibram oportunidades e riscos e, portanto, benefícios mais sustentáveis. Existe um desequilíbrio natural contra visões e contra -discussões opostas, porque agora são agora pesados lucros potenciais atraentes e óbvios contra riscos difíceis e menos definidos a serem determinados em um futuro desconhecido. Não é uma comparação justa.

Especialmente quando é muito fácil cometer grandes erros com desastre enquanto pensa no futuro, mesmo no futuro próximo. No manifesto tekno-operado, o empresário Marc Andreessen expressa claramente seu sonho de que podemos aumentar os recursos de energia limpa tão rapidamente que todos no mundo podem usar 1.000 vezes mais energia por dia, pois é típico para as pessoas nos países desenvolvidos em breve. Imagine o que as pessoas podem alcançar! Parece ótimo. Uma pequena idéia da física mostra que o uso de tanta energia fará com que o planeta se aqueça cerca de 30 vezes mais rápido do que vivemos hoje, e todos morremos em alguns anos. Afinal, não é tão bom.

Obviamente, todos podem cometer esse erro, porque em nosso mundo complexo, por que e o resultado são complexos. A tecnologia é difícil e está longe de ser clara o que pode ser. Assim – e precisamos pensar com mais cuidado sobre os riscos e seguir uma abordagem mais cautelosa.