5 notas do Big Paris AI Summit

Líderes mundiais, magnatas da tecnologia e cabides variados (incluindo o seu verdadeiramente) estão reunidos em Paris nesta semana para o Cúpula de ação de inteligência artificialUma conferência co-organizada por Emmanuel Macron, o presidente francês, e Narendra Modi, primeiro-ministro da Índia, para discutir uma série de questões relacionadas à IA.

Os líderes de três empresas americanas de IA – Sam Altman, do Openai, Dario Amodei, do antropal e demis Hassabis do Google DeepMind – estão aqui, assim como um bando de líderes de IA proeminentes, pesquisadores acadêmicos e grupos da sociedade civil. (O vice -presidente JD Vance, que lidera a delegação dos EUA, deve aparecer na terça -feira.)

Entre mordidas de dor au chocolat, aqui está um pouco do que estou vendo até agora:

A Europa está tendo arrependimentos de regulamentação.

O pano de fundo da cúpula da IA ​​é que a Europa – que aprovou leis difíceis sobre privacidade de dados e mídia social na última década, e teve uma vantagem sobre a regulação da IA ​​com a Lei de AI da União Europeia – parece estar tendo dúvidas.

Sr. Macron, que nesta semana anunciou US $ 112,5 bilhões Em investimentos particulares sobre o ecossistema francês de IA, tem sido especialmente cauteloso em ficar para trás. Ele se tornou uma líder de torcida da Mistral, uma start-up de IA francesa, e argumentou contra o regulamento “punitivo” que poderia tornar o setor de tecnologia do país menos competitivo.

As empresas de tecnologia (e seus lobistas) apreciam a assistência. Mas provavelmente é tarde demais para interromper a lei da IA, que está programada para entrar em vigor nos palcos no próximo ano. E vários executivos americanos de IA me disseram que ainda consideravam a Europa um lugar difícil de fazer negócios em comparação com outros grandes mercados, como a Índia, onde a regulamentação é comparativamente relaxada.

A IA Jourseyers está perdendo terreno.

O Paris AI Summit é na verdade o terceiro de uma série de cúpulas globais de IA. Os dois primeiros – realizados na Grã -Bretanha em 2023 e na Coréia do Sul no ano passado – estavam muito mais focados nos riscos e danos potenciais dos sistemas avançados de IA, incluindo a extinção humana.

Mas em Paris, os Doomers foram afastados em favor de uma visão mais sunita e mais otimista do potencial da tecnologia. Os participantes do painel e os palestrantes foram convidados a convencer a capacidade da IA ​​de acelerar o progresso em áreas como medicina e ciência climática, e as conversas mais sombrias sobre os riscos de ai de ai foram relegadas principalmente a eventos paralelos não oficiais. E um rascunho vazado do declaração oficial da cúpula, Esperava -se que fosse assinado por algumas das nações assistentes, foi criticado pelos grupos de segurança da IA ​​por prestarem pouca atenção aos riscos catastróficos.

Em parte, isso reflete uma decisão deliberada do Sr. Macron e seus tenentes de reproduzir o lado positivo da IA ​​(um deles, Anne Bouverot, um enviado especial à cúpula, mirou nos “medos exagerados” de pessoas focadas em IA Segurança durante seus comentários de abertura na segunda -feira.) Mas também reflete uma mudança maior na indústria da IA, o que parece estar percebendo que é mais fácil deixar os formuladores de políticas animados com o progresso da IA ​​se não estiverem preocupados que isso os matará.

Deepseek energizou os também rans.

Como todos os eventos da IA ​​no mês passado, a Cúpula de Paris está agitada com a conversa sobre a Deepseek, a start-up da IA ​​chinesa que surpreendeu o mundo com seu poderoso modelo de raciocínio, supostamente construído para uma fração do custo dos principais modelos americanos.

Além de iluminar um incêndio sob os gigantes da AI da América, a Deepseek deu nova esperança a roupas menores de IA na Europa e em outros lugares que se contaram fora da corrida. Ao usar técnicas de treinamento mais eficientes e hacks inteligentes de engenharia para construir seus modelos, a DeepSeek provou que você pode precisar de apenas dezenas de milhões de dólares – em vez de centenas de bilhões de dólares – para acompanhar a fronteira da IA.

“A Deepseek mostrou que todos os países podem fazer parte da IA, o que não era óbvio antes”, disse-me Clément Delangue, executivo-chefe francês da Hugging Face, uma empresa de desenvolvimento de IA.

Agora, Delangue disse: “O mundo inteiro está se recuperando”.

A política de IA de Trump é um ponto de interrogação.

O jogo de adivinhação mais popular da semana foi o que será a postura do governo Trump na IA.

O novo governo fez alguns movimentos na IA até agora, como revogar a ordem executiva da Casa Branca de Biden que estabeleceu um programa de teste para modelos poderosos de IA. Mas ainda não apresentou uma agenda completa para a tecnologia.

Algumas pessoas aqui esperam que Elon Musk – um dos principais conselheiros do presidente e um homem que administra uma empresa de IA e expressou temores sobre a poderosa corrida de IA AMOK – convencerá Trump a adotar uma abordagem mais cautelosa.

Outros acreditam que os capitalistas de risco e os chamados aceleradores de IA na órbita de Trump, como o investidor Marc Andreessen, o convencerão a deixar a indústria da IA ​​em paz e rasgar qualquer regulamento que possa diminuir a velocidade.

O Sr. Vance pode inclinar a mão do governo na terça -feira, durante seu endereço de cúpula. Mas ninguém aqui está esperando a estabilidade tão cedo. (Um executivo da IA ​​caracterizou o governo Trump para mim como “alta variação”, que é a fala da IA ​​para “caótico”.)

Ninguém está realmente lutando com linhas de tempo curtas de IA.

A maior surpresa da cúpula de Paris, para mim, tem sido que os formuladores de políticas não conseguem entender o quanto os sistemas de IA poderosos poderiam chegar ou quão perturbadores poderiam ser.

Hassabis, do Google Deepmind, disse durante um evento no escritório de Paris da empresa no domingo que a AGI – Inteligência Geral Artificial, um sistema de IA que corresponde ou excede as habilidades humanas em muitos domínios – pode chegar dentro de cinco anos. (O Sr. Amodei, de Antrópico, e o Sr. Altman, de Openai, previam sua chegada ainda mais cedo, possivelmente no próximo ano ou dois.)

Mesmo se você aplicar um desconto às previsões feitas pelos CEOs de tecnologia, as discussões que ouvi em Paris não tiveram a urgência que você esperaria que eles tenham, se a IA poderosa realmente estiver ao virar da esquina.

Os pontos de política aqui são grandes em conceitos difusos, como “engajamento de várias partes interessadas” e “estruturas de habilitação de inovação”. Mas poucos estão pensando seriamente sobre o que aconteceria se os sistemas de IA mais inteligentes do que humanos chegassem em questão de meses ou fazendo as perguntas certas de acompanhamento.

O que significaria para os trabalhadores se agentes poderosos de IA capazes de substituir milhões de empregos de colarinho branco não fossem uma fantasia distante, mas uma realidade iminente? Que tipos de regulamentos seriam necessários em um mundo onde os sistemas de IA eram capazes de auto-aperfeiçoamento recursivo ou realizar ataques cibernéticos autônomos? E se você é um otimista da AGI, como as instituições devem se preparar para melhorias rápidas em áreas como pesquisa científica e descoberta de medicamentos?

Não pretendo acumular os formuladores de políticas, muitos dos quais estão fazendo o possível para acompanhar o progresso da IA. A tecnologia se move a uma velocidade; As instituições se movem em outro. E é possível que os líderes da indústria estejam muito longe em suas previsões da AGI, ou que surgirão novos obstáculos à melhoria da IA.

Mas às vezes nesta semana, ouvindo os formuladores de políticas discutirem como governar os sistemas de IA que já têm vários anos – usando regulamentos que provavelmente ficarão desatualizados logo após o escrito – fiquei impressionado com o quão diferentes são essas escalas de tempo. Parece, às vezes, como assistir aos formuladores de políticas a cavalo, lutando para instalar cintos de segurança em um Lamborghini que passava.

Não tenho certeza do que fazer sobre isso. Não é como se os líderes da indústria estivessem sendo vagos ou incertos sobre suas intenções de construir a AGI, ou sua intuição de que isso aconteça muito em breve. Mas se a cúpula em Paris é alguma indicação, algo está se perdendo na tradução.