Os riscos da IA segundo quem a viu por dentro:
Uma dezena de pesquisadores, executivos e especialistas que deixaram a OpenAI, o Google ou a Anthropic alertaram, nos últimos anos, para falhas de segurança, usos militares e sistemas cada vez mais difíceis de controlar por essas empresas. Estes são os seus receios.
Na Anthropic, circula pelos corredores e chats uma expressão que, até poucos dias atrás, nunca havia saído de lá: *crunch time*. A hora da verdade.
Os funcionários a utilizam — segundo relatou um deles — para se referir a um prazo muito específico: o período de um ou dois anos que resta, segundo estimam, antes que se decida se a inteligência artificial que estão desenvolvendo sairá do controle.
A outra expressão que circula é mais curta e mais antiga no jargão do Vale do Silício, mas aqui adquiriu um significado um significado diferente: *endgame*. A partida final.
A pessoa que trouxe essas duas palavras a público chama-se Jacob Coxon, tem 27 anos e, até 8 de setembro, trabalhava na Anthropic treinando os modelos que hoje, ele admite, lhe causam medo.
Ele não é o primeiro a deixar uma grande empresa de inteligência artificial alertando publicamente sobre seus riscos. Antes dele, pelo menos uma dezena de outros funcionários da OpenAI, da Anthropic e do Google fizeram o mesmo — entre eles, um ganhador do Prêmio Nobel, um membro do conselho de administração de uma dessas empresas, meia dúzia de pesquisadores de segurança e, mais recentemente, pessoas que nem sequer trabalhavam com "alinhamento", aquele conceito difuso que essas empresas utilizam para garantir que seus modelos de IA atuem de forma benéfica para a humanidade.
Coxon, que acredita que a IA "pode nos matar antes de 2030", é o mais recente nome em uma longa série de denúncias iniciada, pelo menos, em 2021 — embora, na época, esse medo fosse apenas uma intuição filosófica. Agora, ele se transformou em um cálculo de probabilidades (*p-doom*) que a própria indústria compartilha em privado e começa, com ressalvas, a admitir em público.
El País
Viver é Perigoso
Nenhum comentário:
Postar um comentário