Os riscos da IA segundo quem a viu por dentro:
Uma dezena de pesquisadores, executivos e especialistas que deixaram a OpenAI, o Google ou a Anthropic alertaram, nos últimos anos, para falhas de segurança, usos militares e sistemas cada vez mais difíceis de controlar por essas empresas. Estes são os seus receios.
Na Anthropic, circula pelos corredores e chats uma expressão que, até poucos dias atrás, nunca havia saído de lá: *crunch time*. A hora da verdade.
Os funcionários a utilizam — segundo relatou um deles — para se referir a um prazo muito específico: o período de um ou dois anos que resta, segundo estimam, antes que se decida se a inteligência artificial que estão desenvolvendo sairá do controle.
A outra expressão que circula é mais curta e mais antiga no jargão do Vale do Silício, mas aqui adquiriu um significado um significado diferente: *endgame*. A partida final.
A pessoa que trouxe essas duas palavras a público chama-se Jacob Coxon, tem 27 anos e, até 8 de setembro, trabalhava na Anthropic treinando os modelos que hoje, ele admite, lhe causam medo.
Ele não é o primeiro a deixar uma grande empresa de inteligência artificial alertando publicamente sobre seus riscos. Antes dele, pelo menos uma dezena de outros funcionários da OpenAI, da Anthropic e do Google fizeram o mesmo — entre eles, um ganhador do Prêmio Nobel, um membro do conselho de administração de uma dessas empresas, meia dúzia de pesquisadores de segurança e, mais recentemente, pessoas que nem sequer trabalhavam com "alinhamento", aquele conceito difuso que essas empresas utilizam para garantir que seus modelos de IA atuem de forma benéfica para a humanidade.
Coxon, que acredita que a IA "pode nos matar antes de 2030", é o mais recente nome em uma longa série de denúncias iniciada, pelo menos, em 2021 — embora, na época, esse medo fosse apenas uma intuição filosófica. Agora, ele se transformou em um cálculo de probabilidades (*p-doom*) que a própria indústria compartilha em privado e começa, com ressalvas, a admitir em público.
El País
Viver é Perigoso
Um comentário:
"Acho que há muitas forças negativas levantando essa questão quando não deveriam, e estão sugerindo coisas que não vão acontecer". Afirmação do Donald sobre as preocupações com o controle das IAs
Já afirmou tantas coisas absurdas. Que já derrotou o Irã umas 10 vezes. Que vai baixar os juros umas 15. Que o tarifaço vai dar certo algumas centenas. Que iria acabar com a guerra da Ucrânia em 1 dia.
A última é que vai dar US$ 5.000,00 para cada americano adulto se o partido dele vencer as eleições. Além da absurda interferência nas eleições coisa que a justiça jamais deixaria, e fazendo uma continha rápida, sabem quanto daria isso? perto de 1 TRILHÃO DE DÓLARES.
Como diria a Mussum: Graciiinha!
Postar um comentário