Diretor científico da Microsoft destaca avanços da IA mas assina carta contra a tecnologia
Eric Horvitz escreveu um post no blog elogiando a natureza transformadora da IA no mesmo dia em que assinou um documento alertando que ela poderia ameaçar a própria existência da humanidade.
O diretor científico da Microsoft, Eric Horvitz, acredita que a inteligência artificial (IA) permitirá que os seres humanos do futuro prosperem, mas aparentemente ele está sendo cauteloso.
Horvitz publicou um artigo intitulado “Reflexões sobre IA e o futuro do florescimento humano” no blog oficial da Microsoft em 30 de maio. O artigo discute o futuro da inteligência artificial e anuncia uma série de ensaios escritos por especialistas em IA que tiveram acesso antecipado ao OpenAI GPT-4 antes de seu lançamento público.
De acordo com o post do blog, Horvitz ficou surpreso com as capacidades do OpenAI GPT-4 quando teve acesso em 2022:
“Observei brilhos inesperados de inteligência além daqueles vistos em sistemas de IA anteriores. Em comparação com seu antecessor, o GPT-3.5 – um modelo utilizado por dezenas de milhões como ChatGPT – notei um salto significativo em suas capacidades.
Observei brilhos inesperados de inteligência além daqueles vistos em sistemas de IA anteriores. Em comparação com seu antecessor, o GPT-3.5 – um modelo utilizado por dezenas de milhões como ChatGPT – notei um salto significativo em suas capacidades. Especificamente, Horvitz elogiou a ‘habilidade do GPT-4 de interpretar minhas intenções e fornecer respostas sofisticadas a inúmeras sugestões’, o que segundo ele ‘parecia uma ‘transição de fase’, evocando imagens de fenômenos emergentes que eu já havia encontrado na física’.
Horvitz escreve que, enquanto testava o GPT-4, ficou ‘cada vez mais evidente que o modelo e seus sucessores… possuem um tremendo potencial para serem transformadores’.
A Microsoft e a OpenAI concederam acesso antecipado do GPT-4 a uma série de especialistas e solicitaram ensaios deles, com o objetivo de identificar as oportunidades e desafios que a tecnologia representa em várias indústrias.
No mesmo dia em que Horvitz publicou o anúncio, seu nome também apareceu como signatário de um documento publicado pelo Center for AI Safety.
O documento, que continha apenas um prefácio e uma declaração de uma única frase, foi assinado por uma lista de signatários representando uma verdadeira seleção de especialistas em IA (com algumas exceções notáveis, como Yann LeCun, da Meta, e Andrew Ng, co-fundador do Google Brain).
A declaração diz: ‘Mitigar o risco de extinção proveniente da IA deve ser uma prioridade global, assim como outros riscos de escala societal, como pandemias e guerras nucleares’.
A recepção ao documento tem sido um tanto dividida nas redes sociais, com vários especialistas expandindo sobre suas razões para assinar e outros preocupados que se preocupar com riscos indefinidos – como futuros sistemas de IA com capacidades que atualmente não são possíveis – distrai de questões mais importantes.
It is amazing to see intellectuals and scientists embarking on this „ AI doomsday scenarios „ while ignoring the real devastation of climate change , rise of anti democratic forces and widening economic inequality which are unfolding in real time
— Ahmed El Hady (@zamakany) May 31, 2023
Horvitz fala sobre os “desafios” envolvidos no desenvolvimento de uma IA segura em seu último post no blog, e também admite sua “ansiedade” em relação à natureza transformadora da tecnologia. Mas não há menção de extinção em potencial.
Além da IA, a Microsoft está explorando outras tecnologias emergentes. Recentemente, a empresa foi aprovada para participar de um projeto piloto de moeda digital de banco central do Banco Central do Brasil, juntamente com Santander, Visa e vários outros candidatos.
