CTO da OpenAI diz que os reguladores do governo devem estar ‘muito envolvidos’ na regulamentação da IA
A executiva recentemente falou sobre os reguladores do governo, a carta de “pausa” e o quão perto a empresa está de alcançar a inteligência artificial geral.
Mira Murati, diretora de tecnologia da OpenAI, acredita que os reguladores governamentais devem estar “muito envolvidos” no desenvolvimento de padrões de segurança para a implantação de modelos avançados de inteligência artificial, como o ChatGPT.
Ela também acredita que uma pausa proposta de seis meses no desenvolvimento não é a maneira correta de construir sistemas mais seguros e que a indústria atualmente não está perto de alcançar a inteligência artificial geral (AGI) – um limiar intelectual hipotético em que um agente artificial é capaz de realizar qualquer tarefa que exija inteligência, incluindo cognição no nível humano. Seus comentários são baseados em uma entrevista com a Associated Press publicada em 24 de abril.
Quando questionada sobre as precauções de segurança que a OpenAI tomou antes do lançamento do GPT-4, Murati explicou que a empresa adotou uma abordagem lenta para treinamento, não apenas para inibir o comportamento indesejado da máquina, mas também para localizar quaisquer preocupações downstream associadas a tais mudanças:
“Você precisa ter muito cuidado porque pode criar algum outro desequilíbrio. Você precisa auditar constantemente […] Então você precisa ajustá-la novamente e ser muito cuidadoso sempre que fizer uma intervenção, vendo o que mais está sendo interrompido.”
Após o lançamento do GPT-4, especialistas temendo o desconhecido em torno do futuro da IA pediram intervenções que variam desde o aumento da regulamentação governamental até uma pausa de seis meses no desenvolvimento global de IA.
A última sugestão atraiu atenção e apoio de luminares no campo da IA, como Elon Musk, Gary Marcus e Eliezer Yudkowski, enquanto muitas figuras notáveis, incluindo Bill Gates, Yann LeCun e Andrew Ng, se manifestaram contra.
um grande negócio: @elonmusk, Y. Bengio, S. Russell, @tegmark, V. Kraknova, P. Maes, @Grady_Booch, @AndrewYang, @tristanharris e mais de 1.000 outros, incluindo eu, pediram uma pausa temporária no treinamento de sistemas que superam o GPT-4 https://t.co/PJ5YFu0xm9
— Gary Marcus (@GaryMarcus) 29 de março de 2023
Por sua vez, Murati expressou apoio à ideia de maior envolvimento do governo, afirmando que “esses sistemas devem ser regulamentados”. Ela continuou: “Na OpenAI, estamos constantemente conversando com governos, reguladores e outras organizações que estão desenvolvendo esses sistemas para, pelo menos no nível da empresa, concordar com algum nível de padrões.”
Mas, sobre o assunto de uma pausa no desenvolvimento, o tom de Murati foi mais crítico:
“Algumas das afirmações na carta eram simplesmente falsas sobre o desenvolvimento do GPT-4 ou GPT-5. Não estamos treinando o GPT-5. Não temos planos de fazê-lo nos próximos seis meses. E não lançamos às pressas o GPT-4. Na verdade, levamos seis meses apenas para nos concentrar totalmente no desenvolvimento seguro e implantação do GPT-4.”
Em resposta à pergunta se atualmente há “um caminho entre produtos como GPT-4 e AGI”, Murati disse à Associated Press que “estamos longe do ponto de ter um sistema AGI seguro, confiável e alinhado”.
Isso pode ser uma notícia desanimadora para aqueles que acreditam que o GPT-4 está próximo da AGI. O foco atual da empresa na segurança e o fato de que, segundo Murati, ela nem sequer está treinando o GPT-5 ainda, são fortes indicadores de que a descoberta desejada da inteligência geral ainda está fora de alcance no momento.
O maior foco da empresa na regulamentação ocorre em meio a uma tendência maior de escrutínio governamental. A OpenAI recentemente teve seus produtos GPT proibidos na Itália e enfrenta um prazo de 30 de abril para conformidade com regulamentos locais e da UE na Irlanda – um prazo que especialistas dizem ser difícil de cumprir.
Tais proibições podem ter um impacto sério no cenário das criptomoedas na Europa, já que tem havido um movimento crescente em direção à adoção de bots de negociação de criptomoedas avançados baseados em aplicativos que usam a API GPT. Se a OpenAI e empresas que desenvolvem produtos semelhantes se veem incapazes de operar legalmente na Europa, os traders que utilizam a tecnologia podem ser forçados a buscar outras opções.
VEJA MAIS:
