Viés na IA: o que as blockchains podem fazer para garantir a equidade?
Os especialistas acreditam que os sistemas descentralizados podem ajudar a proteger a integridade e a objetividade dos dados alimentados nos sistemas de IA, mas ainda existem limitações muito claras.
rojetos baseados em inteligência artificial (IA) estão se tornando rapidamente parte integrante do paradigma tecnológico moderno, auxiliando nos processos de tomada de decisão em vários setores, desde finanças até saúde. No entanto, apesar do progresso significativo, os sistemas de IA não estão isentos de falhas. Um dos problemas mais críticos enfrentados pela IA hoje é o viés de dados, que se refere à presença de erros sistemáticos em um conjunto de informações, levando a resultados distorcidos ao treinar modelos de aprendizado de máquina.
Como os sistemas de IA dependem muito de dados; a qualidade dos dados de entrada é de extrema importância, pois qualquer tipo de informação distorcida pode levar a preconceitos no sistema. Isso pode perpetuar ainda mais a discriminação e a desigualdade na sociedade. Portanto, garantir a integridade e objetividade dos dados é essencial.
Por exemplo, um artigo recente explora como imagens geradas por IA, especificamente aquelas criadas a partir de conjuntos de dados dominados por fontes influenciadas pelos Estados Unidos, podem deturpar e homogeneizar o contexto cultural das expressões faciais. Ele cita vários exemplos de soldados ou guerreiros de vários períodos históricos, todos com o mesmo sorriso estilo americano.
Além disso, o viés predominante não apenas deixa de capturar a diversidade e nuances da expressão humana, mas também corre o risco de apagar histórias e significados culturais vitais, afetando potencialmente a saúde mental global, bem-estar e a riqueza das experiências humanas. Para mitigar essa parcialidade, é essencial incorporar conjuntos de dados diversos e representativos nos processos de treinamento de IA.
Vários fatores contribuem para dados tendenciosos nos sistemas de IA. Em primeiro lugar, o próprio processo de coleta pode ser falho, com amostras não sendo representativas da população alvo. Isso pode levar à sub-representação ou super-representação de certos grupos. Em segundo lugar, vieses históricos podem infiltrar-se nos dados de treinamento, o que pode perpetuar preconceitos sociais existentes. Por exemplo, sistemas de IA treinados em dados históricos tendenciosos podem continuar a reforçar estereótipos de gênero ou raça.
Por último, vieses humanos podem ser introduzidos inadvertidamente durante o processo de rotulagem de dados, já que os rotuladores podem ter preconceitos inconscientes. A escolha de recursos ou variáveis usadas nos modelos de IA pode resultar em resultados tendenciosos, já que alguns recursos podem estar mais correlacionados com certos grupos, causando tratamento injusto. Para mitigar esses problemas, pesquisadores e profissionais precisam estar cientes das possíveis fontes de objetividade distorcida e trabalhar ativamente para eliminá-las.
A tecnologia blockchain pode tornar possível a IA imparcial?
Embora a tecnologia blockchain possa ajudar em certos aspectos para manter os sistemas de IA neutros, de forma alguma é uma panaceia para eliminar vieses por completo. Sistemas de IA, como modelos de aprendizado de máquina, podem desenvolver certas tendências discriminatórias com base nos dados em que são treinados. Além disso, se os dados de treinamento contiverem várias predisposições, é provável que o sistema aprenda e reproduza esses vieses em seus resultados.
Dito isso, a tecnologia blockchain pode contribuir para abordar os vieses de IA de maneiras únicas. Por exemplo, ela pode ajudar a garantir a proveniência e a transparência dos dados. Sistemas descentralizados podem rastrear a origem dos dados usados para treinar sistemas de IA, garantindo transparência no processo de coleta e agregação de informações. Isso pode ajudar as partes interessadas a identificar possíveis fontes de viés e abordá-las.
Da mesma forma, blockchains podem facilitar o compartilhamento seguro e eficiente de dados entre várias partes, permitindo o desenvolvimento de conjuntos de dados mais diversos e representativos.
Além disso, descentralizando o processo de treinamento, a blockchain pode permitir que várias partes contribuam com suas próprias informações e conhecimentos, o que pode ajudar a mitigar a influência de qualquer perspectiva tendenciosa única.
Manter a neutralidade objetiva requer cuidadosa atenção às várias etapas do desenvolvimento de IA, incluindo coleta de dados, treinamento de modelos e avaliação. Além disso, o monitoramento e atualização contínuos dos sistemas de IA são cruciais para abordar possíveis preconceitos que possam surgir ao longo do tempo.
Para obter uma compreensão mais profunda de se a tecnologia blockchain pode tornar os sistemas de IA completamente neutros, o Cointelegraph entrou em contato com Ben Goertzel, fundador e CEO da SingularityNET – um projeto que combina inteligência artificial e blockchain.
Em sua opinião, o conceito de “objetividade completa” não é realmente útil no contexto de sistemas de inteligência finita analisando conjuntos de dados finitos.
“O que a blockchain e os sistemas Web3 podem oferecer não é objetividade completa ou falta de viés, mas sim transparência para que os usuários possam ver claramente qual viés um sistema de IA possui. Também oferece configurabilidade aberta para que uma comunidade de usuários possa ajustar um modelo de IA para ter o tipo de viés que prefere e ver transparentemente que tipo de viés está refletindo”, disse ele.
Ele acrescentou que, no campo da pesquisa em IA, “viés” não é uma palavra suja. Em vez disso, é simplesmente indicativo da orientação de um sistema de IA procurando certos padrões nos dados. Dito isso, Goertzel admitiu que inclinações opacas impostas por organizações centralizadas aos usuários que não estão cientes delas – mas são guiados e influenciados por elas – são algo de que as pessoas precisam estar atentas. Ele disse:
“Algoritmos de IA populares, como ChatGPT, são ruins em termos de transparência e divulgação de seus próprios vieses. Portanto, parte do que é necessário para lidar adequadamente com a questão do viés de IA são redes participativas descentralizadas e modelos abertos não apenas de código aberto, mas de matrizes de peso aberto que são modelos treinados e adaptados com conteúdo aberto.”
Da mesma forma, Dan Peterson, diretor de operações da Tenet – uma rede blockchain focada em IA – disse ao Cointelegraph que é difícil quantificar a neutralidade e que algumas métricas de IA não podem ser imparciais porque não há uma linha quantificável para quando um conjunto de dados perde a neutralidade. Em sua opinião, tudo se resume à perspectiva de onde o engenheiro traça a linha, e essa linha pode variar de pessoa para pessoa.
“O conceito de algo ser verdadeiramente ‘imparcial’ tem sido historicamente um desafio difícil de superar. Embora a verdade absoluta em qualquer conjunto de dados alimentando sistemas de IA generativos possa ser difícil de determinar, o que podemos fazer é aproveitar as ferramentas disponíveis por meio do uso de tecnologia blockchain e Web3”, afirmou.
Peterson afirmou que técnicas construídas em torno de sistemas distribuídos, verificabilidade e até mesmo comprovação social podem nos ajudar a criar sistemas de IA que se aproximem da “verdade absoluta”. “No entanto, ainda não é uma solução completa; essas tecnologias em desenvolvimento nos ajudam a avançar rapidamente enquanto continuamos a construir os sistemas de amanhã”, disse ele.
Olhando para um futuro impulsionado pela IA
A escalabilidade continua sendo uma preocupação significativa para a tecnologia blockchain. À medida que o número de usuários e transações aumenta, isso pode limitar a capacidade das soluções baseadas em blockchain de lidar com a enorme quantidade de dados gerados e processados pelos sistemas de IA. Além disso, até mesmo a adoção e integração de soluções baseadas em blockchain em IA existente apresentam desafios significativos.
Primeiro, há uma falta de compreensão e especialização em ambas as tecnologias de IA e blockchain, o que pode dificultar o desenvolvimento e implantação de soluções que combinem ambos os paradigmas de maneira eficaz. Em segundo lugar, convencer as partes interessadas dos benefícios das plataformas blockchain, especialmente no que diz respeito a garantir a transmissão imparcial de dados de IA, pode ser desafiador, pelo menos no início.
Apesar desses desafios, a tecnologia blockchain tem um enorme potencial quando se trata de nivelar o cenário em rápida evolução da IA. Ao aproveitar os principais recursos do blockchain – como descentralização, transparência e imutabilidade – é possível reduzir os vieses na coleta, gerenciamento e rotulagem de dados, levando a sistemas de IA mais justos. Portanto, será interessante ver como o futuro continua a se desenvolver a partir daqui.
VEJA MAIS:
