A responsabilidade bate à porta no Big Bang da IA

Nov 13, 2023 | min leitura
Inteligência Artificial
Dados
Segurança de dados
By

Gabriel Marostegam , Laura Kroeff

O grande debate global que se levanta sobre o potencial monumental da IA convive hoje com a preocupação em torno da precariedade de testes e regulamentações existentes para salvaguardar o avanço da tecnologia dos seus potenciais riscos

No ano em que a IA eclodiu mundialmente em capacidade e popularidade, a governança sobre a natureza dos desafios da tecnologia ainda é incipiente. Mesmo com a impossibilidade de mapear todas as ameaças futuras neste momento - como disse recentemente o primeiro-ministro do Reino Unido, Rishi Sunak, sobre a necessidade iminente da regulamentação global da inteligência artificial para conter os avanços maliciosos da tecnologia, “é correto que tomemos todas as medidas possíveis para proteger as pessoas", afirmou. 

Esse é um ponto de inflexão mundial, pois agora pela primeira vez na história da IA sua presença está no topo da lista dos formuladores de políticas em todo o mundo. As preocupações com a sua segurança se tornaram dominantes nas discussões a nível global, muito embora pouco tenha se concretizado até o momento. “A clareza sobre o que deve ser feito com relação a essa tecnologia em expansão é outra questão. Há pouca oferta de sugestões acionáveis. Além disso, as medidas nacionais só podem ir até certo ponto, dada sua natureza inerentemente global. Os apelos para ‘apenas regulamentar’ são tão altos e tão simplistas quanto os apelos para simplesmente seguir em frente,” afirmam Mustafa Suleyman e Eric Schmidt, cofundadores da Inflection e da DeepMind.

O falso dilema entre inovação e segurança

Com a incerteza do que está pela frente, surge um conflito entre o universo criativo e inovador que a tecnologia oferece em detrimento de diretrizes de segurança. Esse trade-off gera um custo de oportunidade, pois representa usufruir da IA com limitações no presente pela opção de salvaguardar seu avanço futuro desenfreado. Um dilema que circunda também o ambiente corporativo. 

Para as empresas que estão na jornada com a IA essa deve ser uma pauta obrigatória que deve permear reuniões, debates e tomadas de decisões em todos os níveis hierárquicos. “O anseio pela tecnologia não pode superar a velocidade de discussão das políticas internas de segurança, pois com a chegada da GenAI, as conversas e os investimentos em IA estão sendo drasticamente potencializados. Isso deveria estar relacionado ao aumento, também, das discussões relacionadas à IA responsável. Assim como a GenAI aumenta exponencialmente as possibilidades de impacto da IA nas empresas e na sociedade, o mesmo vale para os seus riscos. Especialmente, nesse seu estágio ainda embrionário de desenvolvimento.”, ressalta Laura Kroeff, VP Strategy & Impact da Box 1824. 

Pela grandiosidade da capacidade criativa  da Inteligência Artificial Generativa, as empresas se vislumbram diante do  mar de possibilidades que mudará drasticamente a forma como operam e desenvolvem seus negócios. “Estamos à beira de uma gama infinita de oportunidades, aguardando ansiosamente o primeiro prato deste menu em constante expansão”, afirma César Gon, CEO e fundador da CI&T. 

Nessa frenética corrida para liderar as novas aplicações de IA, a maioria das organizações tende a subestimar a importância de mapear os riscos de uso com o apoio de empresas especializadas.“Esse é um ponto nevrálgico dessa história. O problema não está na tecnologia em si, mas na falta de sincronia entre as análises e discussões sobre os riscos, que não conseguem acompanhar a velocidade dos lançamentos e dos avanços disponibilizados ao público final. Esse descompasso, de fato, pode ser o principal fator de risco", alerta Laura Kroeff. Segundo ela, na ausência de um equilíbrio entre as oportunidades de avanço e as medidas preventivas de proteção, muitas empresas podem se encontrar em situações delicadas. Isso pode levar à adoção de ações paliativas para enfrentar potenciais crises relacionadas a diversos fatores, tais como:

Job
displacement

Remoções involuntárias de empregos em função da promoção da IA internamente. Tal situação pode gerar impactos no ambiente da corporação e na vida dos funcionários, pois muitos precisarão adquirir novas habilidades ou certificações para se conectarem às novas demandas do mercado. Para isso, especialistas recomendam que as empresas capacitem sua mão de obra em favor da tecnologia (reskilling), e aproveitem as habilidades internas para criar novos cargos e funções que trabalhem em conjunto com a IA na criação de novas fontes de valor e receita.

Bias e
discriminação

Quando a tecnologia toma decisões de forma automatizada, existe o risco de potencializar discriminações, preconceitos e julgamentos baseados em estereótipos e clichês. Então, como garantir que as ferramentas de IA não reproduzam e padronizem preconceitos sistêmicos? Para evitar tais ocorrências, é fundamental assegurar tanto a presença de políticas de diversidade e inclusão, quanto de treinamentos antidiscriminatórios para os profissionais responsáveis pela tomada de decisão - que devem supervisionar as análises de dados e recomendações feitas pela máquina. Portanto, para a sinergia perfeita entre humanos e IA é crucial ter equipes de alto desempenho para aplicar conhecimento técnico e olhar humano e ético às ferramentas de IA.

Privacidade
de dados

Considerando que os novos sistemas de IA Generativa oferecem a sua principal matéria-prima, torna-se imperativa a criação de políticas de uso para evitar, tanto o vazamento de dados sigilosos e sensíveis, quanto à violação das regulamentações de privacidade em cada País. Como medidas preventivas sugere-se a implementação de regras que proíbam o compartilhamento de dados confidenciais e privados em modelos aberto; a obtenção de consentimento informado para todos os dados coletados; e a aplicação de medidas de segurança de dados como criptografia e armazenamento seguro para prevenir vazamentos e acessos não autorizados. Além disso, é essencial estabelecer acordos e políticas de processamento de dados em conformidade com a legislação local, para assegurar a privacidade e a segurança das informações.

Propriedade
intelectual

A tecnologia estabelece uma linha tênue entre conteúdos públicos e privados. Envolve a forma como os modelos de IA estão sendo treinados, basicamente com dados que, em tese, seriam públicos - por estarem disponíveis na internet, mas que na verdade são protegidos por direitos autorais dos seus criadores. Caso as empresas não adotem políticas de compliance e ética claras relacionadas ao uso de IA, questionamentos e reivindicações futuras poderão envolver o negócio. Medidas protetivas eficazes incluem a implementação de políticas de uso interno que não permitam a utilização de ferramentas ou prompts que criem algo a partir de produções de terceiros, como textos, imagens, sons e vídeos. Adicionalmente, as empresas devem, ainda, contratar modelos de IA com rigor e cuidado, escolhendo aqueles mais avançados e com recursos de segurança aprimorados. A introdução de processos de revisão humana também é muito importante para identificar e prevenir possíveis violações de direitos autorais.

O pensamento crítico é ter o desejo de buscar, a paciência para duvidar, o empenho para meditar, a lentidão para afirmar,
a disposição para considerar, o cuidado para ordenar e o ódio por qualquer tipo de impostura.

A chave do pensamento crítico 

Nesse cenário, aprender a gerenciar e governar as oportunidades e riscos da tecnologia é, sem dúvidas, o primeiro grande desafio global. Para não perder o controle do que vem pela frente, é necessário conhecimento profundo e detalhado das ferramentas e aplicabilidades sem perder de vista o pensamento crítico como bem define o filósofo inglês, Francis Bacon (1561-1626): "O pensamento crítico é ter o desejo de buscar, a paciência para duvidar, o empenho para meditar, a lentidão para afirmar, a disposição para considerar, o cuidado para ordenar e o ódio por qualquer tipo de impostura".

Portanto, como o Big Bang, que revolucionou os estudos astronômicos ao afirmar que o universo é infinito, a IA revolucionará as concepções do mundo na velocidade da luz.
Que todos já tenham em mãos as diretrizes ideais que guiarão a humanidade para seu próximo futuro que começa agora

Nem todas as empresas estão preparadas para essa transformação de ponta a ponta, e por isso contam com parceiros externos para atingir seus objetivos no mercado. A CI&T, por exemplo, desenvolveu o FLOW, uma plataforma construída em torno do conceito de agentes de IA colaborativos que trabalham em perfeita parceria com ações humanas em todo o ciclo de vida de produção da solução digital: desde a concepção até a operação. Esses agentes, dotados de diversas habilidades e conhecimentos customizáveis, possibilitam um salto de produtividade, qualidade e agilidade, que incluem todas as medidas de segurança e de uso responsável da inteligência artificial extremamente necessários nesta era hiper digital.

“Portanto, como o Big Bang, que revolucionou os estudos astronômicos ao afirmar que o universo é infinito, a IA revolucionará as concepções do mundo na velocidade da luz. Que todos já tenham em mãos as diretrizes ideais que guiarão a humanidade para seu próximo futuro que começa agora”, analisa Gabriel Marostegam, Head of Data & AI da CI&T.

Gabriel Marostegam CI&T

Gabriel Marostegam

Head of Data & AI, CI&T
Laura Kroeff

Laura Kroeff

VP de Strategy & Impact, Box1824