A chegada da inteligência artificial em grande escala está transformando radicalmente o cenário corporativo, trazendo consigo não apenas oportunidades de inovação e eficiência, mas também novos desafios relacionados à segurança de dados.
Durante sua participação no evento Universo Totvs, Eduardo Riera, Diretor de Tecnologia da empresa, compartilhou insights valiosos sobre como as organizações estão se adaptando a esta nova realidade. Segundo Riera, a abordagem mais eficaz é enxergar os agentes de IA como recursos contratados, aplicando a eles os mesmos princípios de governança e segurança utilizados com colaboradores humanos, porém com camadas adicionais de proteção.
A IA como um recurso contratado
Um dos pontos mais interessantes abordados por Riera é a perspectiva de tratar agentes de IA como equivalentes a funcionários (FTEs – Full Time Employees). “A gente olha o agente de IA como um FTE, que é um recurso humano que está trabalhando para nós”, explica. Esta abordagem traz clareza sobre responsabilidades: quem contrata a IA é responsável por ela, assim como ocorre na contratação de pessoas.
Esta visão pragmática permite estabelecer parâmetros claros de governança. Assim como um funcionário tem acesso limitado a determinadas informações, a IA também deve ter seus acessos controlados. Da mesma forma, quando uma empresa decide “desligar” um agente de IA, precisa garantir que ele não mantenha acesso às informações confidenciais, exatamente como ocorreria com um colaborador que deixa a organização.
Saiba mais: Quais são os tipos de inteligências artificiais? Veja características e aplicações
Os três pilares da funcionalidade da IA
Para que um agente de IA funcione adequadamente dentro de um ambiente corporativo seguro, Riera destaca três elementos essenciais:
- O Prompt: Representa as instruções dadas à IA, equivalente a ensinar um funcionário a realizar suas atividades.
- O Recurso: Refere-se às informações às quais a IA tem acesso para tomar decisões ou executar ações.
- A Ferramenta: São os meios pelos quais a IA executa as ações que decidiu tomar.
Estes três elementos precisam ser cuidadosamente gerenciados para garantir que a IA opere dentro dos limites estabelecidos pela empresa, sem comprometer dados sensíveis.
Agentes autônomos vs. Agentes assistidos
Um aspecto crucial da segurança de dados no contexto da IA é a distinção entre agentes autônomos e assistidos. Riera explica que os agentes autônomos, que tomam decisões sem intervenção humana, apresentam desafios de segurança já bem compreendidos. Por outro lado, os agentes assistidos, que interagem com humanos, trazem uma camada adicional de complexidade.
“Além da preocupação com a informação que eu dou para ela, tem que ter a preocupação do que ela vai falar para alguém”, alerta Riera. Isso ocorre porque um usuário pode obter, através da IA, acesso a informações às quais normalmente não teria direito. Portanto, são necessários dois níveis de proteção: controlar o que a IA acessa e controlar o que ela pode compartilhar com diferentes usuários.
Governança e eesponsabilidade
A governança de IA segue princípios similares aos aplicados a recursos humanos, mas com adicionais importantes. Riera destaca a necessidade de registrar todas as atividades realizadas pela IA, incluindo as decisões tomadas. “É importante logar a decisão que ela tomou porque às vezes ela precisa de uma instrução de treinamento adicional para fazer algo mais próximo daquilo que eu quero”, explica.
Esta abordagem não apenas garante a segurança, mas também permite o aprimoramento contínuo dos agentes de IA. Ao analisar os logs de decisões, as empresas podem identificar padrões problemáticos e refinar as instruções dadas aos sistemas.
O futuro da IA nas empresas
Riera se mostra otimista quanto ao futuro da IA no ambiente corporativo, mas enfatiza que ela não substituirá os humanos – apenas potencializará suas capacidades. “Durante toda a história da TI, a gente sempre falou em substituir pessoas, só que a gente nunca substituiu. As pessoas ficaram melhores”, observa.
O executivo prevê que, embora existam agentes autônomos, a maioria das implementações de IA será na forma de assistentes, ajudando profissionais a se concentrarem nas partes mais gratificantes de suas funções. “O mundo perfeito é a gente focar naquilo que a gente mais gosta de fazer, aquilo que fez a gente escolher a nossa profissão, e alguém fazer aquilo que a gente não gosta”, conclui.
A integração da IA nos processos corporativos representa uma evolução significativa na forma como as empresas operam, mas traz consigo a necessidade de repensar estratégias de segurança de dados. A abordagem proposta por Eduardo Riera, de tratar agentes de IA como recursos contratados com responsabilidades e limitações claras, oferece um caminho pragmático para lidar com esses desafios.
À medida que mais organizações adotam tecnologias de IA, estabelecer governança robusta, controles de acesso granulares e mecanismos de registro abrangentes torna-se não apenas uma questão de conformidade, mas um imperativo estratégico para proteger dados sensíveis e garantir que a IA opere de acordo com as expectativas e necessidades do negócio.
