Governança de IA Multiagentes: Desafios e Oportunidades no Novo Cenário Tecnológico

Se liga! A tecnologia não para, e a mais nova tendência no mundo da inteligência artificial é a implantação de redes de agentes especializados. Eles trabalham de forma colaborativa, se autocriticando e acionando o modelo certo para cada etapa. No último evento da série AI Impact, organizado pela VentureBeat e apresentado pela SAP em São Francisco, o foco foi justamente esse: como implementar e governar sistemas de IA multiagentes.

Olha só quem estava lá: Yaad Oren, diretor executivo do SAP Labs nos EUA e chefe global de pesquisa e inovação na SAP, junto com Raj Jampa, VP sênior e CIO da Agilent, uma empresa de tecnologia para laboratórios analíticos e clínicos. Eles discutiram como esses sistemas estão sendo aplicados em ambientes reais, respeitando limites de custo, latência e conformidade. Segundo Oren, a ideia é permitir que os clientes da SAP escalem seus agentes de IA, mas sempre com segurança.

“Você pode ser quase totalmente autônomo, mas garantimos que haja muitos pontos de verificação e monitoramento para ajudar a melhorar e corrigir”, disse ele. “Essa tecnologia precisa ser monitorada em grande escala. Ainda não é perfeita. Isso é só a ponta do iceberg em termos do que estamos fazendo para garantir que os agentes possam escalar e minimizar qualquer vulnerabilidade.”

Implantação de Pilotos Ativos de IA na Organização

Atualmente, a Agilent está integrando a IA em toda a organização, disse Jampa. Os resultados são promissores, mas eles ainda estão solucionando problemas de vulnerabilidades e escalonamento.

“Estamos em um estágio em que vemos resultados”, explicou. “Estamos lidando com questões como, como melhorar o monitoramento da IA? Como fazemos a otimização de custos para IA? Estamos definitivamente na segunda fase disso, onde não estamos mais explorando. Estamos encarando novos desafios e como lidamos com esses custos e ferramentas de monitoramento.”

Dentro da Agilent, a IA é aplicada em três pilares estratégicos. Primeiro, no lado do produto, exploram como acelerar a inovação ao embutir IA nos instrumentos que desenvolvem. Segundo, do lado do cliente, identificam quais capacidades de IA trarão mais valor para seus clientes. Terceiro, aplicam IA nas operações internas, criando soluções como redes auto-renováveis para aumentar a eficiência e capacidade.

Solucionando Desafios de Integração de Agentes

Uma das dificuldades que permanecem é a integração entre agentes de IA e as soluções empresariais existentes. Enquanto sistemas legados podem se conectar através de APIs de dados ou arquitetura baseada em eventos, o melhor é garantir que todas as soluções operem em um ambiente de nuvem.

“Enquanto você tiver a solução em nuvem, é mais fácil ter todas as conexões e ciclos de entrega”, disse Oren. “Muitas empresas têm instalações on premise. Estamos ajudando, usando IA e agentes, a migrá-las para a solução em nuvem.”

Com o conjunto de ferramentas integradas da SAP, complexidades como personalização de software legado são facilmente mantidas na nuvem. Uma vez que tudo esteja na infraestrutura de nuvem, a camada de dados entra em cena, o que é igualmente importante.

Na SAP, a Business Data Cloud serve como uma plataforma de dados unificada que reúne informações de fontes SAP e não-SAP. Assim como o Google indexa conteúdo da web, a Business Data Cloud pode indexar dados de negócios e adicionar contexto semântico.

Conforme Oren afirmou: “Os agentes então têm a capacidade de conectar e criar processos de negócios de ponta a ponta.”

Abordando Lacunas nas Ativações Agentes em Empresas

Para resolver essa equação, três elementos são críticos: a camada de dados, a camada de orquestração e a camada de privacidade e segurança. Dados bem estruturados são fundamentais, e implantações bem-sucedidas dependem de uma camada de dados unificada. A camada de orquestração gerencia as conexões dos agentes, habilitando automação efetiva.

“A forma como você orquestra [agentes] é uma ciência, mas também uma arte”, diz Oren. “Caso contrário, você pode ter falhas, além de desafios de auditoria.”

Por último, o investimento em segurança e privacidade é inegociável — especialmente quando uma rede de agentes opera nas suas bases de dados e arquitetura empresarial, onde a autorização e gestão de identidade são primordiais. Por exemplo, um membro da equipe de RH pode precisar de acesso a informações salariais, mas ninguém mais deveria visualizar isso.

Caminhamos para um futuro onde equipes humanas nas empresas serão acompanhadas por agentes e membros robóticos, e é aí que a gestão de identidade se torna ainda mais vital, afirma Oren.

“Estamos começando a olhar para os agentes mais e mais como se fossem humanos, mas eles precisam de um monitoramento extra”, ele adicionou. “Isso envolve integração e autorização. Também requer gerenciamento de mudanças. Os agentes estão assumindo uma personalidade profissional que você precisa manter, assim como um funcionário, mas com muito mais monitoramento e aprimoramento. Não é autônomo em termos de gerenciamento de ciclo de vida. Você tem checkpoints para ver o que precisa mudar e melhorar.”

Pra você que quer saber mais sobre esse evento incrível, fica a dica de conferir o artigo completo na VentureBeat.