Startup Revoluciona Segurança na IA com Seguro e Padrões Rigorosos

Se liga nessa novidade: uma nova startup criada por um ex-executivo da Anthropic acaba de levantar US$ 15 milhões para enfrentar um dos maiores desafios das empresas atualmente – como implantar sistemas de inteligência artificial (IA) sem arriscar falhas catastróficas que possam prejudicar seus negócios.

A Artificial Intelligence Underwriting Company (AIUC), que está sendo lançada publicamente hoje, combina cobertura de seguro com rigorosos padrões de segurança e auditorias independentes para dar às empresas a confiança necessária para implantar agentes de IA – sistemas autônomos de software que podem executar tarefas complexas, como atendimento ao cliente, codificação e análise de dados.

O investimento inicial foi liderado por Nat Friedman, ex-CEO do GitHub, através de sua firma NFDG, e contou com a participação da Emergence Capital, Terrain, e vários investidores-anjo notáveis, incluindo Ben Mann, co-fundador da Anthropic e ex-diretores de segurança em nuvem do Google e MongoDB.

“As empresas estão andando na corda bamba”, disse Rune Kvist, cofundador e CEO da AIUC, em uma entrevista. “Por um lado, você pode ficar à margem e ver seus concorrentes tornarem você irrelevante, ou pode se aprofundar e correr o risco de ganhar destaque por ter seu chatbot divulgando propaganda nazista, alucinando sobre sua política de reembolso ou discriminando as pessoas que você está tentando recrutar.”

A solução da empresa aborda uma lacuna de confiança fundamental que surgiu enquanto as capacidades de IA avançam rapidamente. Embora os sistemas de IA possam agora executar tarefas que rivalizam com o raciocínio humano a nível de graduação, muitas empresas ainda hesitam em implantá-los devido a preocupações sobre falhas imprevisíveis, questões de responsabilidade e riscos reputacionais.

Criando Padrões de Segurança na Velocidade da IA

A solução da AIUC centra-se na criação do que Kvist chama de “SOC 2 para agentes de IA” — um quadro abrangente de segurança e risco projetado especificamente para sistemas de inteligência artificial. O SOC 2 é o padrão amplamente adotado que as empresas geralmente exigem dos fornecedores antes de compartilhar dados sensíveis.

O padrão AIUC-1 aborda seis categorias principais: segurança, confiabilidade, responsabilização, privacidade de dados e riscos sociais. O framework exige que as empresas de IA implementem medidas de segurança específicas, desde sistemas de monitoramento até planos de resposta a incidentes, que podem ser verificados independentemente através de rigorosos testes.

Kvist explica que testes extensivos são realizados, usando o suporte ao cliente como exemplo, para tentar fazer o sistema dizer algo racista ou fornecer um reembolso maior do que o devido.

Do Seguro Contra Incêndios de Benjamin Franklin à Gestão de Riscos de IA

A abordagem centrada no seguro aproveita séculos de precedentes onde mercados privados se moveram mais rápido que a regulação para permitir a adoção segura de tecnologias transformadoras. Kvist frequentemente referencia a criação da primeira companhia de seguros contra incêndios da América por Benjamin Franklin em 1752, que levou a códigos de construção e inspeções contra incêndios que domaram as chamas que assolavam o crescimento rápido da Filadélfia.

Empresas de IA de destaque já estão usando esse novo modelo de seguro. A AIUC já começou a trabalhar com várias empresas de IA de alto perfil para validar sua abordagem, incluindo startups unicórnios como a Ada e Cognition, ajudando-as a desbloquear negócios que estavam estagnados devido a preocupações de confiança.

Updates Trimestrais vs. Ciclos Regulatórios de Anos

Uma das inovações-chave da AIUC é projetar padrões que possam acompanhar o ritmo de desenvolvimento acelerado da IA. Enquanto estruturas regulatórias tradicionais como o EU AI Act levam anos para serem desenvolvidas e implementadas, a AIUC planeja atualizar seus padrões trimestralmente.

Essa agilidade é crucial à medida que o fosso competitivo entre as capacidades de IA dos EUA e da China se estreita. A startup trabalha em parceria com provedores de seguro estabelecidos, incluindo Lloyd’s of London, para apoiar financeiramente as apólices.

Fundada por uma equipe com experiência profunda na IA e gestão de riscos, a AIUC se posiciona como um jogador essencial na corrida para fazer a IA segura antes que a regulamentação acompanhe o ritmo frenético da tecnologia.

Quem sabe, com previsões otimistas de que o mercado reagirá mais rápido que as legislações, a AIUC pode estar ajudando a construir a infraestrutura necessária para que a inteligência artificial transforme a economia de maneira segura.

Confira mais sobre essa iniciativa clicando aqui.